Думка про заснування громадської бібліотеки була висловлена 1 січня 1897 року в листі на ім'я міського голови м.Єлисаветграда О.М.Пашутіна. З ініціативи міського землеупорядника, історика, археолога і громадського діяча П.З.Рябкова в листі 141 чоловік звернулись із проханням скликати осіб, які бажають створити першу міську публічну бібліотеку.
Офіційне відкриття бібліотеки відбулось 2 лютого 1899 р.