Бібліотека Миколаївського державного університету імені В.О. Сухомлинського заснована в 1913 році на базі учительського інституту. Спочатку налічувала 29 читачів. Вже в рік заснування передплачувала фахові журнали, наприклад, “Правительственный вестник”, “Журнал народного просвещения”.

Фундаментальна, тобто наукова, бібліотека вже тоді мала праці відомих філософів та істориків В.О. Ключевського, М.І. Костомарова, С.Ф. Платонова, С.М. Соловйова, Аристофана, Софокла, Сенеки та інших.

У 1917 році фонд налічував вже 2200 одиниць.

Під час громадянської війни робота бібліотеки гальмувалась вторгненням в Миколаївську область збройних формувань. Відродження розпочалось після закінчення громадянської війни. У 1936-37 роках бібліотека значно розширила свою площу й фонд (105000) і заснувала читальний зал на 200 читачів.

Під час німецької окупації Миколаєва розкрадання та знищення бібліотечних ресурсів було катастрофічним. До 1944-1945 навчального року вдалося повернути лише 39 тисяч томів. Частина фонду була поділена між школами та іншими бібліотеками. Ще сьогодні можна натрапити на книжку зі штампом нашої бібліотеки в інших книгосховищах міста.

Після другої світової війни почалося відродження бібліотеки: створення матеріальної бази, інтенсивне комплектування. У 1963 році бібліотека одержала нове приміщення, де знаходиться й зараз.

У 1970 році в її структурі відбулися зміни. Тоді було створено відділи: обслуговування, довідково-інформаційний, комплектування та обробки літератури. Фонд бібліотеки становив на той час 213 тисяч примірників. Обслуговувалося біля 3 тисяч читачів. Штат бібліотеки складав 15 працівників.

У 1983 році довідково-інформаційний відділ одержав нове приміщення, що дало можливість поліпшити проведення “Днів інформації” та “Днів кафедр”.

У 1993 році було закінчено роботу з організації абонементу та читального залу на історичному факультеті. Бібліотека доукомплектувала свій фонд із бібліотек Харківського та Одеського університетів, Одеського педагогічного інституту; 10 тисяч примірників книг з історії та філософії було одержано з колишнього Будинку політосвіти.

У 1990 році з відкриттям нового навчального корпусу бібліотека отримала змогу організувати абонемент навчальної літератури. Ця робота була завершена влітку 1993 року відкриттям окремого абонементу учбової літератури філологічного факультету та факультету іноземної філології.

Бібліотечний фонд на початок 2006 року становить 436000 одиниць. Послугами бібліотеки користується понад 9 тисяч читачів, щорічно видається приблизно 387000 примірників.

Активізація науково-дослідницької роботи сприяла інтенсивному використанню фонду літератури минулих років видання. У фонді рідкісних видань зберігається література від ХІІІ століття до 1951 року. Найбільш стародавні видання з всесвітньої історії, зокрема "Римская история от создания Рима до битві Актийской" Г. Ролленема (1764), "Деянія Петра Великаго, мудраго преобразователя России" (1788), “История разных славянских народов” (1795), “Методы изучения истории» Фримана (1893) та ін.

Зберігається багато видань 30-90 років ХІХ століття з історії держави і права, філософії, логіки, естетики. Є унікальні енциклопедії та словники (С.М. Южакова, П.М. Мілюкова, Ф.О. Блокгауза, І.О. Ефрона), цінні видання теорії та історії літератури Класовського І. Шерра, М. Азадовського, Н. Гербеля, А. Пипіна, а також прижиттєві видання класиків світової літератури.

У 2001 році бібліотека розпочала роботу з комплексної автоматизації бібліотечних процесів, створення електронного каталогу (44000), баз даних.