Рішення про створення в околицях селища Оболонського (нині вул. Оболонська в м. Суми) плодового розсадника було прийнято восени 1934 року. Того ж року на площі 5 га розпочалися перші роботи по плануванню території. У 1937 році ділянку, розташовану на схилах правого берега р. Стрілка, було передано Сумському інституту соціального виховання (пізніше реорганізованому в педагогічний інститут) для навчальної та наукової діяльності. Тут було створено агробіологічну станцію, планування території якої було доручено викладачам кафедри ботаніки. Особливу участь у цьому проекту взяв І.Н. Литвиненко як ботанік та знавець природи. Він запланував верхній дендропарк з екзотичними рослинами в регуляторному стилі з доріжками і центральною клумбою, в такому стані верхній парк зберігся і до сьогодні. Нижній парк було оформлено у ландшафтному стилі. Це приклад нагірних дібров нашої природно-кліматичної зони. Схил був оформлений як остепнені луки, тобто автор хотів втілити в своєму проекті фрагменти типової для Лівобережного Лісостепу рослинності. Такий план частково зберігся. Пізніше ділянка схилу була реконструйована під ягідники, а ще згодом на цій ділянці з’явилися нарізані тераси, де в 1954 році був закладений плодовий сад, фрагменти якого збереглися до сьогодення.

Новий етап розвитку ботанічного саду розпочався у 60-ті роки. Тоді, будучи агробіостанцією, він став науковою базою для викладачів і студентів природничого факультету. Завідувала установою Оверченко М.А. Нею були створені колекції декоративних багаторічників. Зокрема були закуплені саджанці декоративних порід у дендропарку (Тростянець), плодових дерев – у розсадниках с. Ганнівки Сумського району та м. Красконутська Харківської області, ягідних культур – на Мліївській дослідній станції в Черкаській області, декоративних квіткових видів – у Центральному республіканському ботанічному саду АН України. На території агробіостанції функціонувала обсерваторія збудована 1940 року.

У 70-ті роки агробіостанція стає центром науково-методичних досліджень по темі (Система підготовки майбутніх учителів біології). Тут створені показові навчальні ділянки, у зразковий стан приведені відділи. У 1976 р. на її базі було створено Всесоюзну наукову конференцію деканів природничих факультетів і завідувачів кафедрами ботаніки педагогічних інститутів. З 1973 року агробіостанція отримує новий статус: парк – пам’ятка садово-паркового мистецтва місцевого значення «Агробіостанція Сумського державного педагогічного інституту імені А.С. Макаренка» (рішення виконкому Сумської обласної ради депутатів трудящих від 27.09.1973 р. №504).

З 1980 р. ботанічний сад очолював І.Н. Синиця, а з 1986 р. – великий ентузіаст своєї справи М.Г. Кричкевич. В цей час суттєво були поповнені колекції рідкісних видів рослин. Згідно виступу на конференції «Червона книга України і проблеми охорони видів рослин та грибів», яка відбулася у 1992 р., колишнього директора закладу М.Г. Кричкевіча у ботанічному саду зібрано 48 видів рідкісних рослин.

У відповідності до рішення облвиконкому Сумської обласної ради від 21.11.1984 р. №334 об’єкту надано іншу назву: парк – пам’ятка садово-паркового мистецтва «Парк – агробіостанція Сумського педінституту ім. А.С. Макаренка». У відповідності до рішення Сумської обласної ради від 13.10.1994 р. переведено парк – пам’ятку садово-паркового мистецтва Сумського педагогічного інституту до категорії ботанічного саду.

Рішенням Сумської обласної ради від 19.10.2000 р. «Про розширення, оптимізацію мережі і зміну назв деякий територій та об’єктів природно-заповідного фонду області місцевого значення» змінено назву на «Ботанічний сад місцевого значення Сумського державного педагогічного університету імені А.С. Макаренка».

З грудня 2000 року по травень 2021 року ботанічний сад очолював Будник Сергій Анатолійович. Під його керівництвом колекції рослин закладу були суттєво поповнені, особливо рідкісними раритетними видами. Було поновлено роботу теплиці, де зібрано колекцію рослин закритого ґрунту у кількості близько 150 видів. Протягом 2006 року виконувалася госпдоговірна наукова тема «Створення на базі ботанічного саду СумДПУ імені А.С. Макаренка обласного центру по збереженню і відновленню біорізноманіття місцевої флори» під керівництвом Будника С.А. та за участі науковців природничо-географічного факультету.

У 2016 році рішенням Вченої Ради СумДПУ імені А.С. Макаренка на базі ботанічного саду створено навчально-науковий центр «Ботанічний сад СумДПУ імені А.С. Макаренка» основними задачами якого є: забезпечення навчання та виховання молоді, формування екологічно грамотного суспільства, реалізація завдань екологічної освіти та природоохоронного виховання підростаючого покоління, молоді, яка навчається, а також дорослого населення; забезпечення профорієнтаційної спрямованості навчального процесу залучення талановитої молоді до просвітницької діяльності серед широких верств населення через роботу навчального центру; підготовка наукових та науково-педагогічних кадрів; ефективне використання наукового потенціалу і ресурсів для виконання пріоритетних наукових досліджень.

З серпня 2021 року по теперішній час директор навчально-наукового центру «Ботанічний сад СумДПУ імені А.С. Макаренка» кандидат біологічних наук, доктор філософії в галузі біології Кравук Лариса Вікторівна.

Сьогодні ННЦ «Ботанічний сад СумДПУ імені А.С. Макаренка» активно проводиться робота з популяризації екологічних знань серед населення.