Рішення про ініціювання відкриття музичної школи №2 в місті було прийняте 6 грудня 1988 року, а вже 30 травня 1990 року Міністерством культури було підписано наказ про відкриття у Конотопі дитячої музичної школи №2. Будівля, де розмістили дитячу музичну школу №2 була розташована за адресою: вулиця Рябошапка, 25-Б та побудована 1934 році.

Педагогічний колектив школи у той час нараховував 40 викладачів та майже 400 учнів.

Філії школи були у селах Грузьке, Сем’янівка, Соснівка, Підлипне та Дептівка. Основні завдання музичної школи – створення умов для всебічного професійного розвитку і навчання обдарованих дітей міста; збереження культурної спадщини нашого краю; формування естетичного виховання дітей, створення аматорських колективів та пропагування музичного мистецтва у місті та районі. Перший директор школи – Віктор Вікторович Мішаков. Віктор Мішаков був не лише успішним керівником, а ще й талановитим педагогом, аранжувальником та виваженим наставником в колективі, він вніс значний внесок у розвиток даного закладу мистецької освіти. 39 років пропрацював викладачем музичної школи, з них 26 – директором, все життя, весь свій талант віддав музиці та дітям. Нажаль, його вже немає зараз з нами, але в школі є його клас, котрий став музейною кімнатою, та лишилася пам’ять – в серцях учнів, батьків, в наших серцях – та безмежна вдячність цій Людині з великої літери. З 2009 року заклад очолює Тетяна Василівна Паренаго – молодий талановитий педагог з сучасним баченням творчих підходів щодо роботи зі здобувачами освіти.

За час існування навчального закладу випускниками школи стали майже 800 учнів, понад 100 з яких вступили до вищих навчальних закладів мистецтв та культури. На даний час в школі працює 26 викладачів, з них один має звання «старший викладач», 7 – мають «вищу категорію». В школі навчається 228 учнів. У 2009 році школа пройшла державну атестацію «з відзнакою». На базі Конотопської дитячої музичної школи №2 на даний час діє 15 творчих колективів, зокрема: хори учнів старших та молодших класів, вокальний ансамбль «Тоніка» (керівник Олена Сергіївна Колесник), ансамбль вокалістів «Краплинки» (керівник Ельвіра Євгенівна Горбенко), тріо «Мрія» (керівник Вікторія Миколаївна Осташко), духовий оркестр (керівник В’ячеслав Олегович Давиденко), ансамблі «Little Band» (керівник Ігор Михайлович Самусь), «Звукоряд» (керівник Геннадій Олександрович Кікоть), ансамблі скрипалів «Кантрі» (керівник Марина Станіславівна Дудінова), «Фортуна» (керівник Ірина Іванівна Войтенкова), три ансамблі гітаристів (керівники Владислав Едуардович Козачинський, Тетяна Василівна Паренаго, Ганна Володимирівна Хоменко), ансамбль викладачів «Світанок» (керівник Тетяна Василівна Паренаго) та інструментальний ансамбль викладачів «Бурлеск» (керівник, диригент і аранжувальник Тетяна Василівна Паренаго). На базі Конотопської дитячої музичної школи №2 відбувається проведення заходів обласного рівня – відкритого обласного конкурсу юних виконавців на духових та ударних інструментах «Дзвінкоголосі сурми» та відкритого обласного фестиваль-конкурсу інструментально-ансамблевого виконавства «Vivat, maestro!».

Відкритий обласний конкурс юних виконавців на духових та ударних інструментах «Дзвінкоголосі сурми» започаткований у 2011 році. За час його проведення участь у конкурсі взяли майже 500 учнів з 15 мистецьких шкіл Сумської, Чернігівської та Кіровоградської областей. Конкурс проводиться за номінаціями: сопілка, флейта, кларнет, саксофон, ксилофон, труба, валторна/альт, тромбон/тенор. Відкритий обласний фестиваль-конкурс інструментально-ансамблевого виконавства «Vivat, maestro!» було започатковано у 2013 році. За час існування фестивалю-конкурсу свій професіоналізм демонстрували 54 колективи – майже 300 фахівців-музикантів з Сум, Конотопа, Шостки, Білопілля, Бурині, Липової Долини та міста Ніжина Чернігівської області. Знаковим для школи став 2020 рік, коли за активного сприяння місцевої влади було проведено капітальний ремонт понад 1100 кв метрів пришкільної території та її облаштування тротуарною плиткою. Якість покриття дала змогу досягнути високого рівня презентабельності закладу та безпеку пересування по його території не лише здобувачів освіти, а й пересічних мешканців мікрорайону «Порт».

Дитяча музична школа №2 – сучасний початковий заклад мистецької освіти, її двері з вересня по червень щорічно гостинно відкриті для юних мешканців нашої громади.