Здание средней школы №2 было построено в 1936 году. Осенью этого года распахнулись двери для учащихся, а в 1938 году был первый выпуск десятых классов.
До начала Великой Отечественной войны школа успела сделать еще несколько выпуско, последний был выпуск 1941 года.
Директором школы в этот период был Власов Дмитрий Дмитриевич.
После освобождения города Новозыбкова до 1947 года в школе размещался лагерь военнопленных.
Из воспоминаний бывшего завуча школы Заслуженного учителя РСФСР Марченко Н.В.: "После войны школу открыли в августе 1947 года. Нужно было принят от начальника лагеря старшего лейтенанта Алексеева здание школы и дрова".
Был определен штат учителей:
Малишевский Геннадий Петрович-военрук и парторг школы, Миронович Ольга Кононовна -Химик, Ракомова Людмила Николаевна-учитель немецкого языка, Пригоровский Александр Андреевич-математик, Пирогова Анна Трифоновна-учительница литературы, Носовец Татьяна Георгиевна-учительница географии, Анисимова Александровна Филлиповна-биолог, Засульский Михаил Григорьевич-историк, Шляхина Тамара Петровна-математик, Власова Надежда Ивановна-учитель русского языка, Власовская Вера Петровна, Петроченко Лидия Александровна, Жавина Серафима Семеновна-учителя начальных классов, Щерба Надежда Петровна-секретарь.
Позже появился завхоз Пужляков, еще позже директор школы Бородько Анастасия Николаевна.
Свет окна второго этажа были заложены кирпичом, что только маленькое стеклышко пропускало свет в комнату. Нудно было все приводить в порядок, выбросить весь кирпич. Предстояла большая работа. Силами учителей, учащихся здание было очищено от мусора. Стали приспосабливать лагерную мебель для оборудования классных комнат.
Ремонт школы продолжался и в учебное время 1948 года.
В этом же году директором школы был назначен Вьючко Иван Степанович, который проработал на этом посту до 1953 года.
С 1953 по 1979 год директором был Разумейко Александр Петрович.
Много поколений учеников было выпущено из стен средней школы №2. Только самые теплые слова можно сказать и о тех преподавателях, которым приходилось не только обучать, но и восстанавливать разрушенное войной.
Традиции средней школы №2 сохранились до сих пор и продолжают пополняться. а