学校前身为元代地方名儒管文通所创的曾子书院，后更名为一贯书院，明清时期为郯地儒学中心。1902年改称县立高等小学堂，其后几经兴废，建国后更名为红旗小学，1981年秋始定名为郯城县第二实验小学。2016年9月东校区建成并正式投入使用。