始建于1902年,初名为直隶州官立中学堂,系清末山东省兴办最早的“新学”之一。
1948年7月,济宁解放后,合并了济宁县立简易师范学校。
1951年秋独立,成立济宁市第二中学。
1951年7月山东省立济宁中学改用“济宁市第一中学”。
1962年被山东省教育厅确定为省重点中学。
1981年又被省教育厅重新确定为首批办好的19所省重点中学之一。
1992年被山东省教育委员会命名为首批省级规范化学校。
2000年7月,济宁一中与济宁二中合并,成立了规模更大、实力更加雄厚的新济宁一中。
百年来,学校培养了数以万计的人才。如我国的著名词作家乔羽,外交部副部长、驻任俄罗斯大使张德广,中国人工喉之子杨仁中教授,山东省军区政治部主任刘勇将军,中国青年五四奖章获得者、中央电视台新闻中心主任李挺等。