公元1906年，阜陽有識之土響應(yīng)“廢科舉，興學堂”的時代召喚，將阜陽著名的“清潁書院”改造為“清潁中學堂”，這便是我們阜陽三中的發(fā)端。

1924年，由安徽省教育廳正式命名為“阜陽縣立初級中學”。1939年再次更名為“阜陽縣立中學”。

1948年8月，阜陽解放，黨和政府十分關(guān)心教育事業(yè)，關(guān)心學校的建設(shè)與發(fā)展。1949年春，政府將阜陽縣立中學、省立第四中學、潁州女中聯(lián)合組建為有初、高中十八個教學班的“阜陽聯(lián)合中學”。1951年春，聯(lián)合中學又易名為“阜陽中學”。之后分解為高中部和初中部。高中部成為阜陽第一中學；初中部則在我校原址不動，更名為“安徽省阜陽第一初級中學”，班級擴大為十八個教學班。1958年再次開始招收高中班，學校又一次被政府更名為“阜陽三中”。1975年，學校被正式命名為“阜陽市第三中學”。1979年被確定為首批阜陽地區(qū)重點中學。1996年元月，學校上劃到行政區(qū)劃調(diào)整后的地級阜陽市，成為阜陽市直屬中學。

如今的阜陽三中，擁有著驕人的六大牌子：百年名校、阜陽市教育局直屬中學、安徽省省級示范高中、安徽省文明單位、全國現(xiàn)代教育技術(shù)實驗學校、合肥八中結(jié)對學校。學?，F(xiàn)有教職工241人，校長刁衛(wèi)華是阜陽市首屆名校長，繼刁校長當選名校長之后，2010年度阜陽三中又有12人被評為阜陽市第二屆學科帶頭人，8人被評為阜陽市第二屆骨干教師，10人入選“阜陽市首屆名師評選”截至2010年底，阜陽三中現(xiàn)有特級教師3人，高級教師77人，省級教壇新星7人，市級教壇新星16人，市級學科帶頭人20人，市級教學骨干教師16人。學校有75個教學班，在校學生5000余人。近年來，阜陽三中狠抓科學管理，成效尤為顯著，應(yīng)屆高考提高率連續(xù)大幅攀升，三年三大步，一步一臺階高考升學率由一直徘徊在40%左右，迅猛提升到如今的68.6%。尤其是2010屆高考文理科取得大突破、大跨越、大豐收。一本達線423人，應(yīng)屆本科達線1011人，達線率68.6%，在全市排名第二（臨泉一中第一）。其中文科本科率為63.6%，理科本科率為73.3%。張肖羊同學以654分、全省第11名、全市第2名的優(yōu)異成績；常雅玲以653分、全省第14名、全市第3名的優(yōu)異成績被清華大學、北京大學錄取。另有譚冠軍、高敬乾等10余位同學分別被科大、人大、復(fù)旦、南大、浙大、上海交大等名校錄取。創(chuàng)造了高考升學的神話。2011年高考文理科續(xù)寫神話，再攀新高。一本達線452 人，本科達線1762人，達線率82.5%；董雅婧同學以632分的優(yōu)異成績，位居全省第21名，全市第三名，阜城第一名。

2010年，2010年10月20日，阜陽市市委書記宋衛(wèi)平同志蒞臨阜陽三中召開現(xiàn)場會，具體指導(dǎo)阜陽三中新校區(qū)規(guī)劃建設(shè)工作。將阜陽三中新校區(qū)建設(shè)定位為“全市龍頭學校、全省一流學校、全國品牌學?！?。阜陽三中新校區(qū)校址選定于阜陽市城南新區(qū)核心部位，位置在三清路以北、阜王路以西，面積300余畝。一年內(nèi)建成，整體搬遷，實行寄宿制管理。預(yù)計在近三年內(nèi)新的阜陽三中將以新型的現(xiàn)代化學校的亮麗代表呈現(xiàn)在阜陽人們面前。