小史店镇已有千年历史，北宋时置闸山县，治所于寺门(今寺门村)，元初而废。1994年10月撤乡建镇。
小史店历史悠久，文化积淀丰厚。小史店本名'小赊店'，起自淮河古渡-——北午渡口至荆襄平原之陆路驿道必经于此，现驿站遗迹犹存。旧时，来往于北午渡口和赊店重镇的丝绸、盐担及茶药客商均须在此小憩，因小镇民风淳朴，童叟无欺，又小于西南90华里的赊旗店(今社旗县)，故被冠以'小赊店'美称。
1947年11月解放后即建立了小史店区政府，辖28个行政村，相应地建立了村政权。
1949年2月，根据形势发展需要，将小史店区撤销，划归治平区。
1955年5月，县委根据地委"关于整顿机构精简制的方案"，将小史店、杨楼二个区合并为治平区。
1994年11月8日，根据南阳地区民政局(宛民[1994]79号)精神，自1994年11月8日撤销小史店乡，设立小史店镇，实行镇管村体制，原辖行政区域不变。
小史店地形地貌丰富多彩，自然特征类型俱全。境内三面环山，山、岗、平各占1/3，素有"山区小盆地"之称。小史店属亚热带大陆性气候，四季分明，年平均气温14.4 ℃，年降水量877mm，无霜期220天。
小史店群山环抱，景色秀美，文化厚重，旅游资源丰富。
小史店是汉文化的发祥地之一，二十四孝郭举埋儿、王莽撵刘秀等故事传说源于此。
西南有神奇千年变异古树羊不奶树，西部有天然氧吧马连沟自然生态园，南部有黑龙潭大瀑布，东北有圣井寺温泉，中部有北魏时期的古建筑寺门遗址，东南有香山佛沟摩崖石刻造像。佛沟摩崖造像位于镇区东南7公里的香山山腰，原建有香山寺，是省级重点文物保护单位。佛沟摩崖造像内容丰富，题材多样，分别镌刻于南北两块天然巨石上，总计32龛138尊。造像线条简洁古朴，雕刻技法与汉画像石刻极其相似，年代悠远，是佛教传入中原的早期作品，被誉为丝绸之路源头的醒目地标。
著名西域史研究专家、中国社科院研究员杨镰、中华书局《文史知识》副主编、编辑部主任胡友鸣、中国社科院文学所古典文学研究室主任刘杨忠以及国内佛教石刻研究专家都曾多次专程到佛沟考察。2009年5月29日，《神秘的巨石佛像》在中央电视台第十套《百科探秘》播出，轰动大江南北。
香山寺
香山寺位于小史店镇寺门村东南8公里处香山上，是小史镇的景点之一，每逢春节、清明节等传统节日，这里游人不断，香火不绝。
