石楼县历史悠久，境内曾多处发现古代遗存的白灰层、火种与陶器。经中科院山西考古队发掘鉴定，确认系仰韶文化、龙山文化遗址。境内最早的人类活动可追溯至新石器中晚期。

石楼县大量殷商青铜器的发现，证明当时县境内是沚国的中心地区。春秋为屈邑，晋献公曾封其子夷吾子屈。汉高祖十一年（前196）封武侯宣义为土军侯。武帝元朔三年（前126）封代共王子郢客为土军侯，后始置土军县，县治设团域（遗址在团圆山东侧左家塌村山顶，今遗址无存），县属西河郡。晋，夏主赫连勃勃置吐京护军。北魏太平真君九年（448），置岭西县，兼为吐京郡治。太和二十一年（497）县扆吐京县。孝昌年寄治西河（今孝义市上下吐京村）。东魏仍为吐京县。北周曾改为吐军县。隋开皇初复改吐京。县先后属汾州、西汾州龙泉郡和隰州龙泉郡。开皇十八年（598）始改名石楼县（治今县城）。唐武德元年（618），石楼县属隰州。次年，境内置西德州，辖石楼、临河、长寿三县。贞观元年（627），临河、长寿二县并入石楼县，废西德州，改属东和州。次年改属隰州。天宝元年（742）改属大宁郡。乾元元年（758）复改属隰州。五代逮宋、金、元、明，俱属隰州。明万历四十年（1612），改属汾州府。清代因之。

民国元年（1912）县属山西省府。民国3年属中路道，后改冀宁道。民国16年复改属省府。民国26年9月，改属第六政治区（后改行政督察专员公署）。民国28年改属第四行政督察专员公署。

民国34年（1945）9月28日，县人民政府在李家寨村成立，石楼县属晋绥边区吕梁四专署；民国37年6月改属晋绥九专署；民国38年2月改属晋南行政公署。1949年10月1日改属汾阳专署。1951年3月27日改属临汾专署。1958年10月并入吕梁县，改称石楼镇。次年10月复置县。1971年5月1日划归吕梁地区，迄今未变。