錫林郭勒盟有著悠久的歷史。在東烏珠穆沁旗和蘇尼特左旗境內，至今尚存的大量巖畫、石器等，證明早在石器時代這里已有人類活動。這里曾是匈奴、突厥、鮮卑、契丹等部落民族游牧、狩獵的地區。春秋戰國時期至公元前3世紀末，這里相繼為澹襤、東胡、匈奴部落聯盟的屬地。秦統一全國后，今盟域南部屬上谷郡北境，西南屬漁陽郡北境。漢朝至唐朝時期，這里或為各朝管轄，或為匈奴、突厥、鮮卑統治。宋朝時期此地為遼和金所控制。成吉思汗統一蒙古后，這里是蒙古汗國的重要區域。13世紀中葉建立元朝，在今正藍旗境內建都，公元1260年忽必烈在此登基,即蒙古大汗位于此。元上都成為當時全國政治、經濟、文化中心之一。明朝初年，朱元璋在今盟域南部建開平衛。

　　今盟域的南部，曾是原察哈爾盟轄地。察哈爾，始于（明代）成吉思汗嫡系達延汗時期。達延汗統一蒙古，分封諸子為左右翼三萬戶，其中察哈爾碾子戶是嫡系。達延汗去世后，其繼任者統率左翼三萬戶，駐扎于察哈爾（后因戰事威脅曾東遷至薊以北、大興安嶺）。察哈爾部后來在與清軍的戰爭中失敗。清朝統一全國以后，錫林郭勒盟、察哈爾盟逐步形成。康熙十四年（1675年）清政府仿照滿洲八旗的方式，將察哈爾部編為察哈爾左翼、右翼各四旗。左翼為正藍、正白、鑲黃、鑲白四旗；右翼為正黃、正紅、鑲紅、鑲藍四旗，移牧于宣化、大同邊外。另外，在察哈爾地區還設有清廷直轄的商都牧群，明安牧群，太仆寺左、右翼牧群，統稱察哈爾十二旗群。上不設盟與盟長，各旗由輪換任命的旗總管統治。察哈爾左翼四旗與太仆寺旗左翼牧群、太仆寺旗右翼牧群、明安牧群（與今正藍旗合并）、商都牧群（與今鑲黃旗合并，一部分歸烏蘭察布市）都在今錫林郭勒盟域內。右翼四旗現為烏蘭察布市的察右前、中、后三旗。1914年，民國政府設置察哈爾特別行政區。1928年，國民政府將察哈爾特別行政區改設為察哈爾省，現錫林郭勒盟地區歸察哈爾省管轄。

　　在今盟域的北部，歷史上曾是烏珠穆沁、浩齊特、蘇尼特、阿巴嘎、阿巴哈納爾等五部駐牧地。從清崇德、順治到康熙時期，上述各部陸續歸附清朝，設左、右翼各5旗，即烏珠穆沁左翼旗、烏珠穆沁右翼旗、浩齊特左翼旗、浩齊特右翼旗、蘇尼特左翼旗、蘇尼特右翼旗、阿巴嘎左翼旗、阿巴嘎右翼旗、阿巴哈納爾左翼旗、阿巴哈納爾右翼旗。均設札薩克郡王，世襲。“盟”是清朝政府指定的固定會盟地點的名稱。上述五部十旗會盟始于清朝順治年間，地點在錫林河畔“楚古拉干敖包”山。錫林郭勒，蒙古語意為丘陵地帶的河，故盟名為錫林郭勒盟。盟衙門設在擔任盟長的旗札薩克王府。清嘉慶年間，遷到貝子廟（今錫林浩特市）。

　　1911年辛亥革命后，錫林郭勒盟、察哈爾盟治理方式基本延續清朝舊制。

　　1947年5月1日,內蒙古自治政府成立后,錫、察二盟劃歸內蒙古自治政府。察盟民主政府轄9個旗：明安旗、商都旗、太仆寺左翼旗、太仆寺右翼旗、鑲白旗、正白旗、鑲黃旗、正藍旗、多倫淖爾旗（該旗1947年7月撤銷）。錫林郭勒盟民主政府轄11個旗：烏珠穆沁左翼旗、烏珠穆沁右翼旗、浩齊特左翼旗、浩齊特右翼旗、蘇尼特左翼旗、蘇尼特右翼旗、阿巴嘎左翼旗、阿巴嘎右翼旗、阿巴哈納爾左翼旗、阿巴哈納爾右翼旗、布里亞特旗（該旗1947年7月撤銷）。1948年，錫林郭勒盟將10個旗調整為5個旗：烏珠穆沁左翼旗、烏珠穆沁右翼旗和浩齊特左翼旗合并為東部聯合旗，浩齊特右翼旗、阿巴嘎左翼旗和阿巴哈納爾左翼旗合并為中部聯合旗，阿巴嘎右翼旗和阿巴哈納爾右翼旗合并為西部聯合旗。蘇尼特左翼旗、蘇尼特右翼旗建制不變。 ??

　　中華人民共和國成立后，察盟、錫林郭勒盟民主政府改稱人民政府。其中，1950年，原歸屬察哈爾省察北區的多倫、寶昌、化德三縣劃歸察盟。1956年，正鑲白聯合旗更名為正鑲白旗，太仆寺左旗與寶昌縣合并為太仆寺旗，商都鑲黃聯合旗更名為商都鑲黃旗。在原錫林郭勒盟,1952年，撤銷中部聯合旗，其行政區域劃入西部聯合旗。1953年9月，貝子廟（錫林郭勒盟盟府駐地）改稱錫林浩特（鎮）。1956年6月，撤銷東部聯合旗，設東烏珠穆沁旗和西烏珠穆沁旗。西部聯合旗更名為阿巴嘎旗。同年，北京—烏蘭巴托—莫斯科國際聯運列車正式開通，二連浩特市建立，二連浩特市成為中國通往蒙古國、俄羅斯和東歐國家重要的交通樞紐及國際性常年開放的邊境陸路口岸。

　　1958年經國務院批準撤銷察哈爾盟建制，其所轄區域劃歸錫林郭勒盟。全盟轄9旗（東烏珠穆沁旗、西烏珠穆沁旗、阿巴嘎旗、蘇尼特左旗、蘇尼特右旗、正鑲白旗、正藍旗、商都鑲黃旗、太仆寺旗），兩縣（多倫縣、化德縣）。

　　1960年，撤銷化德縣建制，其區域并入商都鑲黃旗，商都鑲黃旗更名為鑲黃旗。

　　1963年4月，恢復化德縣建制。

　　1963年10月，增設阿巴哈納爾旗建制。

　　1966年1月，國務院批準設立二連浩特市（旗縣級）。

　　1969年11月，二連浩特市、化德縣、蘇尼特右旗劃歸烏蘭察布盟。“文化大革命”中錫林郭勒盟成立革命委員會，轄域不變。

　　1978年6月，撤銷錫林郭勒盟革命委員會，恢復錫林郭勒盟行政公署。1980年5月，二連浩特市、蘇尼特右旗劃歸錫林郭勒盟。

　　1983年10月，撤銷阿巴哈納爾旗建制，設錫林浩特市。

　　1985年，二連浩特市升格為準地級市，1986年內蒙古自治區人民政府批準二連浩特市為計劃單列市。

　　1993年2月，烏拉蓋綜合經濟開發區建立。

　　至1993年末，錫林郭勒盟轄9個旗、2個市、1個縣、1個開發區，分別是：錫林浩特市、二連浩特市、東烏珠穆沁旗、西烏珠穆沁旗、阿巴嘎旗、蘇尼特左旗、蘇尼特右旗、鑲黃旗、正鑲白旗、太仆寺旗、正藍旗、多倫縣和烏拉蓋綜合經濟開發區。

　　2005年5月，烏拉蓋綜合經濟開發區更名為烏拉蓋管理區。

　　2006年8月，東烏珠穆沁旗境內的珠恩嘎達布其口岸擴大為國際性常年開放的邊境陸路口岸。