着悠久的历史和光辉灿烂的文化，是华夏文明的发祥地之一。先秦时期，赵武灵王在此设云中郡，故址在今呼市西南托克托县境。民国时期为绥远省省会，蒙绥合并后，呼和浩特成为内蒙古自治区首府。
呼市中心城区本是由归化城与绥远城两座城市在清末民国合并而成，故名归绥。上个世纪五十年代，改名为呼和浩特，这个词语在蒙古语当中具有重要的意思，意为“青色的城”。
唐代呼和浩特一带是突厥人的活动范围。唐贞观年间，大败突厥于白道。
而在唐中宗景龙二年，唐王朝在河套地区设立了东、中、西3个“受降城”。公元10世纪初，辽国在此设天德军及丰州。丰州故址在今呼和浩特东南约20千米的白塔村附近。
公元12世纪初，女真灭辽建金，呼和浩特仍称丰州，是当时的军事重镇，也是人口密集，商业繁荣的州邑之一。
元朝建立后，丰州的经济文化发展迅速。元人刘秉忠诗曰：“晴空高显寺中塔，晓日平明城上楼。车马喧阗尘不到，吟鞭斜袅过丰州”，写的就是当时的热闹景象。
到了明洪武元年,元亡明兴,元朝的残余势力退往岭北地区，明朝在漠南地区先后设置了卫所40多处分别为九大塞王辖区。土木堡