北魏拓跋珪于公元398年自盛乐迁都平城，改号皇帝，改元天兴，并置司州、代尹，治代都平城。徙六州二十二郡守宰、豪杰、吏民三千家于代郡。“营宫室，建宗庙，立社稷”，进行一系列大规模的首都建设。次月“诏有司正封畿，制郊甸”，划定京畿范围：“东至代郡（今河北蔚县暖泉镇西），西至善无（今右玉南古城村），南及阴馆（今朔县东南20公里夏官村），北尽参合（今阳高县东北）。西至河（黄河），南至中山隘门塞（今灵丘县东南），北至五原（今内蒙古自治区包头市西），地方千里。”又设四方四维，置八部帅统兵镇守。

平城由宫城、京城（都城）和郭城组成。宫城从天兴元年迁都平城至太和十八年迁洛阳，97年中代有新建，规模宏大，先后建宫殿、苑囿、观堂、楼池70多处，“欲广宫室，规度平城四方数十里，将模邺、洛、长安之制、运材数百万根”。其位置“截平城西为宫城，四角起楼。”即今大同城北门外。平城四面有如浑水所绕，399年筑鹿苑时，又“凿渠引武州水注之苑中，疏为三沟，分流宫城内外”。宫城中，以太极殿为中心，有西宫、东宫，经90多年的增扩改建，成为完整的宫殿群落。“月观霞阁，左社右廛……灵台山立，璧水池圆，双阙万仞，九衢四达，羽旄林森，堂殿胶葛……”

京城（即外城）：天赐三年（406）“六月，发八部人，自五百里内缮修都城，魏始邑居之制度”。“规立外城，方二十里，分置市里，经涂洞达。”“启十二门”。“里宅栉比。”其位置即今大同城范围。京城内由里坊组成，“百堵齐矗，九衢相望，歌台舞榭，月殿云堂”。“犹分别士庶，不令杂居，伎作屠估，各有攸处。”

郭城：“泰常七年（422）秋九月，筑平城外郭，周回三十二里。”其郭城绕宫城南，悉筑为坊，坊开巷，大者容四五百家，小者六七十家。其郭城位于宫城南面。郭城略呈方形，边长4公里，周长16公里。郭城内规划了里坊、寺院、市廛、园林等。

城郭外分为四郊，建有苑囿。东南（疑在今轴承厂）有“基架博敞，为天下第一”的永宁寺。再南（今柳航里）有明堂、辟雍，明堂上圆下方，四周十二户九堂。上设天文设施。周边有藉田、药圃等。西郊有郊天坛，坛东侧有郊天碑，其东三里有崔浩《国书》及《五经碑》，碑上刻有《五经》及国书。附近有西苑、洛阳殿、鹿野苑石窟等。北郊有“皎若圆镜”的灵泉池、白杨泉。东郊有白登台、崇光宫、东苑，苑内建太祖庙。

北魏平城“京邑帝里，佛法丰盛，神图妙塔，桀峙相望”，京都内有寺庙百所，僧尼两千。有为太祖以下五帝铸像的五级大寺；有“镇固巧密，为京华壮观”的天宫寺，驰名中外的云冈石窟正是当时高僧昙曜主持开凿的，“凿寺开山，因岩结构，真容巨壮，世法所稀，山堂水殿，烟寺相望，林渊锦镜，缀目新眺”。现有主要洞窟45个，大小窟龛252个，大小造像51000尊。最大高17米，最小的仅0．02米，成为我国现存规模最大的古代石窟群之一。还建有造型惊险、结构奇巧的“天下巨观”悬空寺。还有建明寺、报德寺、皇舅寺等。道教建有天师道场大道坛和静轮宫。

延和元年（432）改司州为万年尹。皇兴三年（469）在城西立平齐郡，旋废。北魏曾在平城南郊置鼓城县，属代郡，不久废。神麝二年（429）太武帝时，于平城以北，阴山以南，自西而东设置沃野（内蒙古五原县北）、怀朔（内蒙古固阳县西南）、抚冥（内蒙古四子王旗东南土城子）、武川、柔玄（内蒙古兴和县台基庙东北）、怀荒（河北张北县）六个军事重镇，用以拱卫京都，组成北部又一道军事防线。太平真君七年（446）六月，发司、幽、定、冀四州十万人，筑畿上塞围（北魏长城），东起上谷，西至河，广袤皆千里。

北魏在平城建都长达97年，历经六帝七世，平城一直是我国北方政治、经济、文化的中心。而且以桑干为池，以长城为墙，交通四达，确是“四裔往还极盛”时代，孝文帝实行班俸禄、行均田、立三长三大改革，促进了生产力的发展。太和十八年（494）迁都洛阳后，置恒州，治平城，管辖6郡14县：代郡治平城，领平城，太平（大同西15公里）、武周（旧高山村）、永固（大同北镇川堡）。高柳郡治安阳，领高柳、安阳（河北阳原南）。灵丘郡治灵丘，领灵丘、莎泉（灵丘西30公里）。繁畤郡治崞山，领崞山、繁畤。善无郡治善无、领善无、沃阳。桑干郡台桑干。后复置代郡平城，辖外长城京畿一带。孝昌二年（526）六镇之变，平城陷废。《读史方舆纪要》指出，“及六镇之乱，东魏以覆亡。说者谓弃代北而迁河南，非魏之利也”。东魏天平二年（535）复置恒州，寄治肆州秀容郡城（今忻州西北12．5公里河管村南）。北魏末分为东魏、西魏，东魏被北齐所代，西魏被北周所代。

北齐天保元年（550）东魏被北齐所代，大同为北恒州、北朔州地，属县未有大的变化。天保七年（556）改北恒州为恒安镇（今大同），又名东州城，隶属恒州太平县，徙豪杰三千家以实之。翌年废镇，仍为北恒州。周齐之间，突厥渐强，为防御突厥、柔然、契丹，于天保三年（552）自西河总秦戍（大同西北）筑长城，东至渤海（山海关）200余公里。天保六年（555）发夫180万人筑长城，自幽州夏口（居庸关南口），西至恒州（大同）450余公里。天保七年（556）先自西河总秦戍筑长城东至海。前后所筑东西凡1000余公里。

北周公元557年西魏为北周所代替。建德六年（577）灭齐后，州县并废，复置恒安镇，改朔州置北朔州总管府。改太平县为云中县（此大同称云中之始。由汉末内蒙古托克托县东北31公里的云中城，汉末侨徙至原平东南，北周时徙置于此）。灵丘属蔚州，为灵丘郡治。

隋开皇元年（581）重新统一中国后，改诸州为郡，其地为马邑郡、雁门郡之地。马邑郡治善阳（朔县西北），辖善阳、神武（神池东北）、云内（改云中为云内）、开阳（阳高）。雁门郡治雁门（代县），辖雁门、繁峙、崞县、五台、灵丘。恒安镇隶属马邑郡云内县。开皇五年（585）置代州总管府。隋为了防御突厥侵扰，大业三年（607）“发丁男百余万筑长城，西距榆林，东至紫河（大同西北），一旬而罢”。公元615年八月，杨广巡游塞北，突厥得悉，率领10万兵攻入塞内，杨广被迫退到雁门，在各地军民增援下，杨广才解围而去。第二年突厥又犯，被李渊带兵击退。

贞观四年（630）李靖带兵10万，在大同西北进攻突厥，消灭20余万众，平刘武周乱；永淳元年（682）东突厥元珍侵边，围云州，代州都督薛仁贵率兵击突厥元珍于云州，斩首万能级，获生口2万；天宝十四年（755）安禄山别将、大同军使高秀岩，拒云州叛唐，被朔方节度使郭子仪击败，遂围云中城，直到至德二年（757）史思明奉表以十三郡降唐，云中遂归。唐乾符三年（876）代北发生灾荒，云州防御使段文楚消减军粮、军衣、酿成云州兵变，杀死段文楚，沙陀李克用袭据云州。五年（878）李克用出兵进攻项族，吐谷浑赫连铎乘机占据云州。

唐开元年间（713－－741）在此创建开元寺（今善化寺）规模宏大，为唐朝国寺。开元二十一年（733）在北魏明堂遣址上（今柳航里）置孝文帝祠堂，有司以时祭享。天宝年间（742－－755）在城西南建禅房寺。