冯胜大军攻占沙州、瓜州后，朱元璋亦从中看到要“一扫胡尘，永清漠北”是很不容易的。面对与甘肃、青海接壤，因长年内讧争夺汗位而势力尚存，但无力进攻内地的东察合台汗国，只能采取安抚柔远的防御策略。故“太祖定陕西、甘肃诸镇，嘉峪关以西置不问”，扶持一些蒙古贵族及少数民族首领，在甘青与新疆蒙古势力缓冲地带，分别设立了安定卫、阿端卫、曲先卫、罕东卫、沙州卫、赤斤卫、罕东左卫7个羁縻卫所，全面推行“以夷制夷”“来则御之，去则勿追”的消极边防政策，并先后遣派大将练兵备边，修葺城池，严为守备。

　　班师回朝的路上，大将军冯胜在尽享凯旋愉悦的同时，又担心起大军撤走之后，“河西四郡”之一的肃州城完全袒露蒙元势力铁蹄之下，让人始终放心不下。再则与朝廷貌合神离的“关西七卫”，跟墙头草似的一边随风倒，也极为不靠谱。最终造成两军长期持久对峙，朝廷鞭长莫及，西北要地得而复失，是迟早的事情。筹谋边防态势，御敌国门之外。如果在肃州城与瓜州城之间的合适位置，再设置一道属于自己的战略前哨堡垒就好了。

　　当行军至嘉峪山西麓，踏上一片开阔的冈塬时，将军眼前一亮，大喜。这里正是河西走廊中西部南北山系拱合的狭窄处，是黑山山麓与嘉峪山麓之间形成的岩冈谷底。这时，早些时候派出勘察设防地形的幕僚上前一步，言道“以卑职之见，塞上一马平川之地，非雄关高城无以屯兵粮，倘烽烟大举，以中国之兵千里奔援，乃以远水救近火也，其一；或曰奈何不屯兵于祁连山上？此乃不知西北少水，复蹈街亭之败也，嘉峪关依水而建，可为久守之计，其二；自汉以来，平戎之策，扶为主，剿为辅，嘉峪关之攻难守易，列堂堂之阵于不毛，可震慑虏寇觊觎之心，不战而屈之，其三；屯戍之兵，贵少而精，则无粮饷辗转之忧，甚或敌越周近长城而入，若关城不失，则敌兵势如鲠骨在喉，芒刺在背，未敢深入也，其四。此四点，皆为扬本朝步兵之长而抑敌骑兵之短故也。此地设防最佳，请将军酌情定夺”。此处地势险要，攻守并蓄，实乃“酒泉之门户”“河西之咽喉”也。

　　《肃州新志》记载：“宋元以前有关无城，聊备稽查。明初宋国公冯胜略定河西，截敦煌以西悉弃之，以此关为限，为西北极边。筑以土城，周二百二十丈，高二丈余，阔厚丈余”。嘉峪关“初有水而后置关，有关而后建楼，有楼而后筑长城，长城筑而后关可守也”。从最初设置军事前哨到成为“中外巨防”的坚固防御屏障，前前后后经历了160多年的时间。至此，嘉峪关屹立在两山之间、伸出双臂，牢牢地守卫着丝绸之路的咽喉要道。

　　冯胜走远了，那两座城池还在。（都乖堂）