公元308年，前赵国刘渊派王弥率数万之众，先后攻掠青、徐、兖、豫四州，横扫中原，进逼西晋首都洛阳。西晋朝廷派人向凉州刺史张轨求援。张轨派凉州名将北宫纯、张纂、马鲂、阴浚等人率兵向洛阳进发。北宫纯等率军抵达洛阳时，叛军王弥已攻至洛阳津阳门。北宫纯挑选一百多勇士，到洛阳城外列阵抗敌。面对数万叛军，北宫纯带领凉州铁骑横冲直撞，来回拼杀，把叛军阵型冲得七零八落，西晋后援部队趁势冲杀过来，王弥溃败逃走。

　　公元309年，前赵国刘渊派第四子刘聪率兵南进，大败西晋军队，一度进兵至洛阳附近的洛水。西晋再次请求张轨派兵援助，张轨仍然派北宫纯等率兵救援洛阳。北宫纯率凉州铁骑，出其不意，夜袭前赵大营，斩杀刘聪部将呼延颢，军威大振。此时，刘聪手下另一位得力助手大司空呼延翼又死于军中内乱，再加上西晋其他各路勤王军的陆续到达，刘聪被迫退军。

　　两次解围，洛阳军民歌颂道：“凉州大马，横行天下。凉州鸱苕，寇贼消。鸱苕翩翩，怖杀人。”此歌谣见于《晋书·张轨传》，后人称之为《京师为张轨歌》或《凉州大马歌》。

　　置郡设县，安置难民

　　西晋末年，中原大地接连发生了“八王之乱”和“永嘉之乱”，当时刘渊的匈奴兵横扫关中，氐族、羌族的乱军侵掠陇右，整个中原及关中一带“流尸满河，白骨蔽野”，幸免于难的人们开始四处流亡逃难。

　　凉州由于地处偏远，再加上张轨的有效治理，局势相对稳定和安宁，成为中原士民眼中的世外桃源。长安地区流传一句歌谣：“秦川中，血没腕，唯有凉州倚柱观。”在此形势下，凉州就成了各地人士争相前往“避难”的理想处所，他们纷纷挈妇将雏，向凉州而来。那时，通往凉州的漫漫长路上，到处是离乡背井的难民。这种悲壮的场面，被史家描述为“中州避乱来者，日月相继”。

　　面对数量巨大的难民，张轨上书朝廷，将流民安置于姑臧西北，另设武兴郡，下辖武兴、大城、乌支、襄武、晏然、新鄣、平狄、司监等八县。有专家学者考证推测，张轨新设武兴郡，容纳的人口至少有四五千户。前来凉州逃难的百姓每天都在增加，张轨又在西平郡（今青海西宁市）设置晋兴郡（今青海民和县西北，湟水南岸）以收容流民。

　　平息内乱，抑制豪强

　　张轨治理凉州之时，一些豪强大姓势力发动了一场颠覆张轨统治的行动，代表人物就是张越。张越出身凉州大族，当时任梁州（今陕西汉中、四川东北部）刺史。他听到一句谶言，大意是说张氏将要雄霸凉州。张越自认为能力超群，或许这句谶言要在自己身上应验，于是，他托病回到凉州，迅速与其兄酒泉太守张镇及西平太守曹祛、凉州别驾麹晁等人勾结在一起，暗中谋划取代张轨。

　　公元308年，54岁的张轨身患中风，不能说话，暂由儿子张茂代管凉州。张越等人便诬陷张轨无视朝廷，打算让儿子张茂世袭凉州牧，计划先让秦州刺史贾龛代替张轨，然后再取代贾龛。张越派人到长安，在南阳王司马模面前诬陷张轨。蒙在鼓里的司马模不知其中有诈，当即派使者到达秦州，命贾龛出任凉州刺史。贾龛准备接受任命，其兄责备道：“张轨乃当今名士，在凉州威名卓著，你有何德何能取而代之！”贾龛如梦方醒，坚决辞谢。朝廷又想任命侍中爰瑜担任凉州刺史。张轨下属杨澹正在陕西扶风，听说此事，他快马加鞭来到长安，采用割耳进谏的方式，向南阳王司马模控诉张轨遭人陷害。司马模恍然大悟，便上疏朝廷，停止更换凉州刺史。

　　张越、张镇眼见计谋不成，就擅自向凉州各郡县发出檄文，要求废黜张轨，由张越取代张轨。张轨看到檄文，心灰意冷，一面派人上书朝廷解释原因，一面准备车马，打算回河南宜阳养老归隐。张轨的遭遇激起凉州军民的气愤和同情。长史王融、参军孟畅等人撕碎张镇发来的文告，劝谏张轨诛杀张镇兄弟。武威太守张琠派儿子奔赴京师，代表凉州吏民上表朝廷说：“听说朝廷听信流言，打算更换凉州刺史，百姓惊慌不安，如同将要失去父母。”强烈希望朝廷留任张轨。晋怀帝得知真实情况，特下诏慰劳张轨，下令张轨平定内乱，继续镇守凉州。