开元八年（720年）正月，宋璟、苏颋因推行新币，得罪了权臣被免去相位，宋璟以宰相待遇退休，苏颋出任礼部尚书。
京兆尹源乾曜、并州长史张嘉贞接替了他们。
源乾曜曾与姚崇同时为相，属谨小慎微型人格，讲传统、重操守、脾气好，施政较为宽和。他这种人一般不会做什么坏事，但也提不出多么高明的见解。
再次称相，他所做的第一件事，就是奏请玄宗把自己在长安任职的两个儿子，外调他地赴任。
可别小看这一做法，当时的长安在地位上比现在的北京还强，既是大唐国都，更是令万邦景仰的国际化大都市。不知有多少人千方百计的托门路想要调入朝中，而一旦达成所愿，没有谁愿意再离开这繁华所在。源乾曜能这么做，至少证明他不徇私情。
玄宗大大褒奖了源乾曜这种至公无私的精神，还下诏让文武百官学习效仿。有百余名官员在他的感召下，主动申请调往外地。
张嘉贞的成长经历与源乾曜不同，他做过监察御史、兵部员外郎，还长期在地方主政，具有一定的管理能力和战略眼光。
开元五年（717年），他在并州长史任上，针对降唐的突厥九姓散居于太原以北，一旦反叛会严重危及京畿安全这一现实，主动奏请玄宗于并州境内屯驻重兵镇守，以备不虞。
玄宗采纳了他的意见，专门成立天兵军，编制八万人，让张嘉贞出任首任大使。
开元六年（718年），玄宗又把横野军从蔚州迁往山北，屯兵三万，用以监视和保护归附大唐的突厥各部。同时让拔曳固、同罗、霫、回纥四大部落酋长分别担任前、后、左、右讨击使，统归天兵军节度。有事作战，无事放牧。
与源乾曜的执政风格相比，他执法极为严格，为人又刚愎自用，有股不怒自威的气势，部众对他敬畏有加。
担任宰相后，他重用中书舍人苗延嗣、吕太一，考功员外郎员嘉静以及殿中监崔训四人，时常与他们商议政事。这四人在张嘉贞的加持下，颇有点牛哄哄的样子，时人戏称他们“令公四俊”，用现代语境来表达，就是“张宰相的四大干将”。
联想到前两任宰相姚崇与卢怀慎、宋璟与苏珽，可以大致看出玄宗配备宰相班子的思路，通常是一个作风强势、一个较为柔和，这样搭配起来既不容易闹矛盾，还可以互相制衡。源乾曜与张嘉贞的搭档，也是出于同一思路。
开元五年，后突厥可汗默啜意外被杀，许多部落因此脱离后突厥归顺大唐。随着年轻英武的毗伽可汗继任，这些部落又开始首鼠两端起来，一些部落相继叛唐，重新依附后突厥。
仆固、跌两个部落散居在中受降城（今内蒙包头一带）附近，朔方大使王晙担心他们勾结后突厥作乱。在奏请玄宗获准后，以宴请为名，将两个部落的酋长诱骗进城一举杀掉，又出兵剿灭了毫无防范的部落民众。
消息一经散播，拔曳固、同罗各部疑惧万分，担心遭到与他们一样的下场。时任天兵军节度使张说，仅带二十骑前往安抚。为了体现诚意，他甘冒风险与部落民众住在一起。
副使李宪派使者劝止，张说告诉使者：“我的肉不是黄羊肉，不怕人吃；我的血也不是野马血，不怕人刺。危难时刻，才是我尽忠之时。”
张说的从容与镇定感化了各部，人心逐渐安定下来，恢复了原有秩序，危机由此化解。
张说自开元初年与姚崇争权败下阵来，贬为相州刺史。张嘉贞入朝为相，玄宗考虑他曾做过兵部侍郎，且能力出众，让他接替张嘉贞做了天兵军第二任节度使，这次因功再次进入玄宗视野。
开元九年（721年）正月，监察御史宇文融因土地兼并加剧，人口流失严重，影响了各地税收，提议开展全国人口、农田大普查，把流失户口与农田重新检录在册，作为今后国家征收赋税的依据。宰相源乾曜一向欣赏宇文融他的才干，同意并呈报了他的意见。
二月份，朝廷颁诏通告各地：“州县逃亡户口，准许百天内根据个人情况，或者归附原籍，或者编入当地户籍。过期不至者，全部发配边疆。有敢于包庇隐瞒的，一并治罪。”
为了督导各地抓好落实，朝廷成立专班，由宇文融带队，前往巡察逃亡户口及没有登记在册的农田。宇文融对待工作极其负责，短短时间内就取得了显着成效，玄宗升任他为兵部员外郎兼侍御史。
受到激励的宇文融趁热打铁，奏请设置十名劝农判官兼御史，分头巡行天下。凡新编入籍的寄居户，可免六年赋税。
这项政策从设计本原上讲，同推行新币一样是件好事。但往下一落，就念成了歪经。十名劝农使贪图政绩，攀比着苛求地方；而州县为了迎合他们，一味烦劳百姓。
阳翟（今河南禹州境）县尉皇甫憬上疏讲了几句实话，玄宗不听，把他贬到了偏远的盈川（今浙江衢县东北）。
有了皇甫憬的负面效应，州县官员更加变本变厉。为免遭问责保住官帽，他们不惜虚报数字，把原本在籍的户口也当成新入籍的上报。在几个月的时间里，全国户口、农田数量一下增加了八十余万。
这项政策很快波及到了边境的一些羁縻州府，那里常住民多为归附不久的草原部落，官员们执行起来尤为苛刻。
兰池州（今内蒙古鄂托克前旗境）胡人康待宾不堪忍受盘剥，挑动突厥各部造反。接连攻陷六胡州，拥兵七万，进逼夏州（今陕西靖边西北）。
所谓“六胡州”，是大唐在灵州、夏州南境所设六州，用以安置突厥降户。
四月份，玄宗诏令太仆卿王毛仲为朔方道防御讨击大使，会同王晙、张说征讨康待宾。
叛军又暗中与党项勾连，合力攻破银城（今陕西神木县境）、连谷（今陕西神木县北），占据了那里的粮仓。
张说率万余军队自合河关（今山西兴县西北）出发，趁叛军不备猛然发起进攻，大败叛军，乘胜追至骆驼堰（陕西神木西北）。党项人临阵倒戈，转头攻向叛军，叛军溃散，向西遁入铁建山（今阴山北麓）。
张说安抚党项部众，让他们各安其业，并奏请设置麟州（今陕西麟游县境）予以镇抚。
七月初四，王晙大败康待宾，斩杀叛军一万五千人。康待宾被唐军所获，押送长安。十六日，玄宗当着四夷酋长的面，将康待宾处以腰斩。
在此之前，玄宗曾诏令陇右节度使郭知运配合王晙作战，王晙认为凭借朔方军自身实力完全可以击败康待宾，奏请郭知运返回。
碍于当时的交通条件，玄宗命令还没到，郭知运已领军前来，由此对王晙产生了不满，发兵攻打已经投降的胡人。
胡人以为王晙出卖自己，随即在康待宾余党康愿子率领下重新反叛，康愿子自称可汗。玄宗认为王晙无能，将其贬为梓州刺史。
九月十九日，张说靠着平叛大功得以重返朝班，升任兵部尚书，成了大唐三军总司令。
十二月，玄宗在原有朔方军的基础上，设置朔方节度使，统管北部边防。下辖单于都护府，夏州、盐州等六州，定远、丰安二军及三受降城。
张说以大唐总司令的身份，兼任朔方战区总指挥。
把如此重要的岗位授予张说，足见玄宗对他的信任与肯定。
张说没有让玄宗失望，继任不久就接连做了三件大事，让玄宗眼前为之一亮。
第一，平定叛乱。开元十年（722年）八月，张说发兵击败康愿子，把六胡州余众全部迁到河南、朔方所属各州，彻底根除了祸患。
第二，裁减边军。当时的北疆为了应对后突厥，常驻唐军六十余万人。张说经过深入考察论证，认为当前已没有能对大唐构成实质威胁的强敌，奏请裁撤边军二十万，让其各自归乡务农，以减轻国家负担。
如此大规模的裁军，让玄宗难免心生疑惑。
张说许诺：“臣在边疆多年，深知这里情形。将帅不愿裁军，不过是想用于自卫，或是役使士卒为他们做私活而已。兵贵精不贵多，御敌制胜无须太多冗员。陛下如果不信，臣愿以全族百口性命做担保。”
张说的勇于担责，打消了玄宗顾虑，下诏予以实施。
第三，改革军制。大唐军制沿于北魏府兵制，二十从军、六十退伍，战时为兵、闲时为农。在建唐初期，人口少、农田多，且国土面积有限，作战地域大多距家乡不远，士卒既可以保卫家乡不受侵犯，又能够兼顾自家产业，一旦战死还有优厚抚恤，毫无后顾之忧，打起仗来极为彪悍。
而到了玄宗时期，这一形势发生了根本性变化。人口增长过快，农田相应减少，且疆域广袤无边，一直拓展到了绝远之地。府兵制的根基“均田制”遭到严重破坏，士卒们长期在外戍边征伐，家中却仍要缴税服役，以至日渐贫困。军中逃亡事件屡有发生，严重影响了军心士气。
张说深知其中危害，提议改革军制，从社会征募壮士充任侍卫，凡加入军籍的一律免除各类徭役，享受国家优待。
政令一经颁行，不过十天左右就征得精兵十三万。
从此，府兵变为募兵；士兵也从半农半兵，转变为专司其业，由国家供应的职业军人。
这项军制改革影响深远，不仅为玄宗执政中期征伐四方提供了充足血液，促进了开元盛世的形成，更为后世历朝历代所沿袭。张说功不可没，在玄宗面前的话语权越来越大！
十一月，前广州都督裴伷先坐罪下狱，玄宗让众宰相议定他的罪行。
张嘉贞提议施以杖刑，张说反对，指出：“自古刑不上大夫，是因他们代表着君王的脸面，需要有廉耻节操，士可杀而不可辱。”
“臣在北部巡边时，听说姜皎在朝堂上被当众施以杖刑。姜皎位居三品高官，且为国立有大功，有罪了依据律法该怎么判就怎么判，当死则死、当流则流，怎能轻易加以侮辱，把他当成奴隶对待！姜皎的事已经过去，无法挽回。裴伷先所犯罪行依律应判以流刑，切不可再重蹈覆辙，寒了士大夫的心！”
玄宗深以为然，采纳了张说意见。张嘉贞对此非常不满，因为打姜皎板子就是他出的主意，姜皎也因此死于流放途中，张说这么说无疑是把矛头对准了他。散朝之后，他怒气冲冲的找到张说，质问道：“你何必把话说的这么难听。”
张说意味深长的回答：“宰相这一职位，不是高不可攀，时运来了谁都能当。如果国家大臣都可以被当众鞭打侮辱，谁敢保证将来这手段不会施加到你我身上。我这么做，不是为了裴伷先，而是为了你我和天下的士大夫啊！”张嘉贞无言以对。
开元十一年（723年）正月，张嘉贞的弟弟张嘉佑因贪污遭到检举。大唐有制，官员亲属犯罪，官员也要连坐。
张说劝张嘉贞脱去官袍，身着便服到朝堂外主动请罪，以求宽大处理。玄宗见其认错态度良好，又没有其他过失，便将其免去宰相职务，外调为幽州刺史。
宰相职务空缺，张说凭借过人才华与卓越政绩，在时隔十年之后被重新起用，拜为宰相，主政中书省。
同时，玄宗将贬为梓州刺史的前朔方大使王晙，提拔为兵部尚书兼朔方节度使，接替张说巡视北疆各军。
所谓天道酬勤，真金不怕火炼！张说的事告诉我们，只要你有真本事，又能耐得住寂寞，即便短期内遇到些挫折，别气馁沮丧，更不要牢骚满腹，在自己的岗位上默默耕耘努力，相信总会有花开之时！