张九龄是在居丧期间接到任命的。
这是莫大的信任和恩典。因为帝国以孝治天下，除非万不得已，官员在居丧期间都必须守在灵前。然而张九龄请求服丧期满以后再来就职，却被玄宗拒绝。非但如此，皇帝还在张九龄到京五个月后，将他和裴耀卿分别提拔为中书令和门下侍中，建立起两省长官同时在位的宰相班子。
张九龄感恩戴德，决心以忠诚报效陛下。
玄宗皇帝也很满意。没错，创作了“海上生明月，天涯共此时”名句的张九龄是有名的才子，十三岁就写得一手好文章，参加科举考试也一举进士及第，就连文坛领袖张说对他都赞不绝口。他的风度更是堪称玉树临风，以至于玄宗皇帝每次选拔人才都要问上一句：像张九龄吗？[48]
裴耀卿也不简单。长期困扰帝国的粮食问题，就是他担任转运使期间解决的，据说三年之中积粮七百万石，节省运费三十万贯。有人建议他将这一成绩上报朝廷，裴耀卿却回答说：这原本就是公家的钱，怎么能用来沽名钓誉？[49]
很好！张九龄有道德文章，裴耀卿有管理能力，取长补短相得益彰，又没有个人恩怨，岂非最佳搭档？
可惜谁都没有想到，这又是一个短命的班子。开元二十四年（736）十一月，裴耀卿和张九龄被同时罢免，分别改任尚书省副长官左右丞相。这时，他们担任侍中和中书令才两年半，从“同中书门下平章事”算起也只有三年。
一般认为，这是因为李林甫使坏。
以“奸相”之名载入史册的李林甫，是在张九龄和裴耀卿被任命为两省长官的同时，担任礼部尚书、同中书门下平章事的。论职权，他并不能与那两位当然宰相分庭抗礼。论出身，作为皇室远亲而进入官场的他，也与大多数科举官员不同。但是，李林甫乖巧，懂得在张九龄面前装弱智，唐玄宗面前抖机灵，结果君臣二人都被他蒙蔽，放松了警惕。
其实李林甫并非等闲之辈。正如当年提醒张说防范宇文融的是张九龄，跟宇文融一起联名弹劾张说的监察部副部长也正是李林甫。可以说，李林甫继承了宇文融的衣钵，就像张九龄在某种意义上是张说的传人。
只不过，李林甫更狡猾，张九龄更迂腐。
迂腐表现在张九龄刚刚任同中书门下平章事，就提出放弃国家对货币发行的垄断，允许民间铸造铜钱。这个书生气十足的提案立即遭到裴耀卿等人的强烈反对，结果当然是胎死腹中，反倒将张九龄的不切实际暴露无遗。
接下来又发生了一个案子。
案子倒也简单。有两个人谋杀了一位监察官员，原因是他们认为该官员应该对自己父亲的冤死负责。这样的血亲复仇有着悠久的传统，也被民间视为正当。因为杀父之仇和夺妻之恨都是非报不可的，否则就不是男子汉。何况帝国既然以孝治天下，就没有判处孝子死刑的道理。
因此，张九龄主张免于追究。
裴耀卿和李林甫则认为王法无情，玄宗皇帝也认为此例决不可开。他在敕书中说：国家制定法律，原本就是要禁止谋杀。如果每个人都可以私下复仇，请问天底下又有谁不是孝子？如此仇怨相报，恶性循环，又何时是个尽头？于是玄宗皇帝下令将那二人杖杀，结果舆论哗然。民间人士集资安葬了那两位孝子，表示哀悼的诗文也传遍朝野。[50]
很难说此事对张九龄的仕途影响如何，但他与玄宗理念不同应该已是不争的事实。事实上就在一两个月前，张九龄便因为一项任命跟皇帝陛下大起冲突。
事情也很简单。有一位将领打败了契丹，并将契丹王的头颅传送京城，让皇帝郁积多年的闷气一扫而空。因此按照李唐王朝出将入相的惯例，玄宗提出任命此人为宰相。
张九龄却说：宰相职位不是用来做奖品的。
唐玄宗说：给个名义，不管政务，行不？
张九龄说：名义也不能随便乱给。刚刚打败了契丹就要当宰相，将来消灭了突厥又赏他什么？
唐玄宗被呛得半天说不出话来。[51]
过了一年多，张九龄与唐玄宗又起冲突，原因仍然是官员的任命。这次皇帝要奖励的是河西节度使牛仙客，因为他节约开支，勤于政事，让防区之内兵强马壮气象一新。玄宗正需要这样的人才，所以提出给他加封尚书的头衔。
张九龄照例反对。
其实张九龄与牛仙客并无个人恩怨，反对的原因也仅仅由于在他看来，宰相和尚书应该是像他这样的士大夫，而不该是长期在地方上工作的基层干部，更不该是军人。因此他极其傲慢地说：牛仙客当了尚书，朝廷会因之蒙羞。
玄宗只好让步：封个爵位总可以吧？
张九龄说：那也不行。爵位是用来奖励功臣的。牛仙客只是做好了本职工作，哪有功劳可言？陛下如果一定要予以嘉奖，多赏些金银财宝就可以了。
皇帝终于忍无可忍，勃然变色说：天底下，难道什么事情都得由你说了才算吗？
张九龄跪倒在地说：臣愚蠢，不敢不实话实说。
玄宗皇帝一声冷笑：你口口声声讲资格，嫌牛仙客出身卑微上不了台面。那么请问，你自己又是什么门第？
张九龄说：牛仙客生于中原，是华夏正宗，确非臣这岭南边鄙野人可比。但，臣在朝廷毕竟任职多年，牛仙客却是边境小吏，胸无点墨，又岂能担当重任？
玄宗皇帝恨得牙齿发痒。[52]
实际上这次皇帝发怒是有原因的。此前，为了从洛阳还都长安，他就跟张九龄闹得很不愉快。玄宗希望尽快，张九龄却坚持等到入冬，理由是当时正值秋收。这件事最后是靠李林甫解决的。李林甫私下里对皇帝说：长安和洛阳不过是陛下的西宫和东宫，想住就住，挑什么日子？
封赏牛仙客的事也如愿以偿。这同样因为李林甫私下里对皇帝说：只要有才干，何必一定要会写文章？何况用人乃天子之权。天子想用谁就用谁，用谁不是用？[53]
玄宗皇帝很高兴。
老天爷也似乎要帮李林甫的忙。离开洛阳那天，长安发生地震。玄宗趁机免去两京当年的赋税，又提拔奖赏沿途地方官员，赦免罪犯，于是一路听到的都是歌功颂德。
更凑巧的是，回到长安不久，洛阳也地震了。这就让玄宗认为，他和李林甫的决定是正确的。而且，按照“天人合一”的理念，地震意味着宰相不合格，应予罢免。[54]
张九龄却不知道自己危在旦夕，依然我行我素，结果由于为某个涉案官员辩护，而被认为是结党营私。更何况在废立太子的问题上，他也与玄宗意见相左，终于让皇帝下定决心搬走这块挡路的石头，将他和裴耀卿一起罢免。[55]
推波助澜的，当然又是李林甫。
实际上张九龄并无意于争权夺利，他甚至写了一首名为咏燕的诗送给李林甫。在诗中，张九龄以燕子的口气表明了自己的心迹：无心与物竞，鹰隼莫相猜。[56]
可惜，鹰隼并不会因为燕子与世无争就不下手。李林甫既然要大权独揽，就不会放过张九龄和裴耀卿。于是，并未与张九龄结党的裴耀卿，也只好成为城门失火之时被殃及的池鱼。据说，宣布任免决定时，两位前宰相悲愤难言，李林甫洋洋得意，旁观者则窃窃私语说：一雕挟两兔。[57]
是的，李林甫笑了，笑得又阴又冷。