然而丘雍在鲁、东平、济阴相继陷落之后，最终失去了守卫的意义，另外敌人将要攻打宁陵以切断丘雍的后路，于是张巡退出丘雍，东守宁陵。这期间张巡遇上了睢阳太守许远，二人合力对抗杨朝宗，大获全胜，”斩首万余级，流尸塞汴而下”，唐书里说的更详细，”斩贼将二十，杀万余人，投尸于汴，水为不流”。此战过后张巡被任命为河南节度副使。但好景不长，至德二年正月，安庆绪命尹子奇攻打睢阳，睢阳城告急，张巡只好和许远一起守睢阳–守卫睢阳城的艰苦生活就此开始。
守到了五月的时候，张巡又有一次出众的表现。当时尹子奇攻城甚紧，张巡想要让人向他射箭又苦于不知道哪一个才是要一击而中的目标。张巡眉头一皱，计上心来，让人用蒿草为箭射出去。困难到要用蒿草做成箭，那就说明城中无箭了呗–敌军士兵很高兴，拿起来一支草箭就去报告给主将尹子奇，这下暴露了目标，当即有一支箭射向尹子奇，再躲已经来不及。可惜的是，这支箭没有把尹子奇射死，只是把他的左眼射瞎了。不过尹子奇受伤，毕竟还是起到了一定作用，至少可以得到喘息的时间了。
但两个月之后，尹子奇增兵数万猛攻睢阳，这一次睢阳真正到了困难的地步。八月间，守军仅剩六百余人，而十月的时候，睢阳城已是内无粮草外无救兵，许远与张巡商量，决定还是坚守城池，”睢阳，江、淮之保障，若弃之去，贼必乘胜长驱，是无江、淮也。且我众饥羸，走必不达。古者战国诸侯，尚相救恤，况密迩群帅乎！不如坚守以待之。”睢阳的战略地位十分重要，是江淮的屏障，张巡等人坚守睢阳起到了相当关键的作用，另外，除投降之外，只怕当时情况下坚守确实是比退出要保险一些的，而投降却是张巡、许远坚决不会做的事情。但两人仍然对援军报有希望，他们盼着指不定什么时候出现一支唐军，能够杀得尹子奇大败。可惜，这只不过是画饼而已，直至城破，他们也终于没有见到救援人马。
最悲惨的一幕发生了–由于城中无粮，茶纸这些替代品也都吃了个精光，唐军不得已从吃马开始，然后又吃麻雀，吃老鼠，将这些都吃完之后，城里只剩下人了。那么，吃人吧。想想都觉得惨。张巡为了鼓励大家，首当其冲，堪为表率：他把自己的爱妾杀了供给大家来吃。此风一开，饿的眼睛都蓝了的军士便将城中的妇女又吃得殆尽，最后又吃到了男子中的老弱病残(老弱残都是可以吃的，不知病者能否逃过此劫？)。如果尹子奇再不赶快破城的话，那么能够充当守城之用的人们，就全都得互相吃了，城中自我消耗也是甚大，如果吃到了最后只剩几个人，那么打起来应当是相当顺手，可惜尹子奇没有这般耐性，提前结束了这一幕吃人惨剧。既然守军开始吃人了，那为什么城中的百姓不叛乱呢？有人说是受到了张巡忠心报国的感染，此说不尽赞同。事实上，城中的百姓没有义务要为张巡守城，更没有让他们吃的义务，并且吃人的行为只怕多半会引起城中百姓的反感，如果他们起来叛乱，我们也不能责怪这些无辜的百姓–换作是我们，只怕也不那么乐意让人吃掉。若说感动的话，也是对守军而言，因为基本上他们是不会被吃的，而且他们的家人未必在此城中，不会被吃。但百姓就不同了。想想吧，守军吃的是他们的母亲与妻妾，还可能是女儿，然后又是老弱的父辈，只怕多半积下的是仇怨，而并非感动，至少仇怨的可能性要大于感动。唐书中说百姓知必死，莫有叛者。自知必死，这才比较贴近那些人们的心态–困在城中，早晚也是被吃，出城当然更办不到，守军连人都开始吃了，还有什么不敢做？如果出城的话，当然离死就更近了，因为可以被当作叛徒吃掉。悲哀啊……
最终，城破了，张巡和许远都被抓到。尹子奇问张巡：”听说你督战的时候，一大声呼喊就会睚眦尽裂，血流满面，而且牙齿也都碎了，怎么会弄成这样？”尹子奇当然不是给张巡做会诊，只是好奇而已，事实上张巡这样可能是营养不良的缘故。张巡回答说：”吾欲气吞逆贼，顾力屈耳。”尹子奇被激怒了，拿起刀来就撬张巡的嘴，果然看到”齿存者三四”。尹子奇大为叹服–别误会，服的不是这个，服的是张巡的忠烈。劝降未成，最终张巡被杀害了。而许远也一直没有投降，在偃师被杀了。
后人一般多称道张巡，而许远和张巡一样，同是守睢阳的英雄，只不过张巡更有军事才能，而许远自认为才能不及张巡，所以很知趣的主动去管后勤方面的事情。但人们实在不该把许远忘了–莫非这和许远是许敬宗的曾孙有关？
睢阳保卫战，保卫江淮不受战乱十个月，张巡等人功劳不小，但他们最后在睢阳城中吃人的行为，却又引来很多人的责难。从人道主义来看，张巡所作所为确实令人有些齿冷，但是对安史之乱中的唐朝，张巡则是功不可没，更何况，如果没有张巡死守睢阳，江淮受难的人家又不知会有几千几万，从这个角度来看，张巡又救了不少人。但功是功，过是过，还是分开评析比较好，没必要因为过失而否定他的功绩，更不应因为功劳而轻易原谅他的过错。
说到这里，忽然又想到了佛经里尸毗王的那个故事，面对一只鸽和一只鹰，如果不让鹰吃鸽子，那么鹰会饿死，如果让鹰吃掉鸽子，那么鸽子又是无辜的。睢阳城的守军就好比是鹰，而那些被吃的人是鸽子，鸽子固然无辜，但不吃他(她)们的话，”鹰”也会饿死。在鹰与鸽中，张巡选择的是鹰。
就在睢阳城破的前些时候，即九月庚子(二十五日)，郭子仪率十五万唐军，逼近长安。二十七日，在香积寺北沣水之东，与叛军的十万人激战。此战唐军大胜，一举收复了长安。
唐军继续东进，安庆绪只好从洛阳北逃到邺郡，于是唐军又收复了洛阳。