大胜一场之后居然短时间内又变成了敌众我寡的态势，而且曹军为了为主局势，保住许都的南面屏障，必定会拼死作战。这让刘贤感到有些心惊，考虑了许久，这才写信征求庞统的意见：“要不先撤兵去白河西岸，以白河为界，暂时与曹军平分南郡，避敌锋芒，待援兵抵达之后，再与曹军决战？”
次日，庞统回信道：“当此两军对垒之际，固守营垒，暂避锋芒可也！退守白河以西却大可不必。大王不必忧虑，敌军虽多，未必能胜我也！”
刘贤见庞统说的信心满满，当下稍稍放下心来。也是，庞统善于用兵，麾下又都是精锐，就算兵少，但依仗营垒坚守，等待援兵到达也应当是做的到的。
在南阳战事打的如火如荼的时候，位于斜谷口处的关羽大军却几乎陷入了绝境。因汉中大雨，冲毁山道，关羽退路完全断绝，坚守了大半个月后，随军粮草已经快要见底。
关羽忧心如焚，这日闻粮官来报，军中粮草只能再支撑七日了。关羽大惊之下，急忙寻来鲍庸，问其道：“我命你去清理道路，如今情况如何了？”
鲍庸道：“大雨滂沱之下，谷道被淤泥巨石阻断，我虽率军奋力清理，却也收效甚微。前些天有汉中守军翻山越岭而来，说马谡也正率领一万民夫在箕谷那边奋力清理道路。然而道路毕竟损毁严重，要想清理出一条能够通行大军的道路来，至少还需要半个月。”
关羽叹道：“我军现在仅有七日粮草，哪还能支撑半月？与其不战自愧，不如主动进攻。只要击败曹洪，拿下郿城，我们便能夺取敌军粮草，支撑下去了。”
当下关羽命鲍庸先领兵五千去谷后埋伏，随后宣称退路已被清通，大军粮尽，急匆匆地率领军撤退。
曹洪、朱灵早就算着关羽粮草将尽，闻听关羽撤退，曹洪欲要追击，朱灵却有些犹豫。正迟疑间，斥候来报，说斜谷道路其实尚未抢通，只是关羽粮草将尽，故而只得全军退回去抢修道路，欲要逃出生天而已。
曹洪闻讯，当下领兵一万追入斜谷。曹洪也对关羽极为忌惮，不敢冒进，只督率大军徐徐往前，又多派斥候打探关羽军的动向，同时还叫朱灵领兵五千在后十里接应。
往前追了七八十里，忽听斥候来报，说关羽大军淤泥巨石阻断退路，困于前方半道之上，人马困乏。曹洪大喜，领兵急追，远远望见前方关羽大军果然拥挤在山道之上，旗帜散乱。关羽的大旗更是在最后方，此时若是冲杀而出，关羽必定来不及赶来指挥。
当下曹洪兴奋不已，急催大军往前冲去。只见关羽军的士卒纷纷往两边避散，曹洪全不理会这些散兵，只奋力催军往敌军大队冲去。
正努力攻击时候，就听两边山上突然喊杀声震天，却是奉命埋伏在山上的鲍庸领兵杀出，截击曹洪的后队。
与此同时，前方关羽也率领早已准备好的精兵杀了过来，前后夹击，曹洪大败，只得努力拼杀，希图能夺路而逃。正战之间，忽听身后金鼓齐鸣，一彪军杀到，却是后军朱灵赶来，见曹洪被围杀，急忙领兵冲杀。
朱灵奋力击退鲍庸，接应曹洪撤退，两军掉头往郿城而去，关羽领兵在后穷追不舍。一路之上，曹洪、朱灵都设法留兵阻击，但关羽知道形势危急，故而纠集精兵，追赶甚急，根本不给断后之兵结阵自守的时间。凡有兵断后，都被关羽亲自率军击破，一路追着曹洪出了斜谷，直杀至郿城。
眼见曹洪率领败兵正在进城，关羽大喜，急领兵前冲，欲要抢城。曹洪见状大急，急令城上抛射羽箭阻敌。关羽挥军冒箭突击，冲入曹军后阵之中，一番混战，曹军抵敌不住，曹洪站在城门口处，喝令士卒关门，然而败兵如潮涌一般拥挤在城门甬道之上，关门之兵根本都到不了门边，城门如何关得上？
曹洪一时急的如热锅上的蚂蚁，正惶急之间，忽听北面蹄声滚滚，有一彪军杀到，曹洪登城一望，看见是曹军旗号，顿时大喜。
来的却是徐晃率领的援兵，五千本部精兵加上洛阳、河东、上党、太原等地的一万郡兵，再加上梁习出面征调的太原乌桓三千骑兵，匈奴一万骑兵，总兵力达到了三万人。
当然，实际上匈奴虽号称万骑，真实兵力却只有六七千人。
徐晃心忧关陇战局，先带了匈奴、乌桓骑兵西来，闻听张颌、曹真已经率领骑步军二万五千人赶赴陇右，守住了街亭、陇关，徐晃长松了一口气之余，仔细推敲了战局，发现对阵关羽的曹洪、朱灵此时手中仅有一万五千人，只与关羽的兵力相当。
徐晃深恐曹洪、朱灵不是关羽的对手，当下转道兼程赶来，不想正巧看见关羽将要攻克郿城。当下徐晃急催兵马前进，骑兵踏着轰隆隆的马蹄声往关羽之军冲杀而来。
关羽眼见城池就在眼前，已是唾手可得，敌军援兵却突然到来，心下顿时一片冰凉，眼见敌军骑兵众多，知道再战下去，必定全军尽没，当下关羽只得长叹一声，传令撤退。
当下关羽亲自断后，且战且退。徐晃、曹洪驱兵四面掩杀，关羽大军一时损失极为惨重。好不容易退回了斜谷，又在谷后设置伏兵，击退了追的最快的乌桓骑兵之后，这才马不停蹄地往谷内撤去。
徐晃追到斜谷，闻听乌桓骑兵败了一阵，当下收住兵马，就在谷口设立营寨，随后遣精干斥候入谷打探关羽情况。曹洪问道：“关羽惨败，将军为何不追入谷去，全歼此军？”
徐晃道：“我部下都是骑兵，入了斜谷，大军施展不开，恐被关羽埋伏。关羽如今粮草将尽，而谷内道路又被洪水冲毁，我只守住谷口，待其自败可也！”
曹洪拜服！
此时关羽退入谷中，将士惨败之后，又粮草耗尽，一片凄风苦雨。幸得前番伏击曹洪之时，杀伤了敌军二三百匹战马。当下关羽只得命人将马尸集中起来，取马肉补充军粮，全军饱餐一顿之后，士气略有恢复。
就听行军长史王甫道：“今徐晃、曹洪堵住斜谷口，而我军退路又被山洪冲毁，粮草已尽。困守下去，不过数日必定全军崩溃，我等将尽为俘虏也！唯今之计，不如趁着士卒尚有体力，全军翻山越岭，斩山为道，往汉中撤退。此时马谡率领的民夫正加紧抢修道路，我们往南前进一步，就与之距离越近。”
关羽闻言，点了点头，当下清点士卒，还有万余人，于是将之分为二十队，陆续进发。命鲍庸在前开路，关羽则亲自押后。
徐晃闻听关羽缘山而走，当下与曹洪商议，自率骑兵往陇右而去，请曹洪、朱灵率三千精锐步弓手入山追击。此时因山洪过后，道路湿滑，众军行军速度不快。开始之时关羽还能维持军队不散，然而过了两三天，随着士卒携带的粮草耗尽，众军疲累不堪，当下便开始有士兵掉队。而随着曹洪、朱灵率军不断袭击，被击散掉队的士卒就更多了。
及至后来，关羽只能不管后路，只率领少量精兵闷头往前，马肉吃完，许多士兵都都去挖野菜，捕鸟雀，为了一口吃的离开队伍，进入山林之中，便再也没能回来。
及至八日之后，关羽率领饿的发晕的残兵败将与马谡之军会合时，身后只剩下三千余人了。当下关羽全军饱餐一顿，随即又叫马谡分出人手去山林之中搜寻散族，最终却也仅只陆续带回了不到两千人。
余者不是迷失亡故在了山林之中，便是被追击而来的曹洪之军击杀擒获了。
关羽看着麾下原本浩浩荡荡的一万五千大军如今仅只剩下五千残军，不由悲从中来，整个人精气神瞬间垮了一大截，一向锐利如刀的目光之中，也带上了许多茫然之色。
在关羽惨败的同时，刘备也望着坚固的上邽城叹了口气，转而对法正道：“张既真当世之英才也！治政则能得军民倾心拥戴，领兵则能筹划战克，使我一筹莫展。近闻曹操征调匈奴、乌桓等骑兵来援陇右，敌军援兵陆续汇集，我军此次北伐，怕是会无功而返了。”
法正沉吟道：“阎芝、何宗等人已经清通了祁山大道，押运粮草到了军前，但因迁延日久，军粮在路上消耗了很多，我军粮草还是很紧张。若不能夺取上邽城中的粮草，我军终究是支撑不下去的。而街亭又未能夺取，我军对陇右无法形成关门打狗之势，敌军援兵不断汇集，如此看来，的确是该撤退了。”
正说之间，忽听马谡派遣信使昼夜兼程传来关羽偏师惨败的消息，刘备闻讯大惊，当下决定撤军。先传令叫正与张颌相持的张飞徐徐收兵返回，随后又命刘封、阎芝、宗预、白寿等人去祁山整修营寨。随后大军拔寨起行，往祁山而退。
临退之前，刘备忍不住对法正道：“此次退兵，乃是苍天不佑，降下暴雨，以致我军徒劳无功。这也是曹贼气数未尽，只可惜了在许都朝中的一番布置，恐怕要白白牺牲了。”
法正闻言默然良久，道：“此次不成，下次再攻就是了。朝中不满曹贼者极多，只要用心拉拢，我军不会缺了内应的。”