诸葛亮听王平说完之后，让他暂时退下，随后便将马谡叫了进来。
此时的马谡也知道自己犯了大错，因此让人把自己绑了起来，以示有罪。
他进帐后跪倒在地，不敢抬头去看诸葛亮的脸色。
后者盯着他看了许久，最后终于还是没能压制住心中的愤怒，用难得一见的严厉口气斥责道：“汝自幼饱读兵书，熟谙战法，我也多次叮嘱过你，街亭是我军的根本所在，极为紧要。你也发誓用全家之性命担保，领受此等重任。若是你能早点听从王平之话，岂会有如此惨败？如今我军损兵折将、失地陷城，都是因你而起。若不能将你明正军法，何以服众？你死之后，妻儿老小，我仍会按月给予俸禄粮米，不必挂心！”
说完铁青着脸，就要命军士将马谡推出去斩首。
马谡早已泪流满面，跪在地上抽泣着说道：“丞相视我如子，我也以丞相为父。某也知死罪难逃，还望丞相思舜帝殛鲧用禹之义，则我虽在九泉之下也无恨也。”
说完之后嚎啕大哭。
他口中说的“舜帝殛鲧用禹之义”，指的是当初舜帝用鲧治理洪水，却屡次犯错，最后舜帝治了鲧的死罪。
鲧死之后，舜帝又启用了他的儿子禹来治水，终于大获成功。
马谡说这句话的意思，一是表明自己的过错，让诸葛亮尽管大义灭亲，二是希望诸葛亮不要因为他的过错，而怪罪到自己的家人身上。
诸葛亮被他这番话说得也是黯然泪下，最后无力地挥挥手：“你与我情义如同兄弟，你之子便是我之子，不必担心。”
说完转身再不看马谡，手下的军士会意，将地上的马谡架起来拖了出去，很快就推到了辕门外准备行刑。
这时恰好有参军蒋琬从成都而来，看见这一场面后急忙大叫道：“刀下留人！”
行刑的士兵闻声收刀，蒋琬随后急匆匆冲进中军大帐，对诸葛亮说道：“昔日楚杀得臣而文公喜，如今天下未定，而杀智谋之臣，岂不可惜？”
蒋琬口中这句“楚杀得臣而文公喜”，指的是春秋时期楚、晋相争，楚国大将得臣因为作战不利而被逼自杀，晋国的国君晋文公得知消息之后欣喜不已。
他想要以此古事来说服诸葛亮，不要诛杀马谡这样难得的谋臣。
诸葛亮却没有被他说动，而是摇头说道：“昔日孙武之所以能致胜天下，便是因为其治军法度严明。如今四方纷争，兵戈不断，若是因一个马谡而废了我的军法，日后如何领军作战？此事不必多言！”
说完便令身边的亲随去辕门口督促行刑。
不久之后，亲随返回，跟随而来的行刑士兵捧着一个托盘，盘中一颗首级血肉模糊，正是马谡之首。
诸葛亮看着人头再度落泪，无力挥手道：“等示众之后，再将他首级收殓，日后运回成都再行安葬。”
蒋琬叹息不已，见诸葛亮如此伤心，就劝道：“人既然已死，还请丞相节哀。”
诸葛亮摇摇头：“我并非只是因为马谡之死而悲，更是在哭自己识人不明。当初先帝在白帝城临死之前，曾对我叮嘱过，说马谡此人言过其实，不可大用。如今果然应验，吾深恨自己不能识人，因此痛哭耳。”
一番话说得蒋琬也沉默起来，想起先帝刘备病死在白帝城的往事，也不禁洒下几滴眼泪。
建兴六年夏季五月，大名鼎鼎的马氏五常中年纪最小的马谡，死于蜀军大营之中，时年才三十九岁。
马谡既然已死，诸葛亮又命将其首级传遍各营示众，然后重新缝合到尸体之上，用棺椁装殓起来，只等运回成都安葬。
诸葛亮又亲自写了祭文祭奠，命人去向马谡的家人报信并加以抚恤，答应以后仍然按月发放禄米。
随后便带领大军班师，又写了一篇表文，让蒋琬带回去先向刘禅申奏，表中说自己作战不利，无功而返，请求贬黜自己的丞相之职。
表文很快随着蒋琬的回归而送到刘禅手中，后者打开一看，见上面写道：
臣本庸才，叨窃非据，亲秉旄钺，以励三军。不能训章明法，临事而惧，至有街亭违命之阙，箕谷不戒之失。咎皆在臣，授任无方。臣明不知人，恤事多暗。《春秋》责帅，臣职是当。请自贬三等，以督厥咎。臣不胜惭愧，俯伏待命！
表文的意思很简单，诸葛亮将此次北伐的失利都归结到了自己身上，因此自请降级三等。
刘禅看完后有些不以为然：“胜负乃是兵家常事，丞相何出此言？”
侍中费祎上奏道：“臣闻治国者，必以奉行法度为重。否则若法度不明，何以服人？丞相战败，因此自行贬降，做得极对。”
刘禅也就不再多说，于是就下旨将诸葛亮贬为右将军，仍然行丞相职责，依旧由他总督兵马。
圣旨下来之后，由费祎带着去了汉中诸葛亮的驻军之处。
后者毕恭毕敬地接过圣旨，费祎眼看气氛沉重，就故意宽慰诸葛亮道：“蜀中的百姓，得知丞相出兵之后接连攻取四县之地，都深以为喜。”
诸葛亮摇头，正色道：“得而复失，与不得并无不同，公以此向我祝贺，反而使我羞愧。”
费祎有些尴尬，急忙又说道：“听说丞相得了姜维这样的大才，天子很是欢喜。”
诸葛亮继续摇头：“兵败师还，不曾夺得寸土，此我之大罪也。区区一个姜维，对魏国而言谈不上什么损失。”
费祎又问道：“丞相如今统帅雄师数十万，可再伐魏乎？”看書喇
诸葛亮回道：“当初大军屯扎于祁山、箕谷时，我军人数多于敌军，却不能破敌，反被敌军击败。原因不在于兵之多少，而在于主将。此次败退回来之后，我反而准备减少兵马，自罚思过，转变作战之观念，否则就算兵多也是无用。从今以后，群臣要多提有利于国家之建议，多指出我之不足，提醒我之短处，如此则大事可定，贼军可灭，大功也可翘足而待也。”
一番话说得费祎赞叹不已，于是将圣旨交割之后，返回了成都复命。
诸葛亮则留在汉中，此后更加爱惜军民，然后励兵讲武，制造各种用来攻城和渡水的器械，囤积粮草，预备战筏，为下次北伐做好准备。
魏国这边，皇帝曹睿也起了收复川蜀的想法，于是叫来司马懿询问可有良策。
司马懿回道：“蜀国暂时不可攻也，如今天气炎热，蜀军必然不会轻易出击。而我军若是冒然深入蜀地，敌军必然会扼守险要，急切之间实在难以攻取。”
曹睿又问道：“万一蜀军再来入侵，如何是好？”
司马懿回道：“臣已算定，诸葛亮若是再来，必然会效仿韩信暗度陈仓之计。臣保举一人去陈仓道口筑城守御，必然万无一失。此人身长九尺，猿臂善射，深有谋略，若诸葛亮领兵来犯，此人足可当之。”
曹睿顿时大喜，问道：“何人？”
司马懿道：“此人乃是太原人氏，姓郝名昭，字伯道，现为杂号将军，领兵在河西镇守。”