诸葛亮平定南中之后,又经过两年准备,公元227年冬天,就带领大军驻守汉中。因为汉中接近魏、蜀的边界,在那里可以随时找机会进攻魏国。
离开成都的时候,他给后主刘禅上了一道奏章,要后主不要满足现状,妄自菲薄;要亲近贤臣,疏远小人;并且表示他决心担负起兴复汉朝的责任。这道奏章就是历史上有名的《出师表》。
过了年,诸葛亮采用声东击西的办法,传出消息,要攻打郿城(今陕西眉县),并且派大将赵云带领一支人马,进驻箕谷(今陕西褒城北),装出要攻打郿城的样子。魏军得到情报,果然把主要兵力去守郿城。诸葛亮趁魏军不防备,亲自率领大军,突然从西路扑向祁山(今甘肃礼县东)。
蜀军经过诸葛亮几年严格训练,阵容整齐,号令严明,士气十分旺盛。自从刘备死后,蜀汉多年没有动静,魏国毫无防备,这次蜀军突然袭击祁山,守在祁山的魏军抵挡不了,纷纷败退。蜀军乘胜进军,祁山北面天水、南安、安定三个郡的守将都背叛魏国,派人向诸葛亮求降。
那时候,魏文帝曹丕已经病死。魏国朝廷文武官员听到蜀汉大举进攻,都惊慌失措。刚刚即位的魏明帝曹叡(音ruì)比较镇静,立刻派张郃带领五万人马赶到祁山去抵抗,还亲自到长安去督战。