桓温原来打算麦熟后就地筹集军粮，不料秦军割尽麦苗，坚壁清野。眼见的军中乏食，士无斗志，他只得退兵。临行前，他赐给王猛华车良马，又授予高级官职都护，请王猛一起南下。王猛心想在士族盘踞的东晋朝廷里，自己很难有所作为；追随桓温则等于助其篡晋，势必玷污清名。他回到华山向老师请教，老师也表示反对南下。于是，他便继续隐居读书。
桓温退兵的第二年，即前秦皇始五年（355年），前秦皇帝苻健去世。继位的苻生残忍酷虐，以杀人虐民为儿戏，“群臣得保一日，如度十年”，昏暴胜过后赵皇帝石虎。前秦的覆灭就在眼前，举国上下人心惶惶，苻健之侄苻坚更是忧心如焚，后来决计除掉苻生。
苻坚是十六国时期杰出的政治家。虽然是氐族人，但倾慕汉族的先进文化，少时即拜汉人学者为师，潜心研读经史典籍，很快就成了氐族贵胄中罕有其匹的佼佼者。当苻坚向尚书吕婆楼请教除去苻生之计时，吕婆楼力荐王猛。苻坚即派吕婆楼恳请王猛出山。苻坚与王猛一见面便如平生知交，谈及兴废大事，句句投机，苻坚觉得就像刘备当年遇到诸葛亮一般，如鱼得水。于是，王猛留在苻坚身边，为他出谋划策。前秦寿光三年（357年），苻坚一举诛灭苻生及其帮凶，自立为大秦天王，改元永兴，以王猛为中书侍郎，职掌军国机密。
始平县是京城的西北门户，地位极为重要。但长期以来，那里豪强横行，劫盗充斥，于是苻坚派王猛担任始平县令。王猛下车伊始，便明法严刑，禁暴锄奸，雷厉风行。有个树大根深的奸吏，作恶多端，王猛把他当众鞭死。奸吏的狐群狗党起哄上告，上司逮捕了王猛，押送到长安。苻坚闻讯，亲自责问王猛：“为政之体，德化为先。你莅任不久就杀掉那么多人，多么残酷啊！”王猛平静地回答说：“我听说过这样的道理：治安定之国可以用礼，理混乱之邦必须用法。陛下不以臣为无能，让臣担任难治之地的长官，臣一心一意要为明君铲除凶**猾之徒。才杀掉一个奸贼，还有成千上万的家伙尚未伏法。如果陛下因我不能除尽残暴、肃清枉法者而要惩罚我，臣岂敢不甘受严惩以谢辜负陛下之罪？但就现在的情况而论，加给我‘为政残酷’的罪名而要惩罚，臣实在不敢接受。”苻坚听罢，且叹且赞，向在场的文武大臣说：“王景略可真是管仲、子产一类人物呀！”赦免了王猛擅杀官吏之罪。