之前，河北招讨使张所遭到贬谪。他的部队四分五裂。岳飞一心抗金，私自脱离正规军，去投靠在太行山区坚持抗金的农民武装——王彦率领的“八字军”。岳飞经常身先士卒、冲锋陷阵，一度身被十余创，所部将士皆死战，以微薄之力抗击金军。一夜屯宿在石门山下，有人传言金军大兵将至，部队惊惶失措，岳飞坚卧不动，像没事人一样。最终部队没散，金军也没有来攻。遗憾的是，王彦和岳飞两个人都是个性很强的农民，话不投机，难以共事。在王彦拒绝提供给养后，岳飞听到老领导宗泽驻防汴梁，
率部南下投靠。东京留守司追究岳飞擅离职守的罪责，按律当斩。宗泽本就爱惜抗金勇士，亲自面见岳飞，认定这是一个将才，只是将岳飞级别降为从八品，担任留守司统制，以示惩戒。这是1127年冬天的事情。
赵构是在建炎元年十月带领朝廷逃到扬州的。金朝得到高宗南逃的消息，在十二月（1128年1月）再次发动南侵，向中原大举进兵。这一回，金朝精心谋划，精兵强将全部出动，誓要彻底灭亡宋朝，汴梁再次成为抗金的焦点。
宗泽不顾朝廷的逃跑策略，积极联络两河和陕西的其他抗金队伍，依山河筑垒防守。许多武装聚集到汴梁周围，与宗泽协调行动，声势颇为雄壮。多月来，汴梁的官军、义军和金军接战多次，宋军胜多败少。十二月底，有一支金军南侵进犯孟州汜水关。宗泽派岳飞率领五百骑兵迎战。临行前，宗泽告诫说：“你身上带有死罪，只要你杀敌立功，我既往不咎。”
岳飞在汜水关一带击败金军，崭露头角。岳飞本人手刃了一名女真裨将，一战成名。宗泽提拔岳飞为统领，不久又提升为统制。
黄潜善、汪伯彦控制的南逃朝廷却在建炎二年正月下诏，说汴梁周围的民兵“假勤王之名，公为聚寇之患”，勒令解散。宗泽针锋相对，回了一道语调强硬的奏折，要求赵构收回成命，斥责黄、汪二人，同时降罪己诏，迁回汴梁，“以大慰元元激切之意”。对于这样的奏折，赵构置之不理。宗泽又整编汴梁附近的军队，制定了大举渡河全面反攻的计划，奏报朝廷。赵构没有批准。
宗泽年过古稀，还坚持活跃在战斗前线。他先后上了二十多道奏章，奏请赵构“圣驾回京”，还提议筹划北伐。黄潜善等人对宗泽的奏章嗤之以鼻，嘲讽“狂妄”，干脆不上报赵构。
汴京开封府，宗泽忧愤成疾，背上发疽病重，诸将入室问候病情，他看着诸将说：“我因为徽、钦二帝遭受不幸，积愤成这样。你们如果能够消灭敌人，则我死而无恨了。”诸将都流着泪说：“怎敢不效力！”诸将出去后，宗泽叹息道：“出师未捷身先死，长使英雄泪满襟。”又叫岳飞留下，瞩咐他继承抗金大业。
建炎二年七月，处于弥留之际的宗泽没有一句话谈及家事，言语中全在念念不忘北伐，连呼三声“渡河！渡河！渡河！”后溘然长辞，享年七十岁。开封官民闻知后都痛哭不已。后由儿子宗颖和爱将岳飞一起扶柩至镇江，与夫人陈氏合葬于镇江京岘山上。
宗泽死后，副留守杜充接替了留守职务，忠实执行朝廷的命令，裁撤了汇集到汴梁周边的民兵。岳飞见状，原想离开杜充北上找金军决战，但一想到先前自己擅离职守招致的死罪和宗泽对自己的庇护，岳飞就说服自己，留了下来。
然而，金军并没有进攻认真备战的汴梁，而是从东边绕开了这座都城，直扑扬州而去。