他接受施琅的建议，率领精兵五百余人，趁着中秋的月色，袭占郑彩与郑联的厦门。这一晚，郑联醉卧在黄石岩，郑彩则早已带了兵去浙江，帮鲁王打仗。事后，郑联、郑彩均接受既成事实，把地盘与军队交了给他。(郑鸿逵此时，事先也已经把金门交给了郑联。)于是金门和厦门都成了郑成功的根据地。
他把已有的与新并的军队重新编组，成立前、后、左、右、中五军，自领中军，甘辉等人分领其余四军，加紧操练，计划大举。次年，永历五年(顺治八年)，郑成功带兵去打广州，想援救困守在南宁的永历皇帝。他把兵运到虎门，听说清军已在夺取他的厦门根据地，只得回师。
清军果然已经来过厦门，把厦门的守将郑芝莞吓走。但是，在郑成功未曾回到以前，郑鸿逵和施琅也已经赶来，打退清军。这一年年底，郑成功克复漳浦；第二年春天，拿下海澄、平和、诏安。
永历七年(顺治十年)三月，他派兵帮助鲁王的大将张名振，由祟明溯江而上，打到镇江，在金山寺遥祭明太祖。鲁王这时候已经在鹭门(厦门)住了两年，极愿与他合作，因此而放弃监国的名义，和他一样地接受永历皇帝的号令。
张名振在永历八年(顺治十一年)又攻进长江一次，而且打到南京郊外的燕子矶。可惜，约好了的各地义兵未能及时响应，张名振又只得撤回，回到三门湾的南田岛，赍恨而死；死时，把军队交给了张煌言。
这一年，郑成功克复了漳、泉二府。
永历九年(顺治十二年)，他又打下了广东的揭阳与普宁。清朝派济尔哈朗的儿子济度，领了重兵南下。郑成功采取坚壁清野的政策，毁掉安平堡，与漳州、惠安、南安、同安这几个县的城墙，退守厦门、金门。
永历十年(顺治十三年)四月，济度的军队渡海来攻厦门、金门，一连败了两仗。
永历十一年(顺治十四年，l657年)年底，永历晋封郑成功为延平郡王，拜为招讨大将军，叫他“进取江南，伸大义于天下”。次年，他率领五万水师、五万步兵、五万骑兵，两万披了铁甲、带了铁面罩的“铁人”，沿着福建、浙江海岸，向北航行，在舟山群岛驻扎。
永历十三年(顺治十六年，l659年)五月，郑成功再从舟山出发，经过崇明岛，进入长江，冲破清军的封江铁链，一举打下瓜州，随即攻破镇江，在七月一日占领江浦，兵临南京城下。
清朝的芜湖官吏，不等到郑军去，便送来降书。郑成功派张煌言去芜湖，守住这个位于南京之西的沿江重镇。他自己则留在南京城外，攻城。
清朝守南京的是(两江)总督郎廷佐。此人十分狡狯。他派人向郑成功说：“我一定投降，但是须先假装守城。按照清朝的军法，如果我守满三十天，留在北京的家眷就可以免掉连带治罪。请你给我三十天的限期。”
郑成功心慈，允准了郎廷佐三十天的限期，不仅暂不攻城，而且没有把南京好好地包围起来。
于是，功亏一篑，让郎廷佐调来救兵，公然接进了城。
郑成功与他的八十三营军队，在城外静候三十日的限期期满，兵不血刃，开进高皇帝(明太祖)所奠定的雄都。
最后，不幸的事终于发生。
七月二十一日夜晚，清军拆坏神策门旁的城墙，由城墙的洞里突然出来，冲到郑军在白土山的营垒，将先锋余新活捉。
第二天黎明，在郑军尚在烧锅造饭之时，清军由喀喀木、梁化风、管效忠等人率领，分成几路，开了城门出来，把郑军压迫到长江边。郑军全部溃败，被杀死几万；来不及上船，死在水里的也很多。大将甘辉、张英与几十个其他将领，一齐阵亡。
郑成功率领残余部队，一口气撤回厦门。那时候，张煌言还守住芜湖，并且已经收复了徽州、宁国、太平、池州四个府；广德、和州、无为三个州；当涂、繁昌、宣城等二十三个县。郑军既退，张煌言孤立无援，被清军击败，只身逃至安庆。由安庆逃至江西，由江西逃回浙江天台，招集旧部，取了林门岛与桃渚岛，以等候郑成功的消息。
次年，永历十四年(顺治十七年)，清朝的福建总督李率泰与将军达素，在五月间大举向厦门猛扑，想把郑成功彻底解决，结果被郑成功杀败，清军死了十分之六七，达素自杀。
永历十五年(顺治十八年，l661年)正月，郑成功留下十八岁的儿子郑经守住金、厦两岛，自己带兵去取台湾。这时候，荷兰的“东印度联合公司”已经偷占台湾三十八年之久，在台南筑了坚固的“塞兰狄阿”(安平城)与赤嵌堡。郑成功前来攻打，打到年底，荷兰的守军投降。郑成功准他们在司令揆一的统率之下，登船回国。