百济毕竟是立国六百多年的国家，不认同唐朝的人大有人在。没过多久，百济各地兵锋四起。其中实力最强的，当数道琛和福信率领的军队了。他们联系上倭国（也就是后来的日本），想要接回在倭国的王子扶余丰，让他继承王位。为此，倭国特意派遣5000士兵护送扶余丰前往百济。这应该是日本投入到这场战争中的第一支军队（关于当时日本的情况，后面会详细介绍）。
由于此时唐朝的大军已经班师回朝，只留下少量驻军驻扎在百济，根本无力控制局势，最后只得在中郎将刘仁愿的带领下，坚守熊津都督府（也就是原百济都城）。至此，唐朝已经失去了对百济的控制。第二阶段，天佑大唐，唐朝的绝地反击就在百济局势危急之时，一个人的出现，彻底扭转了局势。这个人就是刘仁轨。这刘仁轨是个地地道道的文臣，一辈子没上过战场。
但是在唐朝初期，由于战乱频繁，不仅武官懂得带兵打仗，就连文官也要学习很多军事知识，以备不时之需。这刘仁轨，你让他上阵杀敌，那是为难他了。但是让他制定战略，指挥作战，他却绰绰有余。为了挽救在百济独守孤城的唐军，刘仁轨临危受命，率领在新罗的部分唐军，会同新罗军队，前去支援熊津都督府。很快，百济方面便察觉到唐军的意图，于是在熊津江口设置重兵布防。
然而，唐军为了救自己的袍泽兄弟，可谓是士气高涨，再加上刘仁轨指挥得当。百济军队的防线像纸糊的一样，被唐军打得溃不成军。此战，唐军杀敌过万。正在围攻熊津都督府的道琛得到消息后，吓得连夜撤军，熊津都督府之围就这么解除了。而与此同时，为了支援刘仁轨的行动。唐高宗下旨，水陆并进，攻打高句丽。在他看来，百济之所以会降而复叛，是因为有高句丽在后面撑腰。
只有消灭了高句丽，才能彻底解决百济的问题。唐军一度进展顺利。走水路的部队，甚至一度兵临高句丽的都城，将其围了个严严实实。然而陆路方面却出了问题，还是老问题，战线太长，补给跟不上了。这也就是当初唐太宗为何要大力发展海军的原因，因为他意识到，想消灭高句丽，走陆路是行不通的。然而，仅凭一路军队，不足以攻下高句丽的都城。
毕竟高句丽专业挨打几十年，早被打出经验了，其都城的城防在当时估计属于顶级了。由于久攻不下，徒增伤亡，最终唐军只得撤军。虽然这次作战没能取得预期结果，但是高句丽也元气大伤，一时半会是没法掺和百济的战事了。战事到了这一步，折腾了这么久，徒劳无功。换成其他皇帝，肯定要投入更多兵力，就为争个面子。然而，此时唐高宗已经动了从百济撤军的打算。
