백제의 수도를 점령한 소정방은 귀국을 서둘렀다. 10만 이상의 병사들을 먹일 식량을 약탈의 방법만으로 조달하기에는 백제 주민들의 저항이 너무 거세었을 뿐 아니라 고구려의 침입에 대비도 해야 했기 때문이었다. 더구나 신라에서 오는 식량 수송도 곳곳에서 들불처럼 일고 있는 의병들의 공격으로 불가능했던 것이다. 9월 3일 소정방은 의자왕 및 태자 효, 왕자 태, 융, 연(演) 및, 대신, 장사(將士) 88명과 백성 1만 2,807명을 압송하여 당의 수도 장안으로 돌아갔다. 소정방의 귀국길에는 신라 왕자 김인문 등이 동행하였다. 당시 백제에는 5부(部), 37군(郡), 200성(城), 76만여호(戶)가 있었는데 당은 웅진, 마한, 동명
(東明), 금련(金漣), 덕안(德安)의 5도독부를 설치하고, 유인원으로 하여금 군사 1만을 주어 도성을 지키게 하였다. 한편 신라는 왕자 김인태에게 7천의 군사를 주어 사비성에 남겨두고 철수하였다.
당의 주력군이 철수하자 백제는 전열을 가다듬고 사비도성을 공격하기 시작하였다. 이후 3년 동안 동안 나당군을 백제 땅에서 몰아내기 위한 치열한 싸움이 전개되는데, 이 시기를 이끈 중심 인물은 부여복신(夫餘福信)이었으며 근거지는 주류성이었다. <구당서>의 기록을 보자.
복신은 무왕의 조카로 의자왕의 사촌동생이다. 성충이 상좌평으로 있을 때 서부은솔이 되어 임존성을 견고히 수리하고 식량을 비축하는 등 훗날에 대비하다 임자의 참소를 만나 벼슬을 내놓고 있었다.
복신의 전략은 오랜 전쟁에 국력이 피폐해진 신라와 많은 군사를 보내 식량이 부족해진 당이 소수의 군사만 남기고 철수할 것이므로 요새에 웅거하여 지키고 있다가 일시에 일어나 사비성을 수복하자는 것이었다. 또한 나당동맹에 대항하여 고구려, 일본과 함께 연합전선을 편다면 국제정세는 반드시 불리한 것만도 아니라고 판단했다. 그리하여 그는 흩어진 백제의 힘을 규합하고 왕자를 새로 세워 광복의 기치를 높이 들면 충분히 국가를 재건하리라 확신하였다. 복신은 무왕28년(627년) 백제왕의 전권 사신으로 당에 들어가 당태종을 만나는 등 국제 정세에도 밝았다.
복신은 9월 23일 사비성을 향해 진격하였다. 그의 목표는 항복한 백제군사를 되찾아오는 것이었다. 백제군은 사비성의 남령(부여 금성산)에 올라 4~5개의 기지를 세우고 그곳에 둔취하여 기회를 보며 사비성을 공략하였다. 이에 유인원의 약탈에 시달리던 백제 사람들의 당에 대한 적대의식이 고조되어 20여성이 복신의 부흥군에 호응하였다. 이로써 사비성은 외부와 고립되고 나당군은 위기에 빠졌다. 이 시기에 위기에 처한 사비성에 있는 당군의 상황이 당장(唐將) 설인귀에 답하는 문무왕의 글에 잘 나타나 있다. 굶주린 당군은 인육까지 먹었던 것이다.
이에 당고종은 좌위중랑장 왕문도(王文度)를 웅진도독으로 임명하여 백제로 보내고 신라 무열왕은 직접 사비성으로 향하였다. 이들은 삼년산성(지금의 충북 보은)에서 합류하였다. 왕문도가 갑자기 병을 얻어 급사하자 무열왕은 태자 김법민과 함께 10월 9일 이례성(지금 부여의 동남쪽)을 공격하여 10월 18일 함락시키고 사비성 남쪽 백제군의 군책을 공격하여 깨뜨렸다. 이 무렵 복신은 좌평 귀지를 왜에 보내 그동안 포로로 잡은 당군 1백여명을 보내고 왜에 체류하고 있던 의자왕의 왕자 풍(豊)을 보내줄 것을 요구하였다. 무열왕은 11월에 다시 왕흥사잠성(지금의 울성산성)을 공격하여 사비성의 당군을 구원한 후 신라로 돌아갔다.
11월 22일에 신라왕은 전공을 논하고 상벌을 내렸는데 백제의 좌평 충상, 상영, 달솔 자간에게 일길찬의 직위를, 은솔 무수와 인수에게는 대내마의 직위를 내려 백제에 유화책을 실시하기도 하였다.
무열왕의 친정에 크게 패한 복신의 부흥군은 주류성으로 물러나 도침과 힘을 합쳐 전열을 정비하며 세력을 키워나갔다. 도침(道琛)은 승려 출신의 부흥군 지도자로 사원 조직을 기반으로 병력을 거느리고 있었다. 외곽에서 복신을 돕다가 복신이 패하자 복신과 주류성에서 합류한 것으로 보인다.
661년 2월 복신은 북쪽의 임존성과 호응하여 사비성을 포위하고 공격을 재개하였다. 부흥군은 진현성을 수복하고 당군 1천명을 섬멸하였다. 사태가 이에 이르자 당고종은 왕문도의 후임으로 유인궤(劉仁軌)를 검교대방주자사(檢校帶方州刺史)에 임명하여 백제로 급파했다. 복신은 유인궤가 온다는 정보를 입수하고 웅진강구에 두 책을 세우고 당의 유인궤를 맞았다. 부흥군은 유인궤의 당군이 사비성의 유인원과 합세하는 것을 막고자 총력을 다하였으나 신라군이 합세한 나당 연합군에게 패하여 1만여명의 사상자를 내고 말았다.
임존성과 주류성으로 물러난 부흥군은 다시 대오를 정비하였다. 양식이 떨어진 신라군이 철수하자 부흥군은 다시 사비성을 향해 포위해 들어갔다. 이 무렵의 상황을 <삼국사기> 백제본기의 기록을 통해 알아보자.
위기에 처한 당군은 본국에 급보를 보내 구원을 청하였다. �이에 당고종은 신라왕에게 조서를 내려 출병을 요청하기에 이르렀다.
