조선의용대 주력이 화베이로 떠난 후에도 김원봉은 본부 대원들과 함께 국민당정부가 있는 충칭에 남아 있었다. 당시 충칭의 상황은 김원봉에게 불리하게 돌아가고 있었다. 충칭에는 1940년 9월, 임시정부가 창설한 광복군 총사령부가 있었다. 김원봉을 후원했던 국민당정부의 관심과 지원은 서서히 임시정부와 광복군 쪽으로 기울기 시작했다. 광복군 창설을 계기로 중국정부는 광복군과 조선의용대의 통합을 종용해왔다. 화베이로 간 조선의용대가 공산당 부대인 팔로군에 합류했다는 소식이 전해지자 상황은 더욱 악화됐다. 임시정부는 조선의용대에 광복군 편입을 재촉했다. 공산당과 대치하고 있던 국민당 역시 김원봉을 점점 불신하기 시작했다. 공산당측도 필요에 따라 국민당, 공산당 양측과 모두 연대해왔던 김원봉의 행적 때문에 그를 깊이 신뢰하지 않는 눈치였다. 결국 충칭의 조선의용대는 광복군 제1지대로 개편되고 김원봉은 부사령에 임명됐다. 중국 국민정부가 인정한 최초의 한국인 부대였던 조선의용대의 수장으로 자신이 만든 군대를 이끌고 조국의 독립을 이루겠다던 김원봉의 꿈은 그렇게 미완으로 끝났다. 1942년 10월, 임시정부에 정식으로 참여한 김원봉은 경상대표의원직과 군무부장을 맡고, 임시정부 개혁과 독립운동에 다시 한 번 박차를 가한다.