김상옥 의사는 종로경찰서 폭파 이후 여동생의 집이 있던 삼판동으로 몸을 피했다. 김상옥 의사가 삼판동에 몸을 숨긴 또 다른 이유는 사이토 마코토 조선총독을 서울역에서 저격, 암살하기 위해서였다. 1월 17일 사이토 총독 암살 거사일 새벽 5시, 김상옥 의사와 일본 경찰 사이의 총격전이 벌어진다. 김상옥 의사는 총독 암살 거사를 실현하지 못한 채 다급히 남산으로 몸을 피해야만 했다. 그는 200여 명의 일본 경찰의 집요한 추격을 따돌리면서 종로구 효제동으로 돌아왔다. 효제동은 어린 시절 친구이자 정보 연락책을 맡았던 동지 이혜수의 집이 있었다. 이혜수는 애국부인회를 조직하고 애국지사들의 비밀연락을 맡아 활동한 여성 독립 운동가였다. 효제동에 몸을 숨긴 김상옥은 비밀리에 동지들을 만나 일본 경찰들의 움직임을 살핀다. 1923년 1월 22일 새벽, 경찰과 군인 1,000여 명이 이혜수의 집을 포위했다. 3.1운동 이래 최대 규모의 일본 경찰이 동원된 총격전에서, 김상옥 의사는 홀로 일본 경찰을 사살하고, 총 16명에게 총상을 입힌 뒤 마지막 총알 한 발로 자결한다. 김상옥 의사의 나이 서른넷이었다.