제47대 국무총리. 대한민국 제16·17·18·20대 국회의원을 역임하였다. 김해김씨 경파(京派) 25세손으로 시조 김수로(金首露)의 75세손이다.

1958년 1월 21일 경상북도 상주시 오대동에서 아버지 김영룡(金榮龍)과 어머니 차숙희 사이에서 1남 3녀 중 장남이자 2대 독자로 태어났다. 대구중학교, 경북고등학교, 서울대학교 정치학과를 졸업하였고, 연세대학교 행정대학원 외교안보전공 석사 학위를 취득하였다.

젊은 시절 강경파 운동권이었다. 1978년 긴급조치 9호 위반, 김대중 내란음모 사건 등으로 대학 제적과 복학을 반복했다. 신림동에서 서점을 열기도 하고, 6.10 민주 항쟁 당시 명동성당 농성장에도 있었다.

1988년, 한겨레민주당에 입당하여 정치 활동을 시작했다. 1997년, 제15대 대통령 선거를 앞두고 통합민주당(한겨레민주당)과 신한국당이 합당하여 창당한 한나라당 소속이 되었다. 대학교 선배이자 멘토였던 제정구 의원이 사망하자, 그의 지역구인 경기도 군포시로 지역구를 옮겨, 2000년 제16대 국회의원 선거에서 당선되어 국회 입성에 성공하였다.

노무현이 제16대 대통령 선거에서 당선된 후인 2003년 8월, 이회창의 강력한 만류에도 불구하고 김영춘, 안영근, 이부영, 이우재 등과 함께 한나라당을 탈당하여 열린우리당 창당에 합류했다. 이후에도 경기도 군포시에서 17, 18대 연속으로 당선되어 3선 기록을 달성했다.

2012년, 제19대 국회의원 선거에서 지역주의 타파라는 기치를 내걸고 대구광역시의 수성구 갑으로 지역구를 옮기는 파격적인 행보를 벌였으나 새누리당 이한구 후보에게 밀려 낙선했지만, 40.4%라는 고무적인 득표율을 받았다. 2014년 전국동시지방선거에서 대구광역시장에 출마하여 낙선 하였으나 2016년 제20대 국회의원선거에서 대구광역시의 수성구 갑으로 출마하여 당선, 대구광역시에서 당선된 유일한 더불어민주당 의원이 되었다.

2017년 6월 15일 문재인 정부의 첫 행정안전부장관으로 임명되어 2019년 4월까지 역임했다. 2020년 4월 수성구 갑에서 21대 국회의원 선거에 출마하였으나 주호영의원에게 패배 하였다.

2021년 4월 문재인 정부의 세 번째 국무총리로 지명되었고, 2021년 5월 13일에 제47대 국무총리로 취임하였다. 2022년 5월 10일, 제20대 대통령으로 윤석열이 취임하고 2022년 5월 11일 퇴임 하였다.