대한민국의 공무원, 정치인이다. 김충립 전 기독자유민주당 대표가 그의 친형이다.

1954년 경상북도 봉화군 봉성면 창평리에서 태어났다. 봉화 동양초등학교, 휘문중학교, 경복고등학교, 서울대학교 사회과학대학 정치학과, 서울대학교 행정대학원 석사, 서울시립대학교 사회복지학 석사 및 동 대학원 도시행정학 박사 과정을 졸업, 수료하였다.

1978년 행정고시에 합격하여 공무원으로 근무하였다. 이후 주로 서울특별시청에서 근무하였다.

1991년 대한민국 국회 정책연구위원이 되었다가 같은 해 치러진 1991년 지방선거에서 꼬마민주당 후보로 서울특별시의회 의원 선거에 출마하여 당선되었다.

1995년 제1회 전국동시지방선거에서 민주당 후보로 서울특별시 강동구청장 선거에 출마하여 당선되었다. 이 때부터 이부영과 인연을 맺었고 1997년 통합민주당이 신한국당에 합당하자 한나라당 소속이 되었다. 1998년 제2회 전국동시지방선거, 2002년 제3회 전국동시지방선거에서는 한나라당 후보로 강동구청장 선거에 출마하여 당선되었다.

2003년 이부영이 한나라당을 탈당하여 열린우리당에 입당하였으나 따라가지 않았다. 2004년 구청장직을 사임하고 제17대 국회의원 선거에서 한나라당 후보로 서울특별시 강동구 갑 선거구에 출마하여 열린우리당 이부영 후보를 꺾고 당선되었다.

2008년 제18대 국회의원 선거에서 한나라당 후보로 같은 선거구에 출마하여 당선되었다. 2009년 초 설날 연휴를 앞두고 지역구에 멸치 선물세트를 돌리다가 공직선거법 위반으로 서울 강동구 선거관리위원회에 적발되었다. 이후 2011년 당선무효 완화법을 발의했다가 물의를 빚었다.

2012년 제19대 국회의원 선거에서 새누리당 후보로 인접선거구인 강동구 을 선거구로 출마하려 하였다. 그러나 비례대표 국회의원 정옥임에게 밀려 공천받지 못하였다.

2017년 자유한국당 서울 송파구 갑 당협위원장에 임명되었으나, 2018년 1월에 바른정당을 탈당한 현역 국회의원 박인숙이 자유한국당으로 복당함으로써, 당협위원장직을 박인숙에게 내줘야만 했다.

2020년 21대 총선 자유한국당 예비후보로 등록하였으나 명성교회 세습 반대를 하던 단체 회원들에게 낫을 휘두르면서 폭언을 한 이력 때문에 공천을 받을지는 미지수이다. 공천을 받는다면 진선미와 1대 1 대결이 예상된다. 그러나 이수희 변호사가 전략공천되면서 이번에도 공천을 받지 못했다.

대신 21대 총선에서는 신동우와 함께 미래통합당 이수희 후보의 총괄선거대책본부장을 맡아 선거를 지원하였다. 그러나 이수희 후보 역시 3.8%차이로 낙선.[5]

2019년 6월 17일 명성교회의 세습을 비판하는 현수막을 걸고 있던 교회개혁평신도행동연대 관계자들에게 달려들어 낫을 휘둘렀다. '죽여버리겠다' 라며 약 2~3분간 낫을 휘두르다 경찰에게 제압당했다. # 이에 김 전 의원은 '이는 상대방의 일방적 주장이다. 단지 현수막을 자르기 위해 낫을 사용했을 뿐이며, 죽여버리겠다고 말한 사실이 없다. 현수막을 훼손한 데 대한 책임은 지겠다.' 라고 밝혔다. 현재 명성교회의 장로다.

추가로 서울 강동구의 모 아파트에 거주 중인데 21대 국회의원 미래통합당 예비후보로 활동 중 본인이 거주 중인 아파트 경비원에게 자기 사무실까지 짐을 나르라는 갑질을 하였다. 김의원은 "갑질을 한 사실이 없으며 짐을 나를 때 경비원이 자발적으로 도와준 것이다. 본인에게 확인한 바 자발적으로 도운 것이며 이런 말을 하는 사람이 누구인지 이해할 수 없는 말"이라고 대답하였다.

||<tablealign=center><rowbgcolor=#E61E2B> 연도 || 선거 종류 || 소속 정당 || 득표수 (득표율) || 당선 여부 || 비고 ||