김무연(金武然)은 김기모(金璣模)와 안동권씨(安東權氏) 사이에서 1921년 경북 안동에서 둘째아들로 태어났다.종숙부(從叔父) 김진모(金震模)에게 입양되었다.호(號)는 유당(留堂)이다.안동농림학교(현 한국생명과학고등학교) 일본 다쿠쇼쿠대학 전문부를 졸업하였다.국방대학교 행정학사 1기이며 국방대학원 행정학 석사과정을 수료하였다.
문경군수 영덕군수 금릉군수를 거쳐 경북도청 상공국장을 지낸뒤 1966년 대구부시장에 취임했다. 이후 경북도청내무국장 기획관리실장을 지내고 1970년 민주공화당 경북도지부 사무국장으로 갔다가 1971년 경북두부지사 1974년 대구시장에 취임했다.
1978년 강원도도지사로 갔다가 그해 다시 경북도지사로 1981년에는 부산시장에 취임했다.
1983년 안동문화방송사장 1986년 대구문화방송사장을 역임했다.