조선 말기의 대신. 자는 심원(心源). 호는 기원(杞園). 좌참찬 존혁(存赫)의 아들이다. 1874년(고종 11) 9월 무과에 급제, 1883년 기기국위원(機器局委員), 선전관, 훈련원판관, 희천군수 등을 역임하였다. 1887년 군기(軍器) 시찰 및 무역업무를 겸하여 상해(上海), 홍콩 등지를 돌아보고 오는 길에 일본의 대판(大阪), 동경(東京) 등에 가서 포병공창(砲兵工廠)을 견학하기도 하였다. 귀국 후 청일 양국으로부터 군기를 사들이고, 또 양국의 문명을 참작하여 이를 실지로 시행한 바 있다. 1888년에 연무공원참리사무(鍊武公院參理事務)를 지내고, 1891년 경상도광무감리(慶尙道鑛務監理)가 되었다. 1894년 동학농민군의 봉기 때에는 초토사(招討使) 홍계훈(洪啓薰), 양호순변사(兩湖巡邊使) 이원회(李元會) 등의 출진에 따른 군량 등 제반물자를 보급, 준비하여 파송하였다. 또한, 그해 5월 청나라 청원설(請援說)이 자자할 때 '청병이 우리나라에 오면 동아(東亞)의 소요가 일어날 뿐만 아니라 열강의 간섭이 심해져 나라의 기초가 위태롭게 된다. '면서 청나라 병사의 우리나라 파견은 불가하다고 품주하여 그 불가함을 거듭 극간하였다. 이어 갑오개혁이 이루어지자 개화당의 중견으로 장위사(壯衛使)에 등용되어, 군국기무처의 회의원을 겸하였다. 또 제1차 김홍집(金弘集) 내각의 군무대신서리에 승진되었다. 다시 제2차 김홍집 내각의 군무대신 및 부장(副將) 으로, 1895년 2월 청일전쟁의 전승(戰勝)일본군을 위문하기 위한 정부대표로 우장(牛莊)으로 파견되었다가 내무대신 박영효(朴泳孝) 와의 알력으로 해임되었다. 또한, 그해 12월 을미사변의 책임을 지고 군부대신 안경수(安○壽)가 물러나자 다시 제3차 김홍집 내각에 들어가 군부대신이 되었으나, 이듬해 아관파천 때 역적으로 몰려 체포령이 내리자 1896년 1월 유길준(兪吉濬), 장박(張博) 등과 함께 일본으로 망명하였다. 1897년 이후 일본에서 육군참모차장 가와카미(川上操六)와 만나 상의하여 나고야(名古屋), 대판, 요코스카(橫須賀), 히로시마(廣島) 등지에서 군사적인 시설과 실습을 참관 혹은 시찰하고 1899년에는 북해도에 가서 척식경영(拓殖經營)을 목격하는 등 전후 10년간 주유(周遊)하였다. 1907년에 귀국하여 그해 10월 궁내부특진관, 1909년 표훈원총재(表勳院總裁)를 역임하고 1910년 숭정대부(崇政大夫) 종1품, 훈1등에 태극장(太極章)을 수여받았다. 그해 8월에 나라가 일제에 의하여 병탄되자 일본정부로부터 남작의 작위를 받았으나 얼마 되지 않아 곧 반납하는 자세를 취하였다. 그러나 제일급 친일파들로 구성된 조선총독부 중추원고문에 임명되기도 하였다.