1361년 홍건적이 개경을 침공하자 이를 수복한 공으로 1363년에 이등공신이 되었다. 1376년(우왕 2) 공주목사로 있을 때 공주에 들어온 왜구를 정현(鼎峴)에서 맞아 싸우다가 패하였으나, 그뒤 여러 차례에 걸쳐 충청도와 전라도에 침입한 왜구를 무찔러 전공을 세웠으며, 1380년에는 전리판서(典理判書)로서 양광도 도순문사(楊廣道都巡問使)가 되었으며, 이어 양광도원수가 되어 부여와 계룡산 일대에 침입한 왜구를 격퇴하였다. 1385년에는 양광도상원수가 되어 축산도(丑山島)에 침입한 왜구를 격파하고, 지문하사(知門下事)가 되었다. 시호는 충절(忠節)이다.
1361년 홍건적이 개경을 침공하자 이를 수복한 공으로 1363년에 이등공신이 되었다. 1376년(우왕 2) 공주목사로 있을 때 공주에 들어온 왜구를 정현(鼎峴)에서 맞아 싸우다가 패하였으나, 그뒤 여러 차례에 걸쳐 충청도와 전라도에 침입한 왜구를 무찔러 전공을 세웠으며, 1380년에는 전리판서(典理判書)로서 양광도 도순문사(楊廣道都巡問使)가 되었으며, 이어 양광도원수가 되어 부여와 계룡산 일대에 침입한 왜구를 격퇴하였다. 1385년에는 양광도상원수가 되어 축산도(丑山島)에 침입한 왜구를 격파하고, 지문하사(知門下事)가 되었다. 시호는 충절(忠節)이다.
1382년 12월 20일 사망하고 김사혁의 묘는 충북 진천군 백곡면 석현리 와곡에 있다.