청소년기의 꿈인 체육교사가 되기 위해 마라톤과 기계체조를 했지만 부모의 반대로 체대 진학이 좌절된 후 1년간 연기공부를 하고 서울예전 영화과에 입학했다. 1998년 god '어머님께' 뮤직비디오에 출연하면서 데뷔, 리틀 정우성이라는 별명을 들으며 얼굴을 알리기 시작했다. 연기는 SBS 드라마 <모델>이 첫 드라마 데뷔작이며 1999년 <학교>를 통해 많은 인기를 누렸다.
영화 <짱>으로 스크린에 데뷔한 이후 <화산고>, <정글쥬스> 등에 출연하는 등 브라운관과 스크린에서 초반에는 주로 반항아적인 이미지를 많이 연기했다. 그러나 장혁은 드라마 <명랑소녀 성공기>, 영화 <영어완전정복>, <내 여자친구를 소개합니다>를 통해 코믹하거나 로맨틱한 모습 등 다양한 연기를 선보였고, 드라마 <대망>으로 사극에도 도전했다.
병역비리와 관련해 갑자기 입대를 하게 되어 이미지에 큰 타격을 입었지만, 제대한 이후 드라마 <고맙습니다>에서 겉은 무뚝뚝하지만 속은 따뜻한 '민기서' 역으로 성숙한 연기로 감동을 주며 화제를 모았고 재기의 발판을 마련했다. 그리고 2009년 KBS 드라마 <추노>에서 완전히 물 오른 연기력으로 추노꾼 '이대길'을 연기하며 남성적인 매력과 절절한 감정연기로 많은 사랑을 받았다.