Марк Хэрмон родился в Калифорнии. Полное имя - Томас Марк. Отец Марка Хэрмона был известным футболистом, лучшим игроком 1940 года, мать актриса - Элиза Нокс. У него две старшие сестры: старшая Кристин Нельсон, ставшая впоследствии художницей, и младшая Келли Хэрмон - фотомодель.
Изучал маркетинг и коммуникации в Калифорнийском университете в Лос-Анджелесе, который окончил в 1974 году с отличием. Играл в футбол, выступал за студенческую сборную. Марк Хэрмон - двукратный чемпион Небраска по футболу, обладатель Национальной футбольной премии 1973 года.
Дебютировал в кино и на телевидении в 1975 году. В ранних работах использовались яркие внешние данные актера, играл в основном полицейских и врачей. В 1977 году за небольшую роль в телевизионном фильме «Элеанор и Франклин: Годы в Белом доме» он был впервые номинирован на премию «Эмми».
В 1979 году Хэрмон играл одну из главных ролей, помощника шерифа, в сериале про полицейских «240-Роберт», в 1980 году снимался в мыльной опере «Фламинго-Роад». С1983 по 1986 годы играл врача в сериале о работе больницы «Сент-Элсвер». В 1987 году Хэрмон снялся в четырёх эпизодах комедийно-детективного сериала «Детективное агентство „Лунный свет“».
С 1991 по 1993 годы он играл полицейского в сериале «Обоснованные сомнения», его персонаж и героиня Марли Матлин были центральными в сериале. В 1996-2000 годах Хэрмон вновь играл роль врача в медицинской драме «Надежда Чикаго», в 2002 году - агента секретной службы в сериале «Западное крыло».
В 2003 году появился в сериале «Военно-юридическая служба» в роли специального агента службы криминальных расследований ВМС США Лероя Джетро Гиббса, в том же году начался показ сериала «Морская полиция: Спецотдел», в котором этот герой в исполнении Хэмона является одним из центральных.
Марк часто снимался в кино, но в основном это были роли второго плана. Также он играл в театральных постановках, в том числе вместе со своей женой. С 1995 года выступает как продюсер и режиссер отдельных сезонов телесериалов со своим участием. 21 марта 1987 года Хэрмон женился на актрисе Пэм Доубер.
У них двое детей: Шон (1988 г. р.) и Тай Кристиан (1992 г. р.).
