Семья Мартина бежала из Австрии от нацистов в США. Карплус получил степень бакалавра в Гарвардском университете в 1950 г. После этого он работал с Лайнусом Полингом в Калифорнийском технологическом институте, где в 1953 г. получил докторскую степень. В 1953-55 годах Карплус работал в Оксфордском университете (постдокторат), затем преподавал в Иллинойском университете. В 1960-67 Карплус работал в Колумбийском университете, с 1967-го - профессор химии в Гарварде.

Исследования Карплуса затрагивали такие разделы науки, как физическая химия, ЯМР-спектроскопия (спектроскопия ядерного магнитного резонанса), химическая кинетика, квантовая химия и, в первую очередь, метод классической молекулярной динамики применительно к моделированию биологических макромолекул. Он проводил также исследования спин-спинового взаимодействия и ЭПР.

В честь Карплуса названо уравнение, описывающее корреляцию между константой взаимодействия и двугранным углом в ЯМР-спектроскопии белков. В последние годы Карплус занимался исследованиями свойств молекул биологических объектов. Его группа разработала программу CHARMM применительно к методу классической молекулярной динамики.

Карплус является членом Международной академии квантово-молекулярных наук и Фонда Гуггенхайма. С 1955г. он подготовил более 200 учёных в Иллинойсском, Колумбийском и Гарвардском университетах. В 2013 г. Карплус совместно с Арье Варшелем и Майклом Левиттом был удостоен Нобелевской премии по химии "за создание многоуровневых моделей сложных химических систем".
 

Имя Мартин - английская форма римского имени Martinus, происходящего от имени бога войны Марса. Карплус - еврейская фамилия, известная с 1787 года, значение не установлено.