Мелвин окончил школу Бронкс-Сайенс и в 1949 г. поступил в Колумбийский университет на физический факультет, возглавлявшийся в то время Айсидором Раби. В 1956-58 гг. работал в Брукхейвенской Национальной лаборатории. В 1958 г. Шворц становится ассистентом профессора, в 1963-м - профессором Колумбийского университета. В 1966-83 гг. работал в Стэнфордском университете, в 1983-91 гг. возглавлял компанию "Digital Pathways", в 1991-97 вновь в Коламбии и Брукхейвене. Был членом Фонда Гуггенхайма.

Совместно с Л. Ледерманом и Дж. Стайнбергером Мелвин Шворц разработал и осуществил в лаборатории Колумбийского университета физический эксперимент, в ходе которого нейтрино впервые был получен не в космических лучах, а в лабораторных условиях. Продолжая совершенствовать технику экспериментов с нейтрино, учёные открыли существование двух различных видов нейтрино и антинейтрино - электронного и мюонного, что значительно расширило представления о строении вещества.

Мелвину Шворцу принадлежит честь открытия сигма-ноль-гиперона и пиония, а также экспериментальное доказательство несохранения чётности в распаде гиперонов. В 1988 г. Шворц, совместно с Ледерманом и Стайнбергером, был удостоен Нобелевской премии по физике.
   

Английское имя Мелвин произошло от выражения на нормандском французском, означающего "плохой город". Фамилия Шварц произошла от идишского слова шварц, которое означает "чёрный".