Милграм вырос в семье евреев - иммигрантов из Венгрии. Получил степень бакалавра инженерного дела в нью-йоркском Сити-колледже в 1950 году. Работал в нескольких компаниях в Нью-Джерси, занимавшихся водоснабжением и канализацией, в т.ч. Elson T. Killam Association и Sidney M. Johnson & Assocs. Занимал должность инженера-консультанта в Monmouth County Bayshore Outfall Authority - агентстве, занимавшемся очисткой заливов Рэритэн и Сэнди-Хук.

Имя Отто происходит от германского корня aud - "богатство". Фамилия Мильграм происходит от идишского слова мильгром, которое означает "гранат" (фрукт).