В 1938 г. родители Пензиаса, уроженцы Польши, были изгнаны из Германии нацистами. С 1940 г. Пензиас живёт в США. Изучал физику в нью-йоркском Сити-колледже (окончил в 1954г.) и Колумбийском университете (степень магистра - 1958 г., доктора - 1962 г.). С 1963 г. - сотрудник научно-исследовательских лабораторий компании Белл в Холмдейле, Нью-Джерси, в 1976-79гг. возглавлял там исследования в области физики радиоволн. С 1979 г. - директор-распорядитель всей программы исследований компании. Одновременно читал лекции в крупнейших университетах США и Западной Европы.

Пензиас вёл исследования в области физики микроволн, спутниковой радиосвязи, физики атмосферы, радиоастрономии, космологии и межзвёздного вещества. Важнейшее научное достижение Пензиаса - открытие (совместно с Р. В. Вильсоном) в 1956 г. фонового (реликтового) космического излучения и установление его физических параметров (спектра, температуры, изотропности и т. д.), что явилось экспериментальным подтверждением модели "горячей Вселенной" - космологической теории, связывающей современное состояние Вселенной с так называемым Большим взрывом. Это открытие было отмечено в 1978 г. присуждением Пензиасу и Вильсону Нобелевской премии по физике.

Пензиас - член Американской академии наук и искусств, Национальной АН США и многих зарубежных научных обществ и академий, а также почётный доктор ряда американских, западноевропейских и израильских университетов. Он неоднократно посещал Израиль - в частности, по случаю избрания его почётным доктором Университета Бар-Илан (Рамат-Ган) и Техниона (Хайфа). Пензиас принимал активное участие в борьбе за права советских евреев и был членом правления Объединённого совета в поддержку советского еврейства (США).
 

Имя Арно - немецкое уменьшительное от имени Арнольд, составленного из элементов arn - "орёл" и wald - "сила". Аллен - кельтское имя неясного происхождения. Фамилия Пенциас - немецкая, произошла, вероятно, от Пенцинга - пригорода Вены, Австрия.