Герман был одним из семи детей в семье евреев - иммигрантов из Российской империи. Он прибыл на остров Эллис один в 1911 г. Согласно переписи населения штата Нью-Йорк 1915 года, Герман был по профессии пекарем, его семья проживала в Бруклине и все члены семьи не имели американского гражданства. Когда два года спустя Герман заполнял регистрационную форму, он написал, что подал прошение о получении гражданства. Он также просил освобождения от призыва, потому что его семья нуждалась в его финансовой поддержке. В январе 1918 г. Герман был призван в армию США. Он служил рядовым в роте "E" 308-го полка 77-й пехотной дивизии с апреля 1918 г. до своей смерти от тяжёлых ранений, полученных в ходе боевых действий. Посмертно награждён медалью "Пурпурное сердце", похоронен на американском военном кладбище Уаз-Эйн в Серенж-Э-Нель на севере Франции. В 1930 г. его мать за счёт правительство США посетила место последнего упокоения своего сына.

Имя Герман восходит к латинскому Germanus - "близкий, родной". Фамилия Россман произошла от идишской формы еврейского женского имени Рахель.