Семья Меркина бежала из Германии от нацистских преследований и прибыла в Нью-Йорк в 1940г. Вскоре по приезде Германн вступил в Армию США, служил офицером разведки и контрразведки. После войны он основал инвестиционную фирму Merkin & Company и много лет работал на Нью-йоркской фондовой бирже. Но основное богатство ему принесли 37% акций компании Overseas Shipholding Group, владевшей вторым в мире по величине флотом нефтяных танкеров.

Меркин был глубоко верующим ортодоксальным евреем. Он и его отец были в числе основателей Синагоги Пятой Авеню в 1958 г., и Германн стал её первым президентом. Более 30 лет он был членом Попечительского совета Университета Ешива, одно время - председателем этого Совета. В Ешиве Меркин основал и профинансировал кафедру имени его отца и колледж Isaac Breuer College of Hebraic Studies в память о его тесте Айзеке Брёйере. Награждён почётной докторской степенью Университета Бар-Илан в Израиле (1980).

Германн и его жена Урсула были спонсорами Концертного зал "Меркин", больницы Маунт-Сайнай, организации Реут, помогающей израильским старикам, и других еврейских благотворительных организаций. У них было шестеро детей, три сына и три дочери, среди них - известный бизнесмен Джейкоб Эзра Меркин и писательница Дафна Меркин.

Имя Герман восходит к латинскому Germanus - "близкий, родной". Фамилия Меркин произошла от идишской ласкательной формы библейского имени Мирьям.