Родители Эйбрахама иммигрировали из Баварии в 1837 г. Эйбрахам был слабого здоровья и мечтал стать скрипачом. С 14-ти лет он начал работать в торговой фирме в Ньюарке за 1 доллар в неделю (вместе с ним там работал Бенджамин Олтман). Когда началась Гражданская война, Эйбрахам убежал в Чикаго, чтобы вступить в армию северян, но отец привёз его обратно. В 1865 г. вместе с партнёром, Джозефом Векслером, Эйбрахам открыл большой универсальный магазин на Фултон-стрит в Бруклине. Компания, позднее превратившаяся в “Эйбрахам и Страус”, открыла сеть подобных магазинов и процветала в течение десятилетий. Эйбрахам был также видным филантропом, в частности, основал Бруклинскую еврейскую больницу и был её президентом. Был также директором Бруклинского института искусств и наук, попечителем Фонда барона де Гирша.

Имя Эйбрахам - английская форма библейского имени Авраам. Фамилия происходит от того же имени.