Сол бросил Бруклин-колледж после нескольких месяцев учёбы, предпочтя заняться бизнесом. Он начинал с приобретения домов в Бруклине, продававшихся за долги во время Великой депрессии. Обычно он покупал дома за 500 долларов наличными, не прибегая к кредиту. Его стихией была купля-продажа недвижимости, в то время как его партнёр и друг Алекс ДиЛоренцо занимался управлением этой недвижимостью.

За десятилетия совместной работы партнёры создали империю, владевшую собственностью на сотни миллионов. Про Голдмана говорили, что у него лучшее в Нью-Йорке чутьё на недвижимость - он порой принимал решения по многомиллионным сделкам в течение минуты. Около 1955 г. партнёры перенесли центр тяжести своей деятельности из Бруклина в Манхэттен, а в 1960-м приобрели Крайслер-Билдинг, ставший флагманом их империи, и открыли в нём свой офис.

Но 1970-е стали трудным временем для торговли недвижимостью в Манхэттене - цены на дома упали, а их содержание подорожало. Голдману и ДиЛоренцо пришлось распродать значительную часть их собственности, в том числе и Крайслер-Билдинг, чтобы расплатиться с долгами по ипотечным ссудам. В 1975 г. Алекс умер от разрыва сердца прямо в офисе.

Оставшись в одиночестве, Сол занялся восстановлением былого могущества. Теперь он покупал осторожнее, старался поменьше прибегать к кредитам. Веря в ценность земли, он зачастую приобретал участки на Манхэттене, не сулившие быстрой прибыли. К середине 80-х он вновь стал крупнейшим частным домовладельцем Нью-Йорка - под его контролем находилось около 600 жилых и коммерческих домов.

Имя Сол - уменьшительное от  библейского имени Соломон. Фамилия Голдман происходит от немецких слов Gold - "золото" и Mann - "человек".