Соларз окончил бруклинскую школу Мидвуд в 1958 г., получил степень бакалавра в Университете им. Брандайса в 1962-м и степень магистра права в Колумбийском университете в 1967-м. В 1967-68 гг. преподавал политические науки в Бруклин-колледже. Участвовал в движении против войны во Вьетнаме. В 1968 г. был избран в Законодательное собрание штата Нью-Йорк, в 70-м и 72-м переизбран. В 1974 г. был впервые избран в Конгресс США и затем восемь раз переизбирался.

В 1980 г. Соларз возглавил Азиатско-Тихоокеанский подкомитет Комитета по международным отношениям Конгресса. Он был первым американским политиком, посетившим КНДР и встретившимся с Ким Ир Сеном; поддерживал Бениньо и Корасон Акино в их борьбе с филиппинским диктатором Маркосом; дважды, в 82-м и 86-м, встречался с иракским диктатором Саддамом Хусейном.

Соларз пробыл на посту конгрессмена до января 1993 г. В результате переписи населения 1990-го года его избирательный округ был расформирован. После отставки он занимал различные посты в испонительном комитете Международной кризисной группы и в Национальном демократическом институте международных отношений, был сопредседателем (вместе с Збигневом Бжезинским)  Американского комитета за мир на Кавказе. В 2011 г. вышла в свет его автобиография. Умер от рака горла.

Имя Стивен - от греческого Stephanos, означающего "корона". Имя Джошуа - английская форма библейского имени Иехошуа, означающего "Яхве - спасение". Фамилия Солаж (Соляр) означает по-польски "продавец соли".