Билли Джоэл вырос в Хиксвилле на Лонг-Айленде, в небогатой еврейской семье. В детстве он участвовал в уличных драках и мечтал стать боксёром. Но после 22 боёв он отказался от спорта из-за сломанного носа. Он не получил диплома средней школы, не добрав одного "кредита" до требуемого количества, так как с 16 лет играл в группе "The Echoes" и собирался стать профессиональным музыкантом.

С 1967 г. Джоэл играл в группе "The Hassles", затем в дуэте "Attila", который распался после того, как Билли отбил жену  у товарища по дуэту, ударника Джона Смолла. В 1960-х годах Джоэл играл в ночных клубах, а в ноябре 1971 года выпустил первый сольный альбом, "Cold Spring Harbor". Песня "Captain Jack" стала очень популярной, а в 1973 г. вышел очередной альбом музыканта "Piano Man". Одноименная песня стала визитной карточкой Джоэла и вошла в список 500 самых лучших песен всех времён.

Следующими успешными альбомами Джоэла стали "Streetlife Serenade" (1974)  и особенно "The Stranger" (1977) - его тираж составил 7 миллионов экземпляров. В 1980 г. Билли Джоэл в течение 6 недель удерживал верхнюю строку чартов продаж с альбомом "Glass Houses". Далее Джоэл выпускает еще несколько успешных альбомов, снимает видеоклипы. В 1987 г. Билли Джоэл одним из первых западных рок-музыкантов даёт концерты в СССР, однако этот тур не был особенно успешными. В 1989-м он в последний раз поднимался на верхнюю строчку хит-парадов, после чего переключился на сочинение классической музыки.

Билли Джоэл неоднократно становился лауреатом премии "Грэмми", в 1999 г. его имя появилось в Зале славы рок-н-ролла в Кливленде, а на Бродвее поставлен мюзикл, в который вошли классические произведения из его репертуара. Он был также награждён почётными докторскими степенями шести университетов. В 2006г. его имя было внесено в Лонг-Айлендский музыкальный Зал славы. А в декабре 2011 г. Джоэл стал первым не-классическим музыкантом, удостоенным портрета в нью-йоркском Стайнвей-Холле.

Имя Уильям (уменьшительное - Билли) - английская форма германского имени Willahelm, состоящего из элементов wil - "желание" и helm - "шлем, защита". Имя Мартин - английская форма латинского имени Martinus, происходящего от имени римского бога войны Марса. Фамилия Джоэл - от библейского имени Йоэль, означающего "Яхве - Бог".

Вне Нью-Йорка

- Звезда "Билли Джоэл" на Аллее Славы в серии "Звукозапись" была установлена в 2005г. в Лос-Анджелесе на бульваре  Голливуд, 6233.

- Billy Joel Way в Хиксвилле, округ Нассо, Нью-Йорк (2023).