За два года до рождения Джошуа его родители эмигрировали в Америку из тогдашней Палестины. Окончив школу в Нью-Йорке, Ледерберг начал изучать зоологию в Колумбийском университете и в возрасте 19 лет получил степень бакалавра с отличием. Затем он поступил в медицинскую школу Колледжа врачей и хирургов Колумбийского университета, а в 1944 году перешёл в Йельский университет и продолжил учёбу и исследовательскую работу под руководством микробиолога Эдуарда Тейтема.

В 1947 г. Ледерберг стал профессором генетики в Висконсинском университете и продолжил исследования по генетической рекомбинации бактерий. В следующем году он получил докторскую степень по микробиологии от Йельского университета. Ледерберг разработал специальный метод изоляции мутантов того или иного вида бактерий с помощью ультрафиолетовых лучей. Он доказал, что мутации происходят спонтанно, и тем самым подтвердил прежде существовавшую гипотезу в эволюционной генетике. Эта работа привела к открытию одного из типов рекомбинации у бактерий - конъюгации.

Ледерберг совместно с Нортоном Зиндером открыл в 1952 г. феномен трансдукции - направленного переноса умеренным фагом информации от бактерии-донора к бактерии-реципиенту. В следующем году этот феномен был продемонстрирован на сальмонеллах. Опыты по трансдукции положили начало работам по картированию генов. В 1957 г. Ледербергу было поручено организовать и возглавить кафедру генетики в Висконсинском университете. Перед тем как приступить к новым обязанностям, он благодаря стипендии, учреждённой Фондом Фулбрайта, смог провести исследования в Мельбурнском университете в Австралии.

В 1958 г. Ледербергу была присуждена Нобелевская премия по физиологии и медицине "за открытия, касающиеся генетической рекомбинации и организации генетического материала у бактерий". Вторая половина премии была присуждена Дж. Бидлу и Э. Тейтему "за открытия, касающиеся роли генов в биохимических процессах".

В 1962 г. Ледерберг стал директором лаборатории молекулярной медицины в Станфордском университете. Кроме того, он был консультантом космической программы "Викинг" (проекта космического полёта на Марс) и советником Всемирной Организации Здравоохранения по биологическому оружию и возможным последствиям биологической войны.

В 1978 г. Ледерберг ушёл из Станфордского университета и стал ректором Рокфеллеровского университета в Нью-Йорке. Кроме работ по генетике, он написал много статей, посвящённых биологическим наукам и будущему человека как вида. Ледерберг обладает почётными степенями Йельского, Колумбийского, Нью-Йоркского и Туринского университетов, является членом Национальной академии наук США, Американского химического общества и Американского общества генетиков. В 1979 г. он был избран иностранным членом Лондонского королевского научного общества.

Имя Джошуа - английская форма библейского имени Иехошуа, означающего "Яхве - спасение". Фамилия Ледерберг произошла от идишских слов ледер - "кожа" и берг - "гора".

Вне Нью-Йорка

- Мемориальная доска в честь Ледерберга установлена в Висконсинском университете (г. Мэдисон).

- Памятный знак установлен на Бульваре Нобелевских Лауреатов в Ришон ле-Ционе, Израиль.