Отец Айвена был архитектором и промышленным дизайнером, родившимся в Грозном в еврейской семье и эмигрировавшим в Англию, а затем Канаду. В 1940 г. семья переезжает в США. Айвен учился в Гарвардском университете, но бросил его, предпочтя карьеру дизайнера. Позже он закончил Институт дизайна в Чикаго, а затем Йельский университет. Наставником и другом Айвена в университете был специалист в области коммерческой графики Пол Рэнд.

Там же учился Том Гейзмер, вместе с которым в 1958 г. Чермаефф основал фирму Chermayeff & Geismar,  работавшую в сфере графического дизайна. Фирма является автором многих узнаваемых логотипов, таких как National Geographic, Merck, ChaseBank, PanAm, PBS, NBC и Mobil, MoMA, Showtime, Harper Collins, U.S. Bicentennial. Фирма создавала плакаты для Музея Гуггенхайма и Американского музея естественной истории, Смитсоновского института и Музея современного искусства в Лос-Анджелесе и даже материалы президентской компании Барака Обамы.

Кроме того, Чермаефф  создавал детские книги, иллюстрации, бумажные коллажи и скульптуры, его работы демонтировались на выставках в США, Европе и Японии. Он соавтор двух книг, посвящённых дизайну - вместе с Гейзмером и третим партнёром фирмы Саги Хавивом, приглашённым в 2006 г.

 В 1978 г. за вклад в графический дизайн Chermayeff & Geismar награждается медалью Американского института графических искусств. Чуть позже Чермаев становится президентом организации. В последние годы Чермаев вёл активную преподавательскую деятельность в школе дизайна Парсонс. Награжден Золотой медалью AIGA (Американский институт архитекторов), золотой медалью Общества иллюстраторов и медалью Yale Art Йельского университета.

Имя Айвен - английское произношение русской формы "Иван" библейского имени Йехоханан, означающего "Яхве милостив". Происхождение фамилии не установлено.