Циммер родился во Франкфурте-на-Майне. Он начал свою музыкальную карьеру с игры на клавишных и синтезаторах в группах Ultravox и The Buggles (сингл «Video Killed the Radio Star»). В 1980-х он работал вместе с кинокомпозитором Стенли Майерсом. Его первым крупным достижением считается 1988 год, когда написанная им главная музыкальная тема фильма «Человек дождя» была номинирована на премию Американской академии киноискусства «Оскар».

С этого момента Циммер начал писать музыку для высокобюджетных фильмов: «Миссия невыполнима 2», «Багровый прилив», «Скала», «Всепожирающая страсть», «Гладиатор», «Шофер мисс Дэйзи», «Принц Египта», «Пёрл-Харбор», «Тонкая красная линия», «Падение чёрного ястреба», «Мадагаскар», «Мадагаскар 2», «Код да Винчи» и саундтреки «Пираты Карибского моря: Сундук мертвеца», «Пираты Карибского моря: На краю света», «Бэтмен: Начало», «Тёмный рыцарь», «Начало». В 1995 году он был удостоен премии «Оскар» в номинации «Лучшая музыка» за музыку в мультфильме «Король Лев».

Вместе с ним, в его студии «Remote Control Productions» (ранее известной как «Media Ventures») работают композиторы Стив Яблонски, Джеймс Дули и Джефф Занелли. Наиболее известными выходцами из «Remote Control Productions» являются композиторы Гарри Грегсон-Уильямс (Metal Gear Solid 2, Metal Gear Solid 3, Call of Duty 4: Modern Warfare, Call of Duty: Modern Warfare 2, «Лев, колдунья и платяной шкаф»), Марк Манчина («Братец медвежонок»), Джон Пауэлл («Ледниковый период 2») и Клаус Баделт («Ультрафиолет», Пираты Карибского моря: Проклятие «Чёрной жемчужины»).

Также совместно с Марком Манчина принял участие в записи оригинального саундтрека к аниме сериалу «Кровь+».