В 1951 году он был арестован по обвинению в шпионаже в пользу западных стран, а также в антисоветской агитации и пропаганде. Однако в открытом судебном процессе осуждён он не был и просто «исчез» и семья ничего не знала о его судьбе до 1955 года, когда он был освобождён после визита Конрада Аденауэра в СССР.
Арест и заключение отца очень сильно повлияли на политические взгляды Йоахима. Уже в школе он не скрывал своих антикоммунистических позиций, решительно отказавшись, в частности, вступать в ряды прокоммунистического Союза свободной немецкой молодёжи. Он хотел стать журналистом, но антикоммунистические взгляды закрыли для него возможность изучать журналистику.
Вместо этого Гаук стал пастором протестантской церкви в Мекленбурге. Деятельность пастора в ГДР была весьма затруднена из-за враждебности правящего режима к церкви, поэтому Гаук долгое время являлся объектом наблюдения со стороны министерства государственной безопасности ГДР. В досье на него Гаук характеризовался как «неисправимый антикоммунист».
В 1982—1990 гг. Гаук возглавлял работу церковного совета Мекленбурга.
В последующие годы его имя называлось в числе возможных кандидатов в депутаты бундестага от СДПГ и даже как потенциального кандидата на пост федерального президента от ХСС в 1999 году (в противовес Йоханнесу Рау), а также от блока ХДС/ХСС и СвДП в последующие годы.
В 1998 году Гаук способствовал выпуску в Германии Чёрной книги коммунизма, написав дополнительную главу по Германской Демократической Республике. Вместе с бывшим президентом Чехии Вацлавом Гавелом был инициатором создания Пражской декларации о европейской совести и коммунизме (2008). Его подпись стоит также под Декларацией о преступлениях коммунизма (2010). В этих документах содержится призыв к осуждению коммунизма, распространению знаний о преступлениях коммунистических режимов и наказанию участников этих преступлений. В Пражской декларации также содержалась идея создания Европейского дня памяти жертв сталинизма и нацизма, который в конечном итоге, был утверждён Европейским парламентом 2 апреля 2009 года.
По случаю своего 70-летия в 2010 году Гаук удостоился специального поздравления от федерального канцлера Ангелы Меркель, которая назвала его «истинным учителем демократии» и «неустанным защитником свободы, демократии и правосудия», а британская газета «Индепендент» назвала Гаука «ответом Германии на Нельсона Манделу».
В настоящее время Гаук возглавляет организацию Gegen Vergessen — Für Demokratie («Против забвения — За демократию»), которая борется с левым и правым экстремизмом, выступает в защиту демократических ценностей и способствует постижению исторической правды в отношении двух тоталитарных режимов в германской истории.
Гаук пользуется уважением политиков чрезвычайно широкого политического спектра, он очень популярен не только среди членов выдвинувших его кандидатом в президенты партий, но и среди правящей коалиции ХДС/ХСС и СвДП из-за его прямоты, высокоморальной позиции как во времена коммунистической диктатуры, так и из-за его деятельности в качестве «охотника за Штази» в 90-е годы ХХ века. Его главный соперник Кристиан Вульф, а также политические лидеры правящих партий заявили, что они очень уважают Гаука за его жизнь и деятельность. Единственная партия, которая в принципе отвергла кандидатуру Гаука на пост президента, была партия германских левых, которая интерпретировала выдвижение Гаука СДПГ и зелёными, как отказ от сотрудничества с собой, поскольку левые являются преемниками бывшей СЕПГ и содержат фракции, которые федеральные власти считают экстремистскими.
На выборах 30 июня 2010 года Гаук уступил Кристиану Вульфу в третьем туре, получив 490 голосов против 624 у соперника.
После разгоревшегося в декабре 2011 года скандала, связанного с получением Кристианом Вульфом частного кредита и его давлением на свободную прессу с целью замолчать полученные ею сведения, имя Гаука снова стало называться в качестве возможного компромисса на посту федерального президента в случае отставки К. Вульфа.
20 февраля 2012 года федеральный канцлер Ангела Меркель сообщила, что парламентские партии согласовали кандидатуру Гаука для выдвижения на пост федерального президента.
«Деятельность Йоахима Гаука проникнута идеалами свободы и ответственности, и это то, что меня связывает с ним, несмотря на существующие между нами разногласия»,— сказала Меркель.
18 марта 2012 года Гаук был избран федеральным президентом Германии, получив 991 из 1232 голосов. 23 марта 2012 года официально вступил в должность.
3 июня 2016 года заявил, что готов отказаться от борьбы за президентское кресло на следующих выборах (2017 год)
27.09.2017