O governo de Adolf Hitler era popular entre a maioria dos alemães, mas havia uma pequena percentagem da população que se opunha a algumas políticas do estado nazista e ao controle da sociedade exercido pelo processo de "coordenação" (Gleichschaltung)– i.e. alinhamento de pessoas e instituições com os objetivos nazistas -- apesar da repressão da Gestapo (polícia secreta) e do Serviço de Segurança (SD) contra críticas abertas ao regime.

As formas de oposição variavam desde o não cumprimento das regras nazistas até uma tentativa de assassinar Hitler. Dentre as primeiras formas de resistência ao regime, estavam a oposição política organizada pelos partidos de esquerda, como o Partido Social Democrata e o Partido Comunista da Alemanha. No entanto, ela foi ineficaz pois a Polícia de Segurança (Sipo) esmagou aquelas organizações pela força.

Esforços para "coordenar" a vida religiosa também seguiram a ascensão nazista ao poder. Embora o Acordo assinado entre o Vaticano e o Terceiro Reich, em julho de 1933, regulasse as relações entre o Reich e a Igreja Católica Romana, os nazistas continuavam oprimindo grupos católicos dissidentes e procuravam difamar a Igreja através de uma série de julgamentos teatrais conhecidos como os “Julgamentos dos Clérigos.” Ainda que tenha permanecido silenciosa em relação à perseguição aos judeus, a Igreja desempenhou um papel importante na oposição ao extermínio de pessoas com deficiências mentais ou físicas ("eutanásia"). Individualmente, alguns clérigos conscientes procuraram proteger ou ajudar os judeus.

Também havia oposição entre um número muito pequeno dos jovens alemães, alguns dos quais se sentiam mal por serem coagidos a se filiar à Juventude Hitlerista. Em Munique, em 1942, alguns estudantes universitários que faziam parte dessa corrente, criaram um grupo de resistência chamado “Rosa Branca”, mas em 1943, seus líderes – os estudantes Hans Scholl e sua irmã Sophie Scholl, bem como o professor Kurt Huber -- foram presos e executados por haverem distribuído panfletos anti-nazistas.

Um outro grupo, que incluía oficiais militares conservadores e diplomatas alemães, acreditava que a morte violenta de Hitler seria o sinal para uma ampla revolta anti-nazista. Alguns oficiais militares tentaram assassinar Hitler em 20 de julho de 1944, em seu quartel-general em Rastenburg, no leste da Prússia. Durante uma reunião militar sobre as frentes de batalha do leste, o coronel Claus Schenk von Stauffenberg colocou perto de Hitler uma maleta dentro da qual havia uma bomba. O objetivo da conspiração era que Karl Goerdeler, um tradicional político conservador de direita, substituísse a Hitler. O grupo incluía entre seus membros até mesmo alguns nazistas desiludidos, tais como o Diretor da Polícia de Berlim, Conde Wolf Heinrich von Helldorf, e o Chefe da Polícia Criminal (Kripo), Arthur Nebe. No entanto, Hitler sobreviveu à explosão e o golpe falhou. Roland Freisler, juiz do Tribunal Popular de Berlim, conduziu o julgamento dos envolvidos na conspiração e, como era de se esperar, condenou os réus a serem executados na prisão Ploetzensee, em Berlim.