Yahudi düşmanlığı ve Yahudilere yapılan zulüm Nazi ideolojisinin temel ilkesini göstermekteydi. 1920'de yayınlanan 25 maddelik Parti Programlarında, Nazi parti üyeleri Yahudileri “Aryan” toplumundan ayırma ve politik, kanunî ve medenî haklarını ellerinden alma niyetlerini açıkça bildirdi. Nazi liderleri, iktidarı ele geçirdikten hemen sonra, Alman Yahudilere zulmetme konusunda verdikleri sözü iyi bir şekilde yerine getirmeye başladılar. Yahudi vatandaşların haklarını kısıtlayan ilk büyük kanun, 7 Nisan 1933'te çıkarılan, Yahudiler ve “siyasi olarak güvenilmeyen” kamu memur ve çalışanlarının devlet hizmetinden çıkarılmasını sağlayan “Profesyonel Kamu Hizmetinin Yenilenmesi Yasasıydı”.

Yeni Kamu Hizmeti Yasası, Alman yetkililerin, Aryan Paragrafı olarak adlandırılan Yahudileri (ve çoğunlukla, “Aryan olmayan” diğerlerini de kapsayan) kurumlardan, mesleklerden ve kamu hayatının diğer alanlarından dışlamak için kullanılan bir çeşit düzenlemenin ilk biçimlendirilmesiydi. Nisan 1933'te Alman kanunu, Alman okulları ve üniversitelerindeki Yahudi öğrenci sayısını kısıtladı. Aynı ayda, ilave kanunlar tıbbî ve hukukî mesleklerdeki “Yahudi etkinliğini” büyük ölçüde azalttı. Bunları izleyen kanunlar ve hükümler, Yahudi doktorlarının, kamu (devlet) sağlık sigorta fonlarından aldıkları geri ödemeleri sınırlandırdı.

Eylül 1935'te, Nurmberg'deki yıllık toplantılarında, Nazi liderleri, Nazi ideolojisine hakim birçok ırkçı teoriyi kurumsallaştıran yeni kanunları açıkladılar. Bu “Nuremberg Yasaları” Alman Yahudilerini Devlet vatandaşlığından dışladı ve onlara “Alman ya da Alman kanıyla ilişkili” kişilerle evlenmeyi ya da cinsel ilişki kurmayı yasakladı. Bu kanunlarla ilgili düzenlemeler onları birçok politik haktan yoksun bıraktı. Yahudiler vatandaşlık haklarından mahrum bırakıldılar (yani, kanunî oy verme hakkı beklentisine sahip değillerdi) ve kamu görevlerine getirilemiyorlardı.

Nuremberg Yasaları “Yahudi”'yi belli bir dinî inanca sahip kişi olarak tanımlamıyordu. Aksine, Nuremberg Yasalarının ilk iddianamesi, üç ya da dördüncü kuşaktan Yahudi atası olan birini, kişinin kendini Yahudi olarak tanımlayıp tanımlamamasına ya da Yahudi dinî cemaatinden olup olmamasına bakmaksızın Yahudi olarak tanımlıyordu. Yahudiliği yaşamayan ya da yıllardır uygulamayan birçok Alman kendini Nazi terörünün kıskacında buldu. Hıristiyanlığa dönmüş Yahudi atalara sahip kişiler dahi Yahudi olarak tanımlanabiliyordu.

Garmmisch-Partenkirchen ve Berlin'de gerçekleştirilen 1936 Kış ve Yaz Olimpiyat Oyunları’ndan haftalar önce ve bu oyunlar süresince, Nazi rejimi Yahudi karşıtı genel söylem ve eylemlerinin birçoğunu azalttı. Hatta rejim, “Yahudiler İstenmiyor” anlamındaki işaretlerin bazılarını kamu alanlarından kaldırdı. Hitler, hükümetine karşı, Oyunların başka bir ülkeye alınmasına sebep olacak uluslararası bir eleştiri istemiyordu. Böyle bir kayıp Almanya'nın itibarı için ciddi bir darbe olabilirdi. Aynı şekilde, Nazi liderleri de Olimpiyat yılı boyunca gelir getirecek olan uluslararası turizmi kaçırmak istemiyordu.

1937 ve 1938 yıllarında, Alman yetkililer, Alman Yahudi kanunî zulmünü tekrar artırdı. Hükümet, Yahudilerden, malvarlıklarını kaydettirmelerini talep ederek, onları yoksullaştırmaya ve Alman ekonomisinden çıkarmaya başladı. Olimpiyatlardan önce bile, Nazi Hükümeti Yahudi ticarî faaliyetlerini “Aryanlaştırma” uygulamalarını başlatmıştı. “Aryanlaştırma” Yahudi işçi ve yöneticilerin işten çıkarılması ya da Yahudilerin sahip olduğu işyerlerinin Yahudi olmayan Almanlar tarafından Nazi parti çalışanları ya da hükümet tarafından belirlenen kelepir fiyatına alınması anlamına geliyordu. 1937 ve 1938 yıllarında, hükümet Yahudi doktorların Yahudi olmayanları tedavi etmesini yasakladı ve Yahudi avukatların hukuk yapma lisanslarını ellerinden aldı.

Kristallnacht (genellikle “Kırık Camlar Gecesi” olarak bilinir 9–10 Kasım 1938 katliamının ardından, Nazi liderleri “Aryanlaştırma” çabalarını arttırdı ve Yahudileri Alman vatandaşlardan ayıran ve fiziksel izolasyon sağlamada giderek başarılı olan önlemler uyguladı. Yahudilere, sinemalar, tiyatrolar ve spor aktivitelerinin yanı sıra tüm kamu okulları ve üniversiteleri de yasaklandı. Birçok şehirde, Yahudilerin “Aryan” olarak düzenlenen alanlara girmesi yasaklandı. Alman düzenlemeleri ve kanunları Yahudilere profesyonel hayatı yasaklamaya kadar genişledi. Örneğin, Eylül 1938'de, Yahudi sağlıkçıların “Aryan” hastaları tedavi etmesi etkili bir şekilde yasaklandı.

Ağustos 1938'de, Alman yetkililer, 1 Haziran 1939 itibariyle, kökeni “Yahudi olmayan” ön isim taşıyan Yahudi kadın ve erkeklerin isimlerinin önüne “İsrail” ve “Sara” isimlerini ekleme zorunluluğunu yürürlüğe koydu. Tüm Yahudilere Yahudi kökenlerini gösteren kimlik kartlarını taşıma zorunluluğu getirildi ve 1938 Sonbaharında, Yahudi pasaportları, belirleyici bir “J” harfi ile damgalandı. Nazi liderleri, başlama niyetinde oldukları Avrupa'yı fetih savaşı hazırlıklarını hızlandırdıklarında, Almanya ve Avusturya'daki Yahudi karşıtı kanunlar, daha radikal Yahudi zulmüne yol açtı.