El antisemitismo y la persecución del los judíos eran principios centrales de la ideología nazi. En 1920, los nazis publicaron un Programa partidario de 25 puntos. En este programa los miembros del partido nazi declararon públicamente su intención de segregar a los judíos de la sociedad “aria” y de abolir sus derechos políticos, legales, y civiles. Poco después de tomar el poder, los lideres nazis empezaron a cumplir su promesa de perseguir los judíos alemanes. La primera ley limitando los derechos de los judíos fué la "Ley de la Restauración de la Administración Publica" promulgada el 7 de abril de 1933. Esta ley decretó que los funcionarios y empleados judíos así como aquellos "políticamente poco confiables" serian excluidos de la administración publica.

La nueva Ley de la Administración Publica fué la primera formulación del así llamado "Párrafo Ario," utilizado después en distintas normas para excluir a los judíos (y por extensión a otros "no arios") de distintas organizaciones, profesiones, y sectores de la vida pública. En abril de 1933, una ley alemana limitó el número de estudiantes judíos en las escuelas y universidades alemanas. Eses mismo mes, otra ley redujo marcadamente la "actividad judía" en las profesiones médicas y legales. Leyes y decretos subsiguientes limitaron el reembolso que podían obtener los médicos judíos del seguro de salud estatal.

En Nuremberg, en la reunión anual del partido celebrada en septiembre de 1935, los lideres nazis anunciaron nuevas leyes institucionalizando muchas de las teorías raciales prevalecientes en la ideología nazi. Estas "Leyes de Nuremberg" excluían a los judíos alemanes de la ciudadanía del Reich, y les prohibía de casarse o tener relaciones sexuales con personas "alemanas o de sangre alemana." Otras normas complementarias los privaron de la mayoría de sus derechos políticos. Los judíos fueron privados del derecho a votar y no podían ser funcionarios públicos.

Las leyes raciales de Nuremberg Las Leyes de Nuremberg no identificaban a un judío como alguien con determinadas creencias religiosas; la primer enmienda a la Leyes de Nuremberg definía en cambio a un judío como cualquier persona que tenia tres o cuatro abuelos judíos, sin importar si esa persona se reconocía a si misma como judía o parte de la comunidad judía. Muchos alemanes que no habían practicado el judaísmo o que no lo habían hecho en años se encontraron en manos del terror nazi. Incluso gente con abuelos judíos que se habían convertido al cristianismo podían ser definidos como judíos.

En las semanas que precedieron y durante los Juegos Olímpicos de invierno y verano de 1936, que se celebraron en Garmisch-Partenkirchen y Berlín respectivamente, el régimen nazi atenuó mucho de su retórica y sus actividades anti-judías públicas. El régimen hasta quitó algunos de los carteles que decían "Los judíos no son bienvenidos" de los lugares públicos. Hitler no quería que las críticas internacionales a su gobierno resultaran en la transferencia de los Juegos Olímpicos a otro país. Tal pérdida hubiera sido un golpe serio al prestigio alemán. Asimismo, los lideres nazis no querían desalentar el turismo internacional y los ingresos que éste podía atraer durante el año de las Olimpíadas.

En 1937 y 1938, las autoridades alemanas intensificaron de nuevo la persecución legislativa de los judíos alemanes. El gobierno se propuso a empobrecer a los judíos y sacarlos de la economía alemana exigiéndoles registrar su propiedad. Aun antes de los Juegos Olímpicos, el gobierno nazi había iniciado la práctica de “arianizar” las empresas judías. La "arianizacion" significaba el despido de los empleados y directores judíos de una compañía y/ o la absorción de las empresas judías por alemanes no judíos que las compraban a precios viles fijados por el gobierno o los oficiales del partido nazi. En 1937 y 1938, el gobierno prohibió a médicos judíos tratar a no judíos, y también revocó las licencias de los abogados judíos.

Después del pogrom de Kristallnacht (la "noche de los vidrios rotos") del 9 al 10 de noviembre de 1938, los lideres nazis intensificaron los esfuerzos de "arianizacion" y reforzaron las medidas para aislar físicamente y segregar a los judíos de sus compatriotas alemanes. se les prohibió a los judíos asistir a las escuelas y universidades públicas, así como a cines, teatros y centros deportivos. En muchas ciudades, se les prohibió a los judíos la entrada a zonas designadas como "arias". Decretos y ordenanzas continuaron expandiendo las limitaciones de los judíos en su vida profesional. Para septiembre de 1938, por ejemplo, los médicos judíos se hallaban efectivamente impedidos de tratar a pacientes "arios".

En agosto de 1938, las autoridades alemanas decretaron que a mas tardar el 1º de enero de 1939, hombres y mujeres judías cuyos nombres fueran de origen "no judío" tenían que agregarles, respectivamente, "Israel" o "Sara". Todos los judíos fueron obligados a portar tarjetas de identidad que indicaran su descendencia judía y, en el otoño de 1938, todos los pasaportes de judíos fueron sellados con la letra "J" para identificarlos. A medida que los líderes nazis aceleraban sus preparativos para la guerra de conquista que planeaban comenzar en Europa, la legislación antisemita en Alemania y Austria preparó el camino hacia una más radical persecución de los judíos.