على الرغم من أن اليهود كانوا هدفهم الرئيسي، فإن النازيين وعملاءهم اضطهدوا أيضًا جماعات أخرى لأسباب عرقية أو أيديولوجية. ويُعد المعارضون السياسيون من بين أوائل ضحايا التفرقة العنصرية النازية في ألمانيا -- ويتقدمهم الشيوعيون والاشتراكيون والديمقراطيون الاشتراكيون وقادة النقابات التجارية. كما اضطهد النازيون كذلك الكتاب والفنانين من أصحاب الأعمال التي اعتبرها النازيون هدامة أو من اليهود، وعرضوهم للاعتقال والقيود الاقتصادية وغير ذلك من أشكال التفرقة العنصرية. واستهدف النازيون الرومانيين (الغجر) لأسباب عرقية. وكان الرومانيون من بين أوائل من قُتلوا في شاحنات الغاز المتنقلة في مركز القتل كليمنو في بولندا. كما قام النازيون بترحيل أكثر من 20000 من الرومانيين إلى محتشد أوشفيتز-بيركناو, حيث قُتل معظمهم في غرف الغاز. وكان النازيون ينظرون إلى البولنديين وغيرهم من الشعوب السلافية على أنهم أقل شأنًا. وتم استهداف البولنديين الذين مثلوا خطرًا أيديولوجيًا (من بينهم مفكرون وقساوسة كاثوليك) لتنفيذ حكم القتل فيهم. وخلال الفترة ما بين 1939 و1945 تم ترحيل ما لا يقل عن 1.5 مليون مواطن بولندي إلى الأراضي الألمانية للقيام بأعمال السخرة. كما سُجن مئات الآلاف منهم في محتشدات الاعتقال النازية. ووفق التقديرات فإن الألمان قتلوا 1.9 مليون مواطن بولندي غير يهودي على الأقل خلال الحرب العالمية الثانية.

وأثناء خريف وشتاء عامي 1941 و1942، طبقت السلطات الألمانية سياسة عنصرية لقتل أسرى الحرب السوفيتيين جماعيًا داخل أراضي الاتحاد السوفيتي المحتل: وتم اختيار يهود وأشخاص ذوي "ملامح أسيوية" وقادة سياسيين وعسكريين وإطلاق النار عليهم. وتم احتجاز حوالي ثلاثة ملايين آخرين في محتشدات مؤقتة دون مأوى أو طعام أو أدوية ملائمة مع نية متعمدة لتركهم للموت. وفي ألمانيا، قام النازيون بسجن زعماء الكنائس المسيحية الذين أبدوا معارضة للنازية، فضلاً عن الآلاف من شهود يهوه الذين رفضوا تحية أدولف هتلر أو الخدمة في الجيش الألماني. وخلال ما يسمى بـ "برنامج القتل الرحيم"، قتل الألمان ما يقدر بـ 200000 شخص من ذوي الإعاقات الذهنية أو الجسدية. كما اضطهد النازيون الشواذ جنسيًا من الذكور، حيث اعتبر النازيون سلوكهم عائقًا للحفاظ على الأمة الألمانية.