Μολονότι οι Εβραίοι ήταν οι κυρίως στόχοι τους, οι Ναζί και οι συνεργάτες τους καταδίωξαν και άλλες πληθυσμιακές ομάδες για φυλετικούς ή ιδεολογικούς λόγους. Ανάμεσα στα πρώτα θύματα των ναζιστικών διακρίσεων στη Γερμανία ήταν οι πολιτικοί τους αντίπαλοι – κυρίως οι κομμουνιστές, οι σοσιαλιστές, οι σοσιαλοδημοκράτες και οι ηγέτες των συνδικαλιστικών ενώσεων. Οι Ναζί άσκησαν επίσης διώξεις εις βάρος συγγραφέων και καλλιτεχνών τα έργα των οποίων θεωρούνταν ανατρεπτικά ή ήταν εβραϊκής καταγωγής: τους συλλάμβαναν, τους επέβαλαν οικονομικούς περιορισμούς και γενικά τους υπέβαλαν σε άλλες μορφές διακρίσεων. Οι Ναζί στράφηκαν επίσης κατά των Ρομά (Τσιγγάνοι) για φυλετικούς λόγους. Οι Ρομά ήταν από τα πρώτα θύματα των φορτηγών-θαλάμων αερίων στο στρατόπεδο εξόντωσης Κέλμνο της Πολωνίας. Οι Ναζί εκτόπισαν επίσης πάνω από 20.000 Ρομά στο στρατόπεδο Άουσβιτς-Μπίρκεναου, όπου οι περισσότεροι δολοφονήθηκαν στους θαλάμους αερίων. Οι Ναζί θεωρούσαν ότι οι Πολωνοί και οι υπόλοιποι σλαβικοί λαοί ήταν φυλετικά κατώτεροι. Οι Πολωνοί που κρίνονταν επικίνδυνοι από ιδεολογικής άποψης (συμπεριλαμβανομένων των διανοούμενων και των καθολικών ιερέων) ήταν υποψήφιοι για εκτέλεση. Από το 1939 έως το 1945, τουλάχιστον 1,5 εκατομμύρια Πολωνοί πολίτες εκτοπίστηκαν σε γερμανικές περιοχές για να χρησιμοποιηθούν ως εξαναγκασμένοι εργάτες. Επίσης εκατοντάδες χιλιάδες φυλακίστηκαν στα ναζιστικά στρατόπεδα συγκέντρωσης. Κατά το Β’ Παγκόσμιο Πόλεμο εκτιμάται ότι οι Γερμανοί δολοφόνησαν τουλάχιστον 1,9 εκατομμύρια μη-Εβραίους Πολωνούς πολίτες.

Το φθινόπωρο και το χειμώνα του 1941-1942 οι γερμανικές αρχές στην κατεχόμενη Σοβιετική Ένωση εφήρμοσαν μια ρατσιστική πολιτική πρακτική μαζικής δολοφονίας των Σοβιετικών αιχμαλώτων πολέμου: οι Εβραίοι, τα άτομα με «ασιατικά χαρακτηριστικά» και τα ανώτερα πολιτικά και στρατιωτικά στελέχη περνούσαν από διαλογή και εκτελούνταν. Άλλα τρία εκατομμύρια άτομα περίπου φυλακίστηκαν σε πρόχειρα στρατόπεδα που δεν διέθεταν κατάλληλη στέγη, φαγητό και φαρμακευτική περίθαλψη – το επιδιωκόμενο αποτέλεσμα ήταν να πεθάνουν. Στη Γερμανία οι Ναζί φυλάκισαν τους ηγέτες των χριστιανικών εκκλησιών που αντιτάχθηκαν στο ναζισμό, καθώς και χιλιάδες μάρτυρες του Ιεχωβά που αρνούνταν να χαιρετίσουν τον Αδόλφο Χίτλερ και να υπηρετήσουν στο γερμανικό στρατό. Στο πλαίσιο του λεγόμενου «Προγράμματος Ευθανασίας», οι Ναζί δολοφόνησαν περίπου 200.000 άτομα με σωματικές και πνευματικές αναπηρίες. Οι Ναζί άσκησαν επίσης διώξεις κατά των ομοφυλοφίλων ανδρών, την συμπεριφορά των οποίων θεωρούσαν εμπόδιο για τη διαιώνιση του γερμανικού έθνους.