Embora os judeus fossem seus alvos principais, os nazistas e seus colaboradores também perseguiram outros grupos por razões raciais ou ideológicas. Dentre as primeiras vítimas da discriminação nazista na Alemanha encontravam-se os oponentes políticos daquela ideologia, principalmente os comunistas, os socialistas, os social-democratas e líderes sindicais. Em 1933, em Dachau, as SS construiram o primeiro campo de concentração, destinado a encarcerar milhares de prisioneiros políticos alemães. Os nazistas também perseguiram autores e artistas cujas obras eram consideradas subversivas ou que fossem judeus, sujeitando-os à prisão, a restrições econômicas, e a diversas outras formas de discriminação.

Cartaz sobre a eugenia intitulado

Os nazistas também perseguiram os ciganos por razões raciais. As interpretações legais das Leis de Nuremberg de 1935 (leis alemãs que definiam quem era judeu “pelo sangue”, de acordo com teorias racistas) foram posteriormente adaptadas para incluir os ciganos. Os nazistas classificavam os ciganos como "preguiçosos" e "anti-sociais" dentro do sistema nazista, além de improdutivos e socialmente incapazes. Os ciganos deportados para o gueto de Lodz estavam entre os primeiros a serem mortos em furgões de gás no campo de extermínio de Chelmno na Polônia. Os nazistas também deportaram mais de 20.000 ciganos para o campo de Auschwitz-Birkenau, onde a maioria deles foi assassinada nas câmaras de gás.

Os nazistas enxergavam os poloneses e outros povos eslavos como inferiores e os condenavam à submissão, ao trabalho forçado e, conseqüentemente, à aniquilação. Os poloneses que eram considerados ideologicamente perigosos, como milhares de intelectuais e padres católicos, transformaram-se em alvos a serem destruídos, através de uma operação conhecida como AB-Aktion. Entre 1939 e 1945 pelo menos 1,5 milhão de cidadãos poloneses foram deportados para o território alemão para trabalharem como escravos; e centenas de milhares também foram presos em campos de concentração nazistas. Estima-se que os alemães assassinaram, no mínimo, 1.900.000 civis poloneses não-judeus durante a Segunda Guerra Mundial.

O exército alemão que ocupou a União Soviética recebeu uma Ordem do Comissário, do Alto Comando das Forças Armadas alemãs, ordenando que determinados líderes políticos do Exército Vermelho fossem assassinados. Durante o outono e o inverno de 1941 e 1942 as autoridades militares alemães e a Polícia de Segurança alemã colaboraram na implementação de uma política de assassinatos em massa de prisioneiros de guerra soviéticos, tanto judeus como pessoas com "traços asiáticos", e os principais líderes políticos e militares foram separados e mortos a tiros. Cerca de outros três milhões foram mantidos em campos provisórios, premeditadamente ali colocados para morrer sem abrigo, alimentação ou medicação.

Os nazistas prenderam os líderes das igrejas cristãs que se opunham a eles,e, também milhares de Testemunhas de Jeová que se recusavam a saudar Adolf Hitler ou a servir no exército alemão. Durante o chamado "Programa de Eutanásia", estima-se que os nazistas assassinaram 200.000 pessoas com deficiências físicas ou mentais. Os nazistas também perseguiram os homossexuais, cujo comportamento era considerado "um obstáculo para a preservação da nação germânica", prendendo em campos de concentração aqueles que classificavam como homossexuais "crônicos", bem como milhares de outros indivíduos acusados de comportamentos criminosos ou "anti-social".

A ideologia nazista via uma grande quantidade de inimigos, o que conduzia à perseguição organizada e assassinato de milhões de pessoas, judias ou não.