Fin 1939, en vue d'une extermination de masse, les nazis commencèrent à expérimenter des gaz toxiques en utilisant du monoxyde de carbone chimiquement pur sur des malades mentaux ("euthanasie"). Après l'invasion allemande de l'Union soviétique en juin 1941 et les exécutions en masse de civils par les Einsatzgruppen (unités mobiles d'extermination), les nazis expérimentèrent des camions à gaz pour l'extermination de masse. Ces camions étaient fermés hermétiquement et leurs pots d'échappement dirigés vers l'intérieur. Les Einsatzgruppen (unités mobiles d'extermination) gazèrent des centaines de milliers de gens, pour la plupart des Juifs, des Tsiganes et des malades mentaux. En 1941, les SS arrivèrent à la conclusion que la déportation des Juifs vers les camps de mise à mort (pour y être gazés) était le moyen le plus efficace de parvenir à la "Solution finale". La même année, les nazis ouvrirent le camp de Chelmno en Pologne. Des Juifs de la région polonaise de Lodz et des Roms y furent assassinés dans des camions à gaz mobiles.

En 1942, les massacres de masse systématiques perpétrés dans des chambres à gaz stationnaires (au gaz de monoxyde de carbone généré par des moteurs diesel) commencèrent dans les centres de mise à mort de Belzec, de Sobibor et de Treblinka situés en Pologne. Lorsque les victimes étaient "déchargées" des wagons à bestiaux, on leur disait qu'elles devaient être désinfectées dans des "douches." Les nazis et les gardiens ukrainiens criaient et frappaient parfois les victimes, qui recevaient l'ordre d'entrer dans les "douches" les bras levés, ceci afin de faire entrer le maximum de monde dans les chambres à gaz. Plus les chambres à gaz étaient remplies, plus les victimes étaient asphyxiées rapidement. Les nazis cherchèrent constamment des moyens d'extermination plus efficaces. Au camp d'Auschwitz en Pologne, ils menèrent des expériences avec des pastilles de Zyklon B (utilisés auparavant pour la fumigation) qui se transformaient en gaz mortel au contact de l'air. Cette méthode de gazage se révéla être la plus rapide et elle fut choisie comme moyen d'extermination massive à Auschwitz. Au pic des déportations, jusqu'à 6000 Juifs furent gazés chaque jour à Auschwitz. Des camps de concentration comme ceux du Stutthof, de Mauthausen, de Sachsenhausen et de Ravensbrueck, bien que n'étant pas spécifiquement conçus comme des camps de mise à mort, comptaient aussi des chambres à gaz plus petites.