A la fin de l'année 1939, les nazis commencèrent à expérimenter les gaz toxiques afin d'exterminer des malades mentaux ("euthanasie") et de préparer l'extermination de masse. Euphémisme nazi, le terme "euthanasie" désignait l'extermination systématique de ces Allemands considérés comme "indignes de vivre" en raison de leur maladie mentale ou de leur handicap physique. Six installations de gazage furent mises en place dans le cadre du Programme d'euthanasie : à Bernburg, Brandenburg, Grafeneck, Hadamar, Hartheim et Sonnenstein. Ces centres de mise à mort utilisaient du monoxyde de carbone pur, fabriqué chimiquement

Après l'invasion de l'Union soviétique par l'Allemagne en juin 1941, les Einsatzgruppen (unités mobiles de mise à mort) exécutèrent massivement par armes à feu des civils Les nazis expérimentèrent ensuite des camions à gaz pour les mises à mort. Il s'agissait de camions hermétiquement fermés, dont l'échappement était dirigé vers le compartiment intérieur. Les camions de gazage commencèrent à être utilisés lorsque les membres des Einsatzgruppen se plaignirent de fatigue psychologique et d'angoisses causées par le meurtre d'un grand nombre de femmes et d'enfants. Le gazage s'avérait également moins onéreux. Les Einsatzgruppen gazèrent des centaines de milliers de personnes, principalement des Juifs, des Tsiganes et des malades mentaux. En 1941, les SS en arrivèrent à la conclusion que la déportation des Juifs dans les camps de mise à mort (pour y être gazés) était le moyen le plus efficace de parvenir à la "Solution finale". La même année, les nazis ouvrirent le camp de Chelmno, situé en Pologne. Des Juifs de la région polonaise de Lodz et des Tsiganes y furent assassinés dans des camions à gaz.

En 1942, l'extermination massive systématique dans des chambres à gaz fixes (avec du monoxyde de carbone généré par des moteurs diesel) commença dans les camps de Belzec, Sobibor et Treblinka, tous situés en Pologne. Les victimes, tout juste "déchargées" des wagons à bestiaux étaient informées qu'elles allaient être désinfectées dans des "douches". Les gardes nazis et ukrainiens les insultaient ou les battaient souvent et leur donnaient l'ordre d'entrer dans les "douches" les bras levés afin que le plus grand nombre possible de personnes puissent entrer dans les chambres à gaz. Plus l'entassement était grand, plus rapidement les victimes suffoquaient.

Les nazis cherchaient constamment des procédés d'extermination plus efficaces. Au camp d'Auschwitz, situé en Pologne, ils expérimentèrent sur les prisonniers le Zyklon B (utilisé auparavant pour la fumigation) en gazant en septembre 1941 quelque 600 prisonniers de guerre soviétiques et 250 prisonniers malades. Les pastilles de Zyklon B se transformaient en gaz toxique au contact de l'air. Ce gaz se révéla être le produit de gazage le plus rapide et il fut choisi pour les meurtres de masse à Auschwitz. Au moment de l'apogée des déportations, on gaza jusqu'à 6 000 Juifs par jour à Auschwitz.

Même s'ils n'avaient pas été spécifiquement prévus pour servir de camps de mise à mort, les camps de concentration tels que le Stutthof, Mauthausen, Sachsenhausen et Ravensbrück possédaient également des chambres à gaz. Elles étaient relativement petites, et avaient été construites pour les prisonniers que les nazis considéraient "inaptes au travail". La plupart de ces camps utilisèrent le Zyklon B dans leurs chambres à gaz.