بدأ النازيون تجريب الغاز السام بهدف القتل الجماعي في أواخر 1939 بقتل الأشخاص الذين يعانون أمراضًا عقلية ("القتل الرحيم") وذلك باستخدام غاز أول أكسيد الكربون المعد كيميائيًا. فعقب الغزو الألماني للاتحاد السوفيتي في يونيو 1941 وإطلاق Einsatzgruppe (وحدة القتل المتنقلة) النار على المواطنين بشكل جماعي، قام النازيون بتجريب شاحنات الغاز بهدف القتل الجماعي. وكانت شاحنات الغاز عبارة عن شاحنات مغلقة بإحكام يتم تحويل عادم المحرك الخاص بها إلى المقصورة الداخلية. وقامت وحدات القتل المتنقلة بقتل مئات الآلاف من الأشخاص خنقًا بالغاز، غالبيتهم من اليهود، وبعض الرومانيين (الغجر) والمصابين بأمراض عقلية. وفي عام 1941، خلصت القوات الخاصة الألمانية (SS) إلى أن ترحيل اليهود إلى محتشدات إبادة (لقتلهم بالغاز) هو الأسلوب الأكثر فاعلية لتنفيذ خطة "الحل النهائي". وفي السنة ذاتها، افتتح النازيون محتشد كليمنو في بولندا. وتم قتل يهود من منطقة لودز في بولندا ورومانيين في شاحنات الغاز المتنقلة في هذا المحتشد.

في عام، 1942، بدأت عمليات القتل الجماعي المنظم في غرف غاز ثابتة (باستخدام أول أكسيد الكربون الناتج من محركات الديزل) في مراكز بيلزيك وسوبيبور وتريبلينكا للقتل، والتي تقع جميعها في بولندا. وبينما كان يتم "تفريغ" الضحايا من سيارات نقل الماشية، كان يتم إخبارهم بأنه لابد من تطهيرهم في "أماكن الاستحمام". وفي بعض الأحيان كان الحراس النازيون والأوكرانيون يصيحون في وجه الضحايا ويضربونهم، ويأمرونهم بالدخول إلى "أماكن الاستحمام" مرفوعي الأيدي لإتاحة أكبر عدد من الناس للدخول في غرف الغاز. وكلما اكتظت غرف الغاز بشكل أكبر، اختنق الضحايا بشكل أسرع. وقد بحث النازيون باستمرار عن وسائل أكثر فاعلية للإبادة. ففي محتشد أوشفيتز في بولندا، قام النازيون بإجراء تجارب على كرات غاز زيكلون ب (التي كانت تستخدم سابقًا في التبخير) والتي تحولت إلى غاز قاتل عند تعرضها للهواء. وأثبتت كرات زيكلون ب أنها أسرع طريقة للقتل بالغاز وتم اختيارها كوسيلة للقتل الجماعي في محتشد أوشفيتز. وفي أوج عمليات الترحيل، تم قتل ما يصل إلى 6000 يهودي بالغاز يوميًا في محتشد أوشفيتز. وكان يوجد أيضًا غرف غاز أصغر حجمًا في محتشدات الاعتقال مثل شتوتهوف وماوتهاوزن وزاكسنهاوزن ورافنزبروك، على الرغم من أنها لم تكن مصممة خصيصًا كمحتشدات إبادة.