بدأ النازيون في اختبار الغاز السام لأغراض القتل الجماعي في أواخر 1939 وذلك بقتل المرضى المصابين بأمراض عقلية "القتل الرحيم" (Euthanasia). والتعبير المهذب الذي أطلقه النازيون، "القتل الرحيم"، كان يشير إلى القتل النظامي لهؤلاء الألمان الذين اعتبرهم النازيون "لا يستحقون الحياة" بسبب المرض العقلي أو العجز البدني. وقد تم تأسيس ستة محتشدات غاز للإعدام كجزء من برنامج القتل الرحيم وهي: "بيرنبورج" و"براندنبورج" و"جرافنيك" و"هادامار" و"هارتهايم" و"سونين شتاين". وقد استخدمت مراكز القتل هذه غاز أول أكسيد الكربون المركز والمصنع كيميائيًا.

وبعد الاجتياح الألماني للإتحاد السوفيتي في شهر حزيران/يونيو 1941 وإجراء عمليات إطلاق النار الجماعي من قبل المجموعات المختصة بالقتل "وحدة القتل المتنقلة" (Einsatzgruppe) على المدنيين، قام الألمان باختبار عربات الغاز المخصصة للقتل الجماعي. عربات الغاز هي عبارة عن شاحنات كبيرة مغلقة بإحكام يتم فيها تحويل العادم الصادر عن المحرك إلى المقصورة الداخلية في المؤخرة. وبدأ استخدام عربات الغاز بعد تزمر أعضاء المجموعة المختصة بذلك إزاء تعرضهم للإجهاد في المعارك والألم النفسي الناجم عن إطلاق الرصاص على أعداد كبيرة من النساء والأطفال. وقد ثبت كذلك أن عمليات القتل بالغاز أقل تكلفة وأكثر فعالية. و قامت المجموعات المختصة بالقتل (وحدة القتل المتنقلة) بقتل مئات الآلاف من الأشخاص، معظمهم من اليهود وقبائل الجبسي (الغجريين) والمرضى العقليين. وفي عام 1941، قررت "القوات الخاصة"(SS) أن ترحيل اليهود إلى مراكز القتل (لحرقهم بالغاز) كان يعتبر بمثابة أكثر الطرق فعالية لتحقيق "الحل النهائي". وفي نفس العام، قامت القوات الخاصة والشرطة بتأسيس محتشد "شيلمنو" في بولندا. وتم قتل اليهود من منطقة لودج ببولندا وقبائل الغجر هناك في عربات الغاز المتنقلة.

وفي عام 1942، بدأ القتل الجماعي النظامي في غرف الغاز الثابتة (بواسطة غاز أول أكسيد الكربون المتولد من محركات الديزل) في محتشدات "بلزاك" و"سوبيبور" و"وتريبلينكا"، وكلها في بولندا. وبينما كان يتم "إنزال" الضحايا من عربات الماشية، كان يتم إخبار غالبيتهم بأنه يجب تطهيرهم في "حجرات الاغتسال." وأحيانًا كان يقوم الحراس الألمان ومساعدوهم بالصياح على الضحايا وضربهم للدخول إلى "حجرات الإغتسال" وأيديهم مرفوعة للسماح بدخول أكثر عدد ممكن من الأشخاص في غرف الغاز. فكلما زادت كثافة المشحونين في غرفة الغاز، زادت سرعة اختناق الضحايا.

وكان النازيون يبحثون باستمرار عن المزيد من وسائل الإبادة الفعالة. ففي محتشد "أوشفتز" في بولندا، قاموا بإجراء تجارب على غاز "زيكلون ب" (المستخدم سابقًا في عمليات التطهير بالبخار) عن طريق قتل حوالي 600 أسير حرب سوفيتي بالغاز بالإضافة إلى 250 معتقلاً مريضًا في أيلول/سبتمبر 1941. كانت قذائف "زيكلون ب" تتحول إلى غاز مميت عند تعرضها للهواء. وقد ثبت أنها أسرع طريقة للقتل بالغاز وتم إختيارها كوسيلة القتل الجماعي في "أوشفتز". وفي أوج عمليات الترحيل، تم قتل حوالي 6000 يهودي بالغاز يوميًا في محتشد "أوشفتز".

وعلى الرغم من عدم تصميم بعض محتشدات الإعتقال، مثل "شتوت هوف" و"ماوت هاوزن" و"زاكسين هاوزن" و"رافنز بروك"، خصيصًا كمحتشدات إبادة، إلا أنها أيضًا كانت تحتوي على غرف غاز للإعدام. وقد كانت غرف الغاز للإعدام صغيرة نسبيًا، وقد تم تشييدها لقتل هؤلاء المعتقلين المحكوم عليهم من قبل النازيين بأنهم "غير ملائمين" للعمل. ومعظم هذه المحتشدات استخدمت غاز "زيكلون ب" كأداة القتل في غرف الغاز للإعدام.