نازی ها در اواخر 1939 با كشتن بیماران روانی ("كشتن از سر ترحم") شروع به آزمایش گاز سمی کردند، به قصد اینکه آن را به منظور كشتار جمعی مورد استفاده قرار دهند. نازی ها از عبارت دارای حسن تعبیر "كشتن از سر ترحم" استفاده می کردند تا کشتار سازمان یافته آن دسته از آلمانی هایی را توضیح دهند که از نظر آنها، به دلیل ابتلا به بیماری روانی یا معلولیت، "شایسته زنده ماندن" نبودند. به عنوان بخشی از برنامه کشتن از سر ترحم، شش تأسیسات مخصوص عملیات کشتار با گاز دایر شد: برنبورگ، براندنبورگ، گرفنک، هادامار، هارتهایم و زوننشتاین. این مراكز كشتار از گاز مونواکسید کربن خالص - كه بصورت شیمیایی تولید شده بود- استفاده می کردند.

پس از تهاجم آلمانی ها به اتحاد جماهیر شوروی در ژوئن 1941 و تیرباران دسته جمعی غیرنظامیان به دست "واحدهای سیار كشتار"، نازی ها کامیون های گاز را برای كشتارهای دسته جمعی مورد آزمایش قرار دادند. کامیون های گاز، کابین های سربسته و بدون منفذ داشتند که گاز موتور به داخل آنها منتقل می شد. استفاده از کامیون های گاز زمانی شروع شد که اعضای واحدهای سیار كشتار از خستگی ناشی از جنگ و عذاب روحی ناشی از تیرباران تعداد زیادی از زن ها و كودكان شكایت کردند. علاوه بر این، ثابت شده بود که کشتار با گاز هزینه کمتری در بر داشت. واحدهای سیار کشتار، صدها هزار نفر از مردم را كه اکثر آنها یهودیان، كولیان و بیماران روانی بودند با گاز كشتند. در 1941، نیروهای اس اس به این نتیجه رسیدند كه تبعید یهودیان به اردوگاه های مرگ (به منظور كشته شدن با گاز) مؤثرترین شیوه تحقق "راه حل نهایی" است. در همان سال، نازی ها اردوگاه خلمنو را در لهستان دایر كردند. یهودیان اهل لودز لهستان و كولی ها در کامیون های سیار گاز آن اردوگاه كشته شدند.

در 1942، کشتارهای دسته جمعی سازمان یافته در اتاق های گاز ثابت (با استفاده از گاز مونوکسید کربن تولید شده توسط موتورهای دیزل) در بلزک، سوبیبور و تربلینكا- که همگی در لهستان قرار داشتند- شروع شد. هنگامی که قربانیان از واگن های مخصوص حمل حیوانات "تخلیه می شدند"، به آنها گفته می شد که بایستی خود را در "حمام" ضدعفونی کنند. نگهبانان نازی و اوکراینی گاهی اوقات بر سر قربانیان فریاد زده و آنها را مورد ضرب و شتم قرار می دادند؛ به قربانیان دستور داده شده بود تا در حالی که دستهای خود را بالا گرفته اند وارد "حمام ها" شوند تا به این ترتیب تعداد بیشتری از افراد در اتاق های گاز قرار بگیرند. هر چه اتاق های گاز شلوغ تر بودند، قربانیان سریع تر خفه می شدند.

نازی ها دائماً به دنبال راههای مؤثرتری برای از میان بردن قربانیان خود بودند. در سپتامبر 1941، آنها در اردوگاه آشویتس در لهستان برای خفه کردن حدود 600 اسیر جنگی روس و 250 زندانی بیمار از گاز "تزیکلون ب" (که قبلاً از آن برای گند زدایی استفاده می شد) به صورت آزمایشی استفاده کردند. گلوله های تزیکلون ب، با قرار گرفتن در معرض هوا به یک گاز مهلک و کشنده تبدیل می شدند. استفاده از این گلوله ها، به عنوان سریعترین روش خفگی با گاز برای کشتار دسته جمعی در آشویتس انتخاب شد. در زمان بالاترین میزان تبعیدها، هر روز بیش از 6 هزار یهودی در آشویتس با گاز كشته می شدند.

اگر چه اردوگاه های کار اجباری اشتوتهاف، ماوتهاوزن، زاكسنهاوزن و راونسبروک، به طور اخص به عنوان اردوگاه های مرگ طراحی نشده بودند، اما آنها نیز دارای اتاق های گاز بودند. اتاق های گاز نسبتاً کوچک بودند و به منظور کشتن زندانیانی ساخته شده بودند که از نظر نازی ها "ناسالم" بوده و قدرت کارکردن نداشتند. در اکثر این اردوگاه ها از گاز تزیکلون ب برای کشتار در اتاق های گاز استفاده می شد.