Айнзатцгруппы (оперативные карательные отряды) комплектовались преимущественно эсэсовцами и немецкими полицейскими. Во время вторжения в Советский Союз в июне 1941 года айнзатцгруппы следовали за немецкой армией по мере ее продвижения вглубь советской территории. Айнзатцгруппы проводили операции по массовому уничтожению людей, зачастую опираясь на помощь местных коллаборационистов. К числу жертв относились евреи, цыгане, а также советские государственные и партийные работники. Айнзатцгруппы убили также тысячи пациентов лечебниц для умственно и физически неполноценных людей. В отличие от позднее введенной практики депортации евреев из их родных сел и городов или из гетто в лагеря смерти, айнзатцгруппы убивали евреев непосредственно в местах их проживания. Немецкая армия обеспечивала для айнзатцгрупп организационно-хозяйственную поддержку, включая предоставление снаряжения, транспорта, жилья, а иногда и личного состава в виде подразделений для охраны и перевозки заключенных. Первое время айнзатцгруппы расстреливали преимущественно еврейских мужчин. Однако уже к концу лета 1941 года, где бы они ни появлялись, они убивали всех – мужчин, женщин и детей, невзирая на пол и возраст, – и хоронили тела в общих могилах. Евреев выявляли в основном с помощью местных информаторов и переводчиков, а затем отправляли на сборные пункты. После этого их пешком или на грузовиках доставляли к месту расстрела, где уже были вырыты траншеи. В некоторых случаях жертв заставляли собственноручно копать себе могилу перед экзекуцией.

Айнзатцгруппы чаще всего расстреливали своих жертв. Однако к концу лета 1941 года Генрих Гиммлер, отметив тяжелое психологическое бремя, налагаемое на его людей при проведении массовых расстрелов, потребовал разработать более эффективный способ убийства. В результате была создана душегубка – передвижная газовая камера, смонтированная на шасси грузового автомобиля, в которой выхлопные газы использовались для удушения жертв. Такие душегубки, или «газвагены», впервые появились на Восточном фронте в конце осени 1941 года и впоследствии использовались наряду с расстрелами для убийства евреев и других жертв в местах действиях айнзатцгрупп. К весне 1943 года айнзатцгруппы и полицейские батальоны уничтожили более миллиона советских евреев и десятки тысяч советских комиссаров, партизан, цыган и пациентов психиатрических лечебниц. Использование мобильных карательных отрядов и, в частности, расстрельных команд оказалось неэффективным и психологически тяжелым для самих убийц методом. В то время как карательные отряды проводили свои операции, немецкие власти уже разрабатывали и начинали строить в лагерях смерти специальные стационарные газовые камеры для массового уничтожения евреев.