آزار و اذیت کولی‌ها در آلمان و در حقیقت در تمام اروپا، به پیش از به قدرت رسیدن حکومت نازی در سال ۱۹۳۳ باز می‌گردد. پلیس ایالت باواریای آلمان, از اوایل سال ۱۸۹۹، لیست کولی‌ها را در یک دفتر ثبت مرکزی حفظ کرد و بعدها در مونیخ، کمیسیونی برای هماهنگی اقدامات پلیس علیه کولی‌ها تأسیس نمود. در سال ۱۹۳۳، پلیس آلمان، بر شدت فشار بر قوانین پیش از حکومت نازی علیه افرادی که روش زندگی «کولی» گونه را دنبال می‌کردند افزود . نازی‌ها چنین افرادی را از نظر نژادی «نامطلوب» می‌خواندند و اقدامات سیستماتیکی در جهت شکنجه و آزار کولی‌ها صورت دادند.

پس از اینکه نازی‌ها مصمم شدند که کولی‌ها را افرادی با خون بیگانه در نظر بگیرند، یکی از دغدغه‌های اصلی آنها، شناسایی اصولی تمامی آنها بود. برای اجرای روشمند آزار و اذیت، داشتن تعریفی از «کولی» ضروری بود. از این منظر، طبقه بندی افراد به عنوان یهودی ساده تر بود، چراکه مدارکی که توسط جوامع مذهبی نگهداری می‌شد، در اختیار دولت قرار داشت. کولی‌ها در آلمان از چندین قرن پیش مسیحی بودند، بنابراین استفاده از مدارک مذهبی در تعیین تبار کولی‌ها بی‌ثمر بود.

حکومت نازی به بهداشت نژادی روی آورد و سعی در تشخیص کولی‌ها برمبنای ویژگی‌های فیزیکی آنها داشت. دکتر رابرت رایتر، روانشناس کودک در دانشگاه توبینگن، در ارتباط با مطالعه در مورد کولی‌ها، نقش اصلی داشت. تخصص وی زیست شناسی جنایی بود که رفتار جنایی را برمبنای ژنتیک تعیین می‌کرد. در سال ۱۹۳۶، رایتر به مدیریت مرکز پژوهش‌های بهداشت نژادی و زیست شناسی جمعیتی در وزارت بهداشت منصوب شد و مطالعات نژادی کولی‌ها را آغاز نمود. رایتر تعیین موقعیت و طبقه بندی انواع نژادی ۳۰ هزار کولی تخمین زده شده در آلمان را به عهده گرفت. این متخصص در تلاش برای طبقه بندی کولی‌ها، آزمایشات پزشکی و انسان شناسی انجام داد. علارغم ادعای خود رایتر مبنی بر ثبت تصمیمامتش به صورت شبه علمی، گزارش شد که تیم وی برای تعیین و ثبت تبار کولی‌ها به مصاحبه با آنها متوسل شده‌اند. تیم مصاحبه‌کننده‌ی رایتر، در صورت عدم همکاری سوژه‌ها، برای معرفی بستگان و آخرین محل سکونتشان، آنها را به دستگیری و حبس در اردوگاه های کار اجباری تهدید می‌کردند. بدینصورت، رایتر فهرستی تقریباً کامل از تمامی کولی‌های حاضر در آلمان تهیه کرد.

در نتیجه گیری این پژوهش، رایتر عنوان کرد که منشأ کولی‌ها از هند سرچشمه می‌گیرد، آنها زمانی آریایی بوده‌اند اما طی مهاجرت طولانیشان، به دلیل اختلاط با افراد پست‌تر، نژاد آنها فاسد شده است. رایتر تخمین زد که ۹۰ درصد تمامی کولی‌ها در آلمان، دو رگه و در نتیجه حامل خون «فاسد» و ویژگی‌های شخصیتی مجرمانه هستند. از آنجا که گفته می‌شد که آنها می‌توانند خطرناک باشند، رایتر پیشنهاد عقیم سازی اجباری آنها را مطرح کرد. از نظر رایتر، بقیه‌ی کولی‌های دارای نژاد خالص، باید تحت نظر قرار می‌گرفتند تا مطالعات بیشتری روی آنها انجام شود. در عمل، تمایز چندانی بین کولی‌های به قول رایتر دارای نژاد خالص و دورگه وجود نداشت. تمامی این افراد در معرض آزار و اذیت و بعد از آن قتل عام قرار گرفتند.

در سال ۱۹۳۶، نازی‌ها تمامی نیروی پلیس آلمان را تحت کنترل هاینریش هیملر، رئیس اس‌اس و رئیس پلیس آلمان متمرکز نمودند. در نتیجه، رویکرد پلیس نسبت به کولی‌ها نیز متمرکز شد. هیملر دفتر مرکزی رایش را برای سرکوب «کولی‌‌ها‌» در برلن تشکیل داد. این دفتر، اقدامات اداری را برای آزار و اذیت روشمند کولی‌ها به عهده گرفت و گسترش داد.

یکی از اولین تصمیمات این دفتر، مشمول کردن کولی‌ها به قوانین نژادی بود. پس از سال ۱۹۳۶، کولی‌ها مشمول قوانین نورنبرگ، یعنی قانون پیشگیری از تولیدنسل با بیماری وراثتی، و قانون علیه مجرمان همیشه خطرناک شدند. بسیاری از کولی‌ها که مورد توجه دولت قرار گرفته بودند باید عقیم می‌شدند.

کمی بعد از افتتاحیه‌ی بازی‌های المپیک ۱۹۳۶ در برلن، پلیس دستور دستگیری و جابجایی اجباری تمامی کولی‌ها را از برلن بزرگ به مارتزان صادر کرد. مارتزان زمین فراخی واقع شده در نزدیکی یک قبرستان و محل تخلیه‌ی فاضلاب برلن شرقی بود. پلیس تمامی اردوگاه‌های کولی‌ها را محاصره و تمامی ساکنان آنها و گاری‌هایشان را به مارتزان منتقل کرد. توقیف و بازداشت در تاریخ ۱۶ جولای ۱۹۳۶ ساعت ۴ صبح آغاز شد. پلیس‌ها با لباس‌های فرم، اردوگاه را محاصره و رفت و آمد به داخل و خارج از اردوگاه را ممنوع کردند. بسیاری از این ۶۰۰ کولی دستگیر شده، هرروز سر کار می‌رفتند اما هرشب باید به آنجا بازمی‌گشتند. مدتی بعد، آنها را به کار اجباری در کارخانه‌های تولید جنگ افزار وادار نمودند.

در سرتاسر آلمان، هم شهروندان بومی و هم گروه‌های پلیس‌های محلی، به راندن کولی‌ها به اردوگاه‌های شهرداری پرداختند که این اردوگاه‌ها کمی بعد به اردوگاه‌های کار اجباری برای کولی‌ها مبدل شد. مارتزان و اردوگاه‌های دیگر کولی‌ها (Zigeunerlager) که در بین سال‌های ۱۹۳۵ تا ۱۹۳۸ توسط حکومت نازی در شهر‌های دیگر ساخته شده بود، از اولین اقدامات در مسیر نسل کشی به شمار می‌آیند. برای مثال مردان در سال ۱۹۳۸ از مارتزان به زاخن‌هاوزن فرستاده و خانواده هایشان نیز در سال ۱۹۴۲به آشویتس تبعید شدند.

افراد کولی همچنین تحت عنوان «ضد اجتماعی» یا «مجرمان همیشگی» دستگیر و به اردوگاه‌های کار اجباری فرستاده می‌شدند. تقریباً همه‌ی اردوگاه‌های کار اجباری در آلمان، زندانیان کولی داشتند. در اردوگاه‌ها، تمامی کولی‌ها علامت‌ها و برچسب‌هایی با اشکال و رنگ‌های گوناگون داشتند که آنها را در زمره‌ی زندانی مشخص می‌نمود. کولی‌ها یا برچسب‌های مثلث سیاه که به معنای «ضد اجتماعی» و یا سبز که نماد مجرمین «حرفه‌ای» بود را داشتند.