Persekusi terhadap penduduk Roma (Gipsi) di Jerman, dan memang di seluruh Eropa, mendahului pengambilalihan kekuasaan oleh Nazi pada 1933. Polisi di Bavaria, Jerman, menyimpan arsip pencatatan sentral terhadap penduduk Roma sejak 1899, dan kemudian mendirikan sebuah komisi untuk mengoordinasikan aksi-aksi polisi terhadap penduduk Roma di Munich. Pada 1933, polisi di Jerman memulai penegakan yang lebih ketat terhadap perundang-undangan pra-Nazi terhadap mereka yang mengikuti gaya hidup yang disebut "Gipsi." Nazi menilai komunitas tersebut sebagai kelompok "yang tidak diinginkan" dan melaksanakan tindakan persekusi sistematis terhadap penduduk Roma.

Setelah Nazi memutuskan bahwa Roma memiliki darah asing, salah satu dari perhatian utama mereka adalah pengidentifikasian sistematis terhadap seluruh orang Roma. Pendefinisian "Roma" sangat penting untuk melakukan persekusi sistematis. Mengklasifikasikan siapa yang Yahudi dalam pengertian ini adalah lebih mudah karena arsip yang dimiliki komunitas keagamaan siap tersedia bagi negara. Penduduk Roma di Jerman merupakan penganut Kristen selama berabad-abad, sehingga arsip kegerejaan tidak berguna dalam menentukan keturunan Roma.

Nazi beralih ke kebersihan rasial dan berupaya menentukan siapa penduduk Roma berdasarkan karakteristik fisik. Dr. Robert Ritter, seorang psikologis anak di Universitas Tuebingen, menjadi tokoh sentral dalam studi tentang orang Roma. Spesialisasinya adalah biologi pidana; yaitu, gagasan bawah perilaku pidana ditentukan secara genetis. Pada 1936, Ritter menjadi direktur Center for Research on Racial Hygiene and Demographic Biology (Pusat Penelitian tentang Kebersihan Rasial dan Biologi Demografi) di Kementerian Kesehatan dan memulai studi rasial terhadap orang Roma. Ritter berupaya menemukan dan mengklasifikasikan, berdasarkan tipe ras, sekitar 30.000 orang Roma yang tinggal di Jerman. Ritter melakukan pemeriksaan medis dan antropologi dalam upaya untuk mengklasifikasikan orang Roma. Kendati klaim yang dibuat sendiri oleh Ritter untuk mendokumentasikan keputusannya dengan ilmu semu, timnya memilih melakukan wawancara terhadap orang Roma untuk menentukan dan mengarsipkan genealogi mereka. Pewawancara yang dikerahkan Ritter mengancam objek eksperimen mereka dengan penangkapan dan penahanan di kamp konsentrasi kecuali mereka mengidentifikasi kerabatnya dan tempat tinggal terakhir mereka yang diketahui. Dengan cara ini, Ritter membuat buku daftar yang memuat hampir semua orang Roma yang pada saat itu tinggal di Jerman.

Di akhir penelitiannya, Ritter menyatakan bahwa orang Roma, yang asalnya dari India, dulunya adalah orang Arya tapi sudah mengalami perubahan karena berbaur dengan orang-orang yang lebih rendah selama migrasi panjang mereka. Ritter menaksir bahwa sebesar 90 persen dari seluruh orang Roma di Jerman memiliki darah campuran dan oleh karena itu merupakan pembawa darah "bobrok" dan karakteristik penjahat. Karena mereka diduga membahayakan, Ritter menyarankan agar mereka disterilkan secara paksa. Orang Roma berdarah murni yang tersisa, Ritter berpendapat, akan ditempatkan di tempat penampungan dan diteliti lebih lanjut. Dalam praktiknya, tidak banyak yang membedakan antara apa yang dinamakan Ritter sebagai orang Roma berdarah murni dan orang Roma berdarah campuran. Mereka semua menjadi korban kebijakan persekusi, dan kemudian, pembantaian massal, Nazi.

Pada 1936, Nazi memusatkan seluruh kekuatan polisi di Jerman di bawah komando Heinrich Himmler, kepala SS dan kepala kepolisian Jerman. Sebagai akibatnya, kebijakan polisi terhadap penduduk Roma juga tersentralisasi. Di Berlin, Himmler mendirikan Kantor Pusat Reich untuk Penindasan Gangguan Gipsi. Badan ini mengambil alih dan memperluas langkah-langkah birokratis untuk secara sistematis memersekusi warga Roma.

Salah satu keputusan pertama badan tersebut adalah memberlakukan undang-undang ras terhadap warga Roma. Setelah tahun 1936, warga Roma harus tunduk pada Undang-Undang Nuremberg, Undang-Undang Pencegahan Keturunan yang Berpenyakit Turunan, dan Undang-Undang terhadap Kejahatan sebagai Kebiasaan yang Berbahaya. Orang Roma yang diawasi negara banyak yang diwajibkan menjalani sterilisasi.

Tak lama sebelum pembukaan Pertandingan Olimpiade 1936 di Berlin, polisi memerintahkan penangkapan dan relokasi paksa terhadap seluruh orang Roma di Berlin Raya ke Marzahn, sebuah lapangan terbuka yang terletak di dekat pekuburan dan tempat pembuangan limbah di Berlin timur. Polisi mengepung seluruh perkemahan orang Roma dan mengangkut penghuni dan gerobaknya ke Marzahn. Penangkapan dimulai pukul 4 pagi pada 16 Juli 1936. Polisi berseragam menjaga kamp sehingga membatasi pergerakan keluar masuk kamp. Kebanyakan dari 600 orang Roma yang ditangkap tetap pergi bekerja setiap hari, tapi diharuskan kembali setiap malam. Selanjutnya, mereka harus melakukan kerja paksa di pabrik-pabrik persenjataan.

Di seluruh Jerman, baik warga lokal maupun detasemen polisi lokal mulai memaksa warga Roma masuk ke dalam kamp-kamp kota. Selanjutnya, kamp-kamp ini berkembang menjadi kamp kerja paksa bagi orang Roma. Kamp Marzahn dan Gipsi (Zigeunerlager) yang didirikan oleh Nazi di kota-kota lain antara tahun 1935 hingga 1938 merupakan tahap pendahuluan menuju genosida. Kaum laki-laki dari Marzahn, sebagai contoh, dikirim ke Sachsenhausen pada 1938 dan keluarga mereka dideportasi ke Auschwitz pada 1943.

Para individu Roma juga ditangkap sebagai orang "asosial" atau "penjahat karena kebiasaan" dan dikirim ke kamp-kamp konsentrasi. Hampir setiap kamp konsentrasi di Jerman memiliki tahanan orang Roma. Di kamp-kamp, seluruh tahanan mengenakan tanda dengan berbagai bentuk dan warna, yang mengidentifikasi mereka berdasarkan kategori tahanan. Orang Roma mengenakan tambalan segitiga hitam, simbol untuk orang "asosial," atau tambalan hijau, simbol untuk penjahat "profesional".