Преследование цыган в Германии, и более того во всей Европе, предшествовало захвату власти нацистами в 1933 году. Полиция в Баварии (Германия) вела центральный реестр цыган еще в 1899 году, а позже создала комиссию по координации действий полиции, направленных против цыган в Мюнхене. В 1933 году полиция в Германии начала более жесткое исполнение донацистских законов, направленных против тех, кто вел образ жизни, называющийся «цыганским». Нацисты считали таких людей расово «нежелательными» и осуществляли систематические мероприятия по преследованию цыган.

После того, как нацисты решили, что у цыган чуждая кровь, одной из главных задач стала систематическая идентификация всех цыган. Определение «цыгане» стало существенным для проведения систематического преследования. Определять евреев в этом смысле было легче благодаря записям религиозных общин, которые были легко доступны для государства. Цыгане в Германии были христианами на протяжении столетий, поэтому церковные записи не способствовали определению цыганского происхождения.

Нацисты обратились к расовой гигиене и пытались определить цыган на основании физических характеристик. Доктор Роберт Риттер, исследующий детскую психологию в Тюбингенском университете, стал центральной фигурой в изучении цыган. Он специализировался на криминальной биологии, то есть, идее о том, что преступное поведение генетически детерминировано. В 1936 году Риттер стал руководителем Центра исследований расовой гигиены и биологии населения в Министерстве здравоохранения и начал проводить расовые исследования цыган. Риттер обнаружил и классифицировал по расовому типу приблизительно 30 000 цыган, проживающих в Германии. Риттер проводил медицинские и антропологические исследования в попытке классифицировать цыган. Несмотря на заявления Риттера о подтверждении своих заключений псевдонаукой, его сотрудники опрашивали цыган с целью определения и документирования их родословной. Лица, проводящие по поручению Риттера опросы, угрожали цыганам арестом и отправкой в концентрационные лагеря в случае отказа идентифицировать своих родственников и последнее известное место их проживания. Таким образом Риттер создал реестр практически всех цыган, проживающих в то время в Германии.

В заключение своего исследования Риттер заявил, что цыгане, произошедшие из Индии, ранее являлись арийцами, но были испорчены путем смешения с малыми народами во время своей долгосрочной миграции. Риттер установил, что около 90 процентов всех цыган в Германии имели смешанную кровь и, следовательно, были носителями «дегенеративной» крови и криминальных характеристик. Поскольку они якобы представляли опасность, Риттер рекомендовал их принудительно стерилизовать. Риттер утверждал, что остальных «чистокровных» цыган необходимо поместить в резервации для дальнейшего изучения. В действительности, практически никакого различия между так называемыми чистокровными цыганами и цыганами со смешанной кровью не было. Они все подверглись нацистской политике преследований, а позже и массовому уничтожению.

В 1936 году нацисты централизовали всю полицейскую власть в Германии под руководством командующего СС и шефа немецкой полиции Генриха Гиммлера. Таким образом, политика полиции по отношению к цыганам стала также централизованной. В Берлине Гиммлер учредил Центральное имперское управление по подавлению цыганской угрозы. Данное агентство переняло на себя и расширило бюрократические меры по систематическому преследованию цыган.

Одним из первых принятых агентством решений было распространение на цыган расовых законов. После 1936 года на цыган стали распространяться Нюрнбергские законы, Закон о предотвращении рождения потомства с наследственными заболеваниями и Закон против опасных закоренелых преступников. Многие цыгане, которые привлекли внимание государства, были обязаны подвергнуться стерилизации.

Незадолго до открытия в 1936 году Олимпийских игр в Берлине полиция отдала приказ об аресте и насильственном переселении всех цыган из Большого Берлина в лагерь Марцан, расположенный на открытом поле недалеко от кладбища и мусорной свалки в восточном Берлине. Полиция окружала все лагерные стоянки цыган и перевозила жителей и их повозки в Марцан. Аресты начались в 4 утра 16 июля 1936 года. Полиция держала лагерь под охраной, ограничивая передвижение в лагерь и из него. Многие из 600 арестованных цыган продолжали ежедневно ходить на работу, но каждую ночь были обязаны возвращаться. Позже им пришлось выполнять принудительную работу на заводах по производству боеприпасов.

По всей Германии, местные жители и отряды полиции загоняли цыган в муниципальные лагеря. Позже эти лагеря превратились в лагеря принудительного труда для цыган. Марцан и цыганские лагеря (Zigeunerlager), созданные нацистами в других городах на протяжении 1935 - 1938 годов, были лишь предварительным этапом на пути к геноциду. К примеру, мужчины из Марцана были отправлены в 1938 году в Заксенхаузен, а в 1943 году их семьи были депортированы в Освенцим.

Отдельных цыган подвергали аресту как «антиобщественных элементов» или «закоренелых преступников» и отправляли в концентрационные лагеря. Почти в каждом концентрационном лагере Германии были заключенные-цыгане. Во всех лагерях все заключенные носили отличительные знаки различных форм и цветов, идентифицирующих их по категориям. Цыгане носили черные треугольные нашивки, символизирующие «антиобщественные элементы», или зеленые, обозначающие «профессиональных» преступников.