Peu après l'Anschluss (l'incorporation de l'Autriche par l'Allemagne nazie les 11-13 mars 1938), le Reichsführer SS Heinrich Himmler, le général SS Oswald Pohl alors directeur du WVHA (Office central de l'administration et de l'économie de la SS) et le général SS Theodor Eicke, Inspecteur des camps de concentration, inspectèrent un site qui leur semblait adapté à l'établissement d'un camp de concentration afin d'incarcérer, selon les dires du chef de district du parti nazi de Haute-Autriche August Eigruber, les "traîtres à la population dans toute l'Autriche". Ce site se trouvait sur la rive du Danube, près d'une carrière de pierre qui appartenait à la ville de Vienne, à environ 5 kilomètres de la ville de Mauthausen et à une vingtaine de kilomètres au sud-est de Linz en Haute-Autriche.

Fin avril 1938, la SS fonda l'entreprise Deutsche Erd- und Steinwerke GmbH-DESt (Pierre et Terre) pour l'exploitation du granit qui devait être extrait par la main d'œuvre du camp. En août 1938, l'inspection des camps de concentration transféra environ 300 prisonniers, pour la plupart autrichiens et pratiquement tous récidivistes ou classés comme "asociaux" par les nazis, de Dachau sur le site de Mauthausen afin de commencer la construction du nouveau camp. Fin 1938, Mauthausen comptait 1 000 prisonniers, encore presque tous des condamnés de droit commun et des "asociaux". En décembre 1939, trois mois après le déclenchement de la Seconde Guerre mondiale, le nombre dépensait 2 600 prisonniers, principalement des condamnés de droit commun, des "asociaux", des opposants politiques et des objecteurs de conscience religieux comme les Témoins de Jéhovah.

On estime à 197 464 le nombre de prisonniers qui sont passés par Mauthausen entre août 1938 et mai 1945. Au moins 95 000 d'entre eux y moururent dont plus de 14 000 Juifs.

LE PERSONNEL ET LES GARDIENS SS

Le premier commandant de Mauthausen fut le capitaine SS Albert Sauer qui présida à la création du camp le 1er aout 1938 et resta commandant jusqu'au 17 février 1939. Il fut alors remplacé par le colonel SS Franz Ziereis qui garda ces fonctions jusqu'en mai 1945.

Après mars 1940, le capitaine SS Georg Bachmayer fut le premier commandant du camp de détention protective, responsable des prisonniers quand ils étaient à l'intérieur du camp. En 1938-39, le 4ème régiment ("Ostmark") des unités SS à tête de mort (SS-Totenkopfverbände) gardait le périmètre du camp ainsi que les détachements de prisonniers déployés à l'extérieur du camp. En 1940-41, l'unité de gardiens se renforça pour atteindre la taille d'un bataillon et fut renommée SS-Totenkopf-Sturmbann. Elle était administrativement subordonnée à la Waffen SS mais le commandant du camp lui donnait tous les ordres opérationnels.

A partir de 1942, les autorités SS déployèrent un nombre toujours plus important de Waffen SS d'origine allemande de Slovaquie, Roumanie, Hongrie et Croatie pour servir dans les unités SS à tête de mort dans tous les camps de concentration, dont Mauthausen. En 1944 et 1945, des gardiens formés et entraînés au camp de Trawniki (certains d'entre eux avaient participé aux opérations de déportations dans le cadre de l'Action Reinhard ou avaient servi dans des centres de mise à mort) aussi bien que des militaires issus notamment de l'armée de l'air et de la marine, puis plus tard des policiers municipaux (Schutzpolizei) et des pompiers, servirent dans les unités SS à tête de mort à Mauthausen et dans les camps satellites.

Avec le début de la Seconde Guerre mondiale, le nombre de prisonniers qui arrivèrent à Mauthausen augmenta considérablement et leur origine se diversifia. Après la défaite de la France en juin 1940, les autorités françaises de Vichy livrèrent à la SS et à la police allemande des milliers de réfugiés espagnols, qui avaient pratiquement tous combattu contre les troupes rebelles du général Franco pendant la guerre civile espagnole et qui avaient fui en France après le renversement de la République espagnole en 1939. La SS et la police incarcérèrent l'immense majorité des républicains, soit plus de 7 000, à Mauthausen en 1940 et 1941. Des membres des forces anti-franquistes continuèrent à arriver au camp jusque dans les dernières semaines de la guerre. Les membres des Brigades internationales y furent également incarcérés. De diverses nationalités et communistes pour la plupart, ils avaient également combattu les forces de Franco en Espagne.