Kramer stammte aus einer streng katholischen Münchner Mittelstandsfamilie. Sein Vater war im öffentlichen Dienst als Wirtschaftsprüfer tätig. Er besuchte in Augsburg, wohin die Familie während des Ersten Weltkriegs gezogen war, die Volks- und Handelsschule und absolvierte eine Lehre als Elektriker in einem Warenhaus. Nach der Gesellenprüfung wurde er dort noch für einige Monate weiterbeschäftigt. Zwischen 1925 und 1934 war Kramer überwiegend erwerbslos und lebte weiterhin bei seinen Eltern. Im Dezember 1931 trat er in die NSDAP ein, im Juni 1932 in die SS. In der ‚Schutzstaffel‘ engagierte er sich durch intensive ehrenamtliche Mitarbeit. Nach Aussage seiner Witwe trat er überwiegend aus Perspektivlosigkeit der NS-Bewegung bei. Ab Herbst 1933 übte Kramer Gelegenheitsarbeiten bei der Stadt Augsburg aus, im Januar 1934 erhielt er eine feste Anstellung im Standesamt Augsburg.
Ab dem Frühjahr 1934 war er hauptberuflich für die SS tätig, zunächst im Büro der Zahlmeisterei der SS beim KZ Dachau. Von dort wechselte er für knapp zwei Jahre in die Verwaltung des KZ Esterwegen, bevor er in die Schreibstube des KZ Dachau zurückkehrte. 1937 leitete er die Poststelle des KZ Sachsenhausen. Erst durch die Tätigkeit als stellvertretender Lagerkommandant im KZ Mauthausen – unter Franz Ziereis – ab August 1938 hatte er unmittelbar mit KZ-Häftlingen zu tun. Von dort wechselte Kramer im Mai 1940 ins KZ Auschwitz, wo er bis November 1940 als Stellvertreter von Rudolf Höß Dienst tat. Anschließend besuchte Kramer in Dachau einen Lehrgang zum Schutzhaftlagerführer.
Ab April 1941 war Kramer Leiter des Häftlingslagers und zunächst stellvertretender KZ-Kommandant, im Oktober 1942 Kommandant des KZ Natzweiler-Struthof. Dort leitete und beaufsichtigte er im August 1943 die Ermordung von 29 Jüdinnen und 57 Juden durch Blausäuregas, um die Schädel- und Skelettsammlung des Anatomieprofessors August Hirt an der Reichsuniversität Straßburg zu erweitern. Ab Mai 1944 war Kramer Kommandant des Vernichtungslagers Auschwitz-Birkenau. Zu dieser Zeit begann die Ermordung der Mehrzahl der etwa 437.000 nach Auschwitz deportierten ungarischen Juden*Jüdinnen. Im Dezember 1944, die Auflösung der Vernichtungsanlagen in Auschwitz hatte inzwischen begonnen, übernahm Kramer die Kommandantur des KZ Bergen-Belsen. Dort blieb er bis zur Befreiung des Lagers durch britisches Militär am 15.4.1945 auf seinem Posten.
Bei Eintreffen der Briten fanden sich auf dem Gelände des KZ Bergen-Belsen über 10.000 nicht bestattete Leichen, etwa 12.000 der etwa 40.000 noch Lebenden waren so geschwächt, dass sie in den folgenden Tagen oder Wochen starben. Kramer wurde verhaftet und vor ein britisches Militärgericht in Lüneburg gestellt, das ihn am 17.11.1945 wegen Kriegsverbrechen zum Tode verurteilte. Vier Wochen später wurde er im Zuchthaus Hameln durch einen britischen Scharfrichter gehenkt. Nach Einschätzung von Tom Segev gehörte Kramer zu den Täter*innen, die reflexionslos ihre ‚Pflicht‘ erfüllten, Handlungsspielräume nicht erkannten und möglicherweise kein Einsehen in den verbrecherischen Charakter ihrer Taten hatten (Segev, S. 66-69).