Karl Fiehler kam 1902 als Siebenjähriger mit seiner Familie nach München. Nach der Schulzeit absolvierte der Sohn des Gründungspastors der Münchner Baptistengemeinde eine kaufmännische Lehre. Als junger Mann kämpfte er freiwillig im Ersten Weltkrieg. Zurück in München, nahm er im Dezember 1918 eine Aushilfstätigkeit beim Münchner Einwohneramt an. Seine damalige Aufgabe war die Vorbereitung der ersten freien und allgemeinen Wahlen im Januar 1919. Es ist davon auszugehen, dass Fiehler schon damals ein überzeugter Antidemokrat und Antisemit war. 1919 schloss er sich einer Einwohnerwehr an, wenig später bewegte er sich im Umfeld der rechtsextremen Thule-Gesellschaft und in nationalsozialistischen Kreisen.
Im November 1923 nahm Fiehler als Mitglied des ‚Stoßtrupp Hitler‘, dem Kern der späteren SS, aktiv an Hitlers Putschversuch teil. Nach dessen Scheitern drohte ihm die Entlassung aus dem mittleren Kommunaldienst. Durch einen Einspruch beim Freistaat Bayern, der Aufsichtsbehörde, konnte er seine Stellung als Verwaltungsassistent jedoch retten. Gleichzeitig blieb er ein aktives Mitglied der nationalsozialistischen Bewegung: Über eine Tarnliste der kurzzeitig verbotenen NSDAP zog er 1924 in den Stadtrat ein. Als sich die Partei im Jahr darauf neu formierte, war er Gründungsmitglied. Noch 1925 wurde er ihr Fraktionsvorsitzender und trat fortan mit populistischen Anträgen und volksverhetzenden Reden in Erscheinung. In der Partei machte Fiehler rasch Karriere und übernahm verschiedene Funktionärsposten: So führte er die Ortsgruppe Schwabing und wurde 1928 Reichsleiter für Kommunalpolitik.
Elf Tage nach der Machtübernhame der Nationalsozialisten in Bayern am 9.3.1933 trat der amtierende Oberbürgermeister Karl Scharnagl (BVP) unter dem massiven Druck der Nationalsozialisten zurück. Noch am selben Tag wurde Fiehler vom kommissarischen Innenminister Adolf Wagner zum kommissarischen Ersten Bürgermeister Münchens ernannt. Im April bestätigte ihn der inzwischen funktional eingeschränkte, personell veränderte und eingeschüchterte Stadtrat im Amt.
Als Oberbürgermeister Münchens trug Fiehler maßgeblich zur Abschaffung der demokratischen Errungenschaften der Weimarer Republik und zur Errichtung des nationalsozialistischen Unrechtsregimes bei. Getrieben von ideologischem Eifer, übernahm er eine Vorreiterrolle im Bereich der kommunalen NS-Verfolgungspolitik. In vorauseilendem Gehorsam beschleunigte er unmittelbar nach seiner Einsetzung die Ausgrenzung von politischen Gegner*innen, Juden*Jüdinnen und anderen missliebigen Personengruppen. So veranlasste er noch im März 1933, also fünf Jahre früher als auf Reichsebene, dass JUden*Jüdinnen und Sozialist*innen von der Vergabe öffentlicher Aufträge auszuschließen seien. Jüdischen Ärzt*innen wurde die Behandlung ‚nichtarischer‘ Patient*innen verboten und in der Stadtverwaltung eine Kartei jüdischer Gewerbetreibender angelegt. Als die Stadt München im August 1933 JUden*Jüdinnen auch den Besuch öffentlicher Bäder verbieten wollte, wurde diese Verordnung vom Reichsinnenministerium als ungesetzlich beurteilt und musste zunächst zurückgenommen werden. Auch deshalb drängte Fiehler beim Deutschen Gemeindetag immer wieder auf die gesetzliche Fixierung der Maßnahmen des NS-Staats. Die Amtszeit Fiehlers wurde 1943 auf Vorschlag Hitlers und mit Zustimmung von Innenminister Heinrich Himmler bis zum 2.10.1955 verlängert – aber der Sturz des NS-Regimes beendete sie im Frühjahr 1945.
Nach dem Zusammenbruch der Diktatur stellte sich Fiehler auf den Standpunkt, er habe als Bürgermeister immer nur das Gute gewollt und „niemals Unrecht“ begangen. In dem gegen ihn geführten Spruchkammerverfahren behauptete er, von den Verbrechen der Nationalsozialist*innen nichts gewusst zu haben – weder von den in den Konzentrationslagern verübten Gewalttaten noch vom Massenmord an den JUden*Jüdinnen. „Er versuchte glaubhaft zu machen, dass er in seiner Eigenschaft als Oberbürgermeister weniger wusste als jeder Einwohner Münchens“, berichtete damals die Süddeutsche Zeitung (Artikel v. 13.1.1949). Zu seiner Verteidigung stellte sich Fiehler gar als geistig minderbemittelt dar. Die Münchner Hauptspruchkammer bewertete die Schutzbehauptungen Fiehlers als unglaubwürdig und erkannte in ihm einen überzeugten Nationalsozialisten. Gleichwohl gingen die Richter von einer „geistigen Begrenztheit“ des Angeklagten aus, die es ihm nicht gestattet habe, „politische Verantwortlichkeit und politische Zusammenhänge zu erkennen“. Fiehler wurde als ‚Aktivist‘ eingestuft und zu zwei Jahren Arbeitslager verurteilt, die durch seine Internierungshaft jedoch als abgegolten galten. Sein Versuch, Versorgungsbezüge für seine Tätigkeit als Oberbürgermeister zu erhalten, scheiterte 1965 am Veto der Landeshauptstadt.