Die Unternehmenslandschaft erfährt durch KI einen tiefgreifenden Wandel. Die Verantwortlichen müssen strategische Chancen und Herausforderungen erkennen und mit inhärenten Risiken angemessen umgehen. KI fordert die Kontroll- und Steuerungsstruktur innerhalb der Unternehmen heraus. Mit vorausschauender Unternehmensführung und wirksamen Kontrollmechanismen kann sichergestellt werden, dass Unternehmen beim Einsatz von KI transparent, verantwortungsbewusst und effizient arbeiten. Ziel ist es den langfristigen Erfolg des Unternehmens sicherzustellen und relevante Stakeholder frühzeitig einzubinden sowie deren Vertrauen in die Zukunftsfähigkeit des Unternehmens zu steigern.

In der Unternehmenspraxis sind auch die Aufsichtsräte gefordert. Diese stellen, einer Studie von Deloitte zufolge, erheblichen Nachholbedarf fest. Ein Drittel (33 %) der befragten Aufsichtsräte ist „nicht zufrieden“ oder „besorgt“ über die Zeit, die ihre Gremien der Diskussion über KI widmen. Zwei Drittel (66 %) berichten, dass sie „wenig bis keine Kenntnisse oder Erfahrungen“ mit KI haben. 40 % überdenken gar die Zusammensetzung des Aufsichtsrats aufgrund von KI. Best Practices aus den USA können für Unternehmen in der DACH Region eine gute Orientierung bieten.

KI-Governance-Roadmap

Damit Aufsichtsräte KI effektiv beaufsichtigen können, ist ein strategischer Governance-Rahmen unerlässlich. Besonders praxisrelevant ist eine von Deloitte vorgestellte KI-Governance-Roadmap – Diese gibt Empfehlungen und einen Fragenkatalog für den Aufsichtsrat. Nachfolgend haben wir einige zentrale Fragen aus dem Katalog zusammengestellt:

• Wie bewertet die Geschäftsleitung die mit KI verbundenen Risiken und Chancen, und wie wird diese Bewertung in die KI-Strategie integriert?
• Verfügt die Geschäftsleitung über Verfahren zur Identifizierung und Bewertung von Risiken mit aktuellen und in der Entwicklung befindlichen KI-Einsatzfällen?
• Wie geht das Management mit identifizierten Risiken um, und welche Überwachungs- und Berichterstattungsprozesse gibt es, um die Aufsicht zu erleichtern?
• Welche Metriken und KPIs sollten verwendet werden, um den Erfolg von KI-Initiativen zu messen?
• Wie häufig werden KPIs überprüft?
• Wie überwacht das Management KI-Regulierung und Compliance?
• Was ist der Auslöser für die Einbindung des Aufsichtsrats in eine Regulierungs- oder Compliance-Angelegenheit?

Risikomanagement

Da KI-Systeme immer komplexer werden, sind Unternehmen erheblichen Risiken ausgesetzt. Diese können sich aus der Entwicklung und dem Einsatz von KI ergeben. Die Bandbreite möglicher Risiken ist groß und kann die Förderung diskriminierender Praktiken oder die Generierung falscher, irreführender oder schädlicher Inhalte umfassen, so eine Publikation der amerikanischen Law Firm Skadden über „The Role of the Board in Assessing and Managing AI Risk“.

Als Praxisleitfaden empfehlen sich die KI-Risikomanagement-Tools des National Institute of Standards and Technology (NIST). Das NIST ist eine Behörde des US-Handelsministeriums, die den KI-Risikomanagement-Ansatz der US-Regierung verantwortet. Dazu gehören ein „AI Risk Management Framework“ und ein „Risk Management Profile on Generative AI“. Eine vollständige Liste der NIST-Statements und -Publikationen zu KI finden Sie im „NIST Trustworthy and Responsible AI Resource Center“.

KI bietet gleichzeitig erhebliches Potenzial zur Verbesserung von Risikomanagementprozessen, indem sie die Datenerfassung und -analyse vereinfacht und transformiert. Einem Memorandum von PwC zufolge kann ein ERM-Prozess mit Hilfe von KI-Datenanalysen in Echtzeit und prädiktive Analysen umfassen. Dies kann es Unternehmen ermöglichen, aufkommende Risiken früher zu erkennen und Schwachstellen proaktiv zu verwalten.

KI-Versicherung

Aus der Verwendung von KI folgen neben den Chancen auch diverse Risiken für Organisationen. Diese lassen sich insbesondere in die folgenden Bereiche einordnen:
– Haftung für Fehler, die die KI verursacht
– Eigene Schäden durch Fehler der KI
– Performancerisiken der KI

Zum Transfer der Qualitätsdifferenz zwischen der Leistung einer KI vs. der Leistung des Menschen (bspw. bei der Ermittlung von betrügerischen Handlungen bei Kreditkartenzahlungen) insbesondere bei hochfrequenten Vorgängen, haben Versicherer in den USA eine eigene KI-Versicherung entwickelt, die individuell aufgesetzt wird. Durch die Herstellung einer Performancegarantie, die bei einem Qualitätsunterschied zwischen der KI-Leistung zur menschlichen Leistung einen Ausgleich schafft, erhalten KI-Unternehmen die Möglichkeit der besseren Vermarktung ihrer Produkte. Das Vertrauen in die Leistung von KI steigt. Mindestprämien liegen derzeit noch im Bereich von ~ 150k USD. Die Fehlerrate wird dabei auf Basis empirischer Daten gemessen und die Abweichung der KI davon im negativen Fall vom Versicherer ausgeglichen. Durch die parametrische Deckung ist kein langwieriger Schadenmeldeprozess erforderlich.

Der Transfer der Haftungsrisiken auf den Versicherungsmarkt erfolgt hingegen über klassische Haftpflicht, Tech-E&O oder Cyber-Police. Auch wenn einige KI-Risiken unter bestehende Versicherungspolicen fallen können, bestehen weiterhin erhebliche Deckungslücken, so dass viele KI-bezogene Risiken nicht versichert sind. Eine Analyse der MunichRe bietet Einblicke in den aufkeimenden KI-Versicherungsmarkt und zieht Parallelen zur historischen Entwicklung der Cyber-Versicherung.

Die KI-Versicherungspolicen decken teils verschuldensunabhängig ein Spektrum kritischer und einzigartiger KI-Risiken ab, einschließlich des Schutzes vor Ansprüchen wegen angeblicher Voreingenommenheit und Diskriminierung durch Algorithmen, Ansprüchen wegen Verletzung geistigen Eigentums (IP) in direktem Zusammenhang mit KI-Produkten, Verteidigungskosten für behördliche Untersuchungen von KI-spezifischen Gesetzesverstößen, KI-Produktfehlern oder technischen KI-Fehlern.

Fazit und Ausblick

Die Integration von KI in die Unternehmensabläufe unterstreicht die dringende Notwendigkeit für Unternehmen, ihre Governance-Rahmenbedingungen zu verbessern, um eine solide Kontrolle über KI-Strategien, Risiken und ethische Implikationen zu gewährleisten. Mit Blick auf die Zukunft wird ein proaktives Engagement bei der Festlegung von KI-spezifischen Richtlinien und Metriken entscheidend sein, um Risiken zu mindern und das transformative Potenzial von KI zu nutzen.

Autor: Dominik Knödel ist Geschäftsführer des Spezial-Versicherungsmaklers Risk Partners Technology GmbH, dessen Expertise in der Beratung und Betreuung von Mandanten aus den Bereichen Tech und DeepTech liegt, sowie Venture Capital und die Begleitung von (internationalen) IPOs. Risk Partners hilft bei komplexen Fragestellungen der Manager-, Cyber- und Tech-Produkthaftung mit individuellen Lösungen und Branchen-Knowhow.

Autor: Dr. Burkhard Fassbach ist seit 1998 als Rechtsanwalt zugelassen. Als Anwalt in eigener Praxis in Darmstadt verfügt er über eine langjährige Erfahrung in den Bereichen Organhaftung und D&O-Versicherung. Nach dem Studium der Rechtswissenschaften in Freiburg im Breisgau, Frankfurt am Main und Mainz und dem juristischen Referendariat im Bezirk des Oberlandesgerichts Frankfurt am Main hat er im US-amerikanischen Insolvenzrecht am Lehrstuhl von Prof. Dr. Manfred Wolf an der Johann Wolfgang Goethe-Universität promoviert.

Der Beitrag Was Geschäftsführer, Vorstände und Aufsichtsräte über Corporate Governance und die Verwendung von KI in der Unternehmenspraxis wissen müssen erschien zuerst auf .

Inneres/Antwort Über die Zahl der Ende 2025 im Ausländerzentralregister erfassten Personen mit einer Ausweisungsverfügung berichtet die Bundesregierung in ihrer Antwort auf eine Linken-Anfrage.

Wirtschaft und Energie/KleineAnfrage Bundesregierung soll AfD-Fraktion erklären, wie es zur Genehmigung der Northvolt-Wandelanleihe kam

Wirtschaftliche Zusammenarbeit und Entwicklung/Antwort Die Bundesregierung fürchtet, dass die Einführung eigenständiger Performance Standards für Handelsfinanzierungen zu einer Doppelung mit bestehenden Performance Standards führen könnte.

Wirtschaft und Energie/KleineAnfrage Die Grünen nehmen das Urteil des Bundesverwaltungsgerichts vom 29. Januar 2026 zum Anlass, sich in einer Kleinen Anfrage nach dem Umbau der Energieinfrastruktur zu erkundigen.

Wirtschaftliche Zusammenarbeit und Entwicklung/KleineAnfrage Welche Ziele der Studien- und Fachkräftefonds Zentralasien verfolgt, will die AfD-Fraktion mittels einer Kleinen Anfrage erfahren.

Bildung, Familie, Senioren, Frauen und Jugend/KleineAnfrage Die AfD-Fraktion hat eine Kleine Anfrage zur Förderung von Projekten, Veranstaltungen und Publikationen aus Mitteln des Bundeshaushaltes gestellt, die einen thematischen Bezug zu Parteien haben.

Wirtschaftliche Zusammenarbeit und Entwicklung/Antwort Die Bundesregierung macht aus Sicherheitsgründen keine Angaben zu lokalen Umsetzungspartnern bei einem Projekt für migrierte Frauen und LGBTIQ-Personen in Mexiko.

Wirtschaft und Energie/KleineAnfrage Die AfD-Fraktion erkundigt sich in einer Kleinen Anfrage nach der Gasversorgung und der Rolle des Unternehmens SEFE.