{"id":4681,"date":"2025-07-16T16:16:51","date_gmt":"2025-07-16T14:16:51","guid":{"rendered":"https:\/\/www.hilfssheriff.de\/?p=4681"},"modified":"2025-07-16T16:16:51","modified_gmt":"2025-07-16T14:16:51","slug":"haftung-in-zeiten-der-ki-verantwortung-in-der-zentralen-stelle","status":"publish","type":"post","link":"https:\/\/stage.digital40.de\/2025\/rDflG\/haftung-in-zeiten-der-ki-verantwortung-in-der-zentralen-stelle\/","title":{"rendered":"Haftung in Zeiten der KI \u2013 Verantwortung in der Zentralen Stelle"},"content":{"rendered":"\n<h2 class=\"wp-block-heading\"><em>Teil 1 der Serie zur KI-Governance in der Geldw\u00e4schepr\u00e4vention<\/em><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Der technologische Fortschritt ver\u00e4ndert die Art und Weise, wie Banken und Finanzdienstleister ihre gesetzlichen Pflichten zur Bek\u00e4mpfung von Geldw\u00e4sche und Terrorismusfinanzierung wahrnehmen. Insbesondere der Einsatz von K\u00fcnstlicher Intelligenz (KI) in der Transaktions\u00fcberwachung, dem Kundenmonitoring oder dem Risiko-Scoring verspricht eine neue Qualit\u00e4t an Effizienz und Mustererkennung, birgt jedoch zugleich erhebliche regulatorische und haftungsrechtliche Risiken.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Im Zentrum dieser Entwicklung steht die Zentrale Stelle, deren gesetzliche Aufgabe es ist, alle geldw\u00e4scherechtlichen Pflichten innerhalb des Instituts zu koordinieren, zu dokumentieren und deren Einhaltung sicherzustellen. Der Geldw\u00e4schebeauftragte (GWB) als verantwortlicher Funktionstr\u00e4ger tr\u00e4gt dabei nicht nur organisatorisch, sondern auch rechtlich die Hauptverantwortung \u2013 unabh\u00e4ngig davon, ob Prozesse durch Menschen oder Maschinen durchgef\u00fchrt werden.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Diese Situation wirft grundlegende Fragen auf:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Wie weit darf Verantwortung an KI-Systeme ausgelagert werden?<\/li>\n\n\n\n<li>Welche haftungsrechtlichen Konsequenzen ergeben sich bei Fehlentscheidungen, die (auch) durch Algorithmen vorbereitet wurden?<\/li>\n\n\n\n<li>Wie l\u00e4sst sich sicherstellen, dass moderne Technologien in einem Umfeld eingesetzt werden, welches durch hohe regulatorische Dichte, strenge Pr\u00fcfstandards und individuelle Verantwortungszuweisung gepr\u00e4gt ist?<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Ziel dieses dreiteiligen Beitrags ist es, das Zusammenspiel von KI-Governance, pers\u00f6nlicher Haftung und aufsichtsrechtlicher Steuerungspflicht am Beispiel der Zentralen Stelle systematisch zu analysieren. Dabei werden nicht nur geltende gesetzliche und aufsichtsrechtliche Anforderungen ber\u00fccksichtigt, sondern auch aktuelle regulatorische Entw\u00fcrfe auf EU-Ebene (z.\u202fB. AI Act, neue Produkthaftungsrichtlinie) und wissenschaftliche Ans\u00e4tze zur algorithmischen Verantwortung. Besondere Aufmerksamkeit gilt der Abgrenzung zul\u00e4ssiger Unterst\u00fctzung durch KI von unzul\u00e4ssiger Entscheidungsdelegation, insbesondere mit Blick auf sogenannte agentenbasierte Systeme (\u201eagentic AI\u201c).<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Der Beitrag versteht sich als praxisnahe und haftungsrobuste Orientierungshilfe f\u00fcr Geldw\u00e4schebeauftragte, Compliance-F\u00fchrungskr\u00e4fte und Governance-Verantwortliche, mit dem Ziel, technologische Innovation in den Dienst einer verantwortbaren, nachhaltigen und rechtssicheren Compliance-Arbeit zu stellen.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><strong>Die Zentrale Stelle und der Geldw\u00e4schebeauftragte<\/strong><\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Die Zentrale Stelle ist gem\u00e4\u00df \u00a7\u202f25h Abs.\u202f1 Satz 6 KWG das funktionale Herzst\u00fcck der institutsinternen Geldw\u00e4schepr\u00e4vention. Sie \u00fcbernimmt die Koordination aller Ma\u00dfnahmen zur Verhinderung von Geldw\u00e4sche, Terrorismusfinanzierung und sonstiger strafbarer Handlungen und fungiert zugleich als Verbindungsstelle zur Financial Intelligence Unit (FIU) und den Aufsichtsbeh\u00f6rden. Die gesetzliche Konzeption dieser Funktion wird durch das Geldw\u00e4schegesetz (GwG) sowie durch die aufsichtlichen Verwaltungsvorgaben, insbesondere die Mindestanforderungen an das Risikomanagement (MaRisk), konkretisiert.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Gem\u00e4\u00df \u00a7\u202f7 GwG ist ein Geldw\u00e4schebeauftragter (GWB) zu benennen, dessen Aufgabenwahrnehmung in der Regel mit der Leitung der Zentralen Stelle einhergeht. Er tr\u00e4gt die Verantwortung f\u00fcr Aufbau, Steuerung und Kontrolle des institutsinternen Pr\u00e4ventionssystems, einschlie\u00dflich der Implementierung risikoorientierter Verfahren zur Kunden\u00fcberwachung, Transaktionskontrolle und Verdachtsfallbehandlung. \u00a7\u202f7 Abs.\u202f4 GwG schreibt zudem eine unmittelbare Berichtslinie zur Gesch\u00e4ftsleitung vor, was die exponierte Stellung des GWB nochmals unterstreicht.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Aufsichtsrechtlich flankiert wird diese Verantwortung durch AT 4.4.2 MaRisk, wonach Funktionen wie die Zentrale Stelle unabh\u00e4ngig, mit angemessenen Ressourcen und Kompetenzen ausgestattet sein m\u00fcssen. Hinzu kommen Anforderungen aus AT 7.2 (IT-Systeme) und AT 9 (Auslagerungen), die f\u00fcr technologiegest\u00fctzte Kontrollprozesse \u2013 wie sie bei KI typischerweise vorliegen \u2013 unmittelbar relevant sind.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><strong>Aktuelle Entwicklungen im Bereich K\u00fcnstliche Intelligenz in der Compliance<\/strong><\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Die Nutzung von K\u00fcnstlicher Intelligenz (KI) hat in den vergangenen Jahren auch im Bereich der Anti-Financial Crime Compliance erheblich an Relevanz gewonnen. Einsatzfelder sind vor allem:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>das Transaktionsmonitoring mittels Anomalie-gest\u00fctzter Mustererkennung,<\/li>\n\n\n\n<li>das Screening von Sanktions- und PEP-Listen mit NLP-gest\u00fctzten Matching-Technologien,<\/li>\n\n\n\n<li>sowie die Risikobewertung und Kundensegmentierung im Rahmen von Know-Your-Customer-Prozessen (KYC).<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Diese Systeme sind durch eine zunehmende Autonomie, Adaptivit\u00e4t und Komplexit\u00e4t gekennzeichnet. Damit stellt sich f\u00fcr Compliance-Funktionen die Frage, wie die klassischen Governance- und Kontrollprinzipien auf algorithmische Entscheidungsstrukturen angewendet und \u00fcberpr\u00fcfbar gemacht werden k\u00f6nnen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Besondere Aufmerksamkeit erf\u00e4hrt derzeit auch der Einsatz sogenannter \u201eagentic AI\u201c \u2013 also KI-Systeme mit agentenbasierter Architektur. Diese Systeme zeichnen sich dadurch aus, dass sie nicht nur klassisch deterministisch auf Inputs reagieren, sondern autonome Subziele formulieren, Entscheidungsstrategien entwickeln und Aufgaben \u00fcber l\u00e4ngere Zeitr\u00e4ume verfolgen k\u00f6nnen (\u201ePlanning\u201c, \u201eTool Use\u201c, \u201eMemory\u201c). Solche Systeme k\u00f6nnten der Zentralen Stelle perspektivisch etwa dabei helfen, komplexe Muster von Finanztransaktionen zu untersuchen, mehrstufige Verkn\u00fcpfungen zu analysieren oder eigenst\u00e4ndig relevante Informationsquellen zu aggregieren. Gleichzeitig versch\u00e4rfen agentenbasierte Systeme das Problem der regulatorischen Einhegbarkeit: Da diese Systeme Entscheidungen nicht mehr blo\u00df aus vorgegebenen Regeln ableiten, sondern eigenst\u00e4ndige Probleml\u00f6sungsstrategien entwickeln, besteht ein erh\u00f6htes Risiko von Intransparenz, Kontrollverlust und emergentem Verhalten \u2013 Eigenschaften, die im regulatorischen Rahmen hochsensibler Compliance-Prozesse (z.\u202fB. \u00a7\u202f43 GwG) aktuell nicht tolerierbar sind.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Die Bundesanstalt f\u00fcr Finanzdienstleistungsaufsicht (BaFin) erkennt in verschiedenen Ver\u00f6ffentlichungen an, dass KI-Systeme potenzielle Effizienzgewinne mit sich bringen, betont jedoch zugleich die Notwendigkeit der \u201ewirksamen Beherrschung von Risiken\u201c (vgl. <a href=\"https:\/\/www.bafin.de\/SharedDocs\/Downloads\/DE\/BaFinJournal\/2022\/bj_2202.pdf?__blob=publicationFile&amp;v=3\" target=\"_blank\" rel=\"noopener\">BaFin-Journal 02\/2022<\/a>). Der Einsatz von KI entbindet nicht von der Einhaltung aufsichtsrechtlicher Anforderungen \u2013 im Gegenteil: Die Nachweispflichten f\u00fcr die Wirksamkeit, Angemessenheit und Nachvollziehbarkeit steigen, je komplexer und autonomer das eingesetzte System ist.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><strong>Verbot der vollst\u00e4ndigen Entscheidungsdelegation<\/strong><\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Ein zentrales Dogma des geltenden regulatorischen Rahmens ist das Verbot der vollst\u00e4ndigen Delegation von Entscheidungen an KI-Systeme. Dieses Verbot ergibt sich aus mehreren Regelwerken, deren gemeinsamer Nenner die Forderung nach menschlicher Letztverantwortung ist \u2013 oder wie es so sch\u00f6n hei\u00dft: \u201ePut the Human in the Loop\u201c.<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong><a href=\"https:\/\/dsgvo-gesetz.de\/art-22-dsgvo\/\" target=\"_blank\" rel=\"noopener\">DSGVO Art.\u202f22 Abs.\u202f1<\/a><\/strong> verbietet automatisierte Einzelfallentscheidungen mit rechtlicher Wirkung, soweit keine ausdr\u00fcckliche Einwilligung oder gesetzliche Grundlage besteht.<\/li>\n\n\n\n<li><strong><a href=\"https:\/\/www.gesetze-im-internet.de\/kredwg\/__25h.html\" target=\"_blank\" rel=\"noopener\">\u00a7\u202f25h KWG<\/a> in Verbindung mit <\/strong><strong><a href=\"https:\/\/www.gesetze-im-internet.de\/gwg_2017\/__43.html\" target=\"_blank\" rel=\"noopener\">\u00a7\u202f43 GwG<\/a><\/strong> sowie <a href=\"https:\/\/www.bafin.de\/SharedDocs\/Veroeffentlichungen\/DE\/Konsultation\/2021\/kon_11_21_maschinelles_Lernen_in_Risikomodellen.html?nn=19650540\" target=\"_blank\" rel=\"noopener\">das gemeinsam mit der Deutschen Bundesbank erstellte Diskussionspapier der BaFin<\/a> zum Einsatz von Big Data und KI lassen die Interpretation zu, dass eine vollst\u00e4ndige Automatisierung von Verdachtsmeldungen nicht zul\u00e4ssig ist und eine menschliche Pr\u00fcfung erforderlich ist.<\/li>\n\n\n\n<li><strong><a href=\"https:\/\/www.bafin.de\/SharedDocs\/Downloads\/DE\/Rundschreiben\/dl_rs_06_2024_MaRisk_pdf_BA.html\" target=\"_blank\" rel=\"noopener\">MaRisk AT 4.3.1, AT 7.2<\/a> und <a href=\"https:\/\/www.bafin.de\/SharedDocs\/Downloads\/DE\/Rundschreiben\/dl_rs_1710_ba_BAIT.html;jsessionid=176D468580CAA17FCA5B6543D6C76184.internet012?nn=19659504\" target=\"_blank\" rel=\"noopener\">BAIT<\/a>\/<a href=\"https:\/\/www.eiopa.europa.eu\/digital-operational-resilience-act-dora_en\" target=\"_blank\" rel=\"noopener\">DORA<\/a><\/strong> fordern die st\u00e4ndige Kontrollierbarkeit und Pr\u00fcfbarkeit von IT-Systemen \u2013 was in der Folge bedeutet, dass Entscheidungen nicht in einer \u201eBlack Box\u201c getroffen werden d\u00fcrfen.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">In der Verwaltungspraxis der BaFin (siehe auch <a href=\"https:\/\/www.bafin.de\/DE\/Aufsicht\/FinTech\/InnovativeFinanztechnologien\/BDAI\/BDAI_node.html\" target=\"_blank\" rel=\"noopener\">\u201eBig Data und k\u00fcnstliche Intelligenz\u201c 09\/2022<\/a>) ist dieses Prinzip mittlerweile gefestigt: KI darf Prozesse unterst\u00fctzen, strukturieren und priorisieren, nicht aber Entscheidungen treffen, die rechtliche oder regulatorische Folgen nach sich ziehen \u2013 es sei denn, eine menschliche Kontrollinstanz ist formal und faktisch wirksam eingebunden (\u201eHuman Oversight\u201c).<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Dies gilt in versch\u00e4rftem Ma\u00dfe f\u00fcr agentenbasierte KI-Systeme: Diese sind \u2013 nach heutiger Bewertung \u2013 nicht mit dem aufsichtsrechtlichen Prinzip der jederzeitigen Steuerbarkeit, Kontrollierbarkeit und Nachvollziehbarkeit vereinbar, wie es aus MaRisk AT 7.2 und AT 4.3.1 folgt. Agentic-AI-Systeme w\u00e4ren nur dann zul\u00e4ssig, wenn:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>s\u00e4mtliche Zwischenschritte dokumentierbar, pr\u00fcfbar und ab\u00e4nderbar sind,<\/li>\n\n\n\n<li>sie keine irreversible Entscheidungskaskade ohne menschlichen Eingriff ausl\u00f6sen k\u00f6nnen, und<\/li>\n\n\n\n<li>der GWB nachvollziehen, stoppen oder korrigieren kann, wie eine Schlussfolgerung zustande kam.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Solange diese Anforderungen technisch nicht abgesichert und aufsichtsrechtlich nicht anerkannt sind, ist der operative Einsatz agentischer KI in der Zentralen Stelle faktisch ausgeschlossen. Zul\u00e4ssig bleibt lediglich die unterst\u00fctzende Nutzung in vorgelagerten, nicht entscheidungskritischen Prozessen (z.\u202fB. Dokumentenzusammenfassung, semantische Recherchen, Musterverdichtungen im Kontext der Risikofr\u00fcherkennung).<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>Vorschau auf Teil 2<\/strong><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Der n\u00e4chste Teil dieser Serie beleuchtet die konkreten <strong>haftungsrechtlichen Konsequenzen des KI-Einsatzes in der Zentralen Stelle<\/strong>, darunter:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>die gegenw\u00e4rtige Haftungsdogmatik,<\/li>\n\n\n\n<li>geplante gesetzliche und regulatorische \u00c4nderungen,<\/li>\n\n\n\n<li>wissenschaftliche Perspektiven zur Algorithmus-Verantwortung,<\/li>\n\n\n\n<li>sowie erste praxisrelevante Implikationen f\u00fcr Geldw\u00e4schebeauftragte.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Der Autor:<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><em>Dirk Findeisen ist Gr\u00fcnder und Managing Partner des Beratungs- und Technologieunternehmens msg Rethink Compliance. Er verf\u00fcgt \u00fcber mehr als 20 Jahre Erfahrung in den Bereichen Governance, Risk &amp; Compliance (GRC), Datenmanagement, Advanced Analytics und Corporate Performance Management. Findeisen ist Autor zahlreicher Fach- und Buchbeitr\u00e4ge zum Thema Anti-Financial Crime Compliance, ein gefragter Referent auf Fachveranstaltungen und Dozent an mehreren deutschen Hochschulen.<\/em><\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><a href=\"mailto:dirk.findeisen@msg-compliane.com\">dirk.findeisen@msg-compliane.com<\/a><\/p>\n\n\n\n<figure class=\"wp-block-table is-style-stripes\"><table><tbody><tr><td class=\"has-text-align-center\" data-align=\"center\"><strong>(<em><strong>M\u00f6chten Sie beim Thema Geldw\u00e4sche auf dem Laufenden bleiben? Dann k\u00f6nnen Sie sich <a href=\"https:\/\/www.hilfssheriff.de\/newsletter\/\" target=\"_blank\" rel=\"noopener\">hier<\/a> f\u00fcr unseren Newsletter anmelden &#8211; kostenlos und unverbindlich)<\/strong><\/em><\/strong><\/td><\/tr><\/tbody><\/table><\/figure>\n","protected":false},"excerpt":{"rendered":"<p>Mit dem wachsenden Einsatz von K\u00fcnstlicher Intelligenz (KI) in der Geldw\u00e4schepr\u00e4vention stehen Banken und Finanzdienstleister vor der Herausforderung, regulatorische Anforderungen und technologische Innovation in Einklang zu bringen. Der dreiteilige Beitrag untersucht die M\u00f6glichkeiten und die Grenzen des Einsatz von KI. In Teil 1 liegt der Schwerpunkt auf den regulatorischen Anforderungen in Bezug auf die Zentrale Stelle.<\/p>\n","protected":false},"author":9,"featured_media":4682,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1,81,8,14,19],"tags":[],"class_list":["post-4681","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-allgemein","category-aufsicht","category-finanzsektor","category-interne-sicherungsmassnahmen","category-verdachtsmeldung"],"_links":{"self":[{"href":"https:\/\/stage.digital40.de\/2025\/rDflG\/wp-json\/wp\/v2\/posts\/4681","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/stage.digital40.de\/2025\/rDflG\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/stage.digital40.de\/2025\/rDflG\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/stage.digital40.de\/2025\/rDflG\/wp-json\/wp\/v2\/users\/9"}],"replies":[{"embeddable":true,"href":"https:\/\/stage.digital40.de\/2025\/rDflG\/wp-json\/wp\/v2\/comments?post=4681"}],"version-history":[{"count":0,"href":"https:\/\/stage.digital40.de\/2025\/rDflG\/wp-json\/wp\/v2\/posts\/4681\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/stage.digital40.de\/2025\/rDflG\/wp-json\/wp\/v2\/media\/4682"}],"wp:attachment":[{"href":"https:\/\/stage.digital40.de\/2025\/rDflG\/wp-json\/wp\/v2\/media?parent=4681"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/stage.digital40.de\/2025\/rDflG\/wp-json\/wp\/v2\/categories?post=4681"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/stage.digital40.de\/2025\/rDflG\/wp-json\/wp\/v2\/tags?post=4681"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}