Diesen Artikel teilen:

15. Jul 2024

|

Wirtschaft

Was KI wirklich klug macht - mit Christine Regitz

Journalist: Thomas Soltau

|

Foto: Altumcode/unsplash

„Vielfalt in der KI-Entwicklung“ – ein Gastbeitrag von Christine Regitz (Präsidentin der Gesellschaft für Informatik)

GI_27092023_1234_online.jpg Christine Regitz, Präsidentin der Gesellschaft für Informatik

Es ist eines der prägnantesten Beispiele für den Gender Data Gap: Schon 2015 forderten Forschende eine Anpassung der Richtwerte für Temperatur in Wohn- und Büroräumen. Denn das dahinterstehende Modell orientiere sich zu großen Teilen ausschließlich an Männern. Die Wohlfühltemperatur von Frauen liegt oft deutlich über den Werten, die vielerorts immer noch als Standard gelten.

Es gibt zahlreiche Beispiele dieser Art: von Crash Test Dummies mit ausschließlich männlichen Torsos bis zu unbekannten Auswirkungen von Medikamenten auf weibliche Körper. Und auch wenn das Bewusstsein für diese fehlenden Daten langsam in den Köpfen ankommt, wird es noch Jahre dauern, bis diese Wissenslücken geschlossen werden.

Ein Fehler, der uns nicht noch einmal passieren darf – und erst recht nicht bei KI: Doch auch wenn die großen Modelle rasant besser werden, gibt es einige Fälle, in denen sie nicht mit gleichem Maß messen: etwa, wenn sie Stereotypen reproduzieren oder bestimmte Gruppen diskriminieren. Das muss nicht nur an den Datensätzen liegen, auf denen sie trainiert werden. Verzerrungen können in allen Phasen des Entwicklungsprozesses von KI entstehen – und zum Teil schwere Folgen haben.

Die gute Nachricht: Es gibt einen einfachen Weg, solche Verzerrungen schneller sichtbar zu machen und im besten Fall auch direkt zu verhindern. Je diverser die Teams, die Modelle entwickeln, trainieren und testen, desto geringer die Chance, dass sich Vorurteile einschleichen.

2. Apr 2026

|

Business

Kein Roboter zum Gelddrucken, aber ein starker Wächter: KI bei Banken

Künstliche Intelligenz kann im Bankwesen schon ziemlich viel – aber eigenständig Geld drucken oder wundersam vermehren, das kann sie (noch) nicht. Banken setzen KI heute flächendeckend in mehreren Bereichen ein, allen voran in der Betrugsprävention, wo Fraud Detection mittlerweile Branchenstandard ist. KI-gestützte Systeme analysieren Transaktionen von Kundinnen und Kunden in Echtzeit, erkennen und stoppen auffällige Transaktionen und Zahlungsanweisungen in der Regel sofort, und reagieren innerhalb von Sekunden auf neue Angriffsszenarien. Gerade, weil sich Betrugsmaschen ständig weiterentwickeln, ist die Adaptionsgeschwindigkeit in diesem Bereich besonders hoch. Solche Systeme werden in Zukunft weiter optimiert werden, wodurch Banken Routineaufgaben mehr und mehr automatisieren können. Das eröffnet neue Möglichkeiten für personalisierte Kundenberatung, schnellere Analysen – etwa bei Kreditentscheidungen – und insgesamt bessere Kundenerlebnisse. Banken nutzen KI auch immer öfter, um internes Wissen für ihre Mitarbeitenden zu strukturieren, aufzubereiten und schneller zugänglich zu machen. Ziel ist es, Informationen effizienter zu nutzen und Entscheidungsprozesse zu beschleunigen. Im Vergleich zur Betrugsprävention befindet sich dieser Bereich jedoch noch in einer stärkeren Wachstumsphase, auch wenn die Entwicklung hier aktuell sehr dynamisch verläuft. >Der Mensch muss weiterhin die Kontrolle über kritische Prozesse behalten und klare Grenzen setzen. Es gibt unzählige Anbieter von bankenspezifischer KI. Viele davon decken nur bestimmte Anwendungsfelder ab, weshalb Banken häufig mehrere KI-Systeme parallel einsetzen. Auch, wenn Banken langjährige Erfahrung im Umgang mit sensiblen Daten haben, kann die Auswahl passender KI-Tools herausfordernd sein, denn die Lösungen müssen regelkonform sein, Change Compliance- und Datenschutzrichtlinien beachten, außerdem sollten die Daten innerhalb Europas bleiben und nicht unkontrolliert in andere Rechtsräume fließen. Erhöht KI im Bankwesen nun die Sicherheit – oder eher das Risiko für Betrug und Verlust? Grundsätzlich beides. Denn einerseits verbessert KI die Fähigkeit, Betrug frühzeitig zu erkennen und zu verhindern, andererseits entstehen neue Gefahren, insbesondere durch autonome KI-Agenten. Je mehr Entscheidungsfreiheit diese Systeme erhalten, desto größer ist das Risiko, dass sie Sicherheitsvorgaben umgehen oder manipuliert werden. Deshalb gewinnt das Prinzip „Human in the Loop“ beziehungsweise „Human in the Lead“ an Bedeutung: Der Mensch muss weiterhin die Kontrolle über kritische Prozesse behalten und klare Grenzen setzen. Auch im Finanzmarkt insgesamt sind automatisierte Prozesse kein neues Phänomen. Mechanismen wie algorithmischer Handel oder Stop-Loss-Orders können bereits heute Kettenreaktionen auslösen. KI könnte solche Effekte künftig verstärken, stellt aber nicht die ursprüngliche Ursache dar. Wohin wird sich KI im Bankwesen entwickeln? Eigenständig Geld drucken wird sie hoffentlich niemals – doch sie wird als umfassendes System im Hintergrund immer besser in den Bankenalltag integriert werden. Der Mensch wird im Bankwesen jedoch in zentralen Bereichen immer die Oberhand behalten, besonders bei der letzten Kontrolle und beim direkten Kundenkontakt – denn hier können aufmerksame Bankangestellte besser als jede KI als Sicherheitsschranke wirken, die ihre betagten Kundinnen davor schützen, auffällige Transaktionen hoher Summen vorzunehmen. >Banken nutzen KI auch immer öfter, um internes Wissen für ihre Mitarbeitenden zu strukturieren, aufzubereiten und schneller zugänglich zu machen.