Mensch und KI – Team der Zukunft?

Mit großem Interesse habe ich Thomas aktuellen KI-Blogeintrag gelesen und muss auch mich selbst als #KI-fiziert outen. Im Gegensatz zu meinem geschätzten Kollegen werfe ich nun zum Jahressende jedoch einen weitaus weniger düsteren Blick auf das Thema Künstliche Intelligenz.

Dass sich dank des technologischen Fortschritts und der zunehmenden Menge an verfügbaren Daten bereits spektakuläre Ergebnisse mithilfe von KI-Algorithmen erzielen lassen, ist mittlerweile allgemein bekannt. Dabei stellte ich mir in der Vergangenheit jedoch oft die Frage: Wo bleibt angesichts dieser ganzen Entwicklung eigentlich der Mensch?

Irgendwie drängt sich mir beim Thema KI das Gefühl auf, dass der Mensch primär im Kontext der Arbeitskrafteinsparung gesehen wird. Dies ist aus meiner Sicht aber weder der einzige, noch der vielversprechendste Nutzen der Technologie. Also: Lasst uns doch mal den Fokus auf die optimierte Zusammenarbeit von Menschen und intelligenten Maschinen, die sogenannten intelligente Mensch-Maschine-Kollaboration (iMMK) legen. 

In Anlehnung an das Zitat „Computers are incredibly fast, accurate, and stupid. Humans are incredibly slow, inaccurate, and brilliant. Together they are powerful beyond imagination“ wird bei der iMMK die Intelligenz des Menschen um die Intelligenz der Maschine erweitert. 

Aber wie kann eine solche iMMK konkret aussehen und welchen Nutzen beschert sie uns?  Um das zu beantworten, blicken wir am besten erst einmal auf die Limitationen von KI. Zwar erreichen heute, rein statistisch betrachtet, die den KI-Anwendungen zugrundeliegenden Algorithmen in vielen Szenarien bereits sehr gute Ergebnisse. Dies bedeutet jedoch nicht, dass sie keine falschen Entscheidungen treffen. Auch vor Betrugsversuchen, bei denen die Entscheidungen von KI-Systemen bewusst beeinflusst werden und die im Finanzbereich ein großes Problem darstellen, sind diese Lösungen nicht geschützt. Des Weiteren arbeitet Machine Learning im Ansatz oft wie eine Black-Box, sodass der Mensch im Nachhinein keine Auskunft darüber erhält, wie die Maschine zu ihrem Ergebnis gelangt ist. Dies kann in sensiblen und besonders sicherheitskritischen Anwendungsbereichen zu Problemen führen, die durch das Einbinden des Menschen zur finalen Entscheidungsfindung adressiert werden können.

Ein perfektes Beispiel für den erfolgreichen Einsatz intelligenter Mensch-Maschine-Kollaborationen finden wir aktuell bereits in der Medizin. Bei der Entdeckung bestimmter Krebserkrankungen anhand von Bilddaten erzielen KI-Anwendungen bereits höhere Erfolgsquoten als Mediziner aus Fleisch und Blut. Positiver Nebeneffekt: Unerfahrene Ärzte lernen nach einer Unterstützung durch die KI, selbst bessere Diagnosen zu stellen. Der Mensch lernt also von der intelligenten Maschine. 

Geht es andererseits um das Trainieren von KI-Systemen, sehe ich im Ansatz des sogenannten Human-in-the-Loop-Lernens (HitL) einen weiteren Vorteil einer engen Zusammenarbeit von Mensch und KI. Hierbei interagiert der Mensch nicht nur zu Beginn bei der Datenverarbeitung oder am Ende bei der Dateninterpretation mit der KI, sondern ist ein fester Bestandteil eines interaktiven Lernkreislaufs. Sollte sich die KI beim Treffen einer Entscheidung unsicher sein, so kann der menschliche Trainingspartner unterstützend eingreifen. Weiterer Vorteil des engen Teamworks: Durch die integrierte menschliche Interaktion funktionieren auch solche KI-Anwendungsszenarien, für die vergleichsweise wenig Daten zur Verfügung stehen. Denn im Zweifel greift der menschliche Partner ja unterstützend ein. Aus diesem Feedback lassen sich wiederum neue Trainingsdatensets erstellen, die entweder direkt oder nachgelagert zur kontinuierlichen Verbesserung des KI-Systems verwendet werden können.

Dies sind nur einige Beispiele. Die Kollaboration von Menschen und intelligenten Maschinen bietet zahlreiche weitere Einsatzmöglichkeiten, um das menschliche Entscheidungsverhalten zu verbessern oder – dank der jeweiligen Stärken der beiden unterschiedlichen Partner – Aufgaben zu lösen, die weder die Maschine noch der Mensch alleine bewältigen kann. Der Einsatz von KI macht den Menschen meiner Ansicht nach daher keineswegs obsolet, sondern bildet in vielen Szenarien vielmehr eine Plattform, die unter Zuhilfenahme menschlicher Stärken erst ihr volles Potenzial entfalten kann.
Eigentlich keine schlechten Voraussetzungen für Mensch und Maschine, um das Team der Zukunft zu bilden. Oder?

Viele Grüße
Omar Hensel

RegTech News! 11. RegTech-Beitrag "Digitales Signieren" ist jetzt online

Liebe Leserinnen und Leser, 

RegTech ist im Dialog mit Finanzinstituten nicht mehr wegzudenken. Aber wofür steht der Begriff, was bedeutet er in der Praxis, welche Anwendungsfälle bestehen im Compliance-Umfeld, wie fügt sich RPA in den Themenkomplex ein?

All diese Fragen behandeln wir seit längerem in einer Reg-Tech Beitragsserie. Natürlich wollen wir Ihnen unseren Blog-Lesern diese Beiträge nicht vorenthalten!

Deshalb erhalten Sie ab sofort zu jedem neuen RegTech Beitrag News auf diesem Blog und heute geht es weiter mit dem 11. RegTech Beitrag:

Kontaktlos, effizient, zeitnah: digitales Signieren: Digitales Signieren

Gerade in unerwarteten Situationen wie der Pandemie im Jahr 2020 ist die Digitalisierung verschiedenster Geschäftsprozesse ein wichtiger Baustein für flexibles und erfolgreiches Handeln. Mangelnde Akzeptanz kann dabei schnell zum Hemmschuh werden: Kontaktloses Bezahlen wird bereits von vielen genutzt und ist eigentlich selbstverständlich. Dagegen gibt es bei der Benutzung der digitalen Signatur noch viel Verbesserungspotenzial, sowohl bei Privatpersonen als auch auf Seiten von Unternehmen und Banken. So wären beispielsweise im Rahmen der Vertragsbeziehung zwischen Bank und Kunde oder in der Kommunikation zwischen Bank und Aufsichtsbehörde die Nutzung elektronischer Unterschriften in der Breite ein echter Fortschritt. Doch was ist dabei zu beachten und wie funktioniert das technisch? Jetzt weiterlesen

Alle weiteren Informationen und Leistungen rund um das Thema RegTech erhalten Sie hier.

Viel Spaß beim Lesen
Ihre Sandra Reinhard


PS: Lesen Sie auch unsere anderen Beiträge zum Thema RegTech!

Teil 2: KI-fiziert! – Ich sehe was, was du nicht hörst – Es war einmal … die Evolution der Künstlichen Intelligenz und ihre bösartige Instrumentalisierung!

Und täglich grüßt erneut ein Fakt … ähm ich meine: ein neuer Fake!

Das letzte Mal haben wir festgestellt, dass der Mensch mit dem Einsatz von KI zwar bedeutend schneller Entscheidungen treffen und komplexe Sachverhalte gezielter lösen kann – aber eben intelligent im herkömmlichen Sinne ist KI deswegen noch nicht. Oder doch? Und dann war da ja noch die Frage nach intelligenten Maschinen die womöglich bereits telefonieren können.

#Fake Fakt Future

Wie ergeht es euch eigentlich mit der sich immer mehr und mehr verzerrenden Grenze zwischen Fiktion und Realität? Ich muss zugeben, dass die Differenzierung zwischen Fake und Fakt heutzutage zunehmend komplexer wird. Wie ich darauf komme? Erst im Jahr 2018 hatte der Konzern Alphabet (zu dem Google gehört) verlautbaren lassen, dass seine KI-Innovation namens Google Duplex mit Hilfe von NLP (Natural Language Processing) im Namen des Nutzers Anrufe tätigen und Termine planen könne. Anders gesagt, eine Maschine soll – ohne mein wesentliches Zutun – selbstständig beim Restaurant, Friseur oder Arzt anrufen und einen Termin in meinem Namen organisieren können. Bemerkenswert ist, dass Google bereits seine Maps-Einträge auf diesem Wege aktuell hält. Eigenen Angaben zufolge hat die KI-Telefonie seit Beginn der COVID-Pandemie schon über Dreimillionen Updates in acht Ländern vorgenommen. Genial! Damit aber nicht genug! Bereits 2017 hatte das kanadische Startup Lyrebird verkündet, KI zu nutzen, um einen Stimmenklon zu erstellen. Und das in kürzester Zeit: Es reichen bereits weniger als fünf Minuten Sprachaufnahme – was gerade einmal 30 bis 60 Sätzen entspricht – und man erhält einen recht adäquaten Klon seiner persönlichen Stimme.

 #Kann man den eigenen Augen und Ohren noch trauen?  

Immer noch nicht futuristisch genug? Okay, dann weiter … Das chinesische Äquivalent zu Google, Baidu, nutzt KI unter anderem in seiner Anwendung Deep Voice. Auch dieses Programm soll im Stande sein, mit bereits geringem Audiomaterial eine Stimme anwendungstauglich und täuschend echt zu klonen. Im Ergebnis können diese digitalen Stimmen-Fakes automatisiert jedweden Text wiedergeben, ohne dass diese vorher real gesprochen worden sein müssten. In gewisser Weise praktisch, wenn man zum Beispiel an die Erstellung von Audiobüchern denkt. Dies wäre in Zukunft ohne Aufnahmestudio oder Autor möglich, da lediglich das Buch in digitaler Form und wenige Minuten der Stimme des Autors ausreichen. Andererseits hat jeder von euch schon mindestens ein sogenanntes Fake-Foto oder sogar Fake-Video gesehen. Solche für das bloße menschliche Auge täuschend echt wirkende Bilder oder eben Bildsequenzen (in Echtzeit!) existieren zuhauf im Internet und stellen jeden Laien vor enorme Herausforderungen, Fälschungen auch als solche zu enttarnen.

 

#Sorgenfrei in die Zukunft oder doch Grund zur Sorge? 

Ihr fragt euch gerade „Und was hat das jetzt alles mit Banking zu tun?!“. Also Vorhang auf für die Transition-Szene. Diese spielt im Frühjahr 2019 und könnte durchaus auch aus einem Science-Fiction-Drehbuch stammen. In der Hauptrolle: Next-Gen-Social-Engineering. Die vorweg erwähnte KI-Software Lyrebird ermöglichte es Kriminellen, die nächste Generation des Human-Hackings einzuläuten. Fast eine Viertelmillion Euro wurden ergaunert, weil der falsche Geschäftsführer am Telefon vom Echten wohl nicht zu unterscheiden war. Dank der überzeugenden Fake-Stimme erhielten die Gauner prompt ihren Wunschbetrag per Überweisung. Der offenbar erste CEO-Betrug (auch bekannt als Fake-President oder BEC-Fraud) der Geschichte durch eine KI-Stimmenimitation! 

#Fight Fire With Fire

Es ist unbestritten, zu was KI fähig ist. Und auch, dass kriminelle Angreifer zügig die vorschreitende Technik adaptieren und im Zusammenhang mit Social Engineering ein mögliches Aufkommen von Zweifel bei Unternehmensmitarbeitern in einer solch speziellen Situation verhindert. Selbst Internetgiganten wie Google und Twitter waren in diesem Jahr schon Opfer von Social Engineering. Diese Erkenntnis bringt mich zum Grübeln, inwiefern analoge Präventionsmaßnahmen heutzutage noch zeitgemäß sind. Sensibilisierung durch Plakate oder Informationskampagnen im Intranet sind ganz klar zu hinterfragen. Aber wie sich effizient davor schützen, Opfer einer CEO-Attacke durch KI zu werden? Die Antwort ist eindeutig: Bekämpfe Feuer mit Feuer. Oder, anders gesagt: Ihr kommt nicht umhin, euch selbst zu KI-fizieren ... also euch mit Künstlicher Intelligenz, ihren Potenzialen sowie Lösungsmöglichkeiten auseinanderzusetzen und schlussendlich diese auch tatsächlich zu nutzen. 

#Prädikat: Faszinierend

In puncto Cybercrime haben wir bei PPI die KI-Fizierung genutzt und einen ersten Prototyp zur wirksamen und echten Prävention von zum Beispiel Social Engineering entwickelt. Von Continues-Smart-Learning bis hin zur hellseherischen Predictive Analytics in Echtzeit loten wir alle KI-Potenziale aus. In unserem jüngsten RegTech-Beitrag haben wir diesen zukunftsweisenden Pfad unbegrenzter Möglichkeiten beschritten und für euch ein Stück weit detaillierter ausgeführt. Schaut doch mal rein! Und wer es vor lauter Spannung nicht abwarten kann und mehr erfahren möchte, kommt einfach direkt auf mich zu. In diesem Sinne zitiere ich zum Schluss Captain Kirk mit den Worten „Ende der Ansprache, an die Arbeit“!
 

Euer Thomas