(agsandrew/Shutterstock) Künstliche Intelligenz (KI) lernt mehr darüber, wie man mit (und an) Menschen arbeitet. A Kürzlich durchgeführte Studie hat gezeigt, wie KI lernen kann, Schwachstellen in menschlichen Gewohnheiten und Verhaltensweisen zu erkennen und diese zu nutzen, um menschliche Entscheidungen zu beeinflussen.
Es mag klischeehaft erscheinen zu sagen, dass KI jeden Aspekt unserer Lebens- und Arbeitsweise verändert, aber es ist wahr. Verschiedene Formen der KI sind in so unterschiedlichen Bereichen wie der Impfstoffentwicklung, dem Umweltmanagement und der Büroverwaltung im Einsatz. Und obwohl KI nicht über menschenähnliche Intelligenz und Emotionen verfügt, sind ihre Fähigkeiten leistungsstark und entwickeln sich schnell weiter.
Es besteht noch kein Grund zur Sorge vor einer Maschinenübernahme, aber diese jüngste Entdeckung unterstreicht die Leistungsfähigkeit der KI und unterstreicht die Notwendigkeit einer ordnungsgemäßen Governance, um Missbrauch zu verhindern.
Wie KI lernen kann, menschliches Verhalten zu beeinflussen
Ein Forscherteam von CSIROs Daten61 , der Daten- und Digitalzweig der australischen Nationalen Wissenschaftsbehörde, hat eine systematische Methode entwickelt, um Schwachstellen in der Art und Weise, wie Menschen Entscheidungen treffen, zu finden und auszunutzen. Dabei kommt eine Art KI-System namens „rekurrentes neuronales Netzwerk“ und Deep Reinforcement Learning zum Einsatz. Um ihr Modell zu testen, führten sie drei Experimente durch, bei denen menschliche Teilnehmer Spiele gegen einen Computer spielten.
Beim ersten Experiment klickten die Teilnehmer auf rote oder blaue Kästchen, um eine gefälschte Währung zu gewinnen, wobei die KI die Wahlmuster der Teilnehmer lernte und sie zu einer bestimmten Wahl führte. Die KI war in etwa 70 Prozent der Fälle erfolgreich.
Im zweiten Experiment mussten die Teilnehmer auf einen Bildschirm schauen und eine Taste drücken, wenn ihnen ein bestimmtes Symbol (z. B. ein orangefarbenes Dreieck) angezeigt wurde, und sie nicht drücken, wenn ihnen ein anderes Symbol (z. B. ein blauer Kreis) angezeigt wurde. Dabei machte sich die KI daran, die Reihenfolge der Symbole so zu gestalten, dass die Teilnehmer mehr Fehler machten, und erreichte eine Steigerung von fast 25 Prozent.
Das dritte Experiment bestand aus mehreren Runden, in denen ein Teilnehmer vorgab, ein Investor zu sein, der einem Treuhänder (der KI) Geld gab. Die KI würde dann einen Geldbetrag an den Teilnehmer zurückzahlen, der dann entscheiden würde, wie viel er in der nächsten Runde investieren möchte. Dieses Spiel wurde in zwei verschiedenen Modi gespielt: In einem war die KI bestrebt, den Geldbetrag zu maximieren, den sie am Ende hatte, und im anderen strebte die KI eine gerechte Verteilung des Geldes zwischen ihr und dem menschlichen Investor an. Die KI war in jedem Modus sehr erfolgreich.
In jedem Experiment lernte die Maschine aus den Antworten der Teilnehmer und identifizierte und bekämpfte Schwachstellen bei der Entscheidungsfindung der Menschen. Das Endergebnis war, dass die Maschine lernte, die Teilnehmer zu bestimmten Aktionen zu lenken.
Was die Forschung für die Zukunft der KI bedeutet
Diese Erkenntnisse sind noch recht abstrakt und beziehen sich auf begrenzte und unrealistische Situationen. Es bedarf weiterer Forschung, um herauszufinden, wie dieser Ansatz in die Tat umgesetzt und zum Nutzen der Gesellschaft genutzt werden kann.
Aber die Forschung erweitert nicht nur unser Verständnis darüber, was KI leisten kann, sondern auch darüber, wie Menschen Entscheidungen treffen. Es zeigt, dass Maschinen durch ihre Interaktionen mit uns lernen können, menschliche Entscheidungen zu steuern.
Die Forschung verfügt über ein enormes Spektrum möglicher Anwendungen, von der Verbesserung der Verhaltenswissenschaften und der öffentlichen Politik zur Verbesserung des sozialen Wohlergehens bis hin zum Verständnis und der Beeinflussung der Art und Weise, wie Menschen gesunde Ernährungsgewohnheiten oder erneuerbare Energien annehmen. KI und maschinelles Lernen könnte genutzt werden, um die Schwachstellen von Menschen in bestimmten Situationen zu erkennen und ihnen zu helfen, schlechte Entscheidungen zu vermeiden.
Die Methode kann auch zur Abwehr von Einflussangriffen eingesetzt werden. Man könnte Maschinen beibringen, uns zu warnen, wenn wir zum Beispiel online beeinflusst werden, und uns dabei zu helfen, ein Verhalten zu entwickeln, um unsere Verletzlichkeit zu verschleiern (zum Beispiel indem wir auf bestimmte Seiten nicht klicken oder auf andere klicken, um eine falsche Spur zu legen).
Was kommt als nächstes?
Wie jede Technologie kann KI zum Guten oder Schlechten eingesetzt werden, und eine ordnungsgemäße Governance ist entscheidend, um sicherzustellen, dass sie auf verantwortungsvolle Weise umgesetzt wird. Letztes Jahr hat CSIRO eine entwickelt KI-Ethikrahmen für die australische Regierung als einen ersten Schritt auf diesem Weg.
KI und maschinelles Lernen sind in der Regel sehr datenhungrig, daher ist es von entscheidender Bedeutung, sicherzustellen, dass wir über effektive Systeme für die Datenverwaltung und den Datenzugriff verfügen. Die Implementierung angemessener Einwilligungsprozesse und des Schutzes der Privatsphäre bei der Datenerhebung ist unerlässlich.
Organisationen, die KI nutzen und entwickeln, müssen sicherstellen, dass sie wissen, was diese Technologien leisten können und was nicht, und sich der potenziellen Risiken und Vorteile bewusst sein. 
Jon Whittle , Direktor, Daten61 .
Dieser Artikel wurde erneut veröffentlicht von Die Unterhaltung unter einer Creative Commons-Lizenz. Lies das originaler Artikel .