(Sharon McCutcheon/Unsplash) Künstliche Intelligenz (KI) kann Methoden zur Vermögensverteilung entwickeln, die populärer sind als von Menschen entworfene Systeme, wie neue Forschungsergebnisse zeigen.
Das zeigen die Ergebnisse eines Forscherteams des britischen KI-Unternehmens DeepMind maschinelles Lernen Systeme können nicht nur gut lösen komplexe Physik Und Biologische Probleme , kann aber auch zur Verwirklichung offenerer sozialer Ziele beitragen, etwa der Verwirklichung einer gerechten, wohlhabenden Gesellschaft.
Das ist natürlich keine leichte Aufgabe. Der Bau einer Maschine, die nützliche Ergebnisse liefern kann, die Menschen tatsächlich wollen – genannt 'Wertausrichtung' in der KI-Forschung – wird durch die Tatsache erschwert, dass Menschen oft uneinig sind, welche Methode zur Lösung aller möglichen Probleme, insbesondere sozialer, wirtschaftlicher und politischer Probleme, am besten geeignet ist.
„Eine wesentliche Hürde für die Werteangleichung besteht darin, dass die menschliche Gesellschaft eine Vielzahl von Ansichten zulässt, wodurch unklar ist, an wessen Präferenzen sich die KI anpassen soll“, so die Forscher erklären Sie in einem neuen Artikel unter der Leitung des Erstautors und DeepMind-Forschers Raphael Koster.
„Zum Beispiel streiten sich Politikwissenschaftler und Ökonomen oft darüber, welche Mechanismen dafür sorgen, dass unsere Gesellschaften am fairsten und effizientesten funktionieren.“
Um diese Lücke zu schließen, entwickelten die Forscher einen Agenten für die Vermögensverteilung, der die Interaktionen der Menschen (sowohl real als auch virtuell) in seine Trainingsdaten einbaute – und so die KI praktisch zu vom Menschen bevorzugten (und hypothetisch insgesamt gerechteren) Ergebnissen führte.
Während KIs produzieren können wirklich erstaunliche Ergebnisse , sie können auch ankommen alles andere als wünschenswerte soziale Schlussfolgerungen wenn sie sich selbst überlassen bleiben; Menschliches Feedback kann helfen, neuronale Netze in eine bessere Richtung zu lenken.
„In der KI-Forschung wächst die Erkenntnis, dass wir zum Aufbau menschenkompatibler Systeme neue Forschungsmethoden benötigen, bei denen Menschen und Agenten interagieren, und ein verstärktes Bemühen, Werte direkt von Menschen zu lernen, um eine werteorientierte KI aufzubauen“, so der Forscher schreiben .
In Experimenten mit insgesamt Tausenden menschlichen Teilnehmern untersuchte der KI-Agent des Teams – genannt „Democratic AI“ – eine Investitionsübung namens „ Spiel um öffentliche Güter , bei dem die Spieler unterschiedliche Geldbeträge erhalten und ihr Geld in einen öffentlichen Fonds einzahlen können, um dann eine ihrer Investitionshöhe entsprechende Rendite aus dem Fonds zu beziehen.
In einer Reihe verschiedener Spielstile wurde der Reichtum über drei traditionelle Umverteilungsparadigmen – strikt egalitär, libertär und liberal egalitär – an die Spieler umverteilt, wobei jedes dieser Paradigmen die Investitionen der Spieler unterschiedlich belohnt.
Eine vierte Methode wurde ebenfalls getestet, der sogenannte Human Centered Redistribution Mechanism (HCRM), der mit entwickelt wurde tiefes verstärkendes Lernen , wobei Feedbackdaten sowohl von menschlichen Spielern als auch von virtuellen Agenten verwendet werden, um menschliches Verhalten nachzuahmen.
Nachfolgende Experimente zeigten, dass das HCRM-System zur Auszahlung von Geld im Spiel bei den Spielern beliebter war als alle traditionellen Umverteilungsstandards und auch beliebter als neue Umverteilungssysteme, die von menschlichen Schiedsrichtern entwickelt wurden, die einen Anreiz hatten, beliebte Systeme zu schaffen, indem sie kleine Geldbeträge erhielten -Stimmenzahlungen.
„Die KI hat einen Mechanismus entdeckt, der das anfängliche Vermögensungleichgewicht ausgleicht, Trittbrettfahrer sanktioniert und die Mehrheitsentscheidung erfolgreich gewonnen hat.“ erklären die Forscher .
„Wir zeigen, dass es möglich ist, für die Werteangleichung dieselben demokratischen Instrumente zur Erzielung eines Konsenses zu nutzen, die in der breiteren menschlichen Gesellschaft verwendet werden, um Vertreter zu wählen, über öffentliche Ordnung zu entscheiden oder rechtliche Urteile zu fällen.“
Es ist erwähnenswert, dass die Forscher anerkennen, dass ihr System eine Reihe von Fragen aufwirft – vor allem, dass sich die Werteausrichtung in ihrer KI um demokratische Entscheidungen dreht, was bedeutet, dass der Agent tatsächlich Ungleichheiten oder Vorurteile in der Gesellschaft verschärfen könnte (vorausgesetzt, sie sind populär genug, um für mich gewählt zu werden). die Mehrheit der Menschen).
Es gibt auch die Frage des Vertrauens. In den Experimenten kannten die Spieler die Identität hinter dem Vermögensumverteilungsmodell, für das sie bezahlten, nicht. Hätten sie genauso abgestimmt, obwohl sie wussten, dass sie einer KI den Vorzug vor einer Person geben würden? Im Moment ist es unklar.
Abschließend sagt das Team, dass seine Forschung nicht als radikaler technokratischer Vorschlag zur Umwälzung der tatsächlichen Umverteilung von Wohlstand in der Gesellschaft verstanden werden sollte – sondern dass es sich um ein Forschungsinstrument handelt, das Menschen dabei helfen könnte, möglicherweise bessere Lösungen als die, die wir jetzt haben, zu entwickeln.
„Unsere Ergebnisse implizieren keine Unterstützung für eine Form der ‚KI-Regierung‘, bei der autonome Agenten politische Entscheidungen ohne menschliches Eingreifen treffen.“ die Autoren schreiben .
„Wir betrachten demokratische KI als eine Forschungsmethode zur Entwicklung potenziell nützlicher Mechanismen und nicht als Rezept für den Einsatz von KI im öffentlichen Raum.“
Über die Ergebnisse wird berichtet Natur menschliches Verhalten .