(Westworld/HBO) Die Erfindung einer künstlichen Superintelligenz ist seit mindestens dem 19. Jahrhundert ein zentrales Thema der Science-Fiction. Aus der Kurzgeschichte von E.M. Forster Die Maschine stoppt (1909) zur jüngsten HBO-Fernsehserie Westworld, Autoren neigen dazu, diese Möglichkeit als absolute Katastrophe darzustellen.
Aber dieses Thema ist keine Fiktion mehr. Prominente zeitgenössische Wissenschaftler und Ingenieure befürchten nun auch, dass Super-KI eines Tages die menschliche Intelligenz übertreffen könnte (ein Ereignis, das als „Singularität“ bekannt ist) und zur „Singularität“ der Menschheit werden könnte. schlimmster Fehler '.
Aktuelle Trends deuten darauf hin, dass wir auf dem Weg zu einem internationalen Markt sind Wettrüsten für eine solche Technologie. Welchem High-Tech-Unternehmen oder Regierungslabor es gelingt, die erste Super-KI zu erfinden, wird eine potenziell weltbeherrschende Technologie erhalten. Es handelt sich um einen Preis, bei dem der Gewinner alles bekommt.
Für diejenigen, die ein solches Ereignis verhindern wollen, stellt sich also die Frage, wie man diese Art von Wettrüsten verhindern oder zumindest konkurrierende Teams dazu anregen kann, bei der KI-Sicherheit keine Abstriche zu machen.
Eine Super-KI stellt ihre Erfinder als Philosophen vor zwei grundlegende Herausforderungen Nick Bostrom Und Andere darauf hingewiesen haben. Das eine ist ein Kontrollproblem, nämlich sicherzustellen, dass die Super-KI dieselben Ziele verfolgt wie die Menschheit.
Ohne dies könnte die Intelligenz die Menschheit absichtlich, versehentlich oder durch Vernachlässigung zerstören – eine „KI-Katastrophe“.
Das zweite ist ein politisches Problem, nämlich wie man sicherstellen kann, dass die Vorteile einer Superintelligenz nicht nur einer kleinen Elite zugutekommen, was zu massiven sozialen und Wohlstandsungleichheiten führt.
Sollte es zu einem Super-KI-Wettrüsten kommen, könnte dies zu konkurrierenden Gruppen führen Ignorieren Sie diese Probleme um ihre Technologie schneller weiterzuentwickeln. Dies könnte zu einer minderwertigen oder unfreundlichen Super-KI führen.
Ein Lösungsvorschlag besteht darin, die öffentliche Ordnung zu nutzen, um die Teilnahme am Rennen zu erschweren, um die Zahl der konkurrierenden Gruppen zu verringern und die Fähigkeiten derjenigen zu verbessern, die teilnehmen. Je weniger Teilnehmer antreten, desto geringer wird der Druck sein, Abstriche zu machen, um zu gewinnen.
Doch wie können Regierungen den Wettbewerb auf diese Weise verringern?
Meine Kollegin Nicola Dimitri und ich vor Kurzem hat einen Aufsatz veröffentlicht das hat versucht, diese Frage zu beantworten. Wir haben zunächst gezeigt, dass an einem typischen „Winner-takes-all“-Rennen, etwa dem zur Entwicklung der ersten Super-KI, nur die wettbewerbsfähigsten Teams teilnehmen.
Dies liegt daran, dass die Wahrscheinlichkeit, die Super-KI tatsächlich zu erfinden, sehr gering ist und der Einstieg in das Rennen aufgrund der erforderlichen hohen Investitionen in Forschung und Entwicklung sehr kostspielig ist.
Tatsächlich scheint dies die aktuelle Situation bei der Entwicklung einer einfacheren „engen“ KI zu sein. Patentanmeldungen Diese Art von KI wird von einigen wenigen Unternehmen dominiert, und der Großteil der KI-Forschung wird in nur wenigen Unternehmen durchgeführt drei Regionen (USA, China und Europa). Es scheint auch sehr wenige zu geben, wenn überhaupt , Gruppen, die derzeit in den Aufbau einer Super-KI investieren.
Dies deutet darauf hin, dass die Reduzierung der Anzahl konkurrierender Gruppen derzeit nicht die wichtigste Priorität ist. Aber auch bei geringerer Teilnehmerzahl im Rennen könnte die Intensität des Wettbewerbs zu den oben genannten Problemen führen.
Um die Intensität des Wettbewerbs zwischen Gruppen, die eine Super-KI aufbauen und ihre Fähigkeiten verbessern möchten, zu verringern, könnten Regierungen auf öffentliche Beschaffung und Steuern zurückgreifen.
Öffentliche Auftragsvergabe bezieht sich auf alle Dinge, für deren Bereitstellung private Unternehmen von Regierungen bezahlt werden, von Software zur Verwendung in Regierungsbehörden bis hin zu Verträgen zur Erbringung von Dienstleistungen. Regierungen könnten jedem Super-KI-Anbieter Beschränkungen auferlegen, die von ihm verlangen, die potenziellen Probleme anzugehen, und ergänzende Technologien unterstützen, um die menschliche Intelligenz zu verbessern und sie in die KI zu integrieren.
Aber Regierungen könnten auch anbieten, eine nicht ganz so gute Version der Super-KI zu kaufen, was im Grunde genommen einen „zweiten Preis“ im Wettrüsten schafft und verhindert, dass es zu einem Wettbewerb kommt, bei dem es nur um den Gewinner geht.
Mit einem Zwischenpreis, der für die Erfindung von etwas in der Nähe (aber nicht genau) einer Super-KI vergeben werden könnte, werden konkurrierende Gruppen einen Anreiz haben, mehr zu investieren und zusammenzuarbeiten, wodurch die Intensität des Wettbewerbs verringert wird. Ein zweiter Preis würde auch das Risiko eines Scheiterns verringern und mehr Investitionen rechtfertigen, was dazu beitragen würde, die Fähigkeiten der konkurrierenden Teams zu verbessern.
Was die Steuern betrifft, könnten Regierungen den Steuersatz für die Gruppe, die Super-KI erfindet, danach festlegen, wie freundlich oder unfreundlich die KI ist. Ein ausreichend hoher Steuersatz würde im Wesentlichen die Verstaatlichung der Super-KI bedeuten. Dies würde private Unternehmen stark davon abhalten, Abstriche zu machen, aus Angst, ihre Produkte an den Staat zu verlieren.
Öffentliches Gut, kein privates Monopol
Diese Idee erfordert möglicherweise eine bessere globale Koordinierung der Besteuerung und Regulierung von Super-KI. Aber es wäre nicht nötig, dass alle Regierungen beteiligt wären. Theoretisch ist a einzelnes Land oder Region (wie die EU) könnte die Kosten und den Aufwand tragen, die mit der Bewältigung der Probleme und der Ethik der Super-KI verbunden sind.
Aber alle Länder würden davon profitieren und Super-KI würde zu einem öffentlichen Gut und nicht zu einem unaufhaltsamen privaten Monopol.
Natürlich hängt das alles davon ab, dass Super-KI tatsächlich eine Bedrohung für die Menschheit darstellt. Und einige Wissenschaftler glauben nicht, dass dies der Fall sein wird. Wir könnten natürlich Ingenieur weg die Risiken von Super-KI im Laufe der Zeit. Manche meinen, Menschen könnten es sogar tun mit KI verschmelzen .
Wie dem auch sei, unser Planet und seine Bewohner werden enorm davon profitieren, wenn wir dafür sorgen Holen Sie das Beste von KI, einer Technologie, die noch in den Kinderschuhen steckt Kindheit . Dafür brauchen wir ein besseres Verständnis dafür, welche Rolle die Regierung spielen kann. 
Wim Naudé , Professorial Fellow, Maastricht Economic and Social Research Institute on Innovation and Technology (UNU-MERIT), Universität der Vereinten Nationen .
Dieser Artikel wurde erneut veröffentlicht von Die Unterhaltung unter einer Creative Commons-Lizenz. Lies das originaler Artikel .