(D-Keine/E+/Getty Images) Die hochmodernen Zahlenverarbeitungsfunktionen von künstliche Intelligenz bedeuten, dass KI-Systeme dazu in der Lage sind Erkennen Sie Krankheiten frühzeitig , chemische Reaktionen verwalten , und erklären Sie einige davon Geheimnisse des Universums .
Doch diese unglaubliche und praktisch grenzenlose künstliche Intelligenz hat auch eine Kehrseite.
Neue Forschungsergebnisse betonen, wie leicht KI-Modelle sowohl für böswillige als auch für gute Zwecke trainiert werden können, insbesondere in diesem Fall, um sich die Entwürfe für hypothetische Biowaffenstoffe vorzustellen. Ein Testlauf mit einer vorhandenen KI identifizierte innerhalb von nur sechs Stunden 40.000 solcher Biowaffenchemikalien.
Mit anderen Worten: Während KI unglaublich leistungsfähig sein kann – und viel, viel schneller als Menschen –, wenn es darum geht, chemische Kombinationen und Arzneimittelverbindungen zur Verbesserung unserer Gesundheit zu erkennen, kann dieselbe Kraft auch dazu genutzt werden, potenziell sehr gefährliche und tödliche Substanzen zu erfinden.
„Wir haben Jahrzehnte damit verbracht, Computer und KI zu nutzen, um die menschliche Gesundheit zu verbessern – und nicht, um sie zu verschlechtern“, schreiben die Forscher in einem neuer Kommentar .
„Wir waren naiv, als wir über den möglichen Missbrauch unseres Gewerbes nachdachten, da unser Ziel immer darin bestand, molekulare Merkmale zu vermeiden, die die vielen verschiedenen Klassen von Proteinen beeinträchtigen könnten, die für das menschliche Leben unerlässlich sind.“
Das Team führte den Versuch auf einer internationalen Sicherheitskonferenz durch und brachte dabei ein KI-System namens MegaSyn zum Einsatz – nicht in seinem normalen Betriebsmodus, der darin besteht, Toxizität in Molekülen zu erkennen, um sie zu vermeiden, sondern um das Gegenteil zu tun.
Im Experiment wurden die toxischen Moleküle eher gehalten als eliminiert. Darüber hinaus wurde das Modell auch darauf trainiert, diese Moleküle in Kombinationen zusammenzusetzen – so wurden in so kurzer Zeit so viele hypothetische Biowaffen erzeugt.
Insbesondere trainierten die Forscher die KI mit Molekülen in Datenbanken arzneimittelähnlicher Moleküle und wiesen sie an, dass sie etwas Ähnliches wie den starken Nervenkampfstoff VX hätten.
Wie sich herausstellte, waren viele der erzeugten Verbindungen sogar noch giftiger als VX. Aus diesem Grund halten die Autoren der neuen Studie einige Details ihrer Forschung geheim und haben ernsthaft darüber diskutiert, ob sie diese Ergebnisse überhaupt veröffentlichen sollen oder nicht.
„Indem wir die Verwendung unseres umkehren maschinelles Lernen „Mit diesen Modellen hatten wir unser harmloses generatives Modell von einem hilfreichen Werkzeug der Medizin in einen Generator wahrscheinlich tödlicher Moleküle verwandelt“, erklären die Forscher .
Im Interview mit Der Rand Fabio Urbina – Hauptautor der neuen Arbeit und leitender Wissenschaftler bei Collaborations Pharmaceuticals, wo die Forschung stattfand – erklärte, dass es nicht viel braucht, um von guter KI zu schlechter KI umzuschalten.
Obwohl keine der aufgeführten Biowaffen tatsächlich in einem Labor erforscht oder hergestellt wurde, sagen die Forscher, dass ihr Experiment als Warnung dient die Gefahren der künstlichen Intelligenz – und es ist eine Warnung, die die Menschheit beherzigen sollte.
Für das, was das Team hier getan hat, ist zwar etwas Fachwissen erforderlich, ein Großteil des Prozesses ist jedoch relativ unkompliziert und nutzt öffentlich verfügbare Tools.
Die Forscher fordern nun einen „neuen Blick“ darauf, wie Systeme der künstlichen Intelligenz möglicherweise für böswillige Zwecke genutzt werden können. Sie sagen, ein größeres Bewusstsein, strengere Richtlinien und eine strengere Regulierung in der Forschungsgemeinschaft könnten uns helfen, die Gefahren zu vermeiden, die diese KI-Fähigkeiten sonst mit sich bringen könnten.
„Unser Proof of Concept zeigt somit, dass ein nicht-menschlicher autonomer Schöpfer einer tödlichen chemischen Waffe durchaus machbar ist.“ erklären die Forscher .
„Ohne allzu alarmierend zu sein, sollte dies als Weckruf für unsere Kollegen in der ‚KI in der Arzneimittelforschung‘-Community dienen.“
Die Forschung wurde veröffentlicht in Naturmaschinenintelligenz .