“Wir fordern alle KI-Labore auf, das Training von KI-Systemen, die mächtiger sind als GPT-4, sofort für mindestens 6 Monate zu pausieren.” Dies ist die Botschaft, die in einem offenen Brief zum Ausdruck kommt, der unter anderem von Elon Musk, Steve Wozniak (Mitbegründer von Apple), Jaan Tallinn (Mitbegründer von Skype) und Max Tegmark (MIT) unterzeichnet wurde.
Dieser Brief, der von mehr als 1.000 Persönlichkeiten aus der Technologiewelt unterzeichnet wurde, stellt die schnellen Fortschritte der künstlichen Intelligenzsysteme in Frage, insbesondere jene, die eine größere Kapazität als ChatGPT oder GPT-4 haben.
Mangel an Planung. Der Brief macht zunächst deutlich, dass die Entwicklung in KI-Systemen einen tiefgreifenden Wandel in der Geschichte darstellen kann, vorausgesetzt, sie wird angemessen verwaltet und geplant. Die Unterzeichner behaupten, dass selbst die Schöpfer dieser Systeme heute nicht in der Lage sind, ihr Verhalten zuverlässig zu verstehen oder vorherzusagen.
“Die zeitgenössischen KI-Systeme beginnen, mit Menschen in allgemeinen Aufgaben zu konkurrieren, und wir müssen uns fragen: Sollten wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten überschwemmen? Sollten wir alle Jobs automatisieren? Sollten wir nicht-menschliche Intelligenzen entwickeln, die uns irgendwann an Zahl, Intelligenz, Überholung und Ersetzung übertreffen?”
Der Fokus auf GPT-4. Der Brief spricht sich nicht für eine komplette Pause in der KI-Entwicklung aus, sondern für jene Systeme, die mächtiger sind als GPT-4. Sie fordern “einen Schritt zurück” im Rennen um “unvorhersehbare Modelle mit immer mehr emergenten Fähigkeiten”. Der Hauptpunkt ist, dass die aktuelle Entwicklung darauf konzentriert sein sollte, “die mächtigen aktuellen Spitzensysteme präziser, sicherer, interpretierbarer, transparenter, robuster, ausgerichteter, verlässlicher und loyaler zu machen.”
Mit anderen Worten, die Entwicklung immer mächtigerer Fähigkeiten zu pausieren, um mit der Arbeit an der eigenen Kontrolle und Zuverlässigkeit dieser Systeme zu beginnen.
Protokolle, die Garantien bieten. Jenseits der Arbeit an der Zuverlässigkeit und Sicherheit dieser KI-Systeme wird die Notwendigkeit hervorgehoben, neue gemeinsame Sicherheitsprotokolle zu entwickeln. “Diese Protokolle sollten garantieren, dass die Systeme, die ihnen folgen, über jeden vernünftigen Zweifel hinaus sicher sind.” Es wird also die Schaffung und Einhaltung bestimmter Standards gefordert, die die gute Praxis dieser Systeme garantieren.
Eine stärkere Regulierung. Sie bringen auch die Notwendigkeit zur Sprache, neue Regulierungsbehörden im Bereich der KI zu schaffen. Diese sollten nach dem Gesuch “hochfähige KI-Systeme” überwachen und verfolgen sowie Möglichkeiten fördern, um das Reale vom Künstlich Erzeugten zu unterscheiden. Es wird auch über rechtliche Regulierung in Bezug auf mögliche Schäden, die durch KI verursacht werden, Lecks in diesen Modellen oder Systemen oder öffentliche Finanzierungsmechanismen für Forschung im Bereich der Sicherheit gesprochen.
“Die Institutionen müssen gut ausgestattet sein, um mit den drastischen wirtschaftlichen und politischen Störungen (insbesondere für die Demokratie) umzugehen, die die KI verursachen wird.”
Ein perfektes Timing. Der Brief könnte nicht zu einem passenderen Zeitpunkt kommen, da dies anscheinend die Woche ist, in der KI-Modelle hinterfragt werden. Am 27. März warnte die Europäische Polizei davor, dass kriminelle Netzwerke diese Art von Werkzeugen zu ihrem Vorteil nutzen können. Es wurde die Auswirkungen auf Desinformation diskutiert, die die Nutzung dieser Werkzeuge haben kann, indem sie zum Erstellen von Texten für Phishing oder andere bösartige Zwecke verwendet werden.
No Responses