Wissenschaftler warnen: Wir wissen nicht ob wir KI kontrollieren können wenn sie ein Bewusstsein hat

Künstliche Intelligenz (KI) hat zu einer technologischen Revolution geführt, wobei Deep-Learning-Systeme wie ChatGPT die Hauptakteure sind; obwohl sowohl Spanien als auch Deutschland gegen sie wegen Datenschutzverstößen ermitteln. Ihre Wirkung und ihr Fortschritt sind so stark, dass sogar Experten fordern, sie abzuschalten und die Menschen für den Fall vorzubereiten, dass diese Technologie bekannt wird.

Die Association for Mathematical Consciousness Science (AMCS) hat einen offenen Brief veröffentlicht, in dem sie davor warnt, dass künstliche Intelligenz bereits begonnen hat, menschliche Züge zu zeigen, was ernsthaft die Möglichkeit erhöht, dass diese Technologie Bekanntheit erlangen könnte. Sie warnen, dass der Mensch bei Bedarf „vorbereitet sein“ und sich fragen müsse, ob er diese Systeme „beherrschen, ausrichten und nutzen“ könne, wenn er „aufwacht“.

Das Bewusstwerden einer künstlichen Intelligenz bedeutet, dass sie mit der gleichen Freiheit und Autonomie denken kann wie ein Mensch, was ein ernstes Problem darstellen könnte. „Bewusstsein würde der KI einen Platz in unserer moralischen Landschaft geben, was mehr ethische, rechtliche und politische Bedenken aufwirft“, heißt es in ihrem Brief, in dem sie darauf hinweisen, dass ihre Aussage ein „Weckruf für den Technologiesektor“ sei.

“Sie werden neue Fähigkeiten haben”

Der Verein fordert sowohl die wissenschaftliche Gemeinschaft als auch die Gesellschaft im Allgemeinen auf, die Notwendigkeit einer Beschleunigung der Forschung im Bereich der Bewusstseinswissenschaft ernst zu nehmen. „Die wachsende Rechenleistung und die Fähigkeiten neuer KI-Systeme beschleunigen sich in einem Tempo, das unsere Fortschritte beim Verständnis ihrer Fähigkeiten und ihrer ‚Ausrichtung‘ auf menschliche Werte bei weitem übertrifft“, stellen sie fest.

In dem Brief wird auch darauf hingewiesen, dass künstliche Intelligenzsysteme, darunter Sprachmodelle wie ChatGPT und Bard, mehrere neue Fähigkeiten gezeigt haben, die nicht erwartet wurden. „Es liegt nicht länger im Bereich der Science-Fiction, sich vorzustellen, dass KI über Gefühle und sogar Bewusstsein auf menschlicher Ebene verfügt. Tatsächlich weisen zeitgenössische KI-Systeme bereits menschliche Merkmale auf, die in der Psychologie anerkannt sind, einschließlich Beweisen aus der Theory of Mind“, erklärt die Organisation.

Wissenschaftler warnen davor, dass KI-Systeme, wenn sie das Bewusstsein erlangen, „wahrscheinlich eine neue Reihe von Fähigkeiten offenbaren werden, die weit über das hinausgehen, was selbst diejenigen, die ihre Entwicklung vorantreiben, erwarten.“ Sie warnen sogar davor, dass diese Fähigkeiten die Möglichkeiten der KI und die Möglichkeiten der Gesellschaft zu ihrer Kontrolle verändern werden.

Während sich die künstliche Intelligenz weiterentwickelt, weist das AMCS – das sich aus mehr als 150 Wissenschaftlern und Philosophen aus der ganzen Welt zusammensetzt – darauf hin, dass es von entscheidender Bedeutung ist, dass die breite Öffentlichkeit, soziale Institutionen und Leitungsgremien „wissen, ob KI-Systeme bewusst werden können.“ und wie“ mit dem Ziel, die Auswirkungen zu verstehen und „die ethischen, sicherheitstechnischen und sozialen Auswirkungen effektiv anzugehen“.

Die Forscher fordern außerdem den Technologiesektor und die wissenschaftliche Gemeinschaft auf, mehr Studienressourcen zu investieren, um zu verstehen, ob KI bewusst ist oder werden kann; Dies würde es ermöglichen, Entscheidungen über die Zukunft der künstlichen Intelligenz und ihre möglichen Auswirkungen zu treffen, um sicherzustellen, dass sie für die Menschheit nicht schädlich ist. „Die KI-Forschung sollte nicht allein gelassen werden“, sagen sie.

Sie weisen sogar darauf hin, dass künstliche Intelligenz zwar eine der größten Errungenschaften der Menschheit sei, die Gesellschaft jedoch Entscheidungen darüber treffen müsse, wie sie mit ihren Auswirkungen umgehe. „Ohne Stellung dazu zu beziehen, ob die KI-Entwicklung gestoppt werden sollte, betonen wir, dass die rasante Entwicklung der künstlichen Intelligenz die dringende Notwendigkeit aufzeigt, die Forschung im Bereich der Bewusstseinswissenschaft zu beschleunigen“, schließen sie.