Wissenschaftler warnen: Wir wissen nicht ob wir KI kontrollieren können wenn sie ein Bewusstsein hat

Künstliche Intelligenz (KI) hat zu einer technologischen Revolution geführt, wobei Deep-Learning-Systeme wie ChatGPT die Hauptakteure sind; obwohl sowohl Spanien als auch Deutschland gegen sie wegen Datenschutzverstößen ermitteln. Ihre Wirkung und ihr Fortschritt sind so stark, dass sogar Experten fordern, sie abzuschalten und die Menschen für den Fall vorzubereiten, dass diese Technologie bekannt wird.

Die Association for Mathematical Consciousness Science (AMCS) hat einen offenen Brief veröffentlicht, in dem sie davor warnt, dass künstliche Intelligenz bereits begonnen hat, menschliche Züge zu zeigen, was ernsthaft die Möglichkeit erhöht, dass diese Technologie Bekanntheit erlangen könnte. Sie warnen, dass der Mensch bei Bedarf „vorbereitet sein“ und sich fragen müsse, ob er diese Systeme „beherrschen, ausrichten und nutzen“ könne, wenn er „aufwacht“.

Das Bewusstwerden einer künstlichen Intelligenz bedeutet, dass sie mit der gleichen Freiheit und Autonomie denken kann wie ein Mensch, was ein ernstes Problem darstellen könnte. „Bewusstsein würde der KI einen Platz in unserer moralischen Landschaft geben, was mehr ethische, rechtliche und politische Bedenken aufwirft“, heißt es in ihrem Brief, in dem sie darauf hinweisen, dass ihre Aussage ein „Weckruf für den Technologiesektor“ sei.

“Sie werden neue Fähigkeiten haben”

Der Verein fordert sowohl die wissenschaftliche Gemeinschaft als auch die Gesellschaft im Allgemeinen auf, die Notwendigkeit einer Beschleunigung der Forschung im Bereich der Bewusstseinswissenschaft ernst zu nehmen. „Die wachsende Rechenleistung und die Fähigkeiten neuer KI-Systeme beschleunigen sich in einem Tempo, das unsere Fortschritte beim Verständnis ihrer Fähigkeiten und ihrer ‚Ausrichtung‘ auf menschliche Werte bei weitem übertrifft“, stellen sie fest.

"Sie werden neue Fähigkeiten haben"

 

In dem Brief wird auch darauf hingewiesen, dass künstliche Intelligenzsysteme, darunter Sprachmodelle wie ChatGPT und Bard, mehrere neue Fähigkeiten gezeigt haben, die nicht erwartet wurden. „Es liegt nicht länger im Bereich der Science-Fiction, sich vorzustellen, dass KI über Gefühle und sogar Bewusstsein auf menschlicher Ebene verfügt. Tatsächlich weisen zeitgenössische KI-Systeme bereits menschliche Merkmale auf, die in der Psychologie anerkannt sind, einschließlich Beweisen aus der Theory of Mind“, erklärt die Organisation.

Wissenschaftler warnen davor, dass KI-Systeme, wenn sie das Bewusstsein erlangen, „wahrscheinlich eine neue Reihe von Fähigkeiten offenbaren werden, die weit über das hinausgehen, was selbst diejenigen, die ihre Entwicklung vorantreiben, erwarten.“ Sie warnen sogar davor, dass diese Fähigkeiten die Möglichkeiten der KI und die Möglichkeiten der Gesellschaft zu ihrer Kontrolle verändern werden.

Während sich die künstliche Intelligenz weiterentwickelt, weist das AMCS – das sich aus mehr als 150 Wissenschaftlern und Philosophen aus der ganzen Welt zusammensetzt – darauf hin, dass es von entscheidender Bedeutung ist, dass die breite Öffentlichkeit, soziale Institutionen und Leitungsgremien „wissen, ob KI-Systeme bewusst werden können.“ und wie“ mit dem Ziel, die Auswirkungen zu verstehen und „die ethischen, sicherheitstechnischen und sozialen Auswirkungen effektiv anzugehen“.

Die Forscher fordern außerdem den Technologiesektor und die wissenschaftliche Gemeinschaft auf, mehr Studienressourcen zu investieren, um zu verstehen, ob KI bewusst ist oder werden kann; Dies würde es ermöglichen, Entscheidungen über die Zukunft der künstlichen Intelligenz und ihre möglichen Auswirkungen zu treffen, um sicherzustellen, dass sie für die Menschheit nicht schädlich ist. „Die KI-Forschung sollte nicht allein gelassen werden“, sagen sie.

Sie weisen sogar darauf hin, dass künstliche Intelligenz zwar eine der größten Errungenschaften der Menschheit sei, die Gesellschaft jedoch Entscheidungen darüber treffen müsse, wie sie mit ihren Auswirkungen umgehe. „Ohne Stellung dazu zu beziehen, ob die KI-Entwicklung gestoppt werden sollte, betonen wir, dass die rasante Entwicklung der künstlichen Intelligenz die dringende Notwendigkeit aufzeigt, die Forschung im Bereich der Bewusstseinswissenschaft zu beschleunigen“, schließen sie.

Bewerte Diese Seite

No Responses

Leave a Reply

Your email address will not be published. Required fields are marked *

BLOG

Prompt-Techniken Wie man das Beste aus künstlicher Intelligenz herausholt

Prompt-Techniken: Wie man das Beste aus künstlicher Intelligenz herausholt

Generative Künstliche Intelligenz, wie ChatGPT, Gemini, DALL-E, Midjourney oder Stable Diffusion, sind fortschrittliche Technologien, die in der Lage sind, Texte, Dokumente, Mindmaps, Tabellen, Kalkulationstabellen, Präsentationen, Bilder oder Videos zu erstellen. Sie benötigen jedoch präzise Anleitungen, klare, direkte Vorgaben und ausreichende Informationen, um das bestmögliche Ergebnis zu erzielen. Diese Anweisungen oder Leitfäden werden als Prompts bezeichnet, […]

Krankenschwestern in den USA protestieren gegen den Einsatz von KI in Krankenhäusern

Krankenschwestern in den USA protestieren gegen den Einsatz von KI in Krankenhäusern

Die Gewerkschaft “National Nurses United” erklärt in einer Mitteilung, dass künstliche Intelligenz (KI) keine “Lebens- oder Todesentscheidungen” ohne menschliche Bewertung und kritisches Denken treffen kann. Künstliche Intelligenz hat seit der Einführung von ChatGPT Ende 2022 unser Leben verändert, und seitdem haben die KI-Modelle verschiedener Technologieunternehmen – wie OpenAI, Meta, Microsoft, Google oder Apple – ihre […]

Funcas befürchtet dass ChatGPT Kundendaten der Banken stehlen könnte

Funcas befürchtet dass ChatGPT Kundendaten der Banken stehlen könnte

Die Stiftung der Sparkassen (Funcas) hat die Banken vor dem Einsatz von generativer Künstlicher Intelligenz (GenAI) wie ChatGPT gewarnt, wegen der Gefahr, die diese beim Schutz vertraulicher Kundendaten darstellen könnte. Insbesondere empfiehlt die Organisation dem Finanzsektor, eigene Programme mit dieser Technologie zu entwickeln, um Lecks zu verhindern und die Vertraulichkeit sicherer zu bewahren. Laut Funcas […]

Empfiehlt den Einsatz von ChatGPT in Tausenden wissenschaftlichen Studien

Empfiehlt den Einsatz von ChatGPT in Tausenden wissenschaftlichen Studien

Der Bibliothekar Andrew Gray machte eine “sehr überraschende” Entdeckung. Er analysierte fünf Millionen wissenschaftliche Studien, die im letzten Jahr veröffentlicht wurden, und stellte einen plötzlichen Anstieg in der Verwendung bestimmter Wörter fest, wie “meticulously” (um 137% mehr), “intricate” (117%), “commendable” (83%) und “meticulous” (59%), in ihren englischen Versionen. Gray, vom University College London, sieht nur […]

Googles KI holt gegenüber ChatGPT auf Gemini Pro 1.5 steigt auf ein neues Niveau

Googles KI holt gegenüber ChatGPT auf: Gemini Pro 1.5 steigt auf ein neues Niveau

Google kann auf seinem Weg, den Thron der künstlichen Intelligenz zurückzugewinnen, nicht aufgehalten werden, denn sein Prestige steht dabei auf dem Spiel. Obwohl wir die riesige Menge an Überraschungen, die uns beim nächsten Google I/O erwarten, noch nicht kennen, hat das Unternehmen bereits einen großen Teil seiner aktuellen Modelle weiterentwickelt. Es plant sogar, Gmail durch […]

Skoda beginnt mit der Herstellung des überarbeiteten Octavia mit integrierter ChatGPT

Skoda beginnt mit der Herstellung des überarbeiteten Octavia mit integrierter ChatGPT

Skoda hat die Serienproduktion des überarbeiteten Octavia in seinem Hauptwerk in Mladá Boleslav gestartet. Die aktualisierte vierte Generation des Bestsellers der Marke bietet einen neu gestalteten Skoda-Kühlergrill, neue Matrix-LED-Scheinwerfer der zweiten Generation und die Integration von ChatGPT in die Sprachassistenten des Fahrzeugs, unter anderem Verbesserungen. Mit der Verlagerung der Octavia-Produktion Ende dieses Jahres nach Kvasiny […]