Die Schöpfer von ChatGPT bilden ein Team um nukleare Katastrophen durch KI zu verhindern

In den letzten Jahren, in denen die künstliche Intelligenz den Markt revolutioniert hat, waren sie geprägt von Warnungen über ihre Gefahren. Experten, Akademiker und Unternehmer sowohl aus Spanien als auch aus dem Rest der Welt haben davor gewarnt, dass diese unkontrollierte Technologie für die Welt enorm schädlich sein kann. OpenAI, der Entwickler von ChatGPT, möchte dem mit seinem Preparedness-Team zuvorkommen.

Wie das Unternehmen von Sam Altman, der Entwickler von Programmen wie ChatGPT, erklärt, wurde eine Gruppe von Experten geschaffen, die darauf abzielt, das “gesamte Spektrum an Sicherheitsrisiken” im Zusammenhang mit künstlicher Intelligenz zu kontrollieren. Genauer gesagt, soll Preparedness darauf abzielen, die “katastrophalen Risiken” zu verhindern, die sich aus einem Missbrauch der KI ergeben.

Diese Gruppe wird von Aleksander Madry, dem Direktor des Zentrums für Implementierbares Maschinelles Lernen am MIT, geleitet und fungiert derzeit als ‘Chef der Vorbereitung’. Zu seinen Aufgaben gehört nicht nur, die zukünftigen Gefahren der künstlichen Intelligenz zu erkennen, sondern sie auch vorherzusagen und davor zu schützen.

Das Katastrophenabwehrteam

Woher kommt diese Idee? Tatsächlich scheint OpenAI sich enorm der Gefahren bewusst zu sein, die die KI birgt, insbesondere ihres zukünftigen Potenzials. Sie erklären, dass die neuesten Modelle der künstlichen Intelligenz viel mächtiger sein werden als die aktuellen und daher “zunehmend ernsthafte Risiken” darstellen.

Tatsächlich listen sie diese auf. Sie verbinden diese zukünftigen Modelle mit chemischen, biologischen, nuklearen und radiologischen Bedrohungen, um nur einige zu nennen. Und nicht nur das; sie warnen auch vor Risiken im Zusammenhang mit der Cybersicherheit, der “individualisierten Überzeugung” oder der “autonomen Replikation und Anpassung”.

Das Katastrophenabwehrteam

Die Fronten von Preparedness sind vielfältig. Es werden Debatten über die Gefährlichkeit dieser KI-Modelle in den Händen von Feinden geführt und Rahmenbedingungen erstellt, die das “Verfolgen, Bewerten, Vorhersagen und Schützen vor gefährlichen Fähigkeiten der Grenzsysteme der KI” ermöglichen.

Die Veröffentlichung von OpenAI erläutert die Aufgaben des Teams und definiert sie in einem Schutzbereich. “Das Team wird dabei helfen, katastrophale Risiken, die mehrere Kategorien umfassen, zu verfolgen, zu bewerten, vorherzusagen und davor zu schützen”, wie zuvor erwähnt.

So sehr, dass OpenAI sogar die Möglichkeit erwogen hat, Bereiche zu untersuchen, die nicht so riskant mit künstlicher Intelligenz sind. Tatsächlich würden sie erwägen, Ideen für Risikostudien aus der Gemeinschaft anzufordern. Die relevantesten könnten mit Preisen von bis zu 25.000 Dollar ausgezeichnet werden, und sogar eine Arbeit im eigenen Preparedness-Team.

Schließlich wird dieses Team von OpenAI die Entwicklung und Wartung einer Reihe von Politiken umfassen, die als RPD bezeichnet werden, “Risikobasierte Entwicklungsrichtlinien”. In den Worten der Firma von Sam Altman werden diese Richtlinien hauptsächlich darauf abzielen, konkret zu beschreiben, wie Bewertungen für KI-Modelle und Überwachungswerkzeuge für diese erstellt werden sollen.

Richtlinien, die die restliche Arbeit von OpenAI im Bereich der Sicherheit der künstlichen Intelligenz ergänzen. In den Augen von OpenAI müssen wir “sicherstellen, dass wir das Verständnis und die Infrastruktur für die Sicherheit hochkapazitiver KI-Systeme haben, die in der Zukunft kommen werden.”

Bewerte Diese Seite

No Responses

Leave a Reply

Your email address will not be published. Required fields are marked *

BLOG

Prompt-Techniken Wie man das Beste aus künstlicher Intelligenz herausholt

Prompt-Techniken: Wie man das Beste aus künstlicher Intelligenz herausholt

Generative Künstliche Intelligenz, wie ChatGPT, Gemini, DALL-E, Midjourney oder Stable Diffusion, sind fortschrittliche Technologien, die in der Lage sind, Texte, Dokumente, Mindmaps, Tabellen, Kalkulationstabellen, Präsentationen, Bilder oder Videos zu erstellen. Sie benötigen jedoch präzise Anleitungen, klare, direkte Vorgaben und ausreichende Informationen, um das bestmögliche Ergebnis zu erzielen. Diese Anweisungen oder Leitfäden werden als Prompts bezeichnet, […]

Krankenschwestern in den USA protestieren gegen den Einsatz von KI in Krankenhäusern

Krankenschwestern in den USA protestieren gegen den Einsatz von KI in Krankenhäusern

Die Gewerkschaft “National Nurses United” erklärt in einer Mitteilung, dass künstliche Intelligenz (KI) keine “Lebens- oder Todesentscheidungen” ohne menschliche Bewertung und kritisches Denken treffen kann. Künstliche Intelligenz hat seit der Einführung von ChatGPT Ende 2022 unser Leben verändert, und seitdem haben die KI-Modelle verschiedener Technologieunternehmen – wie OpenAI, Meta, Microsoft, Google oder Apple – ihre […]

Funcas befürchtet dass ChatGPT Kundendaten der Banken stehlen könnte

Funcas befürchtet dass ChatGPT Kundendaten der Banken stehlen könnte

Die Stiftung der Sparkassen (Funcas) hat die Banken vor dem Einsatz von generativer Künstlicher Intelligenz (GenAI) wie ChatGPT gewarnt, wegen der Gefahr, die diese beim Schutz vertraulicher Kundendaten darstellen könnte. Insbesondere empfiehlt die Organisation dem Finanzsektor, eigene Programme mit dieser Technologie zu entwickeln, um Lecks zu verhindern und die Vertraulichkeit sicherer zu bewahren. Laut Funcas […]

Empfiehlt den Einsatz von ChatGPT in Tausenden wissenschaftlichen Studien

Empfiehlt den Einsatz von ChatGPT in Tausenden wissenschaftlichen Studien

Der Bibliothekar Andrew Gray machte eine “sehr überraschende” Entdeckung. Er analysierte fünf Millionen wissenschaftliche Studien, die im letzten Jahr veröffentlicht wurden, und stellte einen plötzlichen Anstieg in der Verwendung bestimmter Wörter fest, wie “meticulously” (um 137% mehr), “intricate” (117%), “commendable” (83%) und “meticulous” (59%), in ihren englischen Versionen. Gray, vom University College London, sieht nur […]

Googles KI holt gegenüber ChatGPT auf Gemini Pro 1.5 steigt auf ein neues Niveau

Googles KI holt gegenüber ChatGPT auf: Gemini Pro 1.5 steigt auf ein neues Niveau

Google kann auf seinem Weg, den Thron der künstlichen Intelligenz zurückzugewinnen, nicht aufgehalten werden, denn sein Prestige steht dabei auf dem Spiel. Obwohl wir die riesige Menge an Überraschungen, die uns beim nächsten Google I/O erwarten, noch nicht kennen, hat das Unternehmen bereits einen großen Teil seiner aktuellen Modelle weiterentwickelt. Es plant sogar, Gmail durch […]

Skoda beginnt mit der Herstellung des überarbeiteten Octavia mit integrierter ChatGPT

Skoda beginnt mit der Herstellung des überarbeiteten Octavia mit integrierter ChatGPT

Skoda hat die Serienproduktion des überarbeiteten Octavia in seinem Hauptwerk in Mladá Boleslav gestartet. Die aktualisierte vierte Generation des Bestsellers der Marke bietet einen neu gestalteten Skoda-Kühlergrill, neue Matrix-LED-Scheinwerfer der zweiten Generation und die Integration von ChatGPT in die Sprachassistenten des Fahrzeugs, unter anderem Verbesserungen. Mit der Verlagerung der Octavia-Produktion Ende dieses Jahres nach Kvasiny […]