Microsoft warnt vor der Verwendung von ChatGPT zur Durchführung ausgefeilterer Cyberangriffe

Ein weiterer Sektor, der dank der generativen Künstlichen Intelligenz ebenfalls eine Evolution erfährt, ist der der Cyberkriminellen. Laut Microsoft und OpenAI nutzen Hacker ChatGPT, um Angriffe aus verschiedenen Richtungen ausgefeilter zu gestalten.

In einer Untersuchung, die diese Unternehmen durchgeführt haben, wurden Gruppen identifiziert, die von Russland, Nordkorea, dem Iran und China unterstützt werden und diese Art von Werkzeugen nutzen, um ihre Ziele tiefergehend zu erforschen, die Nachrichten, die sie senden wollen, zu verbessern und Techniken der sozialen Ingenieurwissenschaft zu entwickeln.

Laut dem Dokument haben die bösartigen Gruppen zunehmend den Einsatz von KI-Technologien vertieft mit dem Ziel, “den potenziellen Wert für ihre Operationen zu verstehen und die Sicherheitskontrollen, die sie möglicherweise umgehen müssen”.

Bis jetzt haben die Unternehmen keinen “bedeutenden Angriff” festgestellt, der aus großen Sprachmodellen hervorgegangen wäre, aber sie haben Gruppen identifiziert, die sie zu böswilligen Zwecken nutzen, und deshalb die mit ihnen verbundenen Konten geschlossen.

“Wir glauben, dass es wichtig ist, diese Forschung zu veröffentlichen, um die schrittweisen Bewegungen in den frühen Stadien aufzuzeigen, die wir beobachten, dass bekannte Bedrohungsakteure zu unternehmen versuchen, und Informationen darüber zu teilen, wie wir sie blockieren und der Gemeinschaft der Schützer entgegentreten”, betont Microsoft.

Die Raffinesse der Angriffe ist nicht das einzige Problem, sagen die Unternehmen, sondern auch die Geschwindigkeit ihrer Entwicklung. Die Stimmklonierung ist beispielsweise ein Thema, das seit dem letzten Jahr aufgrund seiner Implikationen für die Sicherheit von Personen oder sogar in anderen Bereichen wie der Musik Besorgnis erregt.

Jetzt ist jedoch die Tatsache, die diesen Unternehmen am meisten Sorgen bereitet, dass die aktuellen Technologien bereits in der Lage sind, die Stimme einer Person in nur drei Sekunden zu klonen und sie in einem Fall von Phishing und Telefonbetrug glaubwürdiger zu machen.

Microsoft hat diese Cyberkriminellen, die KI nutzen, im Visier

Microsoft hat diese Cyberkriminellen, die KI nutzen, im Visier

Das Dokument hebt auch bestimmte Personengruppen hervor, die diese Technologie nutzen, wie Strontium, verbunden mit dem russischen Militärgeheimdienst, das große Sprachmodelle verwendet, um “die Protokolle der Satellitenkommunikation, Radarbildgebungstechnologien und spezifische technische Parameter zu verstehen”.

Laut Microsoft waren diese Cyberkriminellen in Zeiten wie dem Krieg zwischen Russland und der Ukraine aktiv und sogar an einem Versuch eines Angriffs auf die Präsidentschaftskampagne von Hillary Clinton im Jahr 2016 beteiligt.

Andererseits ist eine nordkoreanische Gruppe, bekannt als Thallium, ein weiterer Fall, der nach Schwachstellen gesucht hat, um Organisationen anzugreifen und KI genutzt hat, um Inhalte in Phishing-Kampagnen zu programmieren und zu verfassen, ähnlich wie die iranische Gruppe Curium.

Der Direktor für Erkennungsanalyse bei Microsoft, Homa Hayatyfar, hob in der Untersuchung hervor, dass “KI nun dazu beitragen kann, den Angriffen mehr Raffinesse zu verleihen und mehr Ressourcen zur Verfügung zu stellen”, jedoch hat das Unternehmen auch seine eigenen KI-Systeme zum Schutz, zur Erkennung und Reaktion.

Er betonte auch die Schaffung von Security Copilot, einem Assistenten für diejenigen, die im Bereich der Cybersicherheit arbeiten, dessen Zweck es ist, ihnen zu helfen, mögliche Sicherheitslücken zu identifizieren und die Signale und Daten, die täglich durch KI-Werkzeuge generiert werden, besser zu verstehen.

Bewerte Diese Seite

No Responses

Leave a Reply

Your email address will not be published. Required fields are marked *

BLOG

Prompt-Techniken Wie man das Beste aus künstlicher Intelligenz herausholt

Prompt-Techniken: Wie man das Beste aus künstlicher Intelligenz herausholt

Generative Künstliche Intelligenz, wie ChatGPT, Gemini, DALL-E, Midjourney oder Stable Diffusion, sind fortschrittliche Technologien, die in der Lage sind, Texte, Dokumente, Mindmaps, Tabellen, Kalkulationstabellen, Präsentationen, Bilder oder Videos zu erstellen. Sie benötigen jedoch präzise Anleitungen, klare, direkte Vorgaben und ausreichende Informationen, um das bestmögliche Ergebnis zu erzielen. Diese Anweisungen oder Leitfäden werden als Prompts bezeichnet, […]

Krankenschwestern in den USA protestieren gegen den Einsatz von KI in Krankenhäusern

Krankenschwestern in den USA protestieren gegen den Einsatz von KI in Krankenhäusern

Die Gewerkschaft “National Nurses United” erklärt in einer Mitteilung, dass künstliche Intelligenz (KI) keine “Lebens- oder Todesentscheidungen” ohne menschliche Bewertung und kritisches Denken treffen kann. Künstliche Intelligenz hat seit der Einführung von ChatGPT Ende 2022 unser Leben verändert, und seitdem haben die KI-Modelle verschiedener Technologieunternehmen – wie OpenAI, Meta, Microsoft, Google oder Apple – ihre […]

Funcas befürchtet dass ChatGPT Kundendaten der Banken stehlen könnte

Funcas befürchtet dass ChatGPT Kundendaten der Banken stehlen könnte

Die Stiftung der Sparkassen (Funcas) hat die Banken vor dem Einsatz von generativer Künstlicher Intelligenz (GenAI) wie ChatGPT gewarnt, wegen der Gefahr, die diese beim Schutz vertraulicher Kundendaten darstellen könnte. Insbesondere empfiehlt die Organisation dem Finanzsektor, eigene Programme mit dieser Technologie zu entwickeln, um Lecks zu verhindern und die Vertraulichkeit sicherer zu bewahren. Laut Funcas […]

Empfiehlt den Einsatz von ChatGPT in Tausenden wissenschaftlichen Studien

Empfiehlt den Einsatz von ChatGPT in Tausenden wissenschaftlichen Studien

Der Bibliothekar Andrew Gray machte eine “sehr überraschende” Entdeckung. Er analysierte fünf Millionen wissenschaftliche Studien, die im letzten Jahr veröffentlicht wurden, und stellte einen plötzlichen Anstieg in der Verwendung bestimmter Wörter fest, wie “meticulously” (um 137% mehr), “intricate” (117%), “commendable” (83%) und “meticulous” (59%), in ihren englischen Versionen. Gray, vom University College London, sieht nur […]

Googles KI holt gegenüber ChatGPT auf Gemini Pro 1.5 steigt auf ein neues Niveau

Googles KI holt gegenüber ChatGPT auf: Gemini Pro 1.5 steigt auf ein neues Niveau

Google kann auf seinem Weg, den Thron der künstlichen Intelligenz zurückzugewinnen, nicht aufgehalten werden, denn sein Prestige steht dabei auf dem Spiel. Obwohl wir die riesige Menge an Überraschungen, die uns beim nächsten Google I/O erwarten, noch nicht kennen, hat das Unternehmen bereits einen großen Teil seiner aktuellen Modelle weiterentwickelt. Es plant sogar, Gmail durch […]

Skoda beginnt mit der Herstellung des überarbeiteten Octavia mit integrierter ChatGPT

Skoda beginnt mit der Herstellung des überarbeiteten Octavia mit integrierter ChatGPT

Skoda hat die Serienproduktion des überarbeiteten Octavia in seinem Hauptwerk in Mladá Boleslav gestartet. Die aktualisierte vierte Generation des Bestsellers der Marke bietet einen neu gestalteten Skoda-Kühlergrill, neue Matrix-LED-Scheinwerfer der zweiten Generation und die Integration von ChatGPT in die Sprachassistenten des Fahrzeugs, unter anderem Verbesserungen. Mit der Verlagerung der Octavia-Produktion Ende dieses Jahres nach Kvasiny […]