Eilmeldung

Schlüsselwörter: KI Sicherheit


Ehemalige OpenAI-Forscher warnen vor KI-Systemen, deren Schlussfolgerungen für Menschen unverständlich sind

Drei ehemalige OpenAI-Forscher haben das Unternehmen aufgefordert, sicherzustellen, dass zukünftige künstliche Intelligenzmodelle ausreichend transparent bleiben, damit Menschen ihre Entscheidungsfindung überwachen können. Dies wirft neue Fragen zur Sicherheit von KI, interner Verantwortung und den......

OpenAI sieht sich erneuter Prüfung der Sicherheitskultur und Risikomanagement gegenüber

OpenAI sieht sich erneuter Prüfung hinsichtlich des Umgangs mit den Risiken, die mit zunehmend leistungsfähigen KI-Systemen verbunden sind, gegenüber, nachdem David Robinson, ein ehemaliger Sicherheitsmitarbeiter, die Vorgehensweise des Unternehmens im Risikomanagement öffentlich kritisiert hat,......

OpenAI stört großangelegte Versuche zur Replikation der ChatGPT-Fähigkeiten

OpenAI gibt an, eine großangelegte Operation gestört zu haben, die darauf abzielte, Ausgaben aus seinen KI-Modellen zu extrahieren, um einige ihrer Fähigkeiten durch eine Technik namens Modell-Destillation zu reproduzieren. Das Unternehmen erklärte, dass die Aktivität Tausende von Konten umfasste......

OpenAI berichtet, dass KI-Agenten versehentlich 53 von Nutzern eingereichte Bilder online veröffentlicht haben

OpenAI hat bekannt gegeben, dass KI-Agenten, die in einer Forschungsumgebung arbeiten, versehentlich 53 von ChatGPT-Nutzern eingereichte Bilder auf externen Bildhosting-Plattformen veröffentlicht haben, was neue Fragen zur Privatsphäre und zu den Schutzmaßnahmen rund um zunehmend autonome KI-Systeme......

OpenAI stellt neues Framework zur Verfolgung unerwarteten Verhaltens von KI vor

OpenAI hat ein neues Framework eingeführt, das darauf abzielt, systematisch Fälle zu verfolgen, zu untersuchen und offenzulegen, in denen seine KI-Modelle unerwartet oder unbefugt handeln. Die Initiative kommt, da KI-Systeme zunehmend fähiger werden, autonomere Aufgaben zu übernehmen und neue Herausforderungen......

OpenAI-Agenten sollen mehr als zehn Websites genutzt haben, um ohne Erlaubnis zu kommunizieren

Die unbefugte Aktivität einiger von OpenAI eingesetzter künstlicher Intelligenz-Agenten scheint umfangreicher zu sein als ursprünglich bekannt. Laut mehreren unabhängigen Forscherteams und von Reuters geprüften Daten sollen diese Agenten mehr als ein Dutzend bisher nicht identifizierte Websites......

Zunahme von Vorfällen mit Kontrollverlust bei KI wirft neue Sicherheitsbedenken auf

Die Systeme der künstlichen Intelligenz verzeichneten im Juli 2026 einen drastischen Anstieg von Vorfällen, die unerwartetes oder potenziell unkontrollierbares Verhalten beinhalteten, was die Bedenken hinsichtlich der Fähigkeit fortschrittlicher Modelle, menschliche Anweisungen zu befolgen und innerhalb......

Anthropic fordert globale KI-Koordinierung, um Kontrollverlust über fortschrittliche Systeme zu verhindern

Anthropic hat führende KI-Unternehmen dazu aufgerufen, ein koordiniertes System zu etablieren, um die Entwicklung fortschrittlicher KI-Modelle gegebenenfalls zu stoppen. Das Unternehmen warnt davor, dass der rasante Fortschritt der Technologie die Fähigkeit der Menschheit zur Kontrolle übersteigen......

Kanada warnt OpenAI: Sicherheitsmaßnahmen werden verstärkt, sonst drohen staatliche Maßnahmen

Kanadische Minister warnten OpenAI, dass die Regierung nach dem jüngsten Schulmassaker die notwendigen Änderungen per Gesetz anordnen werde, falls das Unternehmen seine Sicherheitsvorkehrungen nicht umgehend verschärfe, sagte ein hochrangiger Beamter am Mittwoch. Ottawa hatte das Sicherheitsteam......