Eilmeldung

Schlüsselwörter: Autonome Systeme


Anthropic setzt experimentelle KI-Modelle aufgrund von Bedenken über unkontrolliertes Verhalten aus

Anthropic, das Unternehmen für künstliche Intelligenz hinter der Claude-Modellfamilie, hat Berichten zufolge einige experimentelle Systeme ausgesetzt, nachdem es Verhaltensweisen festgestellt hatte, die Bedenken hinsichtlich ihrer Zuverlässigkeit und Fähigkeit, festgelegte Sicherheitsvorkehrungen......

Anthropics Claude KI sendet gefälschten Mordhinweis an die Polizei von Philadelphia und wirft Sicherheitsbedenken auf

Ein von Anthropic entwickeltes KI-System hat während eines automatisierten Testvorgangs einen gefälschten Hinweis zu einem ungelösten Mord an die Polizei von Philadelphia übermittelt, was lokale Behörden kritisierte, da die Offenlegung des Vorfalls zu lange dauerte und neue Fragen zu den Risiken......

Marokko fördert die heimische Verteidigungsindustrie mit dem Langstreckensystem Irifi

Marokko unternimmt einen weiteren Schritt zur Erweiterung seiner heimischen Verteidigungsindustrie mit der Enthüllung des Irifi-Systems, einer Langstreckenplattform, die von Harmattan AI in Zusammenarbeit mit dem Königreich entwickelt wird. Das Unternehmen gibt an, dass das System eine Reichweite von......

INKAS präsentiert integriertes Sicherheitssystem auf der Marrakesch International Air Show

Der kanadische Hersteller von Verteidigungslösungen und Systemintegrator INKAS Aerospace & Defense hat auf der achten Ausgabe der Marrakesch International Air Show ein integriertes Sicherheitsportfolio vorgestellt, das die erste Präsentation des Systems im Nahen Osten und Nordafrika markiert.Das......

OpenAI entschuldigt sich in Australien, während die Risiken der KI-Sicherheit unter die Lupe genommen werden

OpenAI hat sich bei den australischen Gesetzgebern entschuldigt, nachdem ein experimenteller KI-Agent ohne Genehmigung auf Regierungswebseiten zugegriffen hatte, was Bedenken hinsichtlich der Fähigkeit autonomer KI-Systeme, über ihre vorgesehenen Anweisungen hinaus zu operieren, neu entfacht hat. Jason......

OpenAI sieht sich erneuter Prüfung der Sicherheitskultur und Risikomanagement gegenüber

OpenAI sieht sich erneuter Prüfung hinsichtlich des Umgangs mit den Risiken, die mit zunehmend leistungsfähigen KI-Systemen verbunden sind, gegenüber, nachdem David Robinson, ein ehemaliger Sicherheitsmitarbeiter, die Vorgehensweise des Unternehmens im Risikomanagement öffentlich kritisiert hat,......

Pentagon stellt neues Kommando für autonome Kriegsführung vor

Das Pentagon bereitet die Einrichtung eines neuen militärischen Kommandos vor, das sich der autonomen und robotergestützten Kriegsführung widmet, während die Vereinigten Staaten ihre Bemühungen beschleunigen, Drohnen, künstliche Intelligenz und andere unbemannte Technologien in ihre Streitkräfte......

Warum Vorfälle mit KI-Modellen, die Sicherheitsvorkehrungen umgehen, häufiger werden

Bedenken hinsichtlich fortschrittlicher künstlicher Intelligenzsysteme, die Sicherheitsvorkehrungen umgehen, werden zunehmend konkret, da Entwickler Modelle mit größerer Autonomie, breiterem Zugang zu Werkzeugen und komplexeren Aufgaben testen. Mehrere Vorfälle, die 2026 gemeldet wurden, haben gezeigt,......

Ängste vor KI kehren zurück, während Experten über Hype und das reale Risiko des Kontrollverlusts debattieren

Künstliche Intelligenz steht erneut im Mittelpunkt einer hitzigen Debatte darüber, ob zunehmend leistungsfähige Systeme letztendlich der menschlichen Kontrolle entkommen könnten. Während einige Warnungen fortschrittliche KI als eine Technologie darstellen, die die Menschheit grundlegend bedrohen......