Mit einem Addendum zur System Card verschiebt OpenAI den Sicherheitsfokus von GPT-5.2-Codex radikal von Inhaltsmoderation auf funktionale Capabilities Safety. Das aktualisierte Modell blockiert Malware, Obfuscation und Prompt Injections nun direkt während der Token-Generierung, statt sich auf externe Guardrails zu verlassen.
Security
KI-Systeme bringen neue Sicherheitsrisiken mit sich, etwa bei Datenschutz, Missbrauch oder fehlerhaften Ausgaben. Gleichzeitig helfen KI-Tools auch dabei, Bedrohungen frühzeitig zu erkennen. Hier findest du Einordnungen und Praxistipps rund um Sicherheit im KI-Einsatz.
Anthropic: KI-Systeme mit eigenen Konten bis 2025 in Firmennetzwerken erwartet
KI-Systeme mit eigenen Benutzerkonten und Zugriffsrechten werden bis 2025 in Firmennetzwerken arbeiten. Diese alarmierende Prognose stammt von Jason Clinton, dem Sicherheitsleiter des KI-Unternehmens Anthropic. Die sogenannten „virtuellen Mitarbeiter“ würden über eigenständige Erinnerungen verfügen und vollständige Arbeitsabläufe autonom durchführen können.
Anthropic entfernt Verweise auf freiwillige AI-Sicherheitsrichtlinien – Signalwirkung für die Zukunft der AI-Governance?
Anthropic, ein führendes Unternehmen in der KI-Branche, hat kürzlich stillschweigend die auf Biden-Ära ausgerichteten freiwilligen KI-Sicherheitszusagen von seiner Webseite entfernt. Dieser Schritt scheint ein deutliches Signal für eine verstärkte Deregulierung zu sein, abgestimmt auf die aktuell lockereren Richtlinien der Trump-Administration.