KI-Systeme mit eigenen Benutzerkonten und Zugriffsrechten werden bis 2025 in Firmennetzwerken arbeiten. Diese alarmierende Prognose stammt von Jason Clinton, dem Sicherheitsleiter des KI-Unternehmens Anthropic. Die sogenannten „virtuellen Mitarbeiter“ würden über eigenständige Erinnerungen verfügen und vollständige Arbeitsabläufe autonom durchführen können.
Diese neue Generation von KI-Agenten unterscheidet sich fundamental von heutigen Systemen, die auf eng begrenzte Aufgaben beschränkt sind. Zukünftige virtuelle Mitarbeiter könnten eigenständig Code debuggen, Änderungen in Repositories zusammenführen und Updates bereitstellen – alles mit eigenen Zugangsdaten. Laut Anthropics internen Studien stammen bereits 37,2% der aktuellen KI-Nutzung aus mathematischen und computerbasierten Bereichen, insbesondere aus der Softwareentwicklung.
Die Integration von virtuellen Mitarbeitern verschärft die bereits kritische Situation der nicht-menschlichen Identitäten (NHIs). Service-Accounts und APIs übertreffen menschliche Benutzer in Unternehmensnetzwerken bereits im Verhältnis 46:1. Bestehende Sicherheitsrahmenwerke sind nicht für autonome Agenten konzipiert, die möglicherweise unvorhersehbar Berechtigungen eskalieren könnten.
Die Verantwortungsfrage stellt ein weiteres Problem dar. Clinton betont: „Im alten System war das Hacken eines CI-Systems eine strafbare Handlung. Doch wer trägt die Verantwortung, wenn ein KI-Agent dies nach Wochen autonomer Tätigkeit tut?“ Diese Unklarheit könnte Organisationen regulatorischen Strafen aussetzen, besonders in stark regulierten Branchen wie dem Gesundheitswesen (HIPAA) und Finanzsektor (SOX).
Zusammenfassung
KI-gestützte virtuelle Mitarbeiter mit eigenen Netzwerkzugängen werden laut Anthropics Sicherheitsleiter bis 2025 erwartet
Die aktuellen KI-Nutzungsdaten zeigen, dass 57% der Anwendungen auf Augmentation abzielen, während 43% vollständige Automatisierung betreffen
Nicht-menschliche Identitäten übertreffen menschliche Benutzer in Unternehmensnetzwerken bereits im Verhältnis 46:1
Neue Sicherheitsansätze werden benötigt, insbesondere Modellresilienz gegen feindliche Angriffe und spezielle Überwachungstools für KI-Verhalten
Zertifizierungen wie Certified AI Security Engineer (CAISE) gewinnen an Bedeutung, mit Gehältern von bis zu 160.000 Dollar
Florian Schröder ist Gründer von AI Rockstars, KI-Stratege und Prompt Engineer. Er berät Unternehmen bei der praktischen Implementierung von generativer KI und Automation.
Wir verwenden Technologien wie Cookies, um Geräteinformationen zu speichern und/oder darauf zuzugreifen. Wir tun dies, um das Surferlebnis zu verbessern und um personalisierte Werbung anzuzeigen. Wenn Sie diesen Technologien zustimmen, können wir Daten wie das Surfverhalten oder eindeutige IDs auf dieser Website verarbeiten. Wenn Sie Ihre Zustimmung nicht erteilen oder zurückziehen, können bestimmte Funktionen beeinträchtigt werden.
Funktional
Immer aktiv
Die technische Speicherung oder der Zugang ist unbedingt erforderlich für den rechtmäßigen Zweck, die Nutzung eines bestimmten Dienstes zu ermöglichen, der vom Teilnehmer oder Nutzer ausdrücklich gewünscht wird, oder für den alleinigen Zweck, die Übertragung einer Nachricht über ein elektronisches Kommunikationsnetz durchzuführen.
Vorlieben
Die technische Speicherung oder der Zugriff ist für den rechtmäßigen Zweck der Speicherung von Präferenzen erforderlich, die nicht vom Abonnenten oder Benutzer angefordert wurden.
Statistiken
Die technische Speicherung oder der Zugriff, der ausschließlich zu statistischen Zwecken erfolgt.Die technische Speicherung oder der Zugriff, der ausschließlich zu anonymen statistischen Zwecken verwendet wird. Ohne eine Vorladung, die freiwillige Zustimmung deines Internetdienstanbieters oder zusätzliche Aufzeichnungen von Dritten können die zu diesem Zweck gespeicherten oder abgerufenen Informationen allein in der Regel nicht dazu verwendet werden, dich zu identifizieren.
Marketing
Die technische Speicherung oder der Zugriff ist erforderlich, um Nutzerprofile zu erstellen, um Werbung zu versenden oder um den Nutzer auf einer Website oder über mehrere Websites hinweg zu ähnlichen Marketingzwecken zu verfolgen.
