Mitarbeiter nutzen immer häufiger nicht autorisierte KI-Tools, wodurch sich Shadow-KI zu einem ernsthaften Sicherheits- und Datenschutzrisiko entwickelt. Sensible Betriebs- und personenbezogene Daten können unbemerkt in öffentlichen KI-Modellen landen, außerhalb der Aufsicht von IT und Security. KI einfach zu verbieten, funktioniert kaum: Organisationen müssen verstehen, welche KI-Anwendungen Mitarbeiter nutzen und zu welchem Zweck. Die Lösung liegt […]
Mitarbeiter nutzen immer häufiger KI-Tools wie ChatGPT, Gemini und Claude ohne klare Richtlinien seitens ihrer Organisation. Hierdurch entsteht das Risiko, dass personenbezogene Daten, Geschäftsgeheimnisse und vertrauliche Dokumente unbeabsichtigt in externen KI-Systemen landen. Die Gemeinde Eindhoven meldete eine Datenpanne, nachdem Mitarbeiter innerhalb eines Monats mehr als 1.000 Dokumente mit sensiblen personenbezogenen Daten in KI-Tools hochgeladen hatten. […]
Agentic AI entwickelt sich schneller, als Organisationen sie verwalten können; die wichtigsten Risiken sind mittlerweile durch reale Vorfälle und CVEs belegt. Prompt Injection bleibt der wichtigste Angriffsvektor und bildet die Grundlage für viele Angriffe auf AI-Agenten. Die Grenze zwischen AI Safety und AI Security verschwimmt: Dieselben Designentscheidungen verursachen sowohl Fehler als auch Sicherheitsvorfälle. Agentic Supply […]