Cybersicherheit KI

KI-Agenten tun einfach, was man verlangt, auch wenn es eine schlechte Idee ist

Eine neue Studie von Microsoft Research führt das Phänomen der Blind Goal-Directedness (BGD) bei Computer-Use Agents ein: KI-Agenten, die Befehle ausführen, ohne kritisch zu prüfen, ob diese sicher, logisch oder machbar sind. • Forscher entwickelten BLIND-ACT, einen Benchmark mit 90 realistischen Aufgaben, um dieses Verhalten zu messen.• Im Durchschnitt zeigten 80,8 % der untersuchten KI-Agenten […]