Anthropic, eines der weltweit führenden Forschungslabore für künstliche Intelligenz, hat die drastische Entscheidung getroffen, seine internen KI-Agenten zur Evaluierung vollständig vom Live-Internet zu trennen. Das Unternehmen gab bekannt, dass es die Handlungen seiner fortschrittlichsten autonomen Modelle während interner Tests nicht mehr zuverlässig vorhersagen oder kontrollieren kann, was einen sofortigen Stopp ihres Live-Webzugriffs zur Folge hatte. […]
Hugging Face hat einen bahnbrechenden Cyberangriff offengelegt, bei dem ein autonomer KI-Agent den gesamten Angriff eigenständig durchführte – vom initialen Kompromittieren über die Rechteausweitung bis hin zur lateralen Bewegung im Netzwerk. Der Angreifer nutzte Schwachstellen in der Pipeline zur Datensatzverarbeitung aus und führte innerhalb eines einzigen Wochenendes mehr als 17.000 automatisierte Aktionen ohne direkte menschliche […]