KI-Agenten fordern traditionelles IAM heraus, indem sie mit Maschinengeschwindigkeit und -skalierung agieren, wobei sie unvorhersehbare Zugriffsmuster aufweisen, für die auf den Menschen ausgerichtete Sicherheitsmodelle nicht konzipiert wurden. Prompt Injection, die Offenlegung von Anmeldedaten und die Delegation zwischen mehreren Agenten schaffen Angriffspfade, die mit herkömmlichen Authentifizierungs- und Autorisierungskontrollen nur schwer zu steuern sind. Bestehende Verhaltensüberwachungen können […]
Eine neue Studie ordnet 21 Open-Source-KI-Risikotools 32 Risikokategorien zu, darunter Promptfoo, Garak, PyRIT, NeMo Guardrails und Langfuse. Das Ökosystem schneidet besonders gut in den Bereichen KI-Tests, Red Teaming, Content Safety, Data Governance und Post-Deployment-Monitoring ab. Erhebliche Lücken bestehen jedoch weiterhin bei der Aufsicht durch den Vorstand, der Einhaltung gesetzlicher Vorschriften, rechtlichen Abhilfemaßnahmen sowie Finanz- und […]
Neue Untersuchungen zeigen, dass Leser ein Bedürfnis nach klaren, sichtbaren und detaillierten Angaben haben, wenn KI im Journalismus eingesetzt wird. Ein generisches Label „KI-generiert“ reicht nicht aus. Das Publikum möchte genau wissen, wie die Technologie eingesetzt wurde: Handelte es sich um eine leichte Schlussredaktion oder wurde der gesamte Artikel oder das zugehörige Bild von einer […]
Nicht weniger als 1.367 Mitarbeiter führender KI-Unternehmen haben eine dringende Warnung ausgesprochen: Die Automatisierung der KI-Forschung könnte die Entwicklung plötzlich extrem beschleunigen. Das Risiko wächst erheblich, dass sich die Fähigkeiten der künstlichen Intelligenz schneller entwickeln als unsere menschliche Fähigkeit, diese Systeme abzusichern, zu durchschauen und unter Kontrolle zu halten. Aufgrund des immensen internationalen Wettbewerbsdrucks ist […]
Die Cyberkriminalität in Afrika entwickelt sich zu einem hochorganisierten, KI-gestützten Ökosystem, in dem Ransomware, Business Email Compromise (BEC), Online-Betrug, Datenschutzverletzungen und digitale Sextortion zu beispiellosen finanziellen und gesellschaftlichen Schäden führen. Künstliche Intelligenz beschleunigt Phishing, Deepfakes, Identitätsbetrug und Cybercrime-as-a-Service, während schwache Gesetzgebung, begrenzte Cyberkapazitäten und fragmentierte grenzüberschreitende Zusammenarbeit weiterhin Kriminellen zugutekommen. Finanzdienstleister, Behörden, Telekommunikationsunternehmen, das Gesundheitswesen […]
Das NCSC hat eine Warnung vor einer vermeintlichen SQLite-Schwachstelle (CVE-2026-51302) zurückgezogen, nachdem sich herausstellte, dass der Fehler wahrscheinlich von einem LLM halluziniert wurde. Sicherheitsforscher, SQLite-Entwickler und Red Hat konnten die Schwachstelle nicht reproduzieren und bezeichnen diese als fiktiv. Auffallend ist, dass MITRE die CVE trotz fehlender ausreichender Verifizierung dennoch akzeptierte, weshalb auch das NCSC die […]
Seit dem 2. August gelten die ersten Transparenzpflichten aus dem europäischen AI Act. In Met het Oog op Morgen erklärt Tech-Experte Bert Hubert anschaulich, dass Organisationen für den Einsatz von KI verantwortlich bleiben – man kann sich nicht hinter der Aussage „die KI war es“ verstecken. Auch KI in Bewerbungsverfahren darf nicht zu vollständig automatisierten […]
Biometrische Verifizierung ist zu einem Standardbestandteil digitaler Dienste geworden, wobei Organisationen wie Google und Meta das Einloggen per Selfie- oder Videoverifizierung anbieten. Gleichzeitig machen rasante KI-Entwicklungen und immer realistischere Deepfakes das Nachahmen von Gesichtern, Stimmen und Videos erheblich einfacher. Bei der nächsten Generation der digitalen Identität geht es daher nicht mehr ausschließlich um Gesichtserkennung, sondern […]
Generative KI mag technologisch beeindruckend sein, doch ihre Wirtschaftlichkeit bleibt stark infrage gestellt: Anbieter geben Milliarden für Chips, Rechenzentren und Energie aus, während viele Dienste noch immer unter ihren tatsächlichen Kosten verkauft werden. Der Artikel argumentiert, dass KI-Anbieter trotz enormer Investitionen und großem Hype bisher keine nachhaltige Rentabilität oder einen verlässlichen Kundennutzen (ROI) nachweisen konnten. […]
OpenAI testet derzeit in den USA eine Funktion, mit der ChatGPT Pro-Nutzer über Plaid ihre Bank- und Kreditkartenkonten verknüpfen können, um persönliche Budget-Einblicke zu erhalten. Obwohl die KI nur Lesezugriff hat und keine Transaktionen durchführen kann, warnen Datenschutzexperten vor den erheblichen Risiken. Durch den niederschwelligen, menschlichen Konversationsstil von Chatbots können Nutzer unbewusst weitaus sensiblere Informationen […]