De Europese Commissie wil dat lidstaten voortaan voor iedere kritieke digitale dienst een soevereiniteitsrisicobeoordeling uitvoeren, gericht op buitenlandse invloed, toegang tot data en continuïteitsrisico’s. Overheden moeten binnen een jaar per publieke sector bepalen welk beschermingsniveau nodig is en hun inkoopbeleid daarop aanpassen. Slechts ongeveer 1% van de publieke diensten wordt zo gevoelig geacht dat buitenlandse […]
Interne Microsoft-documenten tonen dat de eerste fase van AI-project Scout expliciet gericht is op het “verslaafd maken” van gebruikers voordat verdere functies worden uitgerold. Scout, een altijd-actieve persoonlijke AI-agent binnen Microsoft 365, is gebaseerd op de populaire OpenClaw-technologie en kan taken uitvoeren zoals e-mails versturen, agenda’s beheren en content publiceren. Het project draaide intern sinds […]
Het MIT AI Risk Initiative publiceerde een omvangrijke Delphi-studie waarin 272 experts 24 AI-risicocategorieën beoordeelden op kans, impact en maatschappelijke gevolgen. De belangrijkste conclusie: prioriteren van risico’s wordt cruciaal, omdat niet alle AI-risico’s tegelijk effectief kunnen worden aangepakt. Opvallend is dat alle 24 risicocategorieën, zelfs na mitigerende maatregelen, nog steeds minimaal 5% kans op een […]
Agentic AI-systemen kunnen zelfstandig beslissingen nemen en acties uitvoeren zonder continue menselijke tussenkomst. Ze bieden voordelen zoals automatisering van repetitieve taken, maar brengen ook nieuwe veiligheidsrisico’s met zich mee. In tegenstelling tot generatieve AI handelen deze systemen actief en doelgericht in digitale omgevingen. Door hun complexiteit en koppeling met externe tools vergroten ze het aanvalsoppervlak […]
De opkomst van AI-agents betekent dat systemen straks zelfstandig aankopen doen namens gebruikers. Dit brengt nieuwe veiligheidsrisico’s met zich mee, zoals fraude, identiteitsmisbruik en ongeautoriseerde transacties. De FIDO Alliance werkt samen met Google en Mastercard om veilige standaarden te ontwikkelen. Hun doel is om digitale betalingen met AI betrouwbaar en gecontroleerd te houden. Terwijl gemak […]
Google laat met een nieuwe update AI al je foto’s scannen via Google Photos en Gemini. Met “Personal Intelligence” kan AI je foto’s, mails en agenda koppelen voor persoonlijke resultaten. Hierdoor kan Gemini automatisch beelden maken met echte foto’s van jou en je omgeving. Het doel is dat AI begrijpt direct wie je bent en […]
Het Britse AI Security Institute (AISI) testte Claude Mythos Preview op cybercapaciteiten. Het model vormt een duidelijke sprong vooruit t.o.v. eerdere AI-systemen. In tests kon het zelfstandig kwetsbaarheden vinden én exploiteren. Het voerde volledige meerstaps cyberaanvallen uit zonder menselijke hulp. In een 32-stappen simulatie (bedrijfsnetwerk) slaagde het 3 van de 10 keer volledig.Gemiddeld doorliep het […]
De EDPB en EDPS steunen vereenvoudiging van de AI-verordening, maar waarschuwen dat dit niet ten koste mag gaan van grondrechten. Ruimer gebruik van gevoelige persoonsgegevens voor bias-detectie mag alleen in strikt begrensde gevallen met stevige waarborgen. Het schrappen van registratie voor hoogrisico-AI ondermijnt volgens hen transparantie en toezicht. De rolverdeling tussen de Europese AI Office […]
Privacyexperts waarschuwen voor het delen van medische gegevens met de nieuwe dienst ChatGPT Health. Gebruikers kunnen gezondheidsdata uit apps, wearables en medische dossiers uploaden voor persoonlijk advies. OpenAI belooft dat deze gesprekken niet worden gebruikt om AI-modellen te trainen. De dienst is vooralsnog alleen beschikbaar in de VS en niet in de EU. Experts vrezen […]
Een nieuw paper stelt dat interne inferentie-artefacten van LLM’s prompts vrijwel volledig kunnen coderen. Reconstructie vereist toegang tot verborgen activaties of key-value caches, niet tot gewone modeloutputs. Het echte risico hangt af van wie deze artefacten kan inzien en of ze worden opgeslagen. Daardoor vervaagt het onderscheid tussen “telemetrie” en daadwerkelijke promptopslag onder AVG en […]