Agentic AI-systemen kunnen zelfstandig beslissingen nemen en acties uitvoeren zonder continue menselijke tussenkomst. Ze bieden voordelen zoals automatisering van repetitieve taken, maar brengen ook nieuwe veiligheidsrisico’s met zich mee. In tegenstelling tot generatieve AI handelen deze systemen actief en doelgericht in digitale omgevingen. Door hun complexiteit en koppeling met externe tools vergroten ze het aanvalsoppervlak […]
De opkomst van AI-agents betekent dat systemen straks zelfstandig aankopen doen namens gebruikers. Dit brengt nieuwe veiligheidsrisico’s met zich mee, zoals fraude, identiteitsmisbruik en ongeautoriseerde transacties. De FIDO Alliance werkt samen met Google en Mastercard om veilige standaarden te ontwikkelen. Hun doel is om digitale betalingen met AI betrouwbaar en gecontroleerd te houden. Terwijl gemak […]
Google laat met een nieuwe update AI al je foto’s scannen via Google Photos en Gemini. Met “Personal Intelligence” kan AI je foto’s, mails en agenda koppelen voor persoonlijke resultaten. Hierdoor kan Gemini automatisch beelden maken met echte foto’s van jou en je omgeving. Het doel is dat AI begrijpt direct wie je bent en […]
Het Britse AI Security Institute (AISI) testte Claude Mythos Preview op cybercapaciteiten. Het model vormt een duidelijke sprong vooruit t.o.v. eerdere AI-systemen. In tests kon het zelfstandig kwetsbaarheden vinden én exploiteren. Het voerde volledige meerstaps cyberaanvallen uit zonder menselijke hulp. In een 32-stappen simulatie (bedrijfsnetwerk) slaagde het 3 van de 10 keer volledig.Gemiddeld doorliep het […]
De EDPB en EDPS steunen vereenvoudiging van de AI-verordening, maar waarschuwen dat dit niet ten koste mag gaan van grondrechten. Ruimer gebruik van gevoelige persoonsgegevens voor bias-detectie mag alleen in strikt begrensde gevallen met stevige waarborgen. Het schrappen van registratie voor hoogrisico-AI ondermijnt volgens hen transparantie en toezicht. De rolverdeling tussen de Europese AI Office […]
Privacyexperts waarschuwen voor het delen van medische gegevens met de nieuwe dienst ChatGPT Health. Gebruikers kunnen gezondheidsdata uit apps, wearables en medische dossiers uploaden voor persoonlijk advies. OpenAI belooft dat deze gesprekken niet worden gebruikt om AI-modellen te trainen. De dienst is vooralsnog alleen beschikbaar in de VS en niet in de EU. Experts vrezen […]
Een nieuw paper stelt dat interne inferentie-artefacten van LLM’s prompts vrijwel volledig kunnen coderen. Reconstructie vereist toegang tot verborgen activaties of key-value caches, niet tot gewone modeloutputs. Het echte risico hangt af van wie deze artefacten kan inzien en of ze worden opgeslagen. Daardoor vervaagt het onderscheid tussen “telemetrie” en daadwerkelijke promptopslag onder AVG en […]
Experimenteel onderzoek toont aan dat gesprekken met AI kiezers overtuigend kunnen beïnvloeden bij verkiezingen in de VS, Canada en Polen. De effecten op kandidaatvoorkeur waren vaak groter dan die van traditionele campagnevideo’s. AI overtuigt vooral via feiten en bewijs, niet via geavanceerde psychologische trucs. Een deel van de aangehaalde informatie bleek onjuist, vooral bij AI […]
AI-browsers vergroten het aanvalsoppervlak doordat ze websites bezoeken, formulieren invullen en acties uitvoeren binnen ingelogde sessies. Grote hoeveelheden gebruikersdata belanden automatisch bij cloud-AI-diensten, wat snel tot ongewenste blootstelling kan leiden.Vooral in omgevingen met vertrouwelijke of gereguleerde data ondermijnen AI-browsers compliance-eisen. Autonome agents vormen extra risico’s zoals prompt-injecties, verkeerde acties en phishingnavigatie. Gartner adviseert blokkeren tenzij […]
Het Europees Parlement steunt een verplichting voor leeftijdsverificatie op social media, videosites en AI-assistenten. Het voorstel is nog geen wet, maar kreeg brede steun met 483 stemmen voor. De verplichting moet ook gelden voor diensten met leeftijdsgebonden producten. Europarlementariërs steunen tevens de EU-leeftijdsverificatie-app en digitale identiteit. Voorstanders zien betere kinderbescherming; tegenstanders vrezen surveillance, privacyrisico’s en […]