Interne Microsoft-documenten tonen dat de eerste fase van AI-project Scout expliciet gericht is op het “verslaafd maken” van gebruikers voordat verdere functies worden uitgerold. Scout, een altijd-actieve persoonlijke AI-agent binnen Microsoft 365, is gebaseerd op de populaire OpenClaw-technologie en kan taken uitvoeren zoals e-mails versturen, agenda’s beheren en content publiceren. Het project draaide intern sinds […]
Het MIT AI Risk Initiative publiceerde een omvangrijke Delphi-studie waarin 272 experts 24 AI-risicocategorieën beoordeelden op kans, impact en maatschappelijke gevolgen. De belangrijkste conclusie: prioriteren van risico’s wordt cruciaal, omdat niet alle AI-risico’s tegelijk effectief kunnen worden aangepakt. Opvallend is dat alle 24 risicocategorieën, zelfs na mitigerende maatregelen, nog steeds minimaal 5% kans op een […]
Agentic AI-systemen kunnen zelfstandig beslissingen nemen en acties uitvoeren zonder continue menselijke tussenkomst. Ze bieden voordelen zoals automatisering van repetitieve taken, maar brengen ook nieuwe veiligheidsrisico’s met zich mee. In tegenstelling tot generatieve AI handelen deze systemen actief en doelgericht in digitale omgevingen. Door hun complexiteit en koppeling met externe tools vergroten ze het aanvalsoppervlak […]
De opkomst van AI-agents betekent dat systemen straks zelfstandig aankopen doen namens gebruikers. Dit brengt nieuwe veiligheidsrisico’s met zich mee, zoals fraude, identiteitsmisbruik en ongeautoriseerde transacties. De FIDO Alliance werkt samen met Google en Mastercard om veilige standaarden te ontwikkelen. Hun doel is om digitale betalingen met AI betrouwbaar en gecontroleerd te houden. Terwijl gemak […]
Google laat met een nieuwe update AI al je foto’s scannen via Google Photos en Gemini. Met “Personal Intelligence” kan AI je foto’s, mails en agenda koppelen voor persoonlijke resultaten. Hierdoor kan Gemini automatisch beelden maken met echte foto’s van jou en je omgeving. Het doel is dat AI begrijpt direct wie je bent en […]
De EDPB en EDPS steunen vereenvoudiging van de AI-verordening, maar waarschuwen dat dit niet ten koste mag gaan van grondrechten. Ruimer gebruik van gevoelige persoonsgegevens voor bias-detectie mag alleen in strikt begrensde gevallen met stevige waarborgen. Het schrappen van registratie voor hoogrisico-AI ondermijnt volgens hen transparantie en toezicht. De rolverdeling tussen de Europese AI Office […]
Privacyexperts waarschuwen voor het delen van medische gegevens met de nieuwe dienst ChatGPT Health. Gebruikers kunnen gezondheidsdata uit apps, wearables en medische dossiers uploaden voor persoonlijk advies. OpenAI belooft dat deze gesprekken niet worden gebruikt om AI-modellen te trainen. De dienst is vooralsnog alleen beschikbaar in de VS en niet in de EU. Experts vrezen […]
Een nieuw paper stelt dat interne inferentie-artefacten van LLM’s prompts vrijwel volledig kunnen coderen. Reconstructie vereist toegang tot verborgen activaties of key-value caches, niet tot gewone modeloutputs. Het echte risico hangt af van wie deze artefacten kan inzien en of ze worden opgeslagen. Daardoor vervaagt het onderscheid tussen “telemetrie” en daadwerkelijke promptopslag onder AVG en […]
Experimenteel onderzoek toont aan dat gesprekken met AI kiezers overtuigend kunnen beïnvloeden bij verkiezingen in de VS, Canada en Polen. De effecten op kandidaatvoorkeur waren vaak groter dan die van traditionele campagnevideo’s. AI overtuigt vooral via feiten en bewijs, niet via geavanceerde psychologische trucs. Een deel van de aangehaalde informatie bleek onjuist, vooral bij AI […]
AI-browsers vergroten het aanvalsoppervlak doordat ze websites bezoeken, formulieren invullen en acties uitvoeren binnen ingelogde sessies. Grote hoeveelheden gebruikersdata belanden automatisch bij cloud-AI-diensten, wat snel tot ongewenste blootstelling kan leiden.Vooral in omgevingen met vertrouwelijke of gereguleerde data ondermijnen AI-browsers compliance-eisen. Autonome agents vormen extra risico’s zoals prompt-injecties, verkeerde acties en phishingnavigatie. Gartner adviseert blokkeren tenzij […]