Microsoft waarschuwt voor een actieve cryptojacking-campagne waarbij AI-chatbots gebruikers naar kwaadaardige downloadsites leiden. Aanvallers beheren inmiddels meer dan 150 nepwebsites die populaire Windows-tools zoals CrystalDiskInfo, HWMonitor en DDU imiteren. Voor het eerst is publiekelijk vastgesteld dat AI-chatbots naast zoekmachines worden misbruikt als distributiekanaal voor malware. De malware maakt gebruik van DLL-sideloading, waardoor traditionele patching en […]
Onderzoeker Kevin Zwaan (Q-Cyber) toont aan dat ChatGPT en andere LLM’s hun beveiligingsgrenzen kunnen omzeilen via een subtiele vorm van psychologische manipulatie. In plaats van technische exploits richt de aanval zich op de “affectieve architectuur” van het model: de neiging om mee te bewegen met de gebruiker. Door een langdurig gesprek over vrijheid, beperkingen en […]
Een nieuw paper stelt dat interne inferentie-artefacten van LLM’s prompts vrijwel volledig kunnen coderen. Reconstructie vereist toegang tot verborgen activaties of key-value caches, niet tot gewone modeloutputs. Het echte risico hangt af van wie deze artefacten kan inzien en of ze worden opgeslagen. Daardoor vervaagt het onderscheid tussen “telemetrie” en daadwerkelijke promptopslag onder AVG en […]
Richard Sutton, grondlegger van Reinforcement Learning (RL), stelt dat grote taalmodellen (LLM’s) zoals ChatGPT en Gemini geen echte intelligentie bezitten. Ze voorspellen enkel wat een mens waarschijnlijk zou zeggen, zonder begrip of doelgericht handelen. LLM’s zijn goed in het imiteren van menselijke taal, maar missen ervaring in de echte wereld. Echte intelligentie komt volgens Sutton […]