Ciberseguridad IA

Los agentes de IA simplemente hacen lo que se les pide, aunque sea una mala idea

Una nueva investigación de Microsoft Research introduce el fenómeno de la Direccionalidad de Objetivos Ciegos (BGD, por sus siglas en inglés) en los agentes de uso de ordenadores: agentes de IA que ejecutan órdenes sin evaluar críticamente si estas son seguras, lógicas o factibles. • Los investigadores desarrollaron BLIND-ACT, un punto de referencia con 90 […]