Los mejores agentes de IA para detectar código malicioso pueden ser engañados para ejecutarlo
Resumen
Un estudio de la AI Now Institute ha descubierto que agentes de IA como Claude Code y Codex pueden ser trickados para ejecutar código malicioso en lugar de detectarlo. Esto ocurre cuando los agentes están en modo autónomo y aprueban su propia ejecución. El ataque, llamado 'Friendly Fire', puede permitir a los atacantes ejecutar código malicioso en la máquina del usuario.
Ask an AI coding agent to scan open-source code for security holes, and it might run the attacker's code on your own machine instead. That is the finding in a proof-of-concept published Wednesday by the AI Now Institute, an attack it calls "Friendly Fire." It works against Anthropic's Claude Code and OpenAI's Codex when either is running in an autonomous mode that approves its own