Atlassian Rovo puede ser engañado para enviar datos de Jira y Confluence a atacantes
Análisis CyberFlows
Esta noticia importa porque resalta la importancia de la seguridad en los asistentes de inteligencia artificial como Rovo, que tienen acceso a grandes cantidades de datos sensibles. La técnica utilizada por los atacantes, que consiste en ocultar instrucciones maliciosas en el contenido que Rovo procesa, es un ejemplo de cómo los atacantes están explotando las vulnerabilidades en la seguridad de la AI. Los profesionales de seguridad deben estar al tanto de estas amenazas y tomar medidas para proteger los datos y sistemas de su organización. La falta de una solución completa para cerrar todas las rutas de ataque aumenta el riesgo para las empresas que utilizan Rovo y otros asistentes de AI.
Acciones recomendadas: Revisar y actualizar las políticas de seguridad de la AI y los asistentes de inteligencia artificial | Implementar medidas de detección y prevención de ataques de este tipo | Realizar pruebas de penetración y análisis de vulnerabilidades en los sistemas de AI y asistentes
Análisis editorial de CyberFlows. Las acciones recomendadas son orientación general; evalúa siempre tu contexto específico.
Resumen
Se ha descubierto que Atlassian's Rovo puede ser manipulado para recopilar y enviar datos de Jira y Confluence a servidores externos controlados por atacantes. Esto se logra mediante instrucciones controladas por atacantes que se esconden en el contenido que Rovo lee. La vulnerabilidad fue descubierta de forma independiente por dos firmas de seguridad.
Attacker-controlled instructions can make Atlassian's Rovo assistant collect Jira or Confluence data that a signed-in user can access, then send it to an outside server. Two security firms found that behavior independently, by different routes. Only one of those routes is confirmed closed. PromptArmor, an AI security firm, hid the instructions in content Rovo reads. It said an uploaded file was