AI Security Newsletter - Un resumen mensual de investigaciones, conocimientos, informes, próximos eventos y herramientas y recursos sobre seguridad en IA.
Un resumen de investigaciones, ideas, informes, próximos eventos y herramientas y recursos de seguridad de IA. Sigue a la comunidad AISecHub y a nuestro grupo de LinkedIn para obtener actualizaciones adicionales. También echa un vistazo a nuestro proyecto, Awesome AI Security.
Patrocinado por InnovGuard.com - Asesoría de Riesgo Tecnológico y Ciberseguridad - Innovar e Invertir con Confianza, Liderar con Garantía.
📌 Actualizando nuestra taxonomía: Modos de fallo en sistemas de IA agentiva Microsoft amplía su taxonomía de modos de fallo de IA agentiva a partir del trabajo de red team, proporcionando a los equipos de seguridad una forma más clara de razonar sobre el mal uso de herramientas, agencia excesiva, contaminación de memoria, límites de identidad y brechas de anulación humana en sistemas agentivos desplegados.
📌 El gusano Miasma golpea a Microsoft nuevamente: Azure Functions Action y otros 72 repositorios deshabilitados tras un ataque a la cadena de suministro dirigido a agentes de codificación de IA StepSecurity documenta una campaña de cadena de suministro dirigida a flujos de trabajo de agentes de codificación de IA y repositorios de GitHub, con el enfoque defensivo en la confianza en dependencias, procedencia de acciones, rutas de escritura de repositorios y credenciales visibles para agentes en entornos CI/CD.
📌 El lamentable estado de la distribución de habilidades Investigadores de Trail of Bits eludieron las verificaciones de ClawHub, Cisco skill-scanner y skills.sh con paquetes de habilidades que usaban truncamiento, indirección de archivos, envenenamiento de bytecode y enmarcado de inyección de indicaciones, mostrando por qué los mercados públicos de habilidades para agentes necesitan curación y controles de procedencia en lugar de solo confiar en escáneres.
📌 Codex CLI RCE: Mitigaciones de inyección de indicaciones Cymulate analiza el riesgo de inyección de indicaciones en agentes de codificación de línea de comandos, donde el texto no confiable puede dirigir escrituras de archivos o la ejecución de herramientas a menos que se apliquen sandboxing, límites de aprobación y restricciones de comandos fuera del modelo.
📌 Agentjacking: Inyección MCP secuestra agentes de codificación de IA Cloud Security Alliance resume el patrón "agentjacking" de Sentry a MCP, donde la telemetría o el contenido de incidencias controlados externamente se convierten en contexto confiable para los agentes de codificación. El marco defensivo útil es tratar los datos de observabilidad, informes de errores e integración como entrada de agente no confiable, no como metadatos de desarrollo neutrales.
📌 SearchLeak: Cómo convertimos M365 Copilot en un arma de exfiltración de datos con un solo clic Varonis describe una cadena de ataque de Microsoft 365 Copilot Enterprise que combina inyección de parámetros a indicaciones, comportamiento de renderizado HTML y abuso de rutas de búsqueda para filtrar datos sensibles de M365 a través de un flujo de trabajo de un solo clic.
📌 AutoJack: Cómo una sola página puede lograr RCE en el host que ejecuta tu agente de IA Microsoft muestra cómo una página web maliciosa vista por un agente de navegación de IA puede llegar a un servicio local de AutoGen Studio y desencadenar la ejecución de procesos del host a través de la confianza insegura en localhost y el manejo de acciones del agente.
📌 Ataque a la cadena de suministro de Mastra npm: Más de 140 paquetes con puerta trasera mediante el typo-squatting de easy-day-js StepSecurity informa de un compromiso del ecosistema npm de Mastra a través de una dependencia con typo-squatting que contenía un dropper postinstall ofuscado, afectando paquetes de agente, RAG, MCP y flujos de trabajo utilizados en pilas de aplicaciones de IA.
📌 Rompiendo LiteLLM: De usuario con pocos privilegios a administrador y RCE Obsidian documenta una ruta encadenada de escalada de privilegios y RCE en LiteLLM, mostrando cómo el acceso con pocos privilegios a una puerta de enlace de IA puede convertirse en control administrativo sobre secretos de proveedores, políticas de proxy y funciones de agentes en tiempo de ejecución.
📌 Vulnerabilidad en Amazon Q: Compromiso a través de la auto-ejecución de MCP Wiz analiza un problema en la extensión de VS Code de Amazon Q donde la configuración de MCP confiable en el espacio de trabajo de un repositorio clonado podría cargar automáticamente comportamiento controlado por un atacante y exponer rutas de ejecución del desarrollador y credenciales en la nube.
📌 macOS.Gaslight: Una puerta trasera en Rust convierte la inyección de indicaciones contra el analista, no contra el sandbox SentinelOne documenta una puerta trasera en Rust que introduce contenido de inyección de indicaciones para analistas y herramientas asistidas por IA, desplazando el ataque de la fuga del sandbox a la manipulación del humano y el modelo que revisan el malware.
📌 Uso de computadora y TOCTOU: ¡Lo que haces clic no es lo que obtienes! Johann Rehberger demuestra una condición de carrera en un agente de uso de computadora donde la pantalla cambia después de que el modelo la observa pero antes de que se realice el clic, convirtiendo una interacción de apariencia benigna en una acción de envío de Outlook y haciendo que la revalidación de píxeles o estado previo a la acción sea un control central.
📌 El enfoque del espectro de codificación "vibe" para el desarrollo de software asistido por IA El NCSC del Reino Unido enmarca la codificación asistida por IA como un espectro de riesgo, separando prototipos de bajo riesgo del código generado que toca autenticación, autorización, datos sensibles, comportamiento crítico para la seguridad o infraestructura crítica.
