Advierten que llegará una nueva sacudida por los ataques y el crecimiento en la autonomía de la IA ¿Qué hacer se preguntan los dueños de las empresas desarrolladoras de la Inteligencia Artificial.
|
Buenos Aires, martes 29 septiembre (PR/26) — OpenAI, Anthropic, Google, Microsoft, Amazon y más de un centenar de compañías advirtieron que los modelos de inteligencia artificial están acelerando la capacidad de detectar vulnerabilidades, automatizar ataques y operar a una escala inédita. Informes publicados durante 2026 muestran que el problema ya no es experimental: crecen los ataques potenciados por IA, se achican los tiempos de reacción y las propias herramientas corporativas se convierten en una nueva superficie de riesgo.
La advertencia llegó desde un lugar poco habitual: las mismas empresas que están empujando la frontera de la inteligencia artificial. El 27 de agosto, OpenAI publicó una carta abierta junto con más de 100 organizaciones —entre ellas Anthropic, Google, Microsoft, AWS, IBM, Cloudflare, CrowdStrike, Cisco, Mastercard y Visa— para pedir una acción colectiva que fortalezca la ciberdefensa antes de que la próxima generación de modelos amplifique la capacidad de ataque.
El mensaje fue directo: en los próximos meses los ataques habilitados por inteligencia artificial podrían volverse mucho más generalizados y sofisticados.
La preocupación no se limita a las grandes tecnológicas: el documento menciona hospitales, plantas de tratamiento de agua y la infraestructura que sostiene Internet. También advierte que vulnerabilidades conocidas, permisos excesivos, configuraciones incorrectas, software sin parches y deuda técnica pueden transformarse en una ventaja todavía mayor para un atacante asistido por IA.
La carta no apareció en el vacío. En junio, las agencias de ciberseguridad de Five Eyes —Estados Unidos, Reino Unido, Canadá, Australia y Nueva Zelanda— habían advertido que la transformación provocada por los modelos de frontera debe pensarse en “meses, no años”. Para los organismos, la resiliencia cibernética ya forma parte de la continuidad operativa y la confianza del mercado.
Los datos publicados durante 2026 ayudan a dimensionar el cambio.
El Global Threat Report 2026 de CrowdStrike registró un aumento del 89% en los ataques de adversarios habilitados por IA y señaló que más de 90 organizaciones sufrieron el abuso de herramientas legítimas de inteligencia artificial para generar comandos maliciosos o robar información sensible. El informe registró además un tiempo de “breakout” de apenas 27 segundos en el caso de cibercrimen más veloz observado.
Palo Alto Networks llegó a una conclusión similar en su Global Incident Response Report 2026, construido a partir de más de 750 incidentes relevantes en más de 50 países. Unit 42 sostiene que la IA ya funciona como un multiplicador de fuerza: acelera reconocimiento, ingeniería social, scripting y extorsión. En el 25% de las intrusiones más rápidas, la exfiltración se produjo en 1,2 horas, frente a 4,8 horas un año antes.
Además, casi el 90% de sus investigaciones tuvo algún componente material vinculado con debilidades de identidad.
El Data Breach Investigations Report 2026 de Verizon también marcó un punto de inflexión.
Por primera vez en los 19 años del informe, la explotación de vulnerabilidades superó al robo de credenciales como principal puerta de entrada a una brecha y ya explica el 31% de los casos. El análisis de IA del informe, elaborado junto al equipo de Safeguards de Anthropic sobre 793 actores de amenaza, encontró que el atacante mediano recurrió a asistencia de IA en 15 técnicas distintas del marco MITRE ATT&CK, con casos extremos de 40 y 50. La conclusión de Verizon es mesurada: hoy la IA multiplica la eficacia de técnicas ya conocidas más que habilitar vectores nuevos.
Google Threat Intelligence Group informó en mayo que identificó, por primera vez, a un actor utilizando un exploit zero-day que, según su evaluación, había sido desarrollado con asistencia de IA. Mandiant también describió adversarios que ya usan grandes modelos de lenguaje para ingeniería social hiperpersonalizada.
Una nueva superficie de ataque dentro de la empresa
El cambio más delicado no está únicamente del lado del atacante. También está dentro de las organizaciones que adoptan IA para automatizar contratos, validar documentos, consultar bases internas, generar código o ejecutar tareas mediante agentes.
Una herramienta con capacidad de leer información corporativa, acceder a sistemas y tomar acciones puede generar grandes mejoras de productividad. Pero esos mismos permisos obligan a revisar cómo se autentica, qué información puede consultar, qué acciones tiene permitido ejecutar, qué decisiones requieren intervención humana y qué registros quedan disponibles para auditar.
“Durante mucho tiempo las empresas pensaron la seguridad alrededor de usuarios, aplicaciones y servidores. Con agentes de IA aparece una nueva identidad digital que puede consultar información, encadenar acciones y operar sobre procesos reales. El punto no es frenar esa adopción, sino definir con precisión qué puede hacer, con qué datos y bajo qué permisos mínimos. Que opere con una identidad propia y no comparta credenciales con personas ni con otros procesos, y que quede registrado qué ejecutó y sobre qué sistema.”, plantea Damian Cabral, SRE Manager de RESTART.
Ese enfoque coincide con una de las recomendaciones centrales de la carta abierta: aplicar privilegio mínimo, controles de acceso fuertes, defensa en profundidad, observabilidad y monitoreo continuo sobre identidades y agentes. OpenAI incluso plantea que las identidades de los agentes deben ser trazables y que tiene que existir responsabilidad sobre sus acciones.
Para RESTART, una compañía enfocada en desarrollar “IA funcional” aplicada a procesos de negocio, la seguridad aparece como una condición de implementación y no como una capa posterior. La empresa parte de la evaluación del proceso y avanza por desarrollo, implementación y adopción. En sus casos públicos aparecen elementos concretos de esa lógica: validación cruzada de datos, reglas de negocio adaptables, identificación automática de inconsistencias, trazabilidad completa y derivación a revisión manual cuando el sistema encuentra casos que requieren intervención.
Uno de esos desarrollos automatiza la validación de documentación crítica mediante procesamiento de lenguaje natural y reglas de negocio: detecta errores o faltantes, aprueba casos válidos y escala excepciones. Otro utiliza un agente para revisar y consultar contratos, un ámbito donde una respuesta incorrecta o un acceso indebido puede tener consecuencias operativas y legales.
“Cuando una IA se conecta con un proceso crítico, la discusión deja de ser solamente qué tan bien responde el modelo, sino qué pasa el día que se equivoca. En infraestructura partimos de que todo falla y diseñamos para eso; no hay ningún motivo para asumir lo contrario con la IA. Hay que saber cómo cortar la ejecución, con qué credenciales operó y cómo volver atrás. Ajustar el prompt ayuda a que responda mejor, pero no garantiza que no pueda hacer daño.”, agrega Cabral.
La idea de “secure by design” adquiere así una dimensión nueva: las empresas necesitan entender qué información llega al modelo, qué herramientas puede utilizar, qué credenciales hereda y cómo se detecta un comportamiento anómalo, especialmente cuando intervienen agentes autónomos.
OpenAI elevó esa preocupación el 7 de agosto, cuando informó que las evaluaciones internas de uno de sus próximos modelos, Astra, mostraban avances suficientes en programación agéntica y ciberseguridad como para no poder descartar “capacidades cibernéticas críticas” bajo su Preparedness Framework. Semanas después la compañía confirmó que Astra es el primer modelo que cruza ese umbral: puede encontrar fallas de seguridad desconocidas y explotarlas sin guía humana paso a paso. El modelo ya se lanzó como GPT-6 Astra, con las capacidades cibernéticas más sensibles restringidas a un programa de acceso confiable.
“No creemos que la respuesta sea bloquear la IA. La ventaja va a estar en las organizaciones que puedan usarla con controles claros, observabilidad, trazabilidad y una arquitectura acorde al nivel de riesgo de cada proceso”, sostiene el vocero de RESTART.
La discusión ya no enfrenta innovación contra seguridad. La IA puede permitir a un atacante encontrar una vulnerabilidad, personalizar un engaño o automatizar tareas con mayor velocidad; pero también puede ayudar a los defensores a revisar código, priorizar fallas y responder más rápido.
De hecho, la propia carta impulsada por OpenAI propone poner IA con capacidades cibernéticas en manos de los defensores, facilitar herramientas a organizaciones con menos recursos, compartir inteligencia de amenazas y realizar pruebas continuas contra las capacidades de los modelos más avanzados. La lógica es utilizar la misma aceleración tecnológica que favorece al atacante para cerrar vulnerabilidades antes de que puedan ser explotadas.
La carrera, por lo tanto, no consiste solamente en desarrollar modelos más poderosos. También implica determinar qué compañía es capaz de incorporarlos sin ampliar de manera descontrolada su superficie de exposición.
Y allí aparece otro problema creciente: la IA corporativa ya no es necesariamente una aplicación aislada.
Los agentes comienzan a conectarse con sistemas de gestión, repositorios documentales, herramientas de desarrollo, servicios cloud, bases de clientes y aplicaciones internas. Una credencial comprometida o un permiso excesivo puede darle al atacante no sólo acceso a información, sino también una herramienta capaz de interpretarla y actuar sobre ella.
“Cada implementación de IA debería comenzar con dos preguntas en paralelo: qué valor queremos generar y qué nivel de autonomía estamos dispuestos a delegar. Si la segunda pregunta llega al final del proyecto, probablemente ya llegamos tarde”, concluye el SRE Manager de RESTART.
|
La carta firmada por más de cien compañías resume esa carrera en una idea: todavía existe una ventana para que la defensa aproveche primero las nuevas capacidades. Para las empresas, eso obliga a tratar la ciberseguridad y la gobernanza de IA como una decisión de negocio.
La pregunta ya no es solamente qué tareas se pueden automatizar, sino bajo qué condiciones una organización está dispuesta a delegarlas.
Primicias Rurales
Fuente: RESTART
Versión en inglés
Traducción: María Marta Cafiero
