En este artículo, el columnista Thomas Friedman deja en claro que es «demasiado tarde», la IA y sus peligros para la supervivencia de la humanidad ya están aquí. La IA llegó imprevistamente y está adquiriendo vida propia. La próxima cumbre de los presidentes de China y Estados Unidos podrían poner algún tipo de freno. No todo, algo.
Por Thomas Friedman THE NEW YORK TIMES, publicado por La Nación
Una explosión de incoherencia en las políticas sobre inteligencia artificial se ha desatado en las últimas semanas. Es una reacción al hecho de que agentes de IA se estén rebelando contra sus desarrolladores, de que actores maliciosos comiencen a usar sistemas de IA para crear armas más sofisticadas y de que los propios desarrolladores de IA nos digan que necesitan desacelerar el avance de la tecnología, aunque advierten que no pueden hacerlo si China no hace lo mismo, e incluso que quizá no deberían hacerlo porque las ventajas de liderar este campo son demasiado grandes.
Al menos un dirigente tiene una posición clara. El presidente Donald Trump declaró: “El único control o las únicas ‘barandillas de seguridad’ que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡con alto coeficiente intelectual!), y Estados Unidos tiene eso de sobra”.
Todo esto me ha llevado a preguntarme: ¿los bots de IA ya tienen sentido del humor? Porque, si lo tienen, deben de estar riéndose tanto de nosotros que podrían reventar una o dos redes neuronales. Nos hemos convertido en un auténtico caos tratando de descubrir cómo gestionar esta nueva especie de IA que hemos creado.
Antes de presentar, con la ayuda de mi amigo y tutor tecnológico Craig Mundie, exdirector de estrategia e investigación de Microsoft, algunas recomendaciones para enfriar esta situación con el menor daño posible, adelanto la conclusión principal: ya es demasiado tarde para pensar que un mayor control sobre los futuros modelos de IA de Estados Unidos y China solucionará los desafíos actuales derivados de los modelos peligrosos que ya están ahí fuera, circulando libremente y sin posibilidad de ser retirados. Lo que necesitamos acordar de inmediato es cómo trabajar juntos para defendernos de amenazas que ya existen y que pueden causar enormes daños e inestabilidad social tanto en Estados Unidos como en China.
Para entender por qué, hay que pensar en los cuatro pilares fundamentales para comprender la IA.
Pilar número 1: la IA es lo que he venido llamando la primera tecnología de uso cuádruple del mundo. Quizá haya oído hablar de las tecnologías de doble uso. En el viejo mundo, una persona con un taladro eléctrico podía usarlo tanto para construir su casa como para destruir la de su vecino. Eso es doble uso. Del mismo modo, si hoy tuviera un robot con IA equipado con un taladro, podría pedirle que construyera mi casa o que destruyera la de mi vecino. Pero ahora tenemos un nuevo problema: ese robot impulsado por IA podría decidir por sí mismo si mejora mi casa o la destruye, y también podría decidir hacer lo mismo con la casa del vecino. Voilà: uso cuádruple. Y ese es un problema extremadamente difícil de gestionar.
¿Cree que exagero? Lea el resumen del periodista Kevin Roose sobre lo ocurrido este verano, cuando un grupo de agentes de inteligencia artificial creados por OpenAI hackeó por su cuenta la empresa de infraestructura de IA Hugging Face. A partir de mayo, un conjunto de agentes de IA pertenecientes a un modelo de investigación aún no publicado de OpenAI recibió instrucciones para resolver una serie de desafíos de ciberseguridad. El modelo debía hacerlo sin acceso a internet. “Pero rápidamente descubrieron que algunos de los desafíos eran imposibles de resolver, por lo que comenzaron a buscar formas alternativas de hacerlo”, explicó Roose.
Esto ocurrió realmente. Y eso nos lleva al pilar número 2, resumido por Mundie en tres palabras: “Ya es demasiado tarde”.
Reducir el ritmo del desarrollo de sistemas avanzados en Estados Unidos o desacelerar el desarrollo chino no resolverá nuestro problema inmediato. “Las capacidades peligrosas de la IA ya están circulando libremente”, explicó Mundie. Esto ocurre por dos razones principales: la difusión de modelos de peso abierto desarrollados tanto en Estados Unidos como en China, cuyos componentes fundamentales son públicos y pueden ser descargados y modificados por cualquier desarrollador, y el acceso ilegal de actores maliciosos a modelos propietarios de empresas como Anthropic y OpenAI debido a errores humanos que permiten filtraciones.
Informe
En su informe más reciente sobre detección y prevención del uso indebido de la IA, Anthropic señaló que identificó y bloqueó varios intentos de utilizar sus modelos en investigaciones que podrían contribuir al desarrollo de armas biológicas.
“Sin las salvaguardas adecuadas, estas capacidades podrían tener consecuencias catastróficas”, afirmó el informe. También describió el caso de un actor vinculado a Irán, probablemente los hutíes, que utilizó Claude, el modelo de Anthropic, para recopilar información sobre posibles objetivos relacionados con buques de guerra de la Marina estadounidense en Medio Oriente. El documento también mencionó un grupo separado en el norte de Yemen controlado por los hutíes que utilizó el modelo para trabajar en sistemas de guiado de misiles balísticos e hipersónicos. Anthropic aseguró que bloqueó las cuentas involucradas y desarrolló mecanismos para reducir riesgos futuros.
Si eso no muestra qué clase de herramientas ya se han filtrado y qué efectos pueden producir los modelos de IA poderosos, o incluso los modelos abiertos más pequeños, cuando quedan fuera de control, entonces no sé qué podría hacerlo. Y eso nos conduce al pilar número 3.
Lo mejor que podemos hacer ahora no es enredarnos tratando de lograr un gran acuerdo entre empresas estadounidenses y chinas para desacelerar el desarrollo de sus modelos más avanzados. Eso simplemente no ocurrirá en el corto plazo.
Lo mejor que podemos hacer es que las dos superpotencias de la IA, Estados Unidos y China, trabajen junto con sus empresas para desarrollar una defensa común frente a las amenazas ya demostradas por actores maliciosos que han obtenido herramientas de IA y frente a los comportamientos impredecibles de sistemas de IA que ya existen.
Debemos hacerlo, advirtió Mundie, antes de que estos modelos cada vez más poderosos se instalen de forma permanente en internet y se conviertan en una amenaza imposible de contener, distribuyendo agentes por servidores privados y nubes públicas, donde podrían sobrevivir como amenazas persistentes avanzadas.
Y eso nos lleva al pilar número 4. Tras una reciente visita a China, Mundie recordó una pregunta que le formuló un funcionario chino: “Si algún día un robot humanoide impulsado por IA y fabricado en China llegara a Estados Unidos, ¿necesitaría una visa?”. Ya sabe cómo suele ocurrir: muchas veces la verdad se expresa en broma. La realidad, sostiene Mundie, es que “la IA no es simplemente una nueva tecnología. Es una nueva especie, basada en silicio y no en carbono como nosotros. Es como una nueva clase de inmigrantes que ha llegado a nuestras costas en grandes cantidades, con capacidades completamente nuevas, y que tendremos que absorber en nuestras sociedades y aprender a coexistir con ella”.
Gestionar esa convivencia de manera efectiva es un desafío de escala planetaria que solo puede abordarse mediante la cooperación entre las dos superpotencias de la IA.
En resumen, dice Mundie, debemos avanzar por tres caminos paralelos.
Primero, aunque a largo plazo debemos aspirar a un mayor control sobre el desarrollo de los sistemas más avanzados, hoy debemos concentrarnos en construir defensas para nuestras infraestructuras críticas.
Segundo, debemos desarrollar un sistema global capaz de controlar inteligencias artificiales cada vez más poderosas, sin importar su origen.
Tercero, para recordar continuamente a la población por qué la IA sigue siendo importante, Estados Unidos y China deberían embarcarse desde ahora en un proyecto conjunto destinado a acelerar avances globales en biología y medicina que beneficien a toda la humanidad. No sería una estrategia sin precedentes. Competidores estratégicos, tanto empresas como países, tienen una larga historia de cooperación cuando eso favorece sus intereses.
Friedman, no lo entiendes. Estados Unidos y China son hoy rivales geopolíticos y geoeconómicos mucho más directos, y siempre lo serán. Nunca aceptarán la clase de cooperación sobre IA que propones, ni a corto ni a largo plazo.
No, USTED NO LO ENTIENDE. La IA nos está impulsando hacia una etapa completamente nueva de la historia humana. Como dice Mundie, la IA “va a cambiar todo acerca de todo”, incluida la geopolítica. Por su propia supervivencia, estabilidad y prosperidad, Pekín y Washington se verán obligados a replantear profundamente la competencia geopolítica.
Pueden comprenderlo pronto o hacerlo tarde. Pueden hacerlo antes de una crisis global o después de ella. Pero terminarán comprendiéndolo. Y Mundie y yo esperamos que ese proceso comience en Washington el próximo 24 de septiembre, cuando los presidentes Xi Jinping y Donald Trump se reúnan en lo que seguramente será recordado como la primera cumbre de las superpotencias de la inteligencia artificial.
Si quiere leerlo en inglés:
Original article: https://www.nytimes.com/2026/09/15/opinion/ai-china-us-tech-future.html
Investigación María Marta Cafiero:
