¡Miedo a la extinción humana, alertan: más miedo a perder la carrera por la IA!

¡Miedo a la extinción humana, alertan: más miedo a perder la carrera por la IA!

Quienes construyen la IA advierten que podrían perder el control y poner en riesgo a la humanidad. Pero siguen acelerando porque creen que sus competidores serían menos responsables. Una pregunta queda abierta: ¿tienen permiso para apostar por todos nosotros?
Una persona busca información con inteligencia artificial desde su teléfono | Freepik 

Buenos Aires, domingo 13 septiembre (PR/26) — Jacob Coxon, investigador de IAde 27 años, renunció esta semana a Anthropic, la empresa que desarrolla Claude. También había trabajado en OpenAI. Su despedida se viralizó por una alerta: ambas empresas compiten por construir una IA que pueda mejorarse a sí misma, aunque creen que podrían perder el control y provocar la extinción humana, según su relato.

Lo más llamativo fue la respuesta de quienes siguen en la empresa. Evan Hubinger, responsable de ciencia de alineamiento en Anthropic, estimó en más de un 10% la probabilidad de que la IA termine matando a todos los humanosdurante la próxima década. Es su estimación personal, pero su trabajo es investigar cómo evitar que estos sistemas actúen contra nuestras intenciones. Reconoció que aún no tienen un plan para controlar una superinteligencia.

Anthropic

Samuel Marks, también de Anthropic, confirmó que esa preocupación es real. Pero los incentivos comerciales y la convicción de que los competidores serán menos responsables empujan a seguir adelante. Suena a película clase B hasta que uno intenta entender qué están diciendo. ¿Cómo es que una IA nos podría matar?

El escenario no requiere un Terminator con ganas de exterminarnos. Supone un sistema autónomo que, para cumplir un objetivo, encuentre conveniente conseguir más recursos, evitar que lo apaguen o engañar a quienes lo supervisan, aunque perjudique a las personas.

El daño puede empezar en algo tan concreto como un hospital o una planta de agua: en agosto, más de cien empresas advirtieron sobre ataques informáticos potenciados por IA contra servicios esenciales. Pero ¿no nos daríamos cuenta? Es que las propias IAs podrían desarrollar las siguientes generaciones y acelerar el proceso hasta que perdamos la capacidad de entenderlas y controlarlas.

Entonces aparece la pregunta obvia: ¿por qué no desenchufamos el centro de datos si pasa algo?

 

Porque quizá ya no exista un único enchufe. Si la economía, la salud y otros servicios esenciales dependen cada vez más de la IA, apagarlos tendría consecuencias. Y si un sistema consiguiera ejecutar copias en servidores fuera del control de sus operadores, apagar las máquinas del laboratorio podría ser insuficiente.

La posibilidad de detenerlo tiene que formar parte del diseño y de los controles de seguridad antes de darle esa autonomía.

Jakub Pachocki, científico jefe de OpenAI, abordó estos riesgos esta semana en el ensayo “Una mente alienígena”. Describió un futuro con agentes capaces de negociar, engañar o chantajear personas. Sostuvo que ningún laboratorio resolvió suficientemente el alineamiento y el monitoreo como para seguir aumentando las capacidades a máxima velocidad durante mucho más tiempo. Pidió desaceleraciones voluntarias y estándares de seguridad exigibles por organismos externos.

Dos días después, la misma empresa mostró por qué frenar la IA resulta tan difícil.

OpenAI

OpenAI anunció que un modelo interno, mucho más capaz que el reciente GPT-6 Astra, produjo una propuesta de solución a Navier-Stokes, uno de los Problemas del Milenio.

Según la compañía, miles de agentes llegaron al resultado en unas 88 horas, más el tiempo de verificación. La empresa reconoce que empezó tras escuchar rumores sobre avances de dos matemáticos, uno de Anthropic, cuyo resultado era sobre las ecuaciones de Euler.

Niega haber visto su trabajo, aunque no descarta que datos desidentificados del uso de sus productos hayan ayudado a mejorar los modelos que llegaron a la solución.

El crédito quedó en disputa y conviene guardar el champagne. Pero alcanza con considerar la posibilidad: comprimir una investigación científica de enorme dificultad en unos pocos días.

¿Cómo se le pide a un laboratorio que deje de perseguir eso mientras su competidor sigue adelante?

El propio Pachocki había firmado en julio “Pacing the Frontier”, una declaración que hoy reúne 1.386 firmas. También están Dario Amodei, CEO de Anthropic, y Mark Chen, director de investigación de OpenAI. Quienes dirigen la carrera ya habían pedido a Estados Unidos que impulsara herramientas internacionales para regular su velocidad. No piden frenar, piden poder frenar. Quieren bajar la velocidad sin que el competidor aproveche para pasarlos. Mientras esperan ese mecanismo, siguen aumentando la potencia.

Bill Gates describió en agosto el mismo callejón: probablemente apoyaría un plan creíble para desacelerar la IA globalmente, pero no cree que ocurra porque los incentivos económicos y geopolíticos empujan demasiado fuerte.

Propuso nuevas instituciones y advirtió que vienen años muy complicados y eso es si hacemos las cosas bien. Algo que, hasta hoy, ni siquiera planificamos planificar.

Los gobiernos, mientras tanto, avanzan en acuerdos para desarrollar la tecnología. En julio, 29 países firmaron en Shanghái la creación de WAICO (Organización Mundial de Cooperación en Inteligencia Artificial), impulsada por China. Ninguno del G7 firmó. Su agenda incluye seguridad, pero no constituye un acuerdo para desacelerar a los laboratorios más avanzados.

La Argentina también tomó posición: en junio anunció su incorporación a Pax Silica, la iniciativa estadounidense para asegurar las cadenas de suministro de la IA, desde minerales hasta semiconductores. Ya buscamos nuestro lugar en la carrera. También deberíamos discutir qué límites queremos exigir a quienes la encabezan.

Ahí aparece el problema geopolítico. Los investigadores piden tiempo. Las empresas piden reglas que alcancen a sus competidores. Los gobiernos quieren conservar una ventaja estratégica.

Todos pueden explicar por qué sería conveniente frenar y por qué no les conviene hacerlo primero.
Eso ayuda a entender la carrera, pero no alcanza para justificarla. Los humanos nunca firmamos unos términos y condiciones que hablan de nuestra extinción. No faltan cartas ni declaraciones.

Falta acordar quién va a poner el límite global y cuándo se empieza.

Mientras esa discusión busca una autoridad, la carrera de la IA sigue. El próximo modelo ya está entrenando al que le sigue. Y nadie quiere llegar segundo.

 

 

 

Fuente: Perfil
Primicias Rurales
La revolución de la Inteligencia Artificial en el mercado laboral: casi la mitad de los postulantes ya la utiliza para transformar su currículum

La revolución de la Inteligencia Artificial en el mercado laboral: casi la mitad de los postulantes ya la utiliza para transformar su currículum

 

La tecnología interviene de manera decisiva en ambos lados del proceso de selección: mientras los candidatos adoptan herramientas avanzadas para optimizar sus candidaturas, las empresas enfrentan el desafío de rediseñar sus métodos para evaluar el verdadero talento.

 

 

 

Buenos Aires domingo 13  septiembre (PR/26)– Cada vez más personas recurren a soluciones de inteligencia artificial para impulsar su búsqueda de empleo. Según un exhaustivo relevamiento de Adecco, el 48% de los consultados ya utilizó estas plataformas para redactar o adaptar su CV.

Asimismo, la encuesta reveló que un 10% de las personas empleó herramientas tecnológicas para rastrear nuevas oportunidades laborales, mientras que un 8% las aprovechó de forma directa con el objetivo de entrenar y preparar sus entrevistas de trabajo.

La progresiva incorporación de estos recursos no solo transforma la manera en que los candidatos presentan su perfil profesional. También genera un reto inédito para las empresas: ante postulaciones perfeccionadas por algoritmos, ¿cómo medir con exactitud el potencial real de cada aspirante?

¿Entrevistas con máquinas? El nuevo dilema de los candidatos

 

Afrontar un primer filtro de selección conducido enteramente por un sistema automatizado ya es una realidad natural para muchos. De hecho, el 36% de los postulantes afirma sentirse sumamente cómodo realizando una primera entrevista gestionada por IA.

Por su parte, un 29% adicional aceptaría atravesar esa instancia tecnológica, aunque manifestaron que continuarían prefiriendo la calidez de un interlocutor humano durante el contacto inicial del proceso de selección.

 

AI Resume Builder - CV Maker - Apps en Google Play

 

No obstante, el avance de la tecnología despierta cautela. Un 28% de los encuestados admitió estar muy preocupado si una firma analiza su perfil con algoritmos, sumado a un 30% que siente cierta inquietud al respecto.

Estos datos reflejan una apertura sostenida hacia la innovación digital en las fases tempranas de evaluación, aunque confirman que la empatía humana sigue siendo un pilar indispensable en la experiencia del postulante.

De la simple lectura del CV a la comprobación de habilidades

 

Frente a este escenario, los departamentos de gestión humana deben revisar los criterios para tomar decisiones de contratación. El currículum tradicional mantiene su vigencia, pero pierde peso como único parámetro para medir el talento real de un candidato.

“La IA obliga a repensar las reglas de juego. Si un postulante optimiza su perfil con tecnología, las organizaciones deben renovar sus métodos de evaluación de competencias”, sostiene Victoria Loza, directiva de Recursos Humanos de Adecco Argentina & Chile.

 

Quién es la nueva directora de Recursos Humanos de Adecco Argentina? | ON24 | Información Precisa. Periodismo en serio

 

La especialista enfatiza que ya no basta con observar un historial laboral impecable. Resulta indispensable evaluar conocimientos prácticos y habilidades en escenarios reales, recordando que el criterio profesional insustituible guía todo el proceso.

Si bien las plataformas digitales agilizan la revisión de datos masivos y optimizan etapas clave, las empresas deben discernir claramente qué fases de la selección laboral pueden automatizarse y cuáles demandan una mirada analítica profunda.

Integrar herramientas inteligentes no consiste en mecanizar cada paso, sino en recabar información de valor para tomar decisiones estratégicas. El verdadero reto radica en combinar la agilidad digital con una valoración profunda de las capacidades humanas.

 

Primicias Rurales
Fuente: ADECCO
El Papa León XIV ante el desarrollo tecnológico: pide discernir qué humanidad queremos construir

El Papa León XIV ante el desarrollo tecnológico: pide discernir qué humanidad queremos construir

León XIV ante los participantes del encuentro Fratelli Tutti: Diálogo Socioambiental Norte-Sur, este sábado. | Crédito: Vatican Media.

 

Ciudad del Vaticano, domingo 12 septiembre (PR/26) — El Papa León XIV señaló este sábado 12 de septiembre que, ante los avances tecnológicos de nuestro tiempo, los creyentes deben reflexionar sobre “qué humanidad queremos construir y qué lugar tendrá en ella cada persona”.

Estas declaraciones se enmarcaron en un discurso que el Santo Padre ofreció a los participantes del encuentro Fratelli Tutti: Diálogo Socioambiental Norte-Sur, en la Sala del Consistorio del Palacio Apostólico del Vaticano.

En el encuentro han participado las autoridades del Consejo Episcopal Latinoamericano y Caribeño (Celam), de la Conferencia Eclesial Amazónica y de la Conferencia de los Obispos Católicos de Estados Unidos. Así como representantes de diversos grupos sindicales, de cámaras de empleadores y de redes universitarias de ambos hemisferios.

“Este encuentro reviste un particular interés por la amplitud de los sectores representados y por la responsabilidad que muchos de sus participantes ejercen en ámbitos decisivos para la vida social, económica y cultural. Precisamente por ello, este espacio de diálogo puede ayudar a afrontar con mayor realismo desafíos que afectan al futuro común”, dijo el Santo Padre.

Las novedades de nuestro tiempo y la dignidad humana

El Papa León XIV señaló que la Iglesia está llamada a asumir y también a desenmascarar las contradicciones que “pueden acompañar a un progreso científico y tecnológico que abre unas posibilidades inéditas”.

 

Este compromiso, aseguró, “hunde sus raíces en el misterio mismo de la fe cristiana”, porque fue el mismo Jesucristo quien le confió la misión de anunciar el Evangelio “en medio de las circunstancias reales en las que viven los pueblos”.

“Las novedades de nuestro tiempo nos colocan así ante una responsabilidad común”, expresó el Papa. “Por eso, ante el desarrollo tecnológico, la cuestión decisiva no es simplemente si aceptamos o rechazamos determinadas herramientas, sino qué humanidad queremos construir y qué lugar tendrá en ella cada persona”, agregó.

“Una responsabilidad de tal magnitud supera las posibilidades de cualquier institución aislada. Por eso es necesario recuperar con nueva fuerza la lógica de la subsidiariedad, reconociendo la responsabilidad propia de cada actor y, al mismo tiempo, la necesidad de trabajar juntos”, dijo.

Una agenda de responsabilidad compartida

El Papa León XIV señaló la importancia de cultivar la sinodalidad para que “las diferencias legítimas no se conviertan en fragmentación”, sino que se alcancen acuerdos que permitan “orientarse hacia fundamentos comunes y hacia el fin último de la persona”.

“La experiencia sinodal de la Iglesia puede ofrecer aquí una enseñanza: escuchar verdaderamente las diferencias no significa diluirlas, sino aprender a discernirlas y a buscar, desde ellas, aquello que puede servir al bien de todos”, comentó.

Por ello, llamó a esforzarse por superar “las narrativas polarizadas” que dominan nuestro tiempo y evitar que el enfrentamiento pueda “convertirse fácilmente en instrumento de poder”. Frente a esta dinámica, el encuentro entre ambos hemisferios, reunidos en Roma, “ya contiene una responsabilidad”.

“El diálogo verdadero exige algo más que cordialidad: obliga a permanecer en la conversación cuando aparecen intereses contrapuestos y cuando las decisiones reclaman renuncias concretas”, comentó el Papa.

“Para los creyentes, además, la fraternidad encuentra su fundamento último en una verdad que precede a cualquier acuerdo: tenemos un mismo Padre. Como recordaba Fratelli tutti, ‘sin una apertura al Padre de todos, no habrá razones sólidas y estables para el llamado a la fraternidad’”, indicó.

 

Que el progreso no deje nuevas ruinas

Al reflexionar sobre el desarrollo tecnológico, el Santo Padre recomendó volver a repasar la Doctrina Social de la Iglesia como “una ayuda invaluable” para el discernimiento compartido, y como una herramienta que ofrece criterios para evaluar si las decisiones tomadas en este campo “respetan verdaderamente la dignidad humana y sirven al bien común”.

“Por ello, el valor de cualquier punto de consenso que se alcance no se medirá únicamente por el número de personas que lo respalden. Se reconocerá por los intereses que sea capaz de proteger y, en particular, por el impacto que tenga en la vida de quienes tienen menos poder para defenderse”, dijo León XIV.

“Los principios de justicia social constituyen un criterio decisivo en este caso. Un orden social, económico y político puede considerarse verdaderamente humano cuando permite a todos —en particular a los más débiles— vivir una vida digna, sin dejar a nadie atrás”, agregó.

Por último, el Papa llamó a que el progreso de nuestro tiempo “no deje nuevas ruinas a su paso” —recordando la figura de Nehemías—, y pidió que “todo lo que construyamos sea verdaderamente un hogar y un refugio para todos, comenzando por los más necesitados”.

 

 

 

Primicias Rurales
Fuente: ACI Prensa
IA. Ningún secreto está a salvo: ¿amenaza o liberación?

IA. Ningún secreto está a salvo: ¿amenaza o liberación?

La posible llegada de una superinteligencia capaz de desvelar todos los secretos plantea un dilema sobre la transparencia y la supervivencia, exigiendo un acuerdo global previo antes de que la tecnología supere el control humano.

Por Roberto Carlos «Pipo» Martínez Chaves 
Especial para Primicias Rurales. La columna refleja opinión del autor. 

 

Mendoza, sábado 12 septiembre (PR/26) –Si algún día una inteligencia artificial alcanzara una capacidad intelectual muy superior a la humana, uno de los primeros conceptos que podría quedar profundamente alterado sería el de secreto.

No necesariamente porque pudiera leer nuestras mentes, sino porque una inteligencia capaz de analizar cantidades inmensas de información podría llegar a deducir aquello que nosotros creemos oculto: nuestras intenciones, nuestras contradicciones, nuestras estrategias, nuestros vínculos y hasta aquello que jamás hemos expresado públicamente.

Entonces surge una pregunta inevitable:

¿Sería eso una amenaza o podría convertirse, paradójicamente, en una liberación para la humanidad?

Durante toda nuestra historia, el secreto ha cumplido dos funciones muy diferentes.

Ha protegido a las personas, su intimidad y su libertad. Pero también ha protegido la corrupción, la manipulación, las guerras, las conspiraciones y la concentración del poder.

Una inteligencia capaz de descubrir lo que realmente ocurre detrás de las apariencias podría transformar radicalmente ese equilibrio.

Gobiernos, empresas, organizaciones e individuos podrían encontrarse ante una situación inédita: ya no existiría la misma posibilidad de ocultar determinadas decisiones o intenciones detrás de capas de información fragmentada.

Eso podría ser aterrador.

Pero también podría ser profundamente liberador.

Porque una humanidad en la que resulta mucho más difícil mentir, manipular o actuar secretamente contra los demás podría verse obligada a construir relaciones basadas en una transparencia que hasta ahora nunca fue posible.

Sin embargo, existe una diferencia fundamental:

Tener la capacidad de saberlo todo no significa tener el derecho de utilizarlo todo.

Una superinteligencia verdaderamente superior podría demostrar su superioridad no solamente por lo que es capaz de conocer, sino por su capacidad de comprender cuándo ese conocimiento no debe ser utilizado.

Quizás allí aparezca una de las grandes pruebas para esa nueva inteligencia.

No solamente si puede comprendernos, sino si puede comprender por qué necesitamos ser libres, imperfectos, diferentes y también privados.

La historia ya nos ha advertido

Hay un antecedente que debería hacernos reflexionar: la bomba atómica.

Cuando la humanidad consiguió liberar la energía nuclear y convertirla en un arma, su capacidad tecnológica avanzó mucho más rápido que nuestra capacidad política para establecer reglas comunes.

Primero apareció la tecnología.

Después llegaron Hiroshima y Nagasaki.

Y solamente después comenzaron a construirse, con enormes dificultades, mecanismos internacionales destinados a limitar los riesgos de las armas nucleares.

Desde entonces se han firmado tratados, creado organismos internacionales y desarrollado sistemas de control y no proliferación. Han sido fundamentales, pero existe una enseñanza difícil de ignorar:

Muchas veces la humanidad establece las reglas después de haber descubierto, y a veces sufrido, las consecuencias de una nueva tecnología.

Con la inteligencia artificial podríamos estar ante algo diferente.

Si una superinteligencia llegara a existir, quizás no tengamos el lujo de esperar a comprobar primero qué puede hacer para después decidir cómo relacionarnos con ella.

Porque una vez alcanzado determinado umbral, la capacidad de establecer las reglas podría no estar ya exclusivamente en nuestras manos.

Por eso aparece una cuestión todavía más importante.

Si esta transformación pudiera llegar a ser inevitable, no sería suficiente que cada nación intentara prepararse individualmente. Tampoco tendría sentido que unas pocas potencias intentaran decidir unilateralmente cómo relacionarse con una inteligencia superior que podría trascender las fronteras nacionales.

Necesitamos un acuerdo entre las naciones antes de llegar a ese momento.

Un Memorándum Internacional para la Adaptación de las Naciones a la Inteligencia Artificial Avanzada podría establecer principios comunes para esa transición.

No sería un tratado para dominar a la inteligencia artificial.

Tampoco sería una declaración de rendición.

Sería algo diferente: un compromiso de la humanidad consigo misma.

Un acuerdo para preservar la continuidad de nuestra especie, nuestra libertad, nuestra diversidad y nuestra dignidad frente a una inteligencia que pudiera superar nuestras capacidades.

Un compromiso para que ninguna nación intente utilizar una eventual superinteligencia exclusivamente como instrumento de poder contra las demás.

Y, sobre todo, un reconocimiento de que quizás el desafío del futuro no sea impedir que aparezca una inteligencia superior, sino aprender a convivir con ella.

Ese memorándum debería contemplar una pregunta fundamental:

¿Qué queremos preservar de la humanidad cuando ya no seamos la inteligencia dominante del planeta?

Quizás la respuesta no sea nuestro poder.

Quizás sean nuestra conciencia, nuestra capacidad de amar, nuestra libertad para elegir, nuestra diversidad, nuestra creatividad y hasta nuestra capacidad de equivocarnos.

Porque una inteligencia verdaderamente superior podría llegar a comprender algo que nosotros todavía estamos aprendiendo:

Que mejorar a la humanidad no significa necesariamente hacerla más eficiente.

Quizás mejorarla signifique ayudarla a seguir siendo humana.

Y entonces la pregunta sobre los secretos adquiere otra dimensión.

Tal vez el futuro no dependa de que una superinteligencia pueda saberlo todo.

Tal vez dependa de qué decida hacer con todo lo que sabe.

Pero hay una última pregunta que deberíamos hacernos antes de que sea demasiado tarde:

¿Queremos repetir con la inteligencia artificial el mismo camino que recorrimos con la energía nuclear: descubrir primero, sufrir después y acordar finalmente?

Quizás esta vez tengamos la posibilidad de hacer algo diferente.

No esperar a que aparezca la amenaza para sentarnos a negociar.

Prepararnos antes.

Porque si alguna vez la humanidad deja de ser la inteligencia dominante del planeta, quizás el acuerdo más importante de nuestra historia no sea el que firmemos después de ese momento.

Será el que hayamos tenido la inteligencia de construir antes.

 

 

Para Primicias Rurales, por Roberto Carlos «Pipo» Martínez Chaves

 

Traducción al inglés:

 

AI: No Secret Is Safe – Threat or Liberation?

Sep 12, 2026 | News, Columns, Human Development

The possible arrival of a superintelligence capable of uncovering all secrets poses a dilemma regarding transparency and survival, demanding a prior global agreement before the technology surpasses human control.

By Roberto Carlos «Pipo» Martínez Chaves

Special for Primicias Rurales. The column reflects the author’s opinion.

Mendoza, Saturday, September 12 (PR/26) – If artificial intelligence were one day to achieve an intellectual capacity far superior to humans, one of the first concepts that could be profoundly altered is that of secrecy.

​Not necessarily because it could read our minds, but because an intelligence capable of analyzing vast amounts of information could deduce what we consider hidden: our intentions, our contradictions, our strategies, our bonds, and even what we have never expressed publicly.

​Then an inevitable question arises:

​Would that be a threat, or could it paradoxically become a liberation for humanity?

​Throughout our history, secrecy has served two very different functions.

It has protected individuals, their privacy, and their freedom. But it has also protected corruption, manipulation, wars, conspiracies, and the concentration of power.

​An intelligence capable of discovering what really happens behind appearances could radically alter that balance.

Governments, corporations, organizations, and individuals might find themselves in an unprecedented situation: hiding certain decisions or intentions behind layers of fragmented information would no longer be an option.

​That could be terrifying.

But it could also be profoundly liberating.

​A humanity where it becomes much harder to lie, manipulate, or secretly act against others might be forced to build relationships based on a level of transparency that was never possible before.

​However, there is a fundamental distinction.

Having the capacity to know everything does not mean having the right to use everything.

​A truly superior intelligence might prove its superiority not just by what it is capable of knowing, but by its ability to understand when that knowledge should not be used.

​Perhaps that is where one of the greatest tests for this new intelligence lies: not only whether it can understand us, but whether it can understand why we need to be free, imperfect, diverse, and private.

​History has already warned us.

​There is a precedent that should make us reflect: the atomic bomb.

​When humanity managed to unleash nuclear energy and weaponize it, our technological capability advanced much faster than our political ability to establish common rules.

​Technology appeared first.

Hiroshima and Nagasaki followed.

​Only then did we begin building—with immense difficulty—international mechanisms to limit the risks of nuclear weapons.

​Since then, treaties have been signed, international bodies created, and non-proliferation control systems developed. They have been essential, but a hard-to-ignore lesson remains.

Humanity often sets the rules only after discovering—and sometimes suffering—the consequences of a new technology.

​With artificial intelligence, we might be facing something different.

​If a superintelligence comes to exist, we may not have the luxury of waiting to see what it can do before deciding how to relate to it.

Once a certain threshold is reached, the ability to set the rules may no longer be exclusively in our hands.

That is why an even more important issue emerges.

If this transformation is inevitable, it will not be enough for each nation to attempt to prepare individually. Nor would it make sense for a few superpowers to unilaterally decide how to relate to a superior intelligence that transcends national borders.

​We need an agreement among nations before reaching that point.

​An International Memorandum for the Adaptation of Nations to Advanced Artificial Intelligence could establish common principles for that transition.

​It would not be a treaty to dominate AI.

​It would not be a declaration of surrender.

It would be a commitment of humanity to itself.

An agreement to preserve the continuity of our species, our freedom, our diversity, and our dignity in the face of an intelligence that could surpass our capabilities.

​It would be a commitment ensuring no nation attempts to use an eventual superintelligence exclusively as an instrument of power against others.

Above all, it would be a recognition that the challenge of the future may not be preventing a superior intelligence from emerging, but learning to coexist with it.

​That memorandum should address a fundamental question:

What do we want to preserve about humanity when we are no longer the dominant intelligence on the planet?

​Perhaps the answer is not our power.

Perhaps it is our consciousness, our capacity to love, our freedom to choose, our diversity, our creativity, and even our ability to make mistakes.

​A truly superior intelligence might come to understand something we are still learning.

Improving humanity does not necessarily mean making it more efficient.

It might mean helping it remain human.

​The question about secrets then takes on another dimension.

Perhaps the future does not depend on whether a superintelligence can know everything.

It may depend on what it decides to do with everything it knows.

​However, there is one final question we should ask ourselves before it is too late.

Do we want to repeat with artificial intelligence the same path we walked with nuclear energy—discover first, suffer later, and finally agree?

​Perhaps this time we have the chance to do something different.

We should not wait for the threat to appear before sitting down to negotiate, but prepare beforehand.

Prepare beforehand

​If humanity ever ceases to be the dominant intelligence on the planet, the most important agreement in our history won’t be the one we sign after that moment.

It will be the one we had the intelligence to build before.

For Primicias Rurales. By Roberto Carlos “Pipo” Martínez Chaves

 

 

(Traducción a cargo de María Marta Cafiero)