La posible llegada de una superinteligencia capaz de desvelar todos los secretos plantea un dilema sobre la transparencia y la supervivencia, exigiendo un acuerdo global previo antes de que la tecnología supere el control humano.
Por Roberto Carlos «Pipo» Martínez Chaves
Especial para Primicias Rurales. La columna refleja opinión del autor.
Mendoza, sábado 12 septiembre (PR/26) –Si algún día una inteligencia artificial alcanzara una capacidad intelectual muy superior a la humana, uno de los primeros conceptos que podría quedar profundamente alterado sería el de secreto.
No necesariamente porque pudiera leer nuestras mentes, sino porque una inteligencia capaz de analizar cantidades inmensas de información podría llegar a deducir aquello que nosotros creemos oculto: nuestras intenciones, nuestras contradicciones, nuestras estrategias, nuestros vínculos y hasta aquello que jamás hemos expresado públicamente.
Entonces surge una pregunta inevitable:
¿Sería eso una amenaza o podría convertirse, paradójicamente, en una liberación para la humanidad?
Durante toda nuestra historia, el secreto ha cumplido dos funciones muy diferentes.
Ha protegido a las personas, su intimidad y su libertad. Pero también ha protegido la corrupción, la manipulación, las guerras, las conspiraciones y la concentración del poder.
Una inteligencia capaz de descubrir lo que realmente ocurre detrás de las apariencias podría transformar radicalmente ese equilibrio.
Gobiernos, empresas, organizaciones e individuos podrían encontrarse ante una situación inédita: ya no existiría la misma posibilidad de ocultar determinadas decisiones o intenciones detrás de capas de información fragmentada.
Eso podría ser aterrador.
Pero también podría ser profundamente liberador.
Porque una humanidad en la que resulta mucho más difícil mentir, manipular o actuar secretamente contra los demás podría verse obligada a construir relaciones basadas en una transparencia que hasta ahora nunca fue posible.
Sin embargo, existe una diferencia fundamental:
Tener la capacidad de saberlo todo no significa tener el derecho de utilizarlo todo.
Una superinteligencia verdaderamente superior podría demostrar su superioridad no solamente por lo que es capaz de conocer, sino por su capacidad de comprender cuándo ese conocimiento no debe ser utilizado.
Quizás allí aparezca una de las grandes pruebas para esa nueva inteligencia.
No solamente si puede comprendernos, sino si puede comprender por qué necesitamos ser libres, imperfectos, diferentes y también privados.
La historia ya nos ha advertido
Hay un antecedente que debería hacernos reflexionar: la bomba atómica.
Cuando la humanidad consiguió liberar la energía nuclear y convertirla en un arma, su capacidad tecnológica avanzó mucho más rápido que nuestra capacidad política para establecer reglas comunes.
Primero apareció la tecnología.
Después llegaron Hiroshima y Nagasaki.
Y solamente después comenzaron a construirse, con enormes dificultades, mecanismos internacionales destinados a limitar los riesgos de las armas nucleares.
Desde entonces se han firmado tratados, creado organismos internacionales y desarrollado sistemas de control y no proliferación. Han sido fundamentales, pero existe una enseñanza difícil de ignorar:
Muchas veces la humanidad establece las reglas después de haber descubierto, y a veces sufrido, las consecuencias de una nueva tecnología.
Con la inteligencia artificial podríamos estar ante algo diferente.
Si una superinteligencia llegara a existir, quizás no tengamos el lujo de esperar a comprobar primero qué puede hacer para después decidir cómo relacionarnos con ella.
Porque una vez alcanzado determinado umbral, la capacidad de establecer las reglas podría no estar ya exclusivamente en nuestras manos.
Por eso aparece una cuestión todavía más importante.
Si esta transformación pudiera llegar a ser inevitable, no sería suficiente que cada nación intentara prepararse individualmente. Tampoco tendría sentido que unas pocas potencias intentaran decidir unilateralmente cómo relacionarse con una inteligencia superior que podría trascender las fronteras nacionales.
Necesitamos un acuerdo entre las naciones antes de llegar a ese momento.
Un Memorándum Internacional para la Adaptación de las Naciones a la Inteligencia Artificial Avanzada podría establecer principios comunes para esa transición.
No sería un tratado para dominar a la inteligencia artificial.
Tampoco sería una declaración de rendición.
Sería algo diferente: un compromiso de la humanidad consigo misma.
Un acuerdo para preservar la continuidad de nuestra especie, nuestra libertad, nuestra diversidad y nuestra dignidad frente a una inteligencia que pudiera superar nuestras capacidades.
Un compromiso para que ninguna nación intente utilizar una eventual superinteligencia exclusivamente como instrumento de poder contra las demás.
Y, sobre todo, un reconocimiento de que quizás el desafío del futuro no sea impedir que aparezca una inteligencia superior, sino aprender a convivir con ella.
Ese memorándum debería contemplar una pregunta fundamental:
¿Qué queremos preservar de la humanidad cuando ya no seamos la inteligencia dominante del planeta?
Quizás la respuesta no sea nuestro poder.
Quizás sean nuestra conciencia, nuestra capacidad de amar, nuestra libertad para elegir, nuestra diversidad, nuestra creatividad y hasta nuestra capacidad de equivocarnos.
Porque una inteligencia verdaderamente superior podría llegar a comprender algo que nosotros todavía estamos aprendiendo:
Que mejorar a la humanidad no significa necesariamente hacerla más eficiente.
Quizás mejorarla signifique ayudarla a seguir siendo humana.
Y entonces la pregunta sobre los secretos adquiere otra dimensión.
Tal vez el futuro no dependa de que una superinteligencia pueda saberlo todo.
Tal vez dependa de qué decida hacer con todo lo que sabe.
Pero hay una última pregunta que deberíamos hacernos antes de que sea demasiado tarde:
¿Queremos repetir con la inteligencia artificial el mismo camino que recorrimos con la energía nuclear: descubrir primero, sufrir después y acordar finalmente?
Quizás esta vez tengamos la posibilidad de hacer algo diferente.
No esperar a que aparezca la amenaza para sentarnos a negociar.
Prepararnos antes.
Porque si alguna vez la humanidad deja de ser la inteligencia dominante del planeta, quizás el acuerdo más importante de nuestra historia no sea el que firmemos después de ese momento.
Será el que hayamos tenido la inteligencia de construir antes.
