News Press Service
FMI
Bruce Edwards
A diferencia del ficticio Homo economicus, el modelo hiperracional utilizado para explicar nuestras elecciones financieras, las decisiones del Homo sapiens siempre han estado muy influenciadas por el entorno social y los impulsos emocionales provocados por las historias.
Yuval Noah Harari, un joven investigador, ha escrito sobre la evolución humana como filósofo e historiador. Sapiens: A Brief History of Humankind , publicado en 2014, se convirtió en un fenómeno internacional y está disponible en casi 40 idiomas en todo el mundo.
Su último libro, Nexus: A Brief History of Information Networks from the Stone Age to AI , analiza la evolución de las redes de comunicación humanas y cómo la inteligencia artificial podría, en última instancia, vencernos en nuestro propio juego.
Harari es actualmente profesor de historia en la Universidad Hebrea de Jerusalén e investigador distinguido en el Centro para el Estudio del Riesgo Existencial de la Universidad de Cambridge . Habló con Bruce Edwards de F&D sobre narración de historias, confianza e inteligencia artificial.
F&D : Uno de los principios básicos sobre los que se basa su historia de los sapiens es nuestra capacidad única de imaginar el futuro. ¿Cómo nos ha permitido nuestra capacidad narrativa prevalecer sobre otras especies que evolucionaron junto con nosotros?
YNH: Nuestro poder es la cooperación. Los chimpancés, por ejemplo, sólo pueden cooperar en cantidades muy pequeñas, pero el Homo sapiens puede hacerlo en cantidades ilimitadas. Hoy en día, en el mundo hay 8.000 millones de personas que, a pesar de sus muchas diferencias y conflictos, forman parte casi todas de las mismas redes comerciales.
Los alimentos que comemos, la ropa que vestimos, la energía que consumimos, a menudo proceden del otro lado del mundo, de personas que nunca hemos conocido.
Estas grandes redes de cooperación son nuestro superpoder y se basan en la confianza. Entonces, ¿cómo se genera confianza entre desconocidos? La respuesta son las “ historias ” .
Generamos confianza inventando historias en las que mucha gente cree. Es más fácil de entender en el caso de las religiones, donde millones de personas pueden cooperar en proyectos caritativos, como construir hospitales o librar guerras santas, porque millones de desconocidos creen en la misma mitología.
Pero también es cierto en el caso de la economía y el sistema financiero, porque la historia más exitosa jamás contada es la historia del dinero. Es básicamente la única historia en la que todo el mundo cree.
F&D: Y sin embargo usted ha descrito el dinero como nada más que un artefacto cultural.
YNH: Sí. El dinero es una historia, una ficción, no tiene valor objetivo. No se puede comer ni beber dinero, como billetes y monedas. Sin embargo, se puede ir a un extraño y entregarle un trozo de papel sin valor a cambio de un poco de pan que se puede comer.
Todo se basa en que todo el mundo cree las mismas historias sobre el dinero, y cuando la gente deja de creer en la historia, todo se derrumba. Hemos visto ejemplos de esto a lo largo de la historia, y también lo vemos hoy con el surgimiento de nuevos tipos de monedas. ¿Qué son Bitcoin, Ethereum y todas estas criptomonedas? Son historias. Su valor depende de las historias que la gente cuenta y cree sobre ellas. Y se ve el aumento y la caída de la confianza de la gente en la historia en el aumento y la caída del valor de Bitcoin.
F&D: En su último libro, Nexus ,usted dice que nos estamos alejando de la economía monetaria hacia una economía basada en el intercambio de información en lugar de en monedas. ¿Cómo es la economía de la información?
YNH: Para empezar con un ejemplo, una de las empresas más importantes de mi vida es Google. La utilizo todos los días, durante todo el día. Pero nadie lo sabría por mi cuenta bancaria, porque no hay intercambio de dinero. Yo no le pago nada a Google en dinero, y Google no me da dinero. Obtengo información de Google.
F&D: Y Google obtiene información de usted.
YNH: Exactamente. Google obtiene mucha información de mí sobre mis gustos, disgustos, opiniones , lo que sea , y luego utiliza esa información. Cada vez más transacciones en el mundo siguen este formato de información a cambio de información y no de algo a cambio de dinero.
Y el poder, la riqueza, el significado de riqueza pasa de tener muchos dólares a tener muchos petabytes de información. ¿Qué sucede si las personas y corporaciones más poderosas son ricas en el sentido de que tienen enormes reservas de información que ni siquiera se molestan en monetizar, en intercambiar por dinero, porque pueden obtener lo que quieran a cambio de información? ¿Para qué necesitamos dinero? Si puedes comprar servicios y bienes con información, entonces no necesitas dinero.
F&D: Nexus se basa en la idea de que nuestras estructuras de poder y sistemas de creencias han surgido a lo largo de la evolución humana a partir de historias y las sitúa en el contexto de la tecnología actual . ¿Qué nos dice el libro sobre los peligros de estas redes de información cada vez más sofisticadas?
YNH: El primer mensaje, casi filosófico, es que la información no es la verdad. La mayor parte de la información es ficción, fantasía y engaño. La verdad es costosa; es necesario investigar, reunir pruebas; es necesario invertir tiempo, esfuerzo y dinero para producir la verdad.
Y la verdad suele ser dolorosa, por lo que es un subconjunto muy pequeño de la información.
Otro mensaje es que estamos en el proceso de liberar en el mundo la tecnología más poderosa que jamás hayamos creado : la IA. La IA es fundamentalmente diferente de las imprentas, las bombas atómicas, de todo lo que hemos inventado hasta ahora.
Es la primera tecnología en la historia que puede tomar decisiones y crear nuevas ideas por sí sola. Una bomba atómica no podría decidir a quién bombardear; la IA sí puede.
La IA puede tomar decisiones financieras e inventar nuevos dispositivos financieros por sí sola, y la IA con la que estamos familiarizados hoy, en 2024, es solo el primer paso muy primitivo en la revolución de la IA. Todavía no hemos visto nada.
Y una cosa importante, especialmente relevante para el FMI, es que un número muy pequeño de países están liderando la revolución de la IA.
La mayoría de los países están muy rezagados y, si no tenemos cuidado, esto será una repetición de la Revolución Industrial, con esteroides. En el siglo XIX, unos pocos países -Gran Bretaña y luego Estados Unidos, Japón, Rusia- se industrializaron primero.
La mayoría de los países no entendieron lo que estaba sucediendo. ¿Qué es eso de las máquinas de vapor y los telégrafos? Sin embargo, en pocas décadas, el mundo entero fue conquistado directamente o dominado indirectamente por esas pocas potencias industriales.
Hay muchos países que recién ahora están comenzando a recuperarse del daño causado como resultado de esta conquista industrial.
Y ahora tenemos este tsunami de inteligencia artificial.
Pensemos en lo que la máquina de vapor y el telégrafo hicieron con la igualdad en el mundo, multiplíquelo por 10, por 100, por 1.000. Entonces empezaremos a entender las consecuencias de que unos pocos países monopolicen el enorme poder de la inteligencia artificial y que todos los demás queden abandonados a su suerte, para ser explotados y dominados de maneras para las que no tenemos precedentes en la historia.
F&D: Por tanto, la IA sin control es peligrosa, como dices en tu libro Nexus. Pero los humanos, como también dejas claro en Sapiens, han pisoteado el planeta con impunidad, “ como dioses que no saben lo que quieren ” . ¿Hay algo que la economía pueda ofrecer para suavizar el impacto de la unión de estas dos fuerzas potencialmente destructivas ?
YNH: La economía consiste en establecer prioridades. Se dispone de recursos limitados y de muchos deseos y necesidades diferentes, por lo que existe la cuestión de la verdad y la cuestión del deseo. ¿Cuáles son los hechos y qué queremos?
En lo que se refiere a la cuestión del deseo, el mejor sistema que hemos ideado es la democracia, en la que se pregunta a la gente qué es lo que quiere.
Y los deseos de alguien con un doctorado en economía o un premio Nobel no son más importantes que los deseos de alguien que no terminó la escuela secundaria.
El objetivo del sistema democrático es dar el mismo peso a los deseos de todos . Luego está la cuestión de la verdad : ¿cuáles son los hechos?
La democracia no es un sistema ideal para decidir eso. Si se quiere, por ejemplo, saber si el clima de la Tierra realmente se está calentando, y si esto es consecuencia de la acción humana o de algún ciclo natural del sol o lo que sea, esa no debería ser una pregunta para elecciones democráticas.
Es una cuestión de verdad, no de deseo.
Una cosa que hemos aprendido sobre los humanos a lo largo de miles de años es que la gente a menudo desea que la verdad sea diferente de lo que es, por razones personales, religiosas o ideológicas. Si quieres conocer los hechos, necesitas crear instituciones de expertos que sepan cómo analizar las pruebas, pero no deberían dictar nuestros deseos ni decirnos qué hacer.
Si los expertos nos dicen que sí, que el cambio climático es real y que estas son las causas, entonces la pelota va al terreno de juego de la democracia.
F&D: Pero las decisiones democráticas que toman las personas se basan en las historias que escuchan, entonces, ¿qué pasa cuando esas historias ya no las cuentan los humanos?
YNH: Estamos ante un terremoto. Las sociedades humanas se basan en la confianza; la confianza se basa en la información, en la comunicación, y un gran cambio en la tecnología de la comunicación desestabiliza la confianza entre las personas.
El resultado es un terremoto social y político. Con el auge de la IA, vemos por primera vez que las historias que sostienen a las sociedades humanas son generadas por una inteligencia no humana.
Pueden ser historias religiosas o historias financieras: todos los dispositivos financieros anteriores de la historia surgieron de la imaginación humana, pero ahora comenzaremos a ver dispositivos financieros inventados por IA.
El peligro es que las IA puedan inventar dispositivos financieros que ningún ser humano es capaz de comprender, y mucho menos de regular.
La IA puede hacer cosas enormemente beneficiosas para nosotros, pero es un peligro existencial si se nos escapa de control. Pienso en la IA como un acrónimo, no de inteligencia artificial, sino de inteligencia extraterrestre.
No extraterrestre en el sentido de que proviene del espacio exterior, sino en el sentido de que proviene de nuestros propios laboratorios. Es extraterrestre en el sentido de que toma decisiones e inventa ideas de una manera fundamentalmente diferente a la de los seres humanos.
Es un tipo de inteligencia extraterrestre. Y es muy peligroso liberar miles de millones de agentes extraterrestres en el mundo sin tener una forma de controlarlos y asegurarnos de que utilicen su enorme poder para nuestro beneficio.
Esta entrevista ha sido editada para que sea más breve y clara.
