Según Yuval Harari, el impacto de la Inteligencia Artificial sobre la humanidad traerá consecuencias tan profundas que en un futuro no muy lejano los seres humanos deberán ceder la autoría de la capacidad de influir sobre los demás con sus narraciones y relatos, algo que desde siempre le ha permitido dominar el planeta.
El historiador y escritor israelí, que en su libro “Nexus” explicó que el mundo está dejando atrás la economía del dinero para reemplazarla por una economía basada en el intercambio de información, fue entrevistado un podcast editado por el Fondo Monetario Internacional (FMI). Una versión resumida de ese reportaje fue publicada en “Finanzas y Desarrollo F&D”, una publicación del FMI. El siguiente es el texto completo de la entrevista:
A diferencia de lo que ocurre con el Homo economicus —el modelo hiperracional inventado para dilucidar nuestras disyuntivas financieras—, las decisiones del Homo sapiens siempre han dependido mucho del contexto social y de la respuesta emocional a los relatos.
Curioso ya desde niño, Yuval Noah Harari escribe hoy sobre la evolución humana como filósofo e historiador. Sapiens: De animales a dioses, publicado en 2014, se transformó en un fenómeno internacional traducido a casi 40 idiomas. Su última obra, Nexus: Una breve historia de las redes de información desde la Edad de Piedra hasta la IA, examina la evolución de las redes de comunicación humanas y la posibilidad de que la inteligencia artificial (IA) nos gane en nuestro propio terreno.
Harari es actualmente catedrático de Historia en la Universidad Hebrea de Jerusalén y un destacado investigador principal en el Centro para el Estudio del Riesgo Existencial de la Universidad de Cambridge. En una charla con Bruce Edwards, habló de los relatos, la confianza y la IA.
F&D: Uno de los principios básicos de su historia del Homo sapiens es que somos los únicos con la habilidad de imaginar el futuro. ¿Cómo es que la narración nos ha permitido predominar sobre otras especies que están evolucionando a la par de nosotros?
YNH: El poder radica en la cooperación. Por ejemplo, los chimpancés pueden cooperar únicamente en grupos muy pequeños, pero la cooperación del Homo sapiens es ilimitada. Hoy hay 8.000 millones de personas en el mundo que, a pesar de muchas diferencias y conflictos, pertenecen casi sin excepción a las mismas redes comerciales. Muchos de los alimentos, la energía que consumimos y la ropa que usamos vienen del otro extremo del mundo, de manos de gente con la que nunca nos cruzamos. Estas amplias redes de cooperación son nuestro superpoder y están basadas en la confianza. Entonces hay que preguntarse de dónde surge la confianza entre extraños. De las “historias”.
La confianza se forja contando historias en las que cree mucha gente. Es más fácil verlo en el caso de la religión: millones de extraños pueden cooperar en obras benéficas como la construcción de hospitales o luchar en guerras santas porque creen en la misma mitología. Pero lo mismo ocurre con la economía y el sistema financiero porque ningún relato ha tenido jamás tanto éxito como la historia del dinero. Básicamente, es la única historia en la que cree todo el mundo.
F&D: Pero usted se refiere al dinero como un mero artificio cultural.
YNH: Efectivamente. El dinero es un cuento, un invento; no tiene valor objetivo. Uno no puede comer ni beber billetes ni monedas, pero puede darle a un extraño un trozo de papel que no vale nada a cambio de un pan que sí puede comer. La premisa fundamental es que todos creemos en la misma narrativa sobre el dinero; si dejamos de creer, todo se viene abajo. Esto ha ocurrido a lo largo de la historia, y sucede hoy con los nuevos tipos de monedas. ¿Qué son los bitcoin, la red Ethereum y todas estas criptomonedas? Son narraciones. Su valor depende de las historias que la gente cuenta y cree. Y el valor de los bitcoin aumenta y se diluye a medida que aumenta y se diluye la confianza de la gente en esa narración.
F&D: Según su último libro, Nexus, estamos dejando la economía del dinero por una economía basada en el intercambio de información, no de monedas. ¿Cómo es la economía de la información?
YNH: Le doy un ejemplo: una de las empresas más importantes en mi vida es Google. La uso todos los días, todo el día. Pero mi estado de cuenta del banco no muestra ningún canje de dinero; ni yo le pago a Google ni Google me paga a mí. Lo que me da Google es información.
Leer más – El interrogatorio de un terrorista capturado en un hospital de Gaza
F&D: Y usted le da información a Google.
YNH: Usted lo ha dicho. Le doy a Google mucha información sobre lo que me gusta, lo que no me gusta y lo que pienso, cualquier cosa, y Google la utiliza. En el mundo entero, cada vez más transacciones siguen este formato de información a cambio de información, y no algo a cambio de dinero. Y el poder, la riqueza y el significado de la riqueza pasan de tener mucho dinero a tener muchos petabytes de información. ¿Qué ocurre cuando la gente y las empresas más poderosas son ricas en el sentido de que tienen una gigantesca cantidad de información almacenada que ni siquiera se molestan en monetizar, en canjear por dinero, porque pueden obtener todo lo que quieren a cambio de información?¿Para qué necesitamos dinero? Si la información sirve para comprar bienes y servicios, el dinero resulta innecesario.
F&D: Nexus parte de la idea de que las estructuras de poder y los sistemas de creencias surgieron de narraciones a lo largo de la evolución humana y la contextualiza con la tecnología actual. ¿Qué dice sobre los peligros de estas redes de información cada vez más avanzadas?
YNH: El primer mensaje es casi filosófico: la información y la verdad no son lo mismo. La mayor parte de la información es ficticia, inverosímil y engañosa. La verdad es costosa; hay que informarse, hay que juntar datos; hay que dedicar tiempo, esfuerzo y dinero para encontrarla. Y muchas veces, la verdad duele; por eso es una parte muy pequeña de la información.
Otro mensaje es que estamos desatando sobre el mundo la tecnología más poderosa jamás creada: la IA. La IA es radicalmente diferente de la imprenta, de la bomba atómica y de cualquier otra invención. Es la primera tecnología de la historia que puede tomar decisiones y crear nuevas ideas por sí misma. Una bomba atómica no puede decidir dónde detonar; la IA, sí. Puede tomar decisiones financieras e inventar instrumentos financieros sola, y la IA que conocemos hoy, en 2024, es apenas la forma rudimentaria de esta revolución. No tenemos idea de lo que se viene.
Y algo importante, sobre todo para el FMI, es que los pioneros de la IA son apenas un puñado de países. La mayor parte de los países van muy a la zaga, y si nos descuidamos vamos a vivir una repetición de la Revolución Industrial a la enésima potencia. En el siglo XIX, solo unos pocos países —Gran Bretaña, y luego Estados Unidos, Japón y Rusia— tomaron la delantera en la industrialización; la mayoría de los demás no entendía qué estaba ocurriendo con cosas como el motor a vapor y el telégrafo. Pero al cabo de unas décadas, el mundo entero estaba directamente conquistado o indirectamente dominado por estas pocas potencias industriales. Hay muchos países que recién ahora están comenzando a recuperarse del daño causado por esa conquista industrial.
Y ahora tenemos el tsunami de la IA. Piense en lo que el motor a vapor y el telégrafo le hicieron a la igualdad a escala mundial y multiplíquelo por 10, por 100, por 1.000. Ahí se empiezan a ver las consecuencias de que unos pocos países monopolicen el enorme poder de la IA y todos los demás terminen explotados y dominados de maneras que no tienen precedente histórico.
F&D: La IA desenfrenada es peligrosa, como dice en Nexus. Pero como también deja claro en Sapiens, la humanidad ha pisoteado el planeta impunemente, “como dioses que no saben lo que quieren”. ¿Hay algo en la disciplina económica capaz de suavizar el impacto de estas dos fuerzas potencialmente destructivas al conjugarse?
YNH: Lo que busca la economía es establecer prioridades. Como hay recursos limitados y una abundancia de deseos y necesidades diferentes, se plantea la cuestión de la verdad y la cuestión del deseo. ¿Cuáles son los hechos y qué es lo que deseamos?
Desde el punto de vista de la cuestión del deseo, el mejor sistema que hemos inventado es la democracia: le preguntamos al pueblo qué desea. Y los deseos de alguien con un doctorado en Economía o un Premio Nobel no son más importantes que los deseos de alguien que no terminó la secundaria. El sistema democrático pretende otorgar el mismo peso a los deseos de cada persona. Por otra parte, está la cuestión de la verdad: ¿cuáles son los hechos? La democracia no es el sistema ideal para decidirlo. Por ejemplo, si queremos saber si la atmósfera realmente se está calentando, y si es consecuencia del accionar humano o de algún ciclo solar natural, o lo que sea, la respuesta no surge de una elección democrática. Se trata de una cuestión de la verdad, no de una cuestión del deseo.
Algo que hemos aprendido sobre el ser humano a lo largo de miles de años es que muchas veces la gente prefiere que la verdad sea distinta de la realidad, por razones personales, religiosas o ideológicas. Si queremos conocer los hechos, tenemos que crear instituciones de expertos que sepan cómo analizar los datos, pero no dictaminar nuestros deseos ni decirnos qué hacer. Los expertos dicen que el cambio climático es real, sí, y que las causas son tales y cuales; luego la pelota queda en el terreno democrático.
F&D: Pero las decisiones democráticas que toma la gente están basadas en las historias que escucha: ¿qué pasa cuando esas historias ya no provienen de un ser humano?
YNH: Se produce un terremoto. Las sociedades humanas están basadas en la confianza, y la confianza está basada en la información y en la comunicación; un cambio profundo en la tecnología de la comunicación sacude la confianza entre las personas. La consecuencia es un terremoto social y político. Con la llegada de la IA, por primera vez las historias que sustentan las sociedades humanas son fruto de una inteligencia no humana.
Las narraciones pueden ser de tenor religioso o financiero: todos los instrumentos financieros previos de la historia fueron producto de la imaginación humana. Pero vamos a comenzar a ver instrumentos financieros inventados por la IA, y el riesgo es que ningún ser humano sea capaz de comprenderlos, y mucho menos regularlos.
La IA puede ser enormemente beneficiosa, pero si se descontrola puede plantear un peligro existencial. Para mí, IA no es la abreviatura de inteligencia artificial, sino de inteligencia alienígena. No alienígena porque provenga del espacio exterior, sino porque sale de nuestros propios laboratorios. Es alienígena en el sentido de que toma decisiones e inventa ideas de una manera fundamentalmente diferente a la humana. Es un tipo alienígena de inteligencia. Y es muy peligroso dejar libres por el mundo a miles de millones de agentes alienígenos sin tener manera de controlar que utilicen su enorme poder en beneficio nuestro.
Vía Infobae