Oded Balaban

Sobre una conversación de Yuval Noah Harari acerca de la inteligencia artificial

Oded Balaban — University of Haifa — balaban@research.haifa.ac.il

Sobre Yuval Noah Harari, “The next 50 years: humanity, AI, power”, conversación con Tom Parker, periodista del Financial Times, en la cena del cincuentenario del grupo EDP, Portugal, julio de 2026.

https://www.youtube.com/watch?v=_V_ed5fuexA

En julio de 2026, en la cena del cincuentenario de una empresa eléctrica portuguesa, Yuval Noah Harari conversó con Tom Parker, periodista del Financial Times. El video está arriba, y quien pueda verla hará bien, porque es una pieza instructiva de un modo que su autor no buscó. No hace falta refutarla desde afuera. Se refuta sola, tres veces, y la tercera es admirable.

Digo antes de empezar qué no voy a discutir. Varias de sus conclusiones políticas me parecen acertadas y alguna la suscribo palabra por palabra. Me interesa otra cosa: aquello que sostiene sin deducirlo de nada, que no se sigue de ninguna premisa suya y que él tampoco defiende, porque no lo ve como algo que hubiera que defender.

Un criterio que dura una frase

Parker le pregunta si la inteligencia artificial es una herramienta o un agente, y si no estaremos eligiendo el relato equivocado al llamarla herramienta. La respuesta es tajante: “ese es el error más grande”.

Y entonces da el criterio, que es el correcto. Dice que una herramienta es algo que no puede tomar decisiones por sí mismo. La imprenta es una herramienta: no pudo decidir imprimir hoy la Biblia, mañana el Corán y la semana que viene a Confucio; lo decidió Gutenberg, y la imprenta fue el medio de realizar la decisión de Gutenberg. La bomba atómica es una herramienta: en 1945 no pudo decidir por sí misma bombardear Hiroshima o Tokio. Y la frase entera:

Hacía falta un humano para decidir: bombardeemos Hiroshima.

Exacto. Nada que objetar. La distinción está bien trazada y el criterio es el que hay que usar.

Y un momento después: “un arma de IA puede decidir qué bombardear”.

Léase dos veces. En la primera mitad del razonamiento, decidir es lo que hace alguien, y por eso la imprenta no es un agente. En la segunda mitad, decidir es lo que hace el arma. Entre una cosa y la otra no se argumentó nada: se cambió de sujeto. El criterio que acababa de darse —que hay alguien que decide—⁠ no se aplicó al caso siguiente, y no porque el caso lo resista, sino porque aplicarlo habría dado la respuesta contraria.

Llamo a esta operación meter el sujeto en el verbo, y no es una cuestión gramatical: es la que decide quién responde después. Mientras el fin esté asignado, hay alguien que lo asignó, y ese alguien tiene nombre, ocupa un cargo y podría haber elegido otro fin. En cuanto el arma lo tiene, la frase deja de obligar a nombrarlo. Lo que desaparece no es el responsable: desaparece la necesidad de buscarlo.

La factura llega antes que la ontología

De qué depende esa atribución lo dice él mismo, sin que nadie se lo pregunte:

Si no es un agente, entonces no es IA, y todos los cientos de miles de millones de dólares que se están volcando en su desarrollo se habrán desperdiciado.

Repárese en el orden de las razones, porque está invertido. No se concluye que haya que invertir porque la cosa sea un agente. Se concluye que la cosa es un agente porque ya se invirtió. La premisa se apoya en la inversión que la premisa debía justificar.

Es un argumento del que ningún filósofo querría ser dueño, y sin embargo gobierna buena parte de la discusión. Podría formularse así: dado que hemos gastado una fortuna en construir un sujeto, hay un sujeto. La ontología llega tarde, y llega a cobrar.

Más adelante dirá que la inteligencia se está volviendo abundante y barata. Si de veras se abarata, el argumento del gasto se queda sin objeto.

El espejo por dentro

Lo anterior es un desliz que se repite. Lo que sigue es otra cosa, y es lo más valioso de la hora.

Parker le pregunta qué pasa con su oficio —él trabaja con palabras—⁠ si la máquina llega a manejarlas mejor. Harari contesta que la pregunta de fondo es si la máquina piensa, y que eso obliga a preguntar qué es pensar. Ofrece dos opciones. La primera: pensar es poner palabras en un orden determinado, como en un silogismo. Si eso es pensar, dice, la máquina lo hace mejor que nosotros, porque nosotros ordenamos veinte palabras y ella veinte mil.

Y entonces se vuelve hacia adentro:

Cuando observo lo que ocurre dentro de mi propia mente, lo que encuentro allí es una especie de modelo de lenguaje que simplemente predice la palabra siguiente en la frase que estoy diciendo. Esta frase que acabo de decirle: cuando empecé a decirla, no sabía cómo iba a terminar. ¿Por qué dije esta frase y no otras palabras? No lo sé.

Y concluye: “así que decir que la IA solo predice la palabra siguiente… ¿en qué se diferencia de nosotros?”.

Deténgase el lector, porque acaba de ocurrir algo. No dijo que la máquina se nos parezca. Dijo que él se parece a la máquina. Se miró por dentro y encontró un modelo de lenguaje. Y no lo dijo como una queja ni como una advertencia: lo dijo como un argumento, con el tono de quien acaba de ser franco consigo mismo.

Éste es el asunto entero de la discusión sobre la inteligencia artificial, y por eso le agradezco: nadie lo había mostrado con tanta claridad ni tan sin querer. La semejanza entre el hombre y la máquina no se descubrió. Se fabricó, y se la fabricó de este lado.

La pregunta que hace está bien hecha, y la respuesta no es difícil. No saber de antemano cómo termina la frase no es no ser quien la dice. El que la dice es el que puede sorprenderse de ella, corregirla a mitad de camino, desdecirse, callarse, o sostenerla contra quien la objete. Un modelo no se sorprende de lo que produce, porque no había allí nadie esperando otra cosa. La sorpresa no es un dato más sobre el resultado: es la prueba de que había alguien con una expectativa, y las expectativas no las tiene el texto.

Y véase el yo que informa. Es él quien observa, él quien no sabe, él quien se asombra de no saber. El testimonio necesita entero al sujeto que el testimonio niega. Es el viejo círculo: si mi cerebro es el que le dicta a mis dedos las palabras que tecleo, y yo inocentemente me creo el autor, entonces también viene de él este pensamiento sobre mi dependencia de sus dictados, y de él la reflexión sobre esa reflexión, y así indefinidamente. La operación no elimina al sujeto: le cambia de dueño.

Hay algo más, y es lo que revela el método. Cuando el criterio formal no le alcanza, Harari no va hacia el acto: va hacia el afecto. Propone una segunda idea de pensar —el pensar vendría “del estómago, no del cerebro”, sería cuestión de los sentimientos que rodean a las palabras—⁠ y de ahí pasa a la pregunta de si la máquina siente. Es el mismo desvío que hace en otros lugares, cuando define la conciencia como la capacidad de sufrir.

Nótese lo que ese desvío deja afuera. Sufrir es padecer. Quedan fuera el juzgar, el decidir, el ponerse un fin y el preguntar, que son justamente los actos en discusión. Cuando se ha resuelto que pensar es ordenar palabras, lo único que queda para distinguirnos es padecer. Y entonces, en efecto, la pregunta “¿podrá la máquina sentir?” se vuelve la única disponible, y ya no hay modo de no hacerla.

El botón

Hablando de imperios, dice algo que le desarma la tesis y no lo advierte.

Explica que la inteligencia artificial permite una concentración de poder que ningún imperio anterior pudo tener. Roma no podía trasladar los trigales de Egipto a Italia; Gran Bretaña no podía mudar los pozos de Irak a Yorkshire. Con la IA sí se puede concentrar todo en uno o dos países. Y agrega la segunda diferencia:

Cuando un mercader romano vendía una espada de acero a una tribu goda, los romanos perdían el control de la espada. No había un botón en Roma que el emperador apretara y todas las espadas dejaran de funcionar. Ése es el caso con la IA.

Da el ejemplo: los drones ucranianos que dejaron de funcionar cuando alguien apretó un botón. Y lo generaliza: en ciertas arquitecturas “siempre hay un interruptor de apagado en el centro imperial”.

Es una observación excelente, y es exactamente la que hay que oponerle a su propia tesis. Donde hay un botón, hay una mano. Un sistema que se apaga desde el centro imperial no es un agente que toma el poder: es una herramienta cuyo dueño está lejos y no se ve. Harari lo dice y sigue de largo, porque en su relato el peligro tiene que ser la máquina, y aquí el peligro acaba de tener domicilio.

Buenos Aires, de paso

Hay un momento que a los lectores argentinos les va a interesar. Hablando de personalidad jurídica, Harari afirma que “hace un mes” el gobierno argentino anunció que va a otorgar personalidad jurídica a las inteligencias artificiales, para que puedan operar corporaciones sin humanos.

Lo que puede afirmarse con certeza es menos que eso y, a mi juicio, es peor. El 4 de junio de 2026 Javier Milei y Federico Sturzenegger publicaron una columna en el Financial Times proponiendo una reforma que contemple sociedades integradas y administradas enteramente por agentes de inteligencia artificial. Que el texto llegue a hacer de una IA un sujeto de derecho es discutido entre juristas argentinos, y hay quienes sostienen que la legislación vigente lo impide, porque accionistas y administradores deben ser personas.

Pero el punto interesante no necesita la versión fuerte. La amnistía no requiere metafísica. Para que no haya nadie a quien reclamarle no hace falta declarar persona a una máquina: alcanza con una forma societaria en la que ningún humano tenga que figurar en la cadena de decisiones. La personería del robot no le da voz a nadie: le da una máscara al dueño. Y una sociedad sin humanos hace lo mismo, más barato y sin discusión filosófica.

El genio y la lámpara

Y ahora lo mejor, que no es ninguna de sus tesis sino la distancia entre el comienzo de la charla y su final.

Definió al agente como aquello que “puede tomar decisiones por sí mismo e inventar ideas nuevas por sí mismo”, y sostuvo que la máquina lo es. Hacia el final contesta qué le gustaría que los historiadores dijeran de esta época. Espera que la recuerden como la revolución de la sabiduría, y lo explica en términos económicos: cuando algo se vuelve abundante y barato, la pregunta es cuál es el próximo cuello de botella. La inteligencia se está volviendo abundante y barata. ¿Cuál es entonces el cuello de botella?

El cuello de botella pasa a ser la pregunta: bueno, ¿qué quiero resolver? Puedo tener cualquier cosa que quiera, ¿qué quiero? […] Ésta es la diferencia entre inteligencia y sabiduría. La inteligencia es el genio. El genio hará cualquier cosa, todos tus sueños se cumplirán. Pero hace falta sabiduría para elegir los sueños.

Es una distinción excelente, y la formula mejor que muchos de quienes la defienden. Sólo que no advierte lo que le hace a su propia tesis.

Si elegir qué resolver es una facultad distinta de resolver; si la inteligencia es el genio que concede y otra cosa es querer; y si la máquina es la que resuelve, entonces la máquina no elige. Los fines le llegan de afuera, exactamente igual que al genio de la lámpara, que es todopoderoso y no tiene un solo deseo propio. El genio no manda: manda quien frota la lámpara. Y así el agente del comienzo terminó siendo, al final, la lámpara —el instrumento en la mano del amo.

Y hay una ironía adicional en la elección de la imagen. En los cuentos, la desgracia nunca la causa el genio: la causa el que pide mal. El genio es un medio perfecto y por eso mismo inocente, y toda la responsabilidad está del lado de quien formula el deseo. Harari eligió, para explicar la inteligencia artificial, la figura que mejor prueba que el responsable es el hombre.

Qué queda

Nada de lo anterior toca sus advertencias políticas, y en varias de ellas estoy de acuerdo. Que unas pocas empresas y dos Estados concentren la infraestructura de la que todo depende es grave y es ahora. Que se otorgue personalidad jurídica a sistemas artificiales es una amnistía anticipada, y también es ahora. Que la esfera pública haya sido arrasada por sistemas que optimizan una métrica elegida por alguien es un hecho consumado. Que se esté fabricando intimidad a escala industrial para vendérsela a chicos de diez años es de lo más serio que dice, y lo dice bien.

Pero mírese lo que tuvo que hacer para decir todo eso: suspender sus propias premisas. Esas páginas sólo funcionan si la máquina es un instrumento y detrás hay personas que deciden. Si de veras decide por sí misma y tiene fines propios, entonces es un agente, y exigir un responsable humano pierde su fundamento, porque al agente se le piden cuentas a él.

Sus mejores párrafos contradicen sus presuposiciones. Y eso, lejos de ser una objeción, es la mejor noticia de la conversación: cuando piensa políticamente, y no metafísicamente, piensa bien. El problema es el marco desde el cual llega hasta ahí, porque ese marco es el que produce el miedo, y el miedo es el que después impide mirar donde hay que mirar.

Porque el miedo al reemplazo dice menos sobre la máquina que sobre quien lo siente. Un cálculo mejor sólo puede relevar a quien puso su ser en lo calculable. Si el hombre fuera ante todo alguien que pregunta y juzga, una máquina más veloz sería una herramienta mejor y no un reemplazo. Temer el relevo es, ya, haberse reducido a la capa que el relevo alcanza.

Nada de esto necesita que la máquina despierte. Y todo esto se ve mejor cuando se deja de esperar que despierte.

Las citas remiten al video enlazado arriba. Las traducciones son mías, cotejadas con los subtítulos. La columna de Javier Milei y Federico Sturzenegger apareció en el Financial Times el 4 de junio de 2026. Desarrollo estos argumentos con más detalle en un libro en preparación sobre la inteligencia artificial desde la perspectiva del usuario.