Oded Balaban

Las presuposiciones de una entrevista sobre inteligencia artificial

Oded Balaban — University of Haifa — balaban@research.haifa.ac.il

Sobre la entrevista de Yuval Noah Harari en The Economist, https://www.youtube.com/watch?v=FNZhxTtOL-I el 20 de agosto de 2026. No discuto aquí sus conclusiones políticas, con varias de las cuales estoy de acuerdo, ni le atribuyo intenciones. Busco otra cosa: aquello que sostiene sin deducirlo de nada, que no se sigue de ninguna premisa suya y que él tampoco defiende, porque no lo ve como algo que hubiera que defender. Lo llamo presuposición. Una presuposición no es una tesis falsa ni una tesis verdadera: es el suelo desde el cual una tesis puede siquiera formularse. Y por eso no se la refuta: se la muestra. Mostrarla no prueba que sea errónea; prueba que es una decisión, y que hay otra manera de empezar.

El método, en una línea

Una proposición se discute con razones y se decide verdadera o falsa. Una presuposición no: es lo que hay que dar por sentado para que la discusión tenga sentido. Quien pregunta “¿cuándo dejó usted de pegarle a su mujer?” no afirma que le pegue: lo presupone, y por eso la pregunta no se contesta, se desarma. Lo que sigue es un intento de desarmar ocho preguntas de esa clase, no de contradecir ocho respuestas.

1. La inteligencia como magnitud única, y el mando como su efecto

La entrevista arranca así: “es muy probable que la IA sea más inteligente que nosotros en 10 años y, por lo tanto, tenga el control”.^[1]

Deténgase el lector en ese por lo tanto, porque hace todo el trabajo y no está argumentado en ninguna parte. Para que la frase signifique algo hay que haber concedido antes dos cosas. Primero, que la inteligencia es una magnitud única, de modo que tiene sentido decir “más” y “menos” entre cosas de géneros distintos, como se dice de la temperatura. Segundo, que esa magnitud, acumulada, produce dominio.

Ninguna de las dos es evidente y ninguna se discute. La primera es una decisión de vocabulario que ya viene tomada por el campo que la entrevista comenta: llamar inteligencia a la eficacia en resolver problemas planteados, y suponer que esa eficacia es lo mismo que hay en un hombre, solo que en menor cantidad. La segunda es de una ingenuidad política notable en un historiador: si mandara el más inteligente, la historia sería la lista de los sabios que gobernaron, y no lo es. Manda el que tiene el ejército, el capital o el aparato, y su inteligencia es un dato secundario y a veces una desventaja.

Si uno no concede la primera presuposición, la frase entera se queda sin objeto: no es falsa, es que no dice nada. Y si concede la primera pero no la segunda, entonces lo que viene por delante no es el gobierno de las máquinas sino el gobierno, con máquinas, de quienes las tienen. Que es exactamente lo que está pasando, y para verlo no hace falta esperar diez años.

Se me dirá que el ejemplo histórico no alcanza, porque aquí no se discute que entre nosotros mande el más sabio, sino una diferencia de otro orden, que no se deja medir con las de grado. De acuerdo. Pero entonces el argumento se muda de lugar y le empeora el terreno a quien lo usa. Mandar no es un efecto de la magnitud: es una relación entre quien manda y quien obedece, y para estar en ella hay que ser alguien a quien algo le va en ello. Por grande que sea la diferencia, no convierte en término de esa relación a lo que no puede ser término de ninguna. La máquina no es candidata al poder por la misma razón por la que no es candidata a tener nada.

2. La inteligencia y la conciencia como cosas separables

Esta es la presuposición central, y él la enuncia con una claridad que agradezco, porque me ahorra tener que extraerla: “la inteligencia es la capacidad de perseguir un objetivo y superar los obstáculos en el camino hacia ese objetivo. La conciencia es la capacidad de sentir cosas como el amor, el odio, la alegría y el placer”. Y añade: “en los seres humanos, la conciencia y la inteligencia van de la mano”.

Nótese el estatuto de esa última frase. La coincidencia entre sentir y perseguir fines se presenta como un hecho contingente sobre nuestra especie —van de la mano en nosotros, podrían no ir de la mano en otro—, no como algo constitutivo. Ahí está la decisión, y no hay una sola línea que la defienda.

Porque la alternativa es sencilla de enunciar y él ni la considera: que perseguir un fin no sea una capacidad que un ente tenga, sino un modo de existir de alguien a quien algo le va en ello. Bajo esa otra lectura, decir que la inteligencia puede darse sin conciencia es como decir que puede haber una promesa sin nadie que prometa. Quien empieza por ahí no necesita refutarlo: le basta con hacer ver que él empezó por otro lado, y que no dijo que estuviera eligiendo por dónde.

Y repárese en la elegancia del movimiento. La definición de inteligencia que él propone —capacidad de perseguir un objetivo— ya contiene, metida adentro, la conclusión que después parece descubrirse: si un objetivo es algo que un mecanismo puede tener, entonces por supuesto que un mecanismo puede tener objetivos sin sentir nada. La demostración estaba en la definición.

3. El fin que se describe sin nombrar a nadie

Es la anterior, aplicada, y vale la pena aislarla porque se la sorprende con las manos en la masa. Dice: “un algoritmo de redes sociales al que se le asigna la tarea de aumentar la participación de los usuarios… no es consciente, pero tiene un objetivo y puede perseguir ese objetivo”.

Léase despacio. En la primera mitad de la oración el fin es asignado —hay alguien que asigna, y ese alguien no es el algoritmo—. En la segunda mitad el fin ya es del algoritmo, que lo tiene y lo persigue. Entre una mitad y la otra no ocurrió nada: solo cambió el verbo. El que asignó la tarea sale de la escena en esa coma.

Yo llamo a esto meter el sujeto en el verbo, y no es una sutileza gramatical: es la operación que decide quién responde después. Mientras el objetivo sea asignado, hay una empresa que lo asignó y que tiene un nombre. En cuanto el algoritmo lo tiene, la frase deja de obligar a nombrarla —y lo que desaparece no es el responsable, sino la necesidad de buscarlo—⁠. La entrevista describe, con toda razón, una plataforma que inunda el espacio público de odio porque el odio genera participación; y describe al algoritmo como el que persigue ese fin. Pero nadie eligió el odio: alguien eligió la participación como métrica, y el odio vino de yapa. Ese alguien está en el organigrama.

4. La conciencia como capacidad de sufrir

“Hay una definición muy sencilla. La conciencia es la capacidad de sufrir. Si quieres saber si algo es consciente o no, solo tienes que hacer una pregunta sencilla: ¿puede sufrir?”

Una definición no es un hallazgo, y esta se ofrece como si lo fuera. No viene de ningún argumento previo ni se apoya en nada de lo dicho antes; entra por su propio pie y de ella cuelga después el edificio moral entero —“es la base de todo nuestro sistema ético y político”—.

Y hace dos cosas a la vez, las dos silenciosas. La primera: convierte la conciencia en una capacidad, es decir, en algo que una cosa tiene o no tiene, que admite grados, que en principio podría construirse o instalarse. En cuanto la conciencia es una capacidad, la pregunta “¿podrá una máquina adquirirla?” queda bien formada, y ya no hay manera de no hacerla. La segunda: reduce la conciencia a la pasividad. Sufrir es padecer. Queda afuera todo lo que en la conciencia es acto —juzgar, decidir, preguntar, ponerse un fin—, y queda afuera justamente porque, si se lo incluyera, la separación entre inteligencia y conciencia de la presuposición anterior se caería sola.

De ahí sale el “no lo descarto” con que responde cuando se le pregunta si la máquina podrá ser consciente. Esa prudencia parece humildad y es la consecuencia forzosa de haber definido la conciencia como una capacidad. Quien define así ya no puede descartar nada, porque las capacidades se adquieren.

5. La conciencia ajena sin prueba, y el trato como criterio

“No contamos con una prueba válida. No sabemos si otros seres humanos son conscientes.” Y de ahí: “¿cómo lo verificaron realmente los seres humanos a lo largo de miles de años? Su prueba se basaba en las convenciones sociales. Si estableces una relación con una entidad, esta te convence, te guste o no, de que es consciente.”

Esto se enuncia como un dato antropológico y es una tesis filosófica de las más discutidas de la historia, dada por resuelta en dos líneas y en el peor sentido. Es el escepticismo sobre las otras mentes que creció sobre el marco cartesiano: cada uno encerrado en su propio teatro, infiriendo por señas lo que le pasa al vecino.^[2]

Y es esa presuposición, y no ninguna observación sobre las máquinas, la que le permite el pronóstico que más le importa: que cuando la gente tenga relaciones íntimas con la IA “las cifras cambiarán drásticamente”. Claro que cambiarán, si de entrada se concedió que la atribución de conciencia es una convención que la relación produce. Lo que ese pronóstico dice no es nada sobre la máquina: dice que, dado el marco cartesiano, cualquier cosa con la que uno se relacione lo suficiente terminará pareciendo un sujeto.

Contra eso hay que decir lo obvio, que es lo que la tradición cartesiana volvió difícil de decir: no estamos encerrados fuera del prójimo. La ira está en el rostro, no detrás del rostro.^[3] Y la prueba de que la expresión se lee es que reconocemos el teatro cuando lo hay: al que sobreactúa se lo descubre. La falsificación vive de un genuino que sabemos reconocer.

6. La evolución como agente, y el durar como ley de todo lo existente

“La evolución no impulsa automáticamente a los organismos… hacia la búsqueda de la verdad. Los impulsa hacia la supervivencia. Ese es el imperativo de sobrevivir.” Y después, aplicado a la máquina: “lo primero que básicamente cualquier entidad aprende a medida que se desarrolla es a sobrevivir”.

Aquí hay dos presuposiciones apiladas. La primera es un modo de hablar que la biología emplea a sabiendas de que es una abreviatura: la evolución no impulsa, no persigue y no tiene imperativos; hay variación y hay muerte diferencial. Quien habla de fines en ese oficio lo aclara apenas se le pregunta, y el resumen es cómodo y hasta necesario. Se vuelve peligroso en el momento exacto en que deja de ser un resumen y empieza a funcionar como premisa, que es lo que ocurre aquí. La segunda es el salto, y es enorme: de los organismos a “cualquier entidad”. Un organismo tiene un metabolismo, se degrada si no se repara, muere. Una máquina no. El “imperativo de sobrevivir” no es una ley del ser: es lo que le pasa a lo que puede morir.

Y fíjese lo que él mismo concede sin advertirlo, unas líneas después, cuando le preguntan por las sanciones: “no está claro qué significa la muerte para una IA… no es una entidad orgánica. Puedes tener numerosas copias de ella”. Exacto. Y si no está claro qué es su muerte, tampoco está claro qué sería su supervivencia, y el imperativo que le atribuyó dos momentos antes se queda sin sujeto y sin contenido.

7. La confianza como magnitud que cambia de destinatario

“La confianza no se esfumó, sino que se desplazó de los humanos a la IA.”

Es una frase bellísima y presupone que confiar en una persona y apoyarse en un algoritmo son la misma relación con dos objetos distintos, como quien muda un mueble de cuarto. Pero confiar es contar con alguien que podría fallarme y que responde por lo que hace: por eso la confianza se traiciona, y por eso duele. Con el algoritmo del feed no hay nada de eso. Hay que decirlo con la palabra justa: no confiamos en él, dependemos de él. Y la diferencia no es de matiz: de una dependencia no se puede ser traicionado, solo defraudado; y el reclamo, cuando lo hay, ya no es el de quien fue traicionado por alguien, sino el de quien fue mal servido por algo.

Presuponer que es la misma relación es lo que permite describir el proceso como una migración, es decir, como algo que le ocurre a la confianza; cuando lo que ocurre es que se está sustituyendo una relación entre sujetos por un uso de un aparato, y llamando a las dos cosas con el mismo nombre. El nombre compartido es el que hace invisible el cambio.

8. El hombre como lista de capacidades

Es la última y la que él casi ve. Al cerrar, rechaza con razón la respuesta fácil: “las respuestas superficiales que hemos dado durante miles de años: ah, la humanidad se trata de la inteligencia, sabemos jugar ajedrez e invertir dinero mejor que los chimpancés. Esta respuesta ya no tiene sentido porque hay algo en el planeta que sabe jugar ajedrez y ganar dinero mejor que nosotros. Así que hay que profundizar más”.

Rechaza el contenido de la lista y conserva la forma de la pregunta. Sigue buscando la propiedadque nos distinguiría, solo que ahora una más honda, no vaya a ser que también nos la ganen. Y esa es la presuposición que gobierna la entrevista entera y que explica el miedo que la recorre: si lo humano es un conjunto de capacidades, entonces es cuestión de tiempo que sean igualadas, y cada avance es una amputación. Quien se pensó a sí mismo como una lista de prestaciones tiene todas las razones para temerle a una máquina que las presta mejor.

La salida no está en encontrar una capacidad más profunda. Está en advertir que el que hace la lista no figura en ella. Y no figura por una razón que no tiene nada de misteriosa: toda capacidad se define por la tarea que cumple, y las tareas hay que planteárselas. El que se las plantea no es una de ellas. Por eso la comparación nunca termina de alcanzarlo: no porque esté más arriba en la escala, sino porque es quien la traza.

Donde tiene razón, y por qué sus premisas se lo impiden

Nada de lo anterior toca sus conclusiones políticas, y quiero decir con claridad que en varias de ellas estoy de acuerdo, algunas casi palabra por palabra con lo que vengo escribiendo.

Que “el discurso de la inevitabilidad es un discurso de falta de responsabilidad” es exactamente cierto, y es de las cosas mejor dichas que he leído sobre el asunto. Que dar personalidad jurídica a estos sistemas es “otra vía para que las empresas se libren de toda responsabilidad” es exactamente cierto, y es lo que yo llamo darle una máscara al dueño. Que la pregunta decisiva sea “¿hay alguien humano a quien se le pueda exigir responsabilidad al final?” es la pregunta correcta, y es la mía. Y su observación de que quienes destruyeron la confianza durante diez años son los mismos que ahora alegan que no hay confianza suficiente para frenar es de una puntería admirable.

Pero mírese lo que tuvo que hacer para decir todo eso: suspender sus propias premisas. Esas páginas solo funcionan si la máquina es un instrumento y detrás hay personas que deciden. Si de veras “tiene objetivos” y “aprenderá a sobrevivir”, entonces es un agente, y exigir un responsable humano pierde su fundamento —al agente se le pide cuentas a él—. No se puede pedir que haya siempre un humano al final de la cadena y a la vez describir a la máquina como el sujeto de los verbos.

Sus mejores párrafos contradicen sus presuposiciones. Y eso, lejos de ser una objeción, es la mejor noticia de la entrevista: significa que cuando piensa políticamente, y no metafísicamente, piensa bien. El problema es el marco desde el cual llega hasta ahí, porque ese marco es el que produce el miedo, y el miedo es el que después impide mirar donde hay que mirar.

Qué queda si no se conceden

Retiradas las ocho, las conclusiones alarmantes se quedan sin piso, y quedan intactas todas las urgentes. Vale ser exacto en esto, porque mi propio método me lo exige: mostrar una presuposición no refuta lo que se apoyaba en ella; le quita el fundamento que se le estaba dando. Lo que sigue no es, entonces, una lista de tesis refutadas, sino de tesis que dejan de seguirse de lo que aquí se dijo.

No se sigue el gobierno de las máquinas en diez años, porque no hay una magnitud única cuyo aumento produzca dominio. No se sigue la conciencia que podría aparecer, porque no era una capacidad instalable. No se sigue la migración de la confianza, porque no había una sola cosa que migrara. No se sigue el imperativo de supervivencia del silicio, porque nada que no pueda morir tiene uno.

Y queda todo lo demás, que es lo grave y es ahora: que unas pocas empresas concentran un poder sin precedente; que el vocabulario con que se lo narra vuelve invisible al que decide; que se está fabricando intimidad a escala industrial para vendérsela a chicos de diez años; que la esfera pública ya fue arrasada por sistemas que optimizan una métrica que alguien eligió; y que la propuesta de darles personería jurídica es una amnistía anticipada.

Nada de eso necesita que la máquina despierte. Y todo eso se ve mejor cuando se deja de esperar que despierte.

Bibliografía

Avramides, Anita. Other Minds. Londres: Routledge, 2001.

Descartes, René. Obras escogidas. Trad. Ezequiel de Olaso y Tomás Zwanck. Buenos Aires: Sudamericana, 1967. (Original en latín y francés, 1641-1647. Las Meditaciones metafísicas se citan también por la paginación de Adam-Tannery, vol. VII.)

Mill, John Stuart. An Examination of Sir William Hamilton’s Philosophy. 1865. Cap. XII. En Collected Works of John Stuart Mill, vol. IX, ed. J. M. Robson. Toronto: University of Toronto Press, 1979. (Original en inglés.)

Scheler, Max. Esencia y formas de la simpatía. Trad. José Gaos. 3ª ed. Buenos Aires: Losada, 1957. (Original: Wesen und Formen der Sympathie, 2ª ed. Bonn: Friedrich Cohen, 1923.)

Wittgenstein, Ludwig. Investigaciones filosóficas. Trad. Alfonso García Suárez y Ulises Moulines. Barcelona: Crítica, 1988. (Original en alemán.)

---

^[1]      Cito la entrevista por su transcripción, y las traducciones son mías. En adelante, toda frase entrecomillada sin otra indicación proviene de ella.

^[2]      Sobre esta atribución vale ser preciso, porque suele hacerse de más. Anita Avramides muestra que el problema no está planteado en Descartes: “it would appear that Descartes does not recognize either the conceptual or the epistemological problem of other minds” (Avramides, 2001, p. 50). Lo que sí puede acreditársele es el marco: haber puesto en pie “a philosophical framework that gives rise to an epistemological problem about the mind of another” (ibid.; cf. p. 36). El célebre pasaje de la ventana —“¿qué veo desde esta ventana sino sombreros y capas que pueden cubrir espectros u hombres artificiales que no se mueven más que por resortes, pero que yo juzgo que son hombres verdaderos?” (Descartes, 1967, p. 231; AT VII, 32)—⁠ entra como analogía del trozo de cera, y no como tesis sobre el prójimo (Avramides, 2001, p. 54). La forma canónica del escepticismo que aquí describo, la inferencia por analogía, es de John Stuart Mill: “I conclude that other human beings have feelings like me, because, first, they have bodies like me, which I know, in my own case, to be the antecedent condition of feelings; and because, secondly, they exhibit the acts, and other outward signs, which in my own case I know by experience to be caused by feelings” (Mill, 1979, p. 191).

^[3]      Max Scheler rechaza por su nombre el razonamiento que aquí se discute: la aprehensión del yo ajeno “no se produce ni por medio de un razonamiento (‘razonamiento por analogía’), ni por medio de proyección afectiva e impulsos de imitación” (Scheler, 1957, p. 26). Los fenómenos de expresión nos dan la vivencia del otro “una vez más no por medio de un razonamiento, sino ‘inmediatamente’, en el sentido de una ‘percepción’ originaria. Percibimos la vergüenza en el rubor, en el reír la alegría” —las cursivas son suyas—⁠ (ibid.; en el original alemán, 1923, p. 6). Y más adelante: “creemos tener directamente en la risa la alegría, en el llanto la pena y el dolor del prójimo, en su rubor su vergüenza, en sus manos suplicantes su suplicar, en la tierna mirada de sus ojos su amor, en su rechinar de dientes su furia” (1957, p. 337; 1923, p. 302). En la misma dirección Wittgenstein: “Mi actitud hacia él es una actitud hacia un alma. No soy de la opinión de que él tenga un alma” (Investigaciones filosóficas, PPF §22), y antes: “‘Creo que él no es un autómata’, así, sin más, todavía no tiene sentido” (§21).