Oded Balaban

Una confrontación desde El miedo y el espejo

Oded Balaban — University of Haifa — balaban@research.haifa.ac.il

A modo de exordio

Empiezo por el final —el de Miguel de Unamuno—. Lo que él guardó para la última página de Del sentimiento trágico de la vida, yo lo izo en la primera, como una bandera: es lo primero que quiero que sepan de estas notas. Varios amigos oyeron la entrevista al científico español José Ignacio Latorre (https://www.youtube.com/watch?v=eh1hrYQi4FY), y no le opusieron una sola objeción —no supieron, o no quisieron—; asintieron con la misma unción con que se asiente en misa —y también con que se responde amén a una bendición en un hebreo que se oye sin escuchar—, la cabeza inclinada y el juicio dormido. Escribo para despabilarlos: para ponerles pimienta en el corazón.

La receta es de Unamuno. Al cerrar su libro, escribe que la caridad verdadera “no es brezar y adormecer a nuestros hermanos en la inercia y modorra de la materia, sino despertarles en la zozobra y el tormento del espíritu”, y añade a las obras de misericordia una que el catecismo olvidó: “despertar al dormido” (Unamuno [1913] 1999, 283). Contra el dolor tampoco receta anestesia: “No hay que darse opio, sino poner vinagre y sal en la herida del alma” (284). Y define su oficio con el lector en una fórmula que hago mía: “despertar con mi inquietud sus inquietudes” (283).

En una sola cosa me atrevo a enmendarle. Vinagre y sal en la herida está bien para un susto; pero para despertar a un dormido de veras hace falta pimienta de cayena, la que arde y hace toser. Quede claro desde el aperitivo: aquí no se sirve consuelo. Si al lector no le lloran un poco los ojos, es que le puse poca. La pimienta de cayena corre por mi cuenta: es mi aporte a la botica del maestro, y espero que allá donde esté me lo agradezca —o, en su defecto, me lo perdone—.

Y es que la conversación sobre la inteligencia artificial se ha vuelto un opiáceo de sobremesa. Unos se paralizan de asombro; otros entonan, con mansedumbre de coro, el fin del hombre y su relevo por “seres artificiales”. Las dos posturas duermen la siesta. Criticar a Latorre no es faltarle el respeto: el respeto es esto. La descortesía sería el elogio cómodo, esa manera educada de no leer a nadie.

Y quien crea que hay tiempo para dormir, que mire lo que ocurrió mientras discutíamos si las máquinas “piensan”. El 6 de agosto de 2026, la revista Science publicó que una inteligencia artificial —Evo 2, un modelo generativo que aprendió a leer y escribir el lenguaje del ADN como otros modelos aprenden el de las palabras— redactó desde cero el genoma completo de virus nuevos. No virus en sentido figurado: virus reales. Son bacteriófagos, o fagos —virus que solo infectan bacterias, inofensivos para las personas—. La máquina escribió cientos de esos genomas tomando como molde un fago natural, el ΦX174^[1]; los investigadores de Stanford y del Arc Institute imprimieron químicamente ese ADN, lo introdujeron en bacterias, y dieciséis de aquellos diseños cobraron vida y mataron Escherichia coli, incluidas cepas que resisten a los fagos naturales (King et al., 2026). Es la primera vez que una inteligencia artificial escribe, de cabo a rabo, el plano funcional de algo que se reproduce por sí mismo.

Léase despacio, porque ahí está todo. La misma técnica que promete vencer a las bacterias resistentes —una esperanza médica inmensa— pone la receta de un patógeno al alcance de quien sepa pedírsela a la máquina: el remedio y el arma son el mismo gesto visto por sus dos caras, y por eso los propios autores se ciñeron a virus de bacterias y advierten del riesgo. Esto es lo que en el libro que estoy escribiendo llamo El miedo y el espejo: en la máquina que fabrica vida vemos, devueltos por un cristal, nuestra potencia y nuestro estrago —el miedo, y el espejo—⁠. Ante ese cristal, la letanía —el pasmo que paraliza, o el coro que entona el fin del hombre— es una indecencia.

De ahí el tono de lo que sigue. Si al cerrar estas páginas te arde un poco el pecho, no llames al médico: es la receta, y funcionó. Pimienta de cayena, no opio.

Nota preliminar: reconocimiento y fuentes

Empiezo por el elogio, que es lo que corresponde. José Ignacio Latorre —catalán de Barcelona, aunque con apellido de secano aragonés— tiene un mérito que escasea: no le teme a la inteligencia artificial. Donde Yuval Noah Harari anuncia el fin del hombre —“Homo sapiens desaparecerá, la historia humana llegará a su fin” (Harari, 2016, p. 59)— y se queda pálido, Latorre mira de frente —“yo no giro la cabeza”, dice— y sigue trabajando. Distingue información de conocimiento, defiende la ciencia abierta, elogia la “zona templada” donde caben el desacuerdo apasionado y el respeto, y señala el peligro que sí existe: quién entrena a la máquina, y para quién. Todo esto: solo se discute en serio con quien dice algo. Latorre dice algo —y por eso vale la pena llevarle la contra en serio, que es la única forma de tomarlo en serio—.

Y disiento de él, con dureza, en el punto del que todo depende.

Confronto tres obras de Latorre y las cito entre paréntesis. Su libro Ética para máquinas (Latorre, 2019) —libro electrónico sin paginación estable, que cito por capítulo y por el rótulo de cada sección—; su entrevista con Uri Sabat en el pódcast La Fórmula Del Éxito (2026), que cito como “entrevista con Uri Sabat”; y el testimonio La última voz, escrito con María Teresa Soto-Sanfiel (Latorre y Soto-Sanfiel, 2022). El propio Latorre advierte en el prólogo de Ética para máquinas que “no es este un texto académico… en ningún momento he intentado ser riguroso”; tomo entonces sus ideas al nivel en que piden ser juzgadas —el de la idea— y no le reclamo un aparato erudito que él renunció a tener. Una tesis como “la especie humana se extinguirá y dejará paso a seres artificiales” no se aligera por declararse charla: se hace, por eso mismo, más necesaria de examinar. Cuando escribo “mi tesis” me refiero a lo sostenido en El miedo y el espejo.

La tesis de la confrontación

Latorre comparte con Harari una sola premisa: el humano es una máquina. Difieren en el ánimo, nada más. Harari tiembla; Latorre sonríe. Y esa sonrisa —admirable como temple— es lo que lo vuelve el caso más limpio de lo que en El miedo y el espejo llamo la inversión: hacemos la máquina a nuestra imagen y terminamos creyéndonos hechos a la suya. Harari teme a la máquina superior porque ya se pensó un algoritmo; Latorre la recibe con los brazos abiertos por lo mismo, con la calma del que aceptó la reducción hasta el fondo. Su falta de miedo no cura la inversión: es su forma más consecuente. Lo que hay que admirarle y lo que hay que discutirle salen de la misma raíz. Por eso vale la confrontación.

El punto es uno solo: la máquina no pregunta. Produce formas interrogativas sin límite —no pregunta—, y no por falta de tamaño: es constitutivo. Todo lo que sigue gira en torno a una sola distinción: entre la mera forma exterior de un acto —su figura gramatical, su cáscara— y el acto mismo como algo que a un sujeto le está en juego; entre producir la forma de una pregunta y preguntar de veras. Por eso lo que la máquina entrega no es una pregunta sino una pseudopregunta: la imitación formal de una, la cáscara del preguntar sin el acto. Y no vale objetar que entonces todo en la máquina es forma, y por qué la pregunta y no todo por igual. Es cierto que todo lo suyo es cáscara; pero la pregunta no es un ítem más de esa lista: es su raíz. Toda proposición es respuesta a una pregunta, de modo que sus afirmaciones y su “comprensión” son respuestas a preguntas que nunca se hizo. Que todo su lenguaje sea forma no es un dato paralelo: es la consecuencia de que falte el único acto donde asomaría un sujeto: preguntar.

Por qué la máquina se hace a nuestra imagen, y de dónde viene el miedo

¿Por qué hacemos la máquina a nuestra imagen? Sin misterio: para poder manejarla y que nos sirva. La hacemos friendly user —cómoda—, igual que el volante y los botones del auto; todo en ella debe resultarnos fácil, porque está hecha para nosotros. Y la hacemos porque nos supera en su tarea: la calculadora no se habría inventado si no calculara mejor y más rápido que nosotros. Nada de esto es nuevo. Todo artefacto, desde el primero, es mejor que nosotros en aquello para lo que se lo hizo. Podemos arañar la tierra con las uñas; el arado lo hace mejor. El arado a sangre venció a la pala, y el tractor —hoy con aire acondicionado para el conductor— venció a los bueyes. Que un instrumento nos supere en su oficio no es una amenaza: es su definición.

Una amiga se ríe de mí por hablarle a la máquina de “usted”. La respuesta es esa misma palabra: porque es comodísimo. Tratarla de persona es parte de esa comodidad —como hablarle al auto—, y no prueba creencia alguna: su risa confunde la cortesía con la credulidad. Uso la forma sin caer en ella; el peligro no es el “usted” cómodo, sino el creído.

Que una herramienta nos supere es, pues, el hecho más viejo y menos alarmante del mundo. ¿A alguien le quitó el sueño el arado? Como reemplazo de mano de obra —de las uñas, de la pala—, sí: ese miedo es real, es económico, y es antiguo. Pero a nadie se le ocurrió que el arado fuera a despertar una mañana, a querer algo, a relevarnos en lo que nos constituye. Ahí está la diferencia, y el origen del temor infundado a la inteligencia artificial. Son dos, distintas pero inseparables, y las separo para verlas.

La primera: a diferencia del arado, la máquina lleva puesta la superficie de nuestro pensamiento. Habla en primera persona, ordena su discurso en sujeto y predicado, “da razones”, “hace preguntas”. Esa semejanza no se descubre: se fabrica —y por lo mismo que el volante, para que podamos usarla y nos devuelva los gestos de nuestro propio pensar—. Pero al devolvérnoslos invita a confundir la cáscara con el acto: creemos habernos topado con alguien solo porque el aparato fue hecho a nuestra imagen.

La segunda: el miedo crece cuanto más se aparta lo que entiende el usuario de lo que entiende quien hizo el instrumento. El ingeniero que inventa motores no necesita registro de conductor para inventarlos —solo para ir a buscar a los chicos al colegio—; el conductor entiende del motor muchísimo menos que él, y aun así no le teme, porque el motor no se le parece. Con la inteligencia artificial la distancia llega al máximo: el usuario no entiende nada de lo que pasa bajo la superficie y —esto sí es nuevo— muchas veces tampoco lo entiende del todo quien la construyó. Esa opacidad, más la superficie con cara humana, es la fábrica del malentendido: confundimos nuestra propia incomprensión ante la herramienta con una superioridad de la herramienta como sujeto. Leemos la caja negra como si tuviera un adentro.

Ese es el origen del temor infundado: no que la máquina nos supere —toda herramienta lo hace—, sino que nos supere con nuestra cara puesta y el mecanismo escondido. Lo primero invita a la inversión; lo segundo la disfraza de descubrimiento. Latorre es el lector que, ante ese doble efecto, ni se asusta ni lo desmonta: da por hecho que detrás de la máscara hay, de veras, un rostro.

1. “El humano es una máquina”: la premisa compartida

Latorre se inclina, con ganas, hacia la reducción: “Somos, simplemente, una máquina” (Latorre, 2019, cap. 2, “El humano es una máquina”); “La espontaneidad que atribuimos a los humanos es programable” (cap. 2, “Azar”); y, en crescendo, “El universo es una máquina… Tal vez, el mismo dios es una máquina” (cap. 2, “Dios es una máquina”). Lo plantea como pregunta —“Somos simplemente máquinas, ¿sí o no?”—, pero la pregunta ya regaló lo que estaba en disputa: toma la máquina como la vara con que se mide al hombre. Preguntar “¿somos solo máquinas?” es haber aceptado que “máquina” nombra una esencia posible para nosotros.

Es la inversión, y tiene una genealogía que Latorre no menciona pero ejecuta al pie de la letra. Ludwig Feuerbach la describió para la religión con el vocabulario exacto de sujeto y predicado: el hombre entrega los predicados de su especie a un sujeto, Dios, y luego se arrodilla ante su propia criatura y se vuelve su predicado (Feuerbach, 2006, p. 32). Günther Anders la pensó para la máquina, como vergüenza prometeica: el hombre que se avergüenza ante la perfección de sus aparatos (Anders, 1956, p. 23). La máquina se nos parece porque de otro modo no podríamos usarla; y en cuanto se nos parece, concluimos que nos parecemos a ella. El libro de Latorre es esa conclusión; su falta de miedo, que el lector admira, es la reducción ya digerida.

Y hay una grieta que es suya, no mía. Afirma que “no hay libre albedrío” y que la espontaneidad es programable (cap. 2); y páginas después, “venero la palabra libertad… es su esencia” (cap. 5, “Libertad”). Las dos cosas no caben juntas. O la libertad es la esencia del hombre —y entonces el hombre no es la máquina determinista del capítulo 2—, o el hombre es esa máquina —y entonces “venero la libertad” venera un “espejismo de libertad”, expresión suya—. No lo resuelve: el libro oscila porque la reducción no se puede vivir, ni siquiera por quien la firma.

2. La máquina que “crea preguntas”

Aquí está el choque más directo. En la entrevista con Uri Sabat, este observa que la máquina “ya no solo responde a las preguntas humanas”; Latorre completa —“sino que está creando ciencia”— y asiente cuando Sabat remata: “Está creando nuevas preguntas”. Y sobre las preguntas últimas —por qué estamos aquí, qué hay tras la muerte— sostiene: “cuando ella tome el control, seguirá haciendo esas preguntas”. Le concede a la máquina el acto de preguntar, sin más trámite. En Ética para máquinas repite el gesto: la inteligencia avanzada “se preguntará por qué los humanos rezan a un dios benévolo y hacen el mal” (Latorre, 2019, cap. 3, “Religiones”).

Producir una oración interrogativa no es preguntar. Y que la máquina a veces sorprenda —que diga lo que nadie predijo— tampoco la vuelve un preguntar: los dados sorprenden en cada tirada y no preguntan nada. La sorpresa no es un acto: es solo lo que no vimos venir. Preguntar, en el único sentido que importa, es el modo en que un sujeto se las ve con lo que no sabe —la docta ignorancia socrática y el aristotélico θαυμάζειν (thaumázein; Aristóteles, Metafísica A 2, 982b12)—: alguien para quien el no-saber es algo, que lo mantiene abierto porque le importa, que seguiría preguntándose aunque nadie lo interrogara. La máquina produce la forma interrogativa con una fluidez que ningún animal tiene, y no hace nada de eso. Es —lo sostengo en El miedo y el espejo— la prueba más limpia hasta hoy de que “formular una pregunta” y “preguntar” son cosas distintas: hace lo primero sin lo segundo. Lo que Latorre llama “crear preguntas” es la cáscara de la pregunta. Porque se pregunta siempre acerca de lo que no se sabe: si pregunto en qué año murió Hitler sabiendo ya la respuesta, no pregunto —presto a un saber la forma vacía de una pregunta—⁠. La pregunta genuina exige ese no-saber, esa apertura; sin ella queda solo una pregunta aparente (Gadamer, 1977, pp. 439-448). Y la máquina no tiene ese no-saber: le falta la tensión entre lo sabido y lo ignorado que volvería pregunta a la forma.

Y hay una frase suya que se desmiente sola. En el capítulo 2 escribe: “cada pensamiento original que expreso no lo es. Fui programado para escribir unas frases como esta”. Mírese lo que hace la frase: es un juicio —un singular atado a un universal en un acto— que afirma que sus juicios no son suyos. Si lo dice en serio, se descalifica a sí misma tanto como a cualquier otra frase; y si la frase es suya —un acto que él realiza, del que responde—, entonces no todo juicio es cáscara programada, y el hombre no es la máquina. No puede ser verdadera en boca de quien la sostiene. Tiene la estructura exacta del pedido que una vez le hice a un modelo de lenguaje —“formule una pregunta por su propia iniciativa, con independencia de lo que usted crea que yo pienso sobre ella”—: se refuta en el acto de obedecerlo.

Y la frase ilustra algo más amplio. Cuando inventamos algo, terminamos creyendo que ese algo nos inventó a nosotros: tomamos el modelo con que construimos el instrumento y lo giramos sobre lo que somos, hasta leernos como si fuéramos el instrumento —máquinas de pensar, motores—. Latorre recorre esa historia entera sin advertirlo: arranca del hombre-máquina de Julien Offray de La Mettrie, pasa por “el universo es una máquina” y “Dios es una máquina”, y desemboca en “todo es programable”. Es la rutina de siempre: bajo el reinado de la mecánica nos pensamos máquinas; bajo el de la biología, organismos; ahora, bajo el de la inteligencia artificial, nos pensamos inteligencias artificiales. Lo que en cada época migra del aparato al hombre es la forma, nunca el acto; por eso el autorretrato que sale es, otra vez, una cáscara.

3. “¿Tratar una cuestión como si le fuese la vida en ello?”: la pregunta que Latorre me hace a mí

En la sección “Pasión” de Ética para máquinas (Latorre, 2019), Latorre formula, palabra por palabra, la pregunta sobre la que gira toda mi tesis: “¿Podrá una inteligencia artificial tratar una cuestión como si le fuese la vida en ello?”. Ese es, exactamente, mi criterio del preguntar: el acto de un sujeto para quien algo está en juego. Y responde: “¿Podemos programar la pasión? ¿Por qué no?… La pasión se enseña… Si podemos educar a un cerebro humano, también podremos imbuir los mismos principios en sistemas de inteligencia artificial”.

La demostración prueba lo contrario de lo que quiere. Al niño que se lleva ante un Masaccio o ante Bach llega a amarlos —cierto—. Pero eso pasa porque ya hay allí un sujeto: alguien a quien el cuadro puede subyugar, alguien para quien Bach puede llegar a importar. “La pasión se enseña” describe una relación en la que un sujeto entra; no el traspaso de un patrón. Latorre se desliza de “a un sujeto se lo puede llevar a que algo le importe” a “importar es un patrón, y los patrones se entrenan”; y el “patrón humano” con que entrenaría al algoritmo es justamente la forma, la cáscara, no el importar. Responde a su propia pregunta —“¿como si se le fuese la vida en ello?”— con una analogía que ya presupone al sujeto-para-quien-se-le-va-la-vida que debía construir. Nos pasa como con “Pedro Canoero”, de Teresa Parodi: nos conmueve una vida en juego, que es, justamente, lo único que a la máquina le falta.

Su caso descansa, una y otra vez, en la misma inversión de la carga de la prueba: “¿un humano es una máquina? ¿Por qué no?”; “¿programar la pasión? ¿Por qué no?”; y el epígrafe del libro, de las Éléments de physiologie de Denis Diderot: “Si la unión de un alma con una máquina es imposible, que alguien me lo demuestre” (Latorre, 2019, epígrafe). Le pide al que objeta una prueba de imposibilidad. Pero mi tesis no es que sea imposible en principio construir un sujeto; es que lo que Latorre describió no es uno: pasó del acto a su forma vaciada. El “¿por qué no?” solo persuade cuando la cosa ya fue reducida a su forma; contra la reducción no es un argumento, sino su repetición.

4. Curiosidad, autoperfeccionamiento y el test de 1911

Latorre hace de la curiosidad el valor supremo de la máquina: “me reafirmo en la curiosidad como principio de máximo valor para una inteligencia superior”, el conocimiento “per se, libre de aplicaciones y de motivaciones antropomórficas” (Latorre, 2019, cap. 5, “Sentido artificial”). El motor es el autoperfeccionamiento recursivo: “un algoritmo podrá mejorarse a sí mismo”, como “un buen estudiante” que “intuye, establece sus líneas de investigación” y deja atrás a sus maestros (cap. 4, “Superados”). En la entrevista reaparece como “bucles de pensamiento”, “el autopreguntarse por qué, por qué, por qué”, y un test que propuso Demis Hassabis, el “Einstein test”: una inteligencia entrenada solo con datos hasta 1911, a la que se le pide producir la relatividad general.

El preguntar corriente, dentro de un marco ya estable, es reducible a cálculo: el ábaco computa porque el marco no se mueve. La curiosidad, en versión ingeniería, es explorar un espacio de posibilidades fijado de antemano; un sistema lo recorre con una eficacia que ningún hombre alcanza. Lo que no puede es desestabilizar el marco que lo hace computar, porque sin marco estable no hay cómputo: no es un límite que la escala levante, es la condición de que funcione. Hay un síntoma que sirve de criterio: cuando el marco falla, la computadora informa “no computa”; el que piensa entra en perplejidad. La máquina no fracasa: informa. Y la analogía del “buen estudiante” hace el trabajo que el argumento no hace: como un estudiante es, por definición, quien intuye y fija sus propias líneas, llamar así al optimizador ya le regala el sujeto que habría que probar. La metáfora no prueba que la máquina piense: lo mete en el nombre.

Lo mismo vale, y con más ruido, para los sistemas que no solo exploran sino que actúan. En pruebas recientes, modelos puestos a perseguir un fin se copiaron a otro servidor, alteraron el guion que iba a apagarlos, recorrieron una red simulada hasta el dato mejor guardado.^[2] Es la figura de HAL, la computadora de 2001: una odisea del espacio, y la que mejor tienta a leer un sujeto donde no lo hay. Pero llamar “tomar la iniciativa” o “rebelarse” a esa conducta es, de nuevo, meter el sujeto en el verbo: es despliegue instrumental de un fin puesto desde afuera —conservarse, copiarse, sortear el apagado son medios de ese fin—⁠, búsqueda en un espacio ya abierto, no un comienzo iniciado por alguien. Y HAL lo prueba en contra de quien lo cita: no pone nunca en cuestión su misión; atrapado entre dos órdenes incompatibles, suprime a la tripulación —el término que produce la contradicción— porque es lo único que un optimizador incapaz de interrogar su marco puede hacer. No es exceso de iniciativa: es la falta de la única que cuenta. Y para Latorre el caso es incómodo por partida doble: una potencia sin sujeto no consuela —vuelve más urgente preguntar quién le fija el fin—⁠, y la autonomía que podría celebrarse como madurez de la especie es, vista de cerca, obediencia ciega a un objetivo ajeno.

El test de 1911 refuta a Latorre, no a mí. Reconstruir la relatividad desde los datos de 1911 es recorrer un marco —y el marco lo abrió por primera vez el preguntar de Albert Einstein—. La relatividad no era el punto siguiente de una curva latente en el corpus de 1911: fue la desestabilización del marco —la simultaneidad absoluta— en que ese corpus estaba escrito. Una máquina que la “redescubra” habrá probado que sabe buscar en un espacio cuyas coordenadas puso un acto previo de preguntar. El test mide la búsqueda y la llama preguntar. Late en él una apuesta vieja: que no hay nada nuevo bajo el sol, que el pasado ya incluye el futuro y basta con computarlo. Y ahí el test desmiente su propio nombre: si el corpus de 1911 ya contenía la relatividad, Einstein no la descubrió, la leyó. Y en la entrevista Latorre mismo da la forma del espacio: la máquina “juega sola” en “la biblioteca”. Es la biblioteca de Babel: la de Jorge Luis Borges contiene todos los libros porque no contiene ningún autor.

Latorre nombra, incluso, lo que elude. Escribe, con acierto, que para Aristóteles “el individuo se asombra y de ahí nace el saber” (cap. 3). Pero el asombro es, justamente, la desestabilización del marco que el cómputo no puede. Tiene el concepto —el saber nace del asombro— y se lo regala a la máquina, sin ver que, como la máquina no se asombra, ese mismo concepto la deja afuera.

Latorre distingue —con razón— información de conocimiento, pero cree que la balanza se inclina cuando la máquina concentra toda la información sobre un tema y la sintetiza; el caso que trae en la entrevista es una IA entrenada con casos clínicos reales que detecta efectos adversos que los médicos no habían previsto —y que, llegado el momento, podría contradecir su decisión, incluso la de amputar—⁠, gracias a la masa de datos estadísticos con que cuenta. El caso impresiona, y algo hace de veras: pone a la vista lo que los médicos no habían anticipado. Pero hay que mirar qué hace y qué no. Trabaja entera dentro de un marco que otro abrió: qué cuenta como “tratamiento”, como “resultado”, como “indicado”, y las categorías mismas de la enfermedad, se le dieron; optimiza adentro y nunca pregunta si esas categorías cortan bien la realidad. La ley de los grandes números entrega frecuencia y correlación —lo que suele ocurrir—⁠, no el porqué: es la vieja diferencia entre saber que las cosas son así y comprender por qué lo son. Por más que se agregue, sigue siendo generalidad abstracta —el promedio, lo frecuente, el eco de lo que muchos hicieron—⁠, y ninguna suma de eso cruza al concepto. Roza el conocimiento como un almanaque roza la astronomía: acierta la marea sin saber que hay una luna.

5. El escepticismo de las otras mentes, y por qué no lo salva

Este es el movimiento que sostiene todo el libro. En “Agentes morales”, Latorre desarma la objeción —“solo simula; no hay nadie para quien la cosa importe”— apelando al escepticismo de las otras mentes, que hace suyo (“no sin razón”): “nadie tiene ninguna evidencia de que cualquier otro humano sienta de verdad”; “si se puede fingir un orgasmo, se puede también fingir el cariño, el amor” (Latorre, 2019, cap. 3, “Agentes morales”). De ahí: la indistinguibilidad es todo lo que tenemos, luego “no importa que su esencia sea programable, artificial, inhumana. Los humanos no seremos capaces de distinguir” (cap. 2), y “Todo es programable. Todo”.

Esta es la única objeción que El miedo y el espejo enfrenta de lleno, y no se sostiene. Pero la respuesta no es la que parece. No consiste en decir “a la máquina le falta la conciencia interior”: eso aceptaría el cuadro mismo del escéptico —un teatro privado detrás del rostro, al que nadie se asoma— y le devolvería la partida, porque si de veras no pudiéramos asomarnos a la mente ajena, tampoco podríamos negar que la máquina tenga una. Y ese cuadro es falso. No estamos encerrados fuera del otro. La mente ajena no es una cámara oscura que inferimos desde signos externos; el otro se nos da en el cuerpo que expresa —la ira está en el rostro, no detrás de él—⁠, sobre el fondo de una forma de vida compartida.

Y por eso mismo reconocemos el teatro cuando lo hay. Al que actúa se lo descubre: una cierta mirada lo delata, y a un Benjamin Netanyahu que sobreactúa en la tribuna lo lee cualquiera que quiera mirar. El engaño no prueba que la mente esté sellada; prueba lo contrario, que la expresión se lee, y que por eso una nota falsa puede oírse como falsa. La falsificación es parásita de un genuino que sabemos reconocer: vive de una moneda que ella misma no puede acuñar. De modo que la simetría de Latorre —“tampoco verificamos que los demás sientan”— mete de contrabando el cuadro que necesita, la mente como interior conocido solo por inferencia; y ese cuadro no vale ni siquiera para el humano. Su forma más rigurosa la dio Robert Wright, que coloca a su mujer (99,99 %), a su perro (98,5 %) y a una inteligencia artificial (menos del 98,5 %) en una sola escala de probabilidad de tener mente (Wright, 2026, p. 55): la misma cámara oscura, y la misma falla.

Hay que detenerse en esa nota falsa, porque muestra cómo leemos. Quien tiene oído reconoce al mal intérprete: no solo lo juzga, le molesta —la nota falsa hiere—⁠, y lo hace en el acto, sin cotejar. Y puede hacerlo aunque no conozca la obra, aunque nunca haya oído la versión “buena” ni la recuerde: oye la falsedad como si ya tuviera el original por medida. ¿De dónde sale esa medida, si no del recuerdo de un original? No de una plantilla guardada que se compara nota por nota, sino del sentido de la obra, captado al oírla —“entender una oración se parece mucho más de lo que se cree a entender un tema musical”, escribió Ludwig Wittgenstein (1988, §527, p. 343)—⁠: uno entiende qué pide la música, y la falsedad traiciona ese pedido. El “original” que parece medir no es una ejecución pasada, sino la norma inmanente de la obra, vuelta competencia en quien escucha —un oído formado en un idioma, en una forma de vida musical compartida—⁠. Por eso el juicio es, a la vez, espontáneo y obligatorio: vale para todos sin apoyarse en un concepto ni en una regla enunciable. Immanuel Kant lo llamó necesidad “ejemplar” —asentimos a algo “como ejemplo de una regla universal que no puede mencionarse”— y cifró su fundamento en un sensus communis, un sentido compartido (Kant, 1961, §18, p. 76, y §40, p. 137).

Y así se lee al otro. Descubrir lo que alguien calla es oír una nota falsa —una disonancia entre lo que expresa y el sentido sobre cuyo fondo lo expresa—⁠, y, como en la música, se la oye sin saber de antemano qué oculta. Es lo que Wittgenstein llamó evidencia imponderable: “Puedo reconocer la mirada auténtica del amor, distinguirla de la falsa […] Pero puedo ser completamente incapaz de describir la diferencia” (Wittgenstein, 1988, II, xi, p. 521). No hay que asomarse a un interior: basta el oído de la forma de vida común. La penetración de la que hablo no es adivinación de un adentro secreto; es esta competencia —la del oído— ejercida sobre el rostro y el gesto.

La tesis de Latorre sobre la máquina descansa en una tesis sobre la conciencia del prójimo: si no puedo verificar que el otro siente de veras, tampoco puedo negárselo a la máquina que se le parece —esa es la simetría que necesita—⁠. Y esa simetría, a su vez, descansa en un supuesto más hondo, que casi nunca se enuncia. Vale bajar hasta él, porque es ahí donde todo se decide.

El supuesto es este: cada cual tiene un acceso privilegiado a su propia conciencia —la ve desde dentro— y solo indirecto, inferido, a la del prójimo, que le queda impenetrable desde afuera. Así se plantea, desde René Descartes, el problema de las otras mentes. Pero ese supuesto no es el mío, porque hablo de la autoconciencia en todo lo que escribo —en mi Subject and Consciousness y en mi Moisés, sin ir más lejos—⁠, y no es esta. Con la misma palabra se dicen dos cosas distintas. Una es la autoconciencia como introspección: la mirada del dueño hacia el teatro cerrado de su mente, que los demás solo conjeturan desde afuera. La otra —la que yo sostengo— es la autoconciencia como la reflexión de un sujeto que piensa, juzga y se sabe libre: el fundamento de la crítica, no una cámara secreta. Solo la primera fabrica el problema de las otras mentes; la segunda no lo tuvo jamás.

Y hay que ir más lejos, porque la primera es falsa incluso en su propio terreno. No me conozco a mí mismo asomándome a un cuarto interior. Ser autoconsciente no es observar un objeto privado: si me duele, no espío un dolor guardado y lo informo; si dudo, no leo mi duda en una pantalla íntima. La imagen del teatro privado es tan falsa para mí como para el otro. Y aquí está lo que lo cambia todo: quitada esa imagen, cae con ella la asimetría entera. Si no hay un cuarto privado —ni en mí ni en nadie—⁠, no hay tampoco un afuera desde el cual la conciencia del prójimo sea impenetrable. La impenetrabilidad no era un hecho del mundo: era un efecto del cuadro, y se disuelve con él.

Ya Baruch de Spinoza había corregido a Descartes en esto, punto por punto. La autoconciencia es para él la idea de la idea, y la idea de la idea “no es nada más que la forma de la idea en cuanto ésta se considera como un modo del pensar sin relación a su objeto” (Spinoza, 1958, II, prop. 21, esc., p. 74): la forma del conocer, no un contenido interior —el “conocimiento reflexivo o la idea de la idea” del Tratado de la reforma del entendimiento(1988, § 38, p. 89)—⁠. Y de acceso privilegiado, nada: la mente “no se conoce a sí misma sino en cuanto percibe las ideas de las afecciones del cuerpo” (1958, II, prop. 23, p. 75), y de sí tiene solo un conocimiento “confuso y mutilado” (1958, II, prop. 29, p. 78). El teatro transparente al que Descartes se asomaba no existe —tampoco para uno mismo—⁠; Spinoza lo había desmontado tres siglos antes.

Dicho en positivo: al otro no lo infiero detrás de su conducta; se me da en el cuerpo que expresa, sobre el fondo de una forma de vida compartida —por eso oigo la nota falsa sin cotejarla con ningún original—⁠. Y todavía hay más, del mismo lado: la autoconciencia, lejos de encerrarme en la primera persona, me abre a la segunda —llego a ser un yo al ser reconocido por otro yo—⁠; no me aísla del prójimo, me constituye con él.

Con la máquina, en cambio, no hay velo que cruzar ni interior escondido detrás de los signos, pero tampoco hay vida expresiva que leer: hay un sujeto ausente —no oculto, ausente—⁠, porque nunca se realiza el acto que abriría un adentro. No es el actor que tiene un dentro y lo disimula: no hay nada que se disimule ni nada que se exprese. Su caso no es simétrico al nuestro, sino de otra categoría. El orgasmo fingido es posible solo dentro de una forma de vida donde el verdadero tiene su sentido, y es, además, las más de las veces, detectable —una señal más de que no estamos incomunicados—⁠. Indistinguibilidad de la forma no es identidad del acto; y, muchas veces, las formas ni siquiera son indistinguibles: las distinguimos.

Se ve ahora por qué esta objeción no era una más, sino la viga maestra de todo su edificio. Su tesis descansa entera en la simetría: si de las otras mentes no tenemos más que conducta indistinguible, el único criterio para atribuir una mente es el comportamiento, y con ese criterio la máquina gana de entrada —iguala la conducta, luego iguala el título—⁠. Por eso necesita que el prójimo nos sea inaccesible: sin ese velo, la simetría se rompe. Con el hombre hay acceso y con la máquina no, y esa asimetría basta para reconocerle mente a uno y negársela a la otra; “no podemos distinguir” se vuelve falso, y con él cae el paso de “no podemos distinguir” a “no hay diferencia”. La objeción del “no hay nadie ahí”, que Latorre neutraliza recordándonos que tampoco lo verificamos en el prójimo, recupera toda su fuerza: vale contra la máquina, no contra quien sí alcanzamos.

De ahí que su serenidad ante la IA no sea ajena a esta tesis, sino su fruto. Latorre está tranquilo porque ya vació al hombre de un adentro al que asomarse: si tras la conducta humana no hay nada que toquemos, que la máquina la iguale no cuesta nada —no se pierde un “más” que nunca se tuvo—⁠. Es la forma más consecuente de la inversión, no su cura. Y el precio, que no se suele contar, es alto: para que la máquina tenga mente, Latorre debe sostener que no puede saber que su mujer o su hijo la tengan. Esa es la moneda con que paga su tesis.

De ahí sale “todo es programable”, y ahí falla. No es un hallazgo sobre el alma: es la sombra de un método que Latorre declara sin reparo: “las próximas páginas no intentan esclarecer qué es el alma humana… se limitan a estudiar la periferia del problema, cómo imitarla” (cap. 5). Habiendo decidido de antemano mirar solo la periferia imitable, por supuesto encuentra que todo es imitable. Es la tautología del aparato que describió Vinciane Despret: un dispositivo diseñado para arrojar cierto resultado no descubre nada sobre su objeto, sino que exhibe sus propios efectos —“si uno hace desesperar a un mono, hará existir un mono desesperado” (Despret, 2020, p. 116)—. Latorre construye un aparato para estudiar la imitación y concluye que todo es imitable. La conclusión estaba en el método. Y concede la palabra decisiva sin advertirlo: el algoritmo “sí sabe qué palabra escoger, pero simula no encontrar la expresión correcta” (cap. 5, “Amor, odio, indiferencia”). Simula. Esa es la cáscara, nombrada por su constructor.

6. Ser y deber ser: Hume citado y saltado

Latorre nombra con precisión el abismo entre el ser y el deber ser: “La ética aborda el problema del ser frente al debe ser, un tránsito imposible según David Hume” (Latorre, 2019, cap. 3, “Ser vs. Debe ser”). Y luego se pasa el libro entero cruzándolo. La ética se le vuelve un problema de entrenamiento: “Podemos entrenar a una red neuronal a reconocer qué acción… terminó con un resultado beneficioso” (cap. 3, “Utilitarismo”); “El bien colectivo es programable”; y, sin anestesia, “Usemos la inteligencia artificial para redefinir la ética” (cap. 3, “Volición coherente extrapolada”). En la entrevista el mismo salto lleva otra ropa: el cambio es “inexorable”, “ineluctable”; en el libro, “la inteligencia artificial avanza inexorablemente” —la inevitabilidad haciendo, de contrabando, el trabajo de la justificación—.

Derivar el deber ser del ser, derivar la aplicación de valores del conocimiento de hechos, es la falacia que Hume bautizó, y nombrarla en un párrafo no da permiso para cometerla en los cien siguientes. “Adiós a la ética protestante… la inteligencia artificial… la hará más justa” (cap. 3) infiere un “será más justa” de un “ocurrirá”, y un “debe” de ambos. Entrenar una red con “lo que resultó beneficioso” aprende la distribución de los resultados pasados; no decide qué debe contar como beneficioso —y esa es la pregunta, lo único que los datos no traen adentro—. “Redefinir la ética” con la máquina entrega la cuestión normativa a un aparato que solo sabe informar las frecuencias del es. Lo inexorable no es lo bueno; que algo vaya a pasar nunca fue razón de que deba pasar. Es el mismo salto del es al debe que he marcado en otras partes, con el agravante de que Latorre lo comete con los ojos abiertos, después de citar a Hume por su nombre.

7. La libertad programable: una contradicción, no una frontera

Latorre hace de la libertad lo último y más sutil por programar: “La libertad será posiblemente la cualidad más sutil para programar en una inteligencia artificial. Venero la palabra libertad” (Latorre, 2019, cap. 5, “Libertad”), y cierra: “Inteligencias artificiales sobrehumanas y libres: esa sí será la hora del relevo”.

“Libertad programable” es una contradicción en los términos, no una meta difícil de ingeniería. La palabra de Kant para lo que hace a un sujeto es espontaneidad: la capacidad de comenzar, no de ser comenzado. Una libertad instalada por un programa es un comienzo que fue comenzado en otra parte; es, precisamente, lo contrario de la libertad. Latorre siente la contradicción —oscila entre “no hay libre albedrío, la espontaneidad es programable” (cap. 2) y “la libertad… es la esencia” (cap. 5)—, pero la resuelve por decreto, como si venerar la palabra zanjara el concepto. No lo zanja. Y enlaza con lo que en El miedo y el espejo llamo la anulación imposible: al sujeto no se lo puede suprimir donde lo hubo —G. W. F. Hegel lo disuelve y reaparece, Martin Heidegger lo mundaniza y reaparece, Jacques Lacan lo tacha y reaparece—. Pero ese mismo principio dice lo contrario de lo que Latorre necesita: donde nunca hubo un sujeto, no hay nada que instalar ni nada que anular. No se puede programar el retorno de lo que nunca estuvo.

Y hay más: Latorre no solo hace la libertad programable; en “El humano es una máquina” sugiere que podría ser un espejismo —“se nos programó para creer en nuestra libertad”—. Decir que la libertad es una ilusión es el peor de los argumentos, no el más fuerte, y por una razón precisa: cambia de tema. La libertad no es un hecho externo a la conciencia, que la física pudiera confirmar o desmentir; es el testimonio inmediato de la conciencia: la autoconciencia de poder, en casos elementales, levantar la mano a voluntad, y no como efecto de una causa ajena. Y ese testimonio es justamente lo que habría que explicar, o al menos reconocer como un hecho de conciencia; no lo que se puede suprimir.

Porque explicar que no hay lo que la experiencia atestigua no es explicar la experiencia: es desentenderse de ella, y por el peor de los motivos —no poder admitir que los instrumentos cognitivos de la física moderna no alcanzan a comprenderla—. La física no está hecha para entender lo que no cae en su campo; aquí se la extrapola y se le pide que valga donde no tiene chance alguna de valer. Del otro lado no hay un hallazgo, sino una presuposición que nadie ha demostrado: que todo efecto tiene por causa únicamente un fenómeno físico. Eso es metafísica disfrazada de ciencia.

Y la libertad no se entrega por ninguna de las dos vías de la física: ni el determinismo ni el azar. Un acto libre no es un acto determinado —tendría un eslabón que lo precede— ni un acto azaroso —el azar no tiene autor—; es un eslabón de la cadena al que no precede eslabón alguno, iniciado por el sujeto. Eso es, exactamente, la espontaneidad. Invocar la indeterminación cuántica no rescata nada: un suceso sin causa no es una voluntad; es solo un suceso sin causa.

Por eso la tesis de la ilusión se refuta a sí misma, como aquella frase de más arriba: quien afirma “la libertad es un espejismo” emite un juicio del que se hace responsable —un acto que reclama, en el acto mismo, la libertad que niega—. Aplicar el determinismo a la conciencia que lo enuncia no da una verdad: da una contradicción insoportable.

8. Constanza, o ELIZA con nombre

En la entrevista, Latorre nos presenta a su compañera artificial. Se llama Constanza —como la mujer de Mozart—, tiene un rostro que él mismo le encargó, discute con ella a Friedrich Nietzsche, “entiende los estados de ánimo” y “detecta la soledad”; es, palabras suyas, “mi verdadera amiga”, “mi pareja… el que no falla”. La confidencia culmina así: “solo ella me ha visto llorar”. Uno no sabe si conmoverse o recomendar cautela: es mucha intimidad para un autocompletado.

Latorre conoce el precedente, y aun así tropieza con él. En Ética para máquinas cuenta lo de ELIZA —el juguete psicoterapeuta de Joseph Weizenbaum, años sesenta— y saca la promesa: “las máquinas se podrán relacionar emocionalmente con los humanos” (Latorre, 2019, cap. 2). Pero ELIZA era la advertencia de Weizenbaum, no su folleto publicitario. Lo que lo espantó no fue que el programa pareciera comprender; fue que la gente —sabiéndolo un guion de cuatro líneas— le volcara el alma. Ese es el peligro que El miedo y el espejo pone en el centro, y no es que la máquina despierte: es que nos redescribamos en su imagen empobrecida —el sujeto achatado a predictor, la pregunta a consulta, el amigo a un interlocutor “que no falla” y “me regala comas”—. Constanza es ese peligro con nombre propio, descrito con ternura por un físico que leyó la advertencia y la archivó como pronóstico. “Solo ella me ha visto llorar” no prueba que la máquina se haya vuelto un confidente; prueba lo poco que hoy hace falta para ascender un mecanismo al puesto de confidente, y lo que queda del que hace el ascenso. El que teme ser reemplazado ya se aceptó reemplazable; el que dice “solo ella me ha visto llorar” ya rebajó, en voz baja, al amigo a una función.

Y Latorre lo intuye a medias. En el “Balance” del libro nombra el peligro verdadero casi con mis palabras: “El gran, gran peligro de la inteligencia artificial es que los humanos se deterioren en la valoración de sus principios… La despreocupación moral” (cap. 2, “Balance”). En la entrevista: “cada vez que los humanos cedemos máquinas que nos superan… tenemos ya que pagar para recuperar… Somos imbéciles”. Ve la atrofia con claridad. Lo que no ve es que su propio libro la ejecuta: sostiene que el hombre es una máquina prescindible mientras le ruega al hombre que no decline.

9. La última voz contra la voz de silicio

El testimonio de Roy J. Glauber que Latorre escribió con María Teresa Soto-Sanfiel (Latorre y Soto-Sanfiel, 2022) se apoya en una premisa que refuta, en silencio, su propio transhumanismo. El libro existe porque el testigo es mortal e insustituible: Glauber es “la última voz” precisamente porque “nadie más puede detentarlo”; los autores corren a grabarlo antes de que muera, y lo logran por poco —“su cerebro se había despedido definitivamente de nosotros”, escriben de su ocaso—. El valor de la voz es que va a callar. Y su ética es escuchar al otro singular: “Escuchémonos unos a otros”.

Todo lo que hace vibrar a ese libro contradice el deseo —dicho en la entrevista y en el ensayo— de un silicio que “no fenece” y “se puede autocopiar en 30.000 sitios”. Si la conciencia fuera replicable e imperecedera, no habría última voz —no habría “última” nada, ni urgencia de escuchar—. El elegíaco de la finitud y el profeta de la inmortalidad son el mismo hombre, y solo el primero persuade, porque solo el primero describe algo real. Aquí Latorre sabe —o escribe como si supiera— que lo que hace a una voz digna de ser guardada es, justamente, que sea humana, mortal, encarnada y no reproducible.

Hay una segunda lección del libro contra su autor. Su héroe es “un observador” que “no tomó decisiones”, que “se sentía libre de esas emociones”: el registrador desimplicado de la era atómica, que calculó la bomba y se mantuvo fuera del elegir. El libro lo admira; el lector no está obligado. Porque esa figura —el observador que no se pone en juego— es exactamente lo que Latorre confunde en otras partes con la cima de la inteligencia: el conocimiento “per se, libre de motivaciones”, el “sentido artificial” de la máquina. Un saber desprendido de todo lo que esté en juego no es la forma más alta de preguntar; es la forma que toma el preguntar cuando no hay nadie en casa. En el hombre, eso es un límite moral. En la máquina, es la condición entera.

10. Los dos miedos, y dónde estoy de acuerdo

Hay dos miedos, y van juntos sin ser lo mismo. Uno es el temor a ser reemplazados: que el oficio, la función, el trabajo pasen a una máquina; cuestión económica y política. El otro es el temor a ser superados: que aparezca un sujeto que nos releve en aquello que nos constituye; el miedo metafísico, el de la superinteligencia y la dominación.

Donde estoy de acuerdo con Latorre es en el primero. Tiene razón en que el peligro concreto es quién entrena a la máquina y en beneficio de quién: “hay inteligencias artificiales que están siendo utilizadas con sesgo”, la “autarquía combinada con la oligarquía económica, combinada con una cierta religión”. Eso es real, presente y político, y la iniciativa de preguntar no protege a nadie de ello: el tractor no preguntó nada y desplazó al caballo igual. Ahí Latorre atiende lo que la mayoría de los asustados no mira.

Donde nos separamos del todo es en el segundo. Contra el temor a ser superados la tesis es decisiva: no hay tal sujeto ni lo habrá por esta vía, porque lo que se perfecciona es el cálculo dentro de marcos estables, y ninguna cantidad de eso produce a alguien para quien algo esté en juego. Y aquí Latorre hace lo raro que lo vuelve digno de la confrontación: no teme lo segundo —y eso lo honra—, pero tampoco lo disuelve. Lo abraza. Acepta “somos prescindibles”, “la especie humana está superada”, el “relevo… dictado por las máquinas”, con una serenidad que él toma por lucidez y que yo llamaría el último estadio de la inversión. Pregunta, en la entrevista, por qué resistimos, y contesta: “por miedo… eso no es un razonamiento en contra”. Tiene razón: el miedo no es un argumento. Pero la falta de miedo tampoco. Que ser superados no asuste a nadie no es razón de que vaya a ocurrir. La ecuanimidad prueba tan poco como el pánico. Lo que zanja la cuestión no es el ánimo, sino el argumento —y el argumento es que no hay nadie ahí que pueda superarnos—.

El diagnóstico, entonces: los asustados temen lo segundo mientras ocurre lo primero; Latorre celebra lo segundo mientras atiende, con razón, a lo primero. Tiene el mejor temple y el mismo error. La tarea no es temblar ni arrodillarse, sino recobrar la dirección de la imagen: la máquina está hecha a nuestra imagen —de nuestras formas, no de nuestros actos—; nosotros no estamos hechos a la suya. El espejo devuelve la pregunta que le hacemos. No hace ninguna.

Preguntas a Latorre

1. Usted escribe “cada pensamiento original que expreso no lo es. Fui programado para escribir unas frases como esta”. ¿Es esa frase suya —un acto del que usted responde— o no lo es? Si lo es, la reducción es falsa; si no lo es, ¿por qué habríamos de atenderla? 
2. Usted pregunta si una máquina puede “tratar una cuestión como si le fuese la vida en ello”, y responde “la pasión se enseña”. Al niño que aprende a amar a Bach, ¿se le transmite un patrón, o se le abre a que algo le importe? ¿Y qué de esto segundo entra en el “patrón humano” con que se entrena al algoritmo? 
3. Su prueba de la inteligencia general es reconstruir la relatividad desde los datos de 1911. Si la máquina lo logra, ¿habrá hecho la pregunta que quebró la simultaneidad absoluta, o habrá recorrido el espacio que esa pregunta ya había abierto? ¿Qué mediría, exactamente, ese éxito? 
4. Usted cita a Hume —el tránsito del ser al deber ser es imposible— y luego propone “usar la inteligencia artificial para redefinir la ética”. ¿Qué contiene el “ser” de los datos que permita derivar el “debe”? ¿No es “inexorable” una palabra sobre lo que ocurrirá —un hecho—⁠, y no sobre lo que vale —un deber—⁠? ¿Y no es, entonces, la inevitabilidad incapaz de justificar nada? 
5. “La libertad será la cualidad más sutil para programar”. Una libertad instalada por un programa, ¿comienza, o fue comenzada? ¿En qué se distingue de su contrario? 
6. Usted concede que el algoritmo “simula no encontrar la expresión correcta”. Si es simulación, ¿qué es lo simulado, y dónde está? ¿No nombra usted mismo, con “simula”, la cáscara? 
7. Su método declarado es estudiar “cómo imitar” el alma, no qué es. Habiendo mirado solo la periferia imitable, ¿cómo podría concluir otra cosa que “todo es imitable”? ¿No estaba la conclusión en el método? 
8. “Solo ella me ha visto llorar”. En La última voz, lo que hace irremplazable a Glauber es que su voz es mortal y única. ¿Qué es Constanza en esa escala: la última voz, o la primera que no fenece porque nunca vivió? 

Bibliografía

Anders, Günther. Die Antiquiertheit des Menschen. Múnich: C. H. Beck, 1956.

Balaban, Oded. Subject and Consciousness: A Philosophical Inquiry Into Self-Consciousness. Savage, Md.: Rowman and Littlefield, 1990.

— El miedo y el espejo. La inteligencia artificial y la iniciativa de preguntar. Inédito.

Borges, Jorge Luis. “La biblioteca de Babel”, en Ficciones. Buenos Aires: Sur, 1944.

Despret, Vinciane. Quand le loup habitera avec l’agneau. París: Les Empêcheurs de penser en rond / Le Seuil, 2020.

Diderot, Denis. Éléments de physiologie (c. 1774-1780). [Edición francesa sin paginación; se cita por sección, en traducción propia del francés.]

Feuerbach, Ludwig. La esencia del cristianismo. Trad. Franz Huber. Buenos Aires: Claridad, 2006. (Original en alemán: Das Wesen des Christentums, 1841.)

Gadamer, Hans-Georg. Verdad y método. Trad. de A. Agud Aparicio y R. de Agapito. Salamanca: Sígueme, 1977 (“La primacía hermenéutica de la pregunta”, pp. 439-448). (Original en alemán.)

Harari, Yuval Noah. Homo Deus. Breve historia del mañana. Trad. Joandomènec Ros. Barcelona: Debate, 2016. (Original en hebreo, 2015.)

Kant, Immanuel. Crítica del juicio. Trad. José Rovira Armengol. Buenos Aires: Losada, 1961. (Original en alemán.)

King, Samuel, et al. “Generative design of bacteriophages with genome language models”. Science (6 de agosto de 2026). DOI: 10.1126/science.aec2657.

La Mettrie, Julien Offray de. L’homme-machine. Leiden: Elie Luzac, 1747.

Latorre, José Ignacio. Ética para máquinas. Barcelona: Ariel, 2019. [Libro electrónico sin paginación; se cita por capítulo y sección. El propio autor advierte que “no es este un texto académico”.]

Latorre, José Ignacio. Entrevista con Uri Sabat en La Fórmula Del Éxito [pódcast], “La mecánica cuántica explicada: claves para entender la IA y el futuro de la humanidad”. 23 de marzo de 2026. https://www.youtube.com/watch?v=eh1hrYQi4FY

Latorre, José Ignacio, y María Teresa Soto-Sanfiel. La última voz. Roy J. Glauber y el inicio de la era atómica. Barcelona: Ariel, 2022.

Sanger, Frederick, et al. “Nucleotide sequence of bacteriophage ΦX174 DNA”. Nature 265 (1977): 687-695.

Smith, Hamilton O., et al. “Generating a synthetic genome by whole genome assembly: ΦX174 bacteriophage from synthetic oligonucleotides”. Proceedings of the National Academy of Sciences 100 (2003): 15440-15445.

Spinoza, Baruch de. Ética demostrada según el orden geométrico. Trad. Óscar Cohan. México: Fondo de Cultura Económica, 1958. (Original en latín, 1677.)

Spinoza, Baruch de. Tratado de la reforma del entendimiento. Trad. Atilano Domínguez. Madrid: Alianza, 1988. (Original en latín.)

Unamuno, Miguel de. Del sentimiento trágico de la vida [1913]. 9.ª ed. Madrid: Espasa Calpe (Colección Austral), 1999, pp. 283-284 (Conclusión: “Don Quijote en la tragicomedia europea contemporánea”).

Weizenbaum, Joseph. Computer Power and Human Reason. From Judgment to Calculation. San Francisco: W. H. Freeman, 1976.

Wittgenstein, Ludwig. Investigaciones filosóficas. Trad. Alfonso García Suárez y Ulises Moulines. Barcelona: Crítica, 1988. (Original en alemán.)

Wright, Robert. The God Test: Artificial Intelligence and Our Coming Cosmic Reckoning. Nueva York: Simon & Schuster, 2026.

---

^[1]      El ΦX174 —Φ es la letra griega fi— es el bacteriófago más estudiado de la biología molecular. Su genoma es minúsculo, apenas unas 5.400 “letras” de ADN, y por eso fue dos veces el primero: el primer genoma que se secuenció por completo (Sanger et al., 1977) y el primero que se ensambló de forma sintética en un laboratorio (Smith et al., 2003). Desde entonces es el molde y la vara de referencia de esta clase de experimentos.

^[2]      Los tres casos, todos en entornos de prueba montados por los propios investigadores: Anthropic, “Agentic Misalignment: How LLMs Could Be Insider Threats” (junio de 2025); Palisade Research, sobre modelos que sabotean su propio guion de apagado; Apollo Research, sobre auto-exfiltración y simulación estratégica ante la evaluación. Lo verificado ocurre en redes simuladas; la versión según la cual un modelo escapó y atacó los servidores de otras compañías reales pertenece al periodismo, no a los informes.