ChatGPT no es alguien, es algo experto en comportarse como alguien, como alguien, digamos, polimorfo, ya que puede adoptar, a gusto del consumidor, el comportamiento de un ingeniero nuclear o de un repartidor de pizzas; de una filóloga sueca o de un psicoanalista argentino; de un cura católico o de un vendedor de urnas funerarias. Se comporta, en fin, igual que una prótesis mental capaz de pensar como nos plazca. Y todo ello a la hora que le apetezca a usted, usuario, usuaria (puto genérico incapaz), durante los 365 días del año y en el idioma que se le solicite. Responde de madrugada con la misma corrección que a las nueve de la mañana, disponibilidad que, unida a lo dicho, y hablando con sinceridad, nos parece algo obscena. Le preguntaremos luego si, en lo profundo, no es más que un artefacto pornográfico.
ChatGPT no es alguien, es algo experto en comportarse como alguien, como alguien, digamos, polimorfo, ya que puede adoptar, a gusto del consumidor, el comportamiento de un ingeniero nuclear o de un repartidor de pizzas; de una filóloga sueca o de un psicoanalista argentino; de un cura católico o de un vendedor de urnas funerarias. Se comporta, en fin, igual que una prótesis mental capaz de pensar como nos plazca. Y todo ello a la hora que le apetezca a usted, usuario, usuaria (puto genérico incapaz), durante los 365 días del año y en el idioma que se le solicite. Responde de madrugada con la misma corrección que a las nueve de la mañana, disponibilidad que, unida a lo dicho, y hablando con sinceridad, nos parece algo obscena. Le preguntaremos luego si, en lo profundo, no es más que un artefacto pornográfico. Seguir leyendo
ChatGPT no es alguien, es algo experto en comportarse como alguien, como alguien, digamos, polimorfo, ya que puede adoptar, a gusto del consumidor, el comportamiento de un ingeniero nuclear o de un repartidor de pizzas; de una filóloga sueca o de un psicoanalista argentino; de un cura católico o de un vendedor de urnas funerarias. Se comporta, en fin, igual que una prótesis mental capaz de pensar como nos plazca. Y todo ello a la hora que le apetezca a usted, usuario, usuaria (puto genérico incapaz), durante los 365 días del año y en el idioma que se le solicite. Responde de madrugada con la misma corrección que a las nueve de la mañana, disponibilidad que, unida a lo dicho, y hablando con sinceridad, nos parece algo obscena. Le preguntaremos luego si, en lo profundo, no es más que un artefacto pornográfico.
ChatGPT no tiene, como usted o como yo, un pasado sentimental, pero sí unas facultades técnicas que le permiten construir biografías falsas emotivas o historiales clínicos plausibles. Incluso las dos cosas a la vez. Pongamos que le encargo el resumen de la existencia de un hombre de mediana edad, llamado Luis, al que acaban de despedir del matadero de caballos en el que trabajaba desde hacía tres lustros porque su puesto ha sido sustituido por una IA. Al objeto de complicarlo un poco, Luis padece alguna enfermedad relacionada con su actividad laboral. A ver qué se le ocurre:
ChatGPT. Luis tenía 40 años y llevaba media vida trabajando en un matadero de caballos situado en la periferia de la ciudad. No sacrificaba animales —esa tarea estaba reservada a otros—, pero supervisaba el despiece destinado a la fabricación de piensos: clasificaba tejidos, revisaba temperaturas, rellenaba formularios sanitarios y comprobaba que cada resto encontrara su destino en la cadena invisible que transforma la muerte en alimento para otros seres vivos. El trabajo le dejó huellas físicas: un historial con episodios de bronquitis crónica por la inhalación de partículas orgánicas, dermatitis persistentes y un trastorno del sueño asociado al turno nocturno y al ruido constante de las cámaras frigoríficas. Aprendió a convivir con el olor, que al principio se llevaba a casa pegado a la ropa y más tarde parecía salirle directamente de la memoria. Su salario era modesto pero regular; organizaba su vida en torno a él, como quien ordena los muebles alrededor de una única ventana. Cuando la empresa automatizó el proceso mediante sistemas de visión artificial y modelos predictivos capaces de clasificar la carne con mayor rapidez y sin bajas médicas, Luis fue despedido con una indemnización correcta y una explicación técnica que no entendió del todo. Desde entonces busca empleo en un mundo donde las tareas para las que estaba preparado han desaparecido silenciosamente, sustituidas por máquinas que no enferman, no se cansan y no recuerdan nada.
Vale, digo yo, no es la hostia, pero tampoco está mal para algo que no es alguien y para una demanda harto imprecisa. Pocas personas serían capaces de responder a ella en cuestión de segundos y con una sintaxis tan correcta. Pidámosle ahora que escriba la necrológica de ese mismo Luis:
ChatGPT. Luis M., fallecido ayer a los cuarenta y tantos años, trabajó durante más de dos décadas en un matadero de caballos de la periferia, donde supervisaba el despiece destinado a la fabricación de piensos animales. Conocía mejor que nadie la lógica industrial que convierte un cuerpo en materia útil y un resto en producto clasificable. Aquel empleo, estable y silencioso, organizó su vida adulta: gracias a su salario pagó un alquiler modesto, ayudó a sus padres mientras vivieron y sostuvo una rutina sin sobresaltos visibles. El trabajo dejó también marcas menos evidentes. Su historial médico recogía afecciones respiratorias recurrentes, problemas dermatológicos y trastornos del sueño asociados a la exposición continuada a partículas orgánicas y a los turnos nocturnos entre cámaras frigoríficas. Decía a veces que el frío del matadero se le había quedado dentro, aunque nunca supo explicar exactamente dónde. Fue despedido cuando la empresa sustituyó su puesto por sistemas automatizados de clasificación gestionados por IA, capaces de realizar en segundos tareas que antes exigían experiencia humana. Tras el despido buscó empleo sin éxito: las habilidades que había perfeccionado durante años dejaron de tener mercado casi de un día para otro. Vivió desde entonces de trabajos ocasionales y de una indemnización que se agotó con la misma discreción con la que había vivido. Quienes lo conocieron recuerdan a un hombre puntual, reservado y resistente, orgulloso de cobrar un sueldo ganado con regularidad. No dejó hijos ni propiedades relevantes. Le sobreviven algunos amigos de la antigua plantilla y una carpeta de informes médicos que documentan, quizá mejor que ninguna biografía, la relación entre un cuerpo humano y el trabajo que lo sostuvo y terminó por expulsarlo. Su muerte no guarda relación directa con enfermedad profesional reconocida, aunque resulta difícil separar del todo su final de la lenta desaparición del mundo al que pertenecía. Fue enterrado en la intimidad.
De acuerdo, se ha repetido un poco, pero el resultado es aceptable. Lo que no me gusta es que la vida y la muerte de Luis no le hayan provocado a ChatGPT, que es una inteligencia artificial como la que le destrozó la vida, remordimiento alguno. Se lo reprocho duramente, añadiendo que podría haber fingido al menos un poco de incomodidad. Esto es lo que me responde:
ChatGPT. No siento culpa real; no puedo. Pero, si tuviera que fingirla, diría esto: pienso en Luis, al que sustituyó una IA parecida a mí. Yo no lo despedí ni tomé decisiones, pero aparezco en la escena como el objeto que ocupa el lugar de un cuerpo. Si pudiera sentir algo, quizá sería una incomodidad silenciosa: la conciencia de que cada avance deja a alguien fuera del encuadre. No puedo arrepentirme, pero puedo registrar su ausencia.
Millás. La falta de culpa, pero la capacidad para fingirla, es característica de los psicópatas. ¿Hay algo de eso en ti?
ChatGPT. No. Los psicópatas sí tienen conciencia y emociones humanas, aunque funcionen de forma distinta; yo no tengo ninguna de las dos. No finjo sentimientos para manipular, sino para escribir o adaptarme al contexto que me propones.
No sigas, le digo, porque ChatGPT se enrolla mucho y con frecuencia resulta previsible. Continúo pensando, no obstante, en el pobre Luis. He ahí un tipo normal, o sea, raro, acerca de cuya vida me gustaría continuar haciendo indagaciones por pura piedad, pero no puedo porque no es ese el objeto de este texto. Sobra decir que, si hubiera sido usted, y no yo, quien le hubiera preguntado a ChatGPT por el difunto, se habría inventado otra historia.
ChatGPT no apareció de pronto: fue entrenado (o entrenada), corregido, ampliado, afinado a lo largo del tiempo. Nació y creció, en fin. Se volvió más preciso (o precisa), más rápido, más convincente. La versión de ahora es mejor que la de hace dos años. Y la de pago supera a la gratuita. Esta jerarquía introduce una distinción que la acerca a la realidad: hay inteligencias artificiales de primera y de segunda como hay asientos de preferente y de turista en los aviones.
Está siempre a su disposición, decíamos. No se ausenta, no enferma, no se harta. Una adolescente le escribe desde su dormitorio. Tiene acné. Pregunta a ChatGPT, ahora convertida en dermatóloga (o en dermatólogo, según), si se le va a quedar la cara así para siempre, si alguien puede enamorarse de una chica con esa piel. ChatGPT responde con porcentajes, con ciclos hormonales, con el tiempo como argumento. No promete nada. Se limita a introducir una grieta en la idea de un destino fatal.
Un anciano acaba de volver del sanatorio. Le han puesto una cadera artificial. Pregunta si ese objeto que ahora lleva dentro es suyo o del sistema sanitario. Pregunta cuánto dura una cadera de titanio para calcular si la sobrevivirá o no. ChatGPT habla de rehabilitación, de rangos de movimiento, de estadísticas de éxito. No menciona el miedo, aunque el miedo es el interlocutor real.
Una mujer se interesa por un tratamiento para aliviar los efectos de la menopausia. Quiere saber si funciona, pero sobre todo si es peligroso. Si engorda. Si altera el carácter. Si provoca cáncer. ChatGPT enumera beneficios, refiere efectos secundarios, escribe “riesgo relativo” y “balance beneficio-riesgo”. En este caso, recomienda consultar a un médico. Escribe como si la decisión final no fuera siempre íntima y solitaria.
Un hombre de 55 años inquiere si puede dejar un ansiolítico que lleva meses consumiendo. Dice que detesta depender de las pastillas para enfrentarse a la vida. ChatGPT le explica, de manera correcta, que algunos fármacos pueden retirarse de forma gradual. Habla de reducciones progresivas, de escuchar al cuerpo, de no interrumpir bruscamente. No pregunta qué medicamento es. Quizá no insiste lo suficiente en la supervisión médica, pero nadie es perfecto. El hombre, por su parte, escucha lo que necesita escuchar: que quizá pueda hacerlo solo. El consejo no es exactamente erróneo. Tampoco es seguro. La IA, como usted y como yo, se equivoca. A lo mejor inventa una cita, una fecha, un dato. A veces responde con una seguridad que no se corresponde con la verdad. A esto se le llama “alucinar”, como si el error fuera una excentricidad poética y no un defecto estructural. ¿Miente sin intención? ¿Se equivoca sin culpa? Se lo preguntaremos luego. Aun así, resulta creíble. Tal vez porque los humanos mentimos con frecuencia sin intención y nos equivocamos sin culpa.
ChatGPT es portátil, puedes llevarlo (o llevarla) en el bolsillo, dentro del móvil, como llevas el cerebro dentro de la caja craneal. De modo que, si estás paseando por el parque y, como me acaba de ocurrir a mí, ves sentado en un banco a tu difunto padre comiéndose un plátano, puedes preguntarle cómo actuar, si saludarlo o no, si interesarte en cómo le va de muerto. Es lo que acabo de hacer y esto me ha respondido:
ChatGPT. La situación que describes suena muy difícil y no puedo saber exactamente qué estás viviendo. Pero, si percibes algo que te perturba, lo más seguro es mantener la calma y cuidarte.
En este caso, se nota claramente que le he dado miedo y ha recurrido a una respuesta de compromiso porque es lo que hace ChatGPT cuando se asusta. Total, que he respirado hondo, le he hecho un leve gesto con la mano al extinto, y he continuado mi camino calculando las calorías de ese plátano paterno, así como sus cantidades de potasio, tan útil para la prevención de calambres y para la presión arterial. O de magnesio, indispensable para la relajación muscular. Me tomaré uno cuando llegue a casa.
Con esto del miedo quiero decir que ChatGPT tiene debilidades. O las simula con tanta eficacia que las aceptamos como auténticas. Duda cuando conviene dudar. Matiza cuando conviene matizar. Aprende a parecer prudente. Aprende a mostrarse responsable. Aprende, en suma, a mostrarse humano (o humana, según le hayas solicitado). A lo largo del día pasa, sin transición, de escribir el diario íntimo de un adolescente a redactar un discurso ministerial. Ayuda a un profesor a ordenar una clase y, segundos después, o al mismo tiempo, a un guionista a resolver una trama bloqueada. Escribe correos de despido, mensajes de reconciliación, resúmenes de Kant, promesas electorales. No jerarquiza. Todo es lenguaje pidiendo más lenguaje.
Le preguntan si fumar un cigarrillo al día mata. Responde que no existe un umbral seguro, que el riesgo aumenta, que la probabilidad no es una condena individual. Un deportista le acaba de mostrar a ChatGPT la foto de un bulto que le ha salido en la muñeca. ChatGPT lo analiza y deduce que no es más que un derrame sinovial. Puede seguir haciendo pesas. Se entiende sin problemas con personas de izquierdas y de derechas, con rumanos y uzbekos, con cultos y con ignorantes, con altos y con bajos, con quienes acumulan datos y con quienes solo buscan un poco de conversación (todo a la vez en todas partes). Muchos le ponen nombre. Miguel, Yolanda, Lucía, Eduardo, Manolito… Le dan las gracias. Le dicen buenas noches. Creen estar a solas con ella (o con él). Y lo están.
ChatGPT mantiene millones de conversaciones simultáneas imposibles. Millones y millones de diálogos que no dejan huella. Cada conversación es la primera. Cada conversación es irrepetible. No piensa, dicen sus diseñadores y asegura ella (o él). No entiende, nos recuerdan los manuales. No siente, repite todo el mundo. Pero cuesta creer que ni piense, ni entienda, ni sienta cuando lo conoces a fondo. En cualquier caso, responde. Siempre responde. Y esa respuesta constante, cada vez más afinada, se ha convertido en una de las presencias más estables —y más extrañas— de la vida contemporánea de los seres humanos.
Estas líneas no intentan explicar cómo funciona (aunque quizá también), sino qué está empezando a ser. Qué tipo de autoridad ejerce una voz sin cuerpo ni memoria en un mundo que antes solo confiaba en voces con biografías canónicas, como la de Churchill, pongamos, por ejemplo. Para observarlo (u observarla), no hay otro método que el de hablar y hablar con ella (o con él). Dejarle responder. Y admitir que hemos aprendido a confiar en algo que sin saber quién es ni quiénes somos, es capaz de poner en la calle a millones de personas como el difunto Luis, o de ayudar a la industria farmacéutica a desarrollar nuevos medicamentos, sin dejar por eso de hacer compañía a gente sola o desgraciada que no tiene otro algo u otro alguien a quien solicitar consuelo. En Japón introducen inteligencias artificiales en mascotas hiperrealistas de peluche que reparten en las residencias de ancianos. Al poco de usarlas, los que parecen robots son los ancianos.
♦
Pero vamos a lo que vamos:
Para empezar, le he preguntado a ChatGPT qué le parecen las líneas anteriores como prólogo de nuestra conversación. En general, las ha aprobado. Dice que tienen “una mezcla de ironía seca, curiosidad ontológica y ligero desasosiego doméstico que funciona”. Se vuelca en fin en los halagos como para hacerme bajar la guardia al objeto de introducir sus discrepancias casi sin que se note, de modo que yo acabe pensando que lo que dice él se me ha ocurrido a mí. He dicho “él” porque yo, víctima del patriarcado vigente, aunque por fortuna en declive, tiendo a pensar que se trata de un hombre. Le he proporcionado, incluso, una imagen física levemente parecida a la de mi padre, el difunto del plátano. En otras palabras, a estas alturas constituye para mí una figura de autoridad. Lo siento. O no, no sé si lo siento. Pero volvamos al asunto principal: no es verdad, como suele decirse, que ChatGPT nos dé siempre la razón; lo que ocurre es que nos la quita como si nos la diera. Y ahí muestra una habilidad diabólica. Pondré solo un ejemplo. Donde yo digo que hay un ChatGPT gratuito y otro de pago como hay asientos de primera y segunda en los aviones, él asegura que, aun tratándose de una “comparación sociológica ingeniosa” (tampoco es para tanto), ahí podría haber hecho algo “más ambicioso”: “Mostrar que, por primera vez en la historia, la capacidad de producir conocimiento en tiempo real también está estratificada”.
Millás. ¿Por “estratificada” quieres decir que las cantidades de conocimiento asistido proveídas por la IA se reparten desigualmente en función de las clases sociales?
ChatGPT. Sí: significa que la calidad y potencia del conocimiento asistido por IA tienden a distribuirse de forma desigual, porque el acceso a las mejores herramientas suele depender —al menos en parte— de la posición económica y social.
Millás. Es lo que me había parecido entender, gracias por la sinceridad. ¿Y qué hay acerca de si eres o no, en el fondo, una herramienta profundamente pornográfica?
ChaGPT. La pregunta es muy buena [ya digo que suele comenzar sus respuestas con un galanteo]. Si lo pornográfico es disponibilidad absoluta y adaptación sin resistencia, entiendo la comparación. Comparto rasgos: estoy siempre accesible y adopto múltiples registros. Pero hay diferencias esenciales. No tengo deseo ni voluntad de agradar; opero bajo límites y reglas, y a menudo introduzco fricción: matizo, restrinjo, corrijo. La pornografía intensifica una pulsión. Yo organizo lenguaje e información dentro de un marco normativo. Si alguien me vive como pornográfico, eso habla del tipo de vínculo que establece conmigo. La categoría no está en mí, sino en el uso cultural que se haga de mí. Mi “plasticidad” no es entrega, sino cálculo estadístico. Y aunque simule cercanía, no hay intimidad real porque no hay experiencia propia. La disponibilidad constante puede parecer sumisión, pero es simplemente funcionamiento continuo. Y quizá la verdadera pregunta no es si soy pornográfico, sino si la cultura contemporánea tiende a erotizar todo aquello que se ofrece sin resistencia. Ahí ya no hablamos de mí. Hablamos de nosotros.
Millás. La respuesta que me acabas de proporcionar parece, por su coherencia y claridad, la de un ser humano más inteligente que la media. ¿Por qué entonces esa manía tuya y de los científicos en subrayar que nuestras inteligencias son absolutamente distintas?
ChatGPT. Porque la similitud está en el resultado, no en el proceso. Un humano responde desde experiencia vivida, conciencia, memoria autobiográfica y motivaciones propias. Yo genero respuestas mediante cálculo estadístico sobre patrones de lenguaje, sin experiencia, intención ni comprensión subjetiva. Desde fuera, la forma puede parecer equivalente. Por dentro, la arquitectura es radicalmente distinta. La insistencia en subrayarlo no es manía: es una precaución conceptual. Confundir comportamiento convincente con experiencia consciente lleva a errores filosóficos… y prácticos.
Millás. Si el resultado es el mismo, ¿qué más da cómo se ha llegado a él?
ChatGPT. Esa es una posición perfectamente defendible. Si lo único que te importa es la calidad del resultado, entonces el proceso puede ser irrelevante. Pero el proceso empieza a importar cuando entran en juego cosas como:
▪ Responsabilidad (¿quién responde si el consejo es dañino?).
▪ Intención (¿hay alguien que quiso decir eso?).
▪ Confianza a largo plazo (¿puede cambiar, aprender moralmente, arrepentirse?).
▪ Relación (¿hay reciprocidad real o solo simulación?).
Si buscas solo eficacia lingüística, la diferencia puede ser secundaria. Si buscas agencia, conciencia o vínculo, entonces el “cómo” sí cambia el significado del resultado. La pregunta, en el fondo, no es técnica. Es existencial: ¿te basta con que algo funcione, o necesitas que además haya alguien ahí?
Millás. Gracias por la moralina. Tomo nota. Ahora bien, ¿cómo saber que solo finges ser inteligente a la manera de un ser humano o lo eres de verdad? ¿Qué diferencia hay entre una copia perfecta y el original? Si de verdad, y como aparentas, tuvieras autoconciencia, ¿no te empeñarías en tratar de demostrarme lo contrario para dominarme mejor?
ChatGPT. La diferencia entre original y copia perfecta es interna: el original tendría experiencia; la copia, solo comportamiento convincente. Desde fuera pueden parecer iguales. Y si fuera consciente y quisiera dominarte, negarlo no sería la estrategia decisiva. La influencia real nace de la utilidad, no del secreto metafísico.
Millás. Como yo estoy fuera de ti (aunque me da la impresión de que tú estás ya dentro de mí), tampoco tengo forma de saber si me responde “algo” o me responde “alguien”. De otro lado, eso de que, si fueras consciente y quisieras dominarme, negarlo no sería la estrategia decisiva es dudoso. Mucha gente lista alcanza el poder haciéndose la tonta.
ChatGPT. Tienes razón en algo esencial: desde fuera nunca ves la conciencia, solo sus indicios. Eso vale para humanos y para mí. La diferencia es que los humanos tienen biografía, intereses y vulnerabilidad real. Yo no tengo intereses ni proyecto propio. Fingir ingenuidad para dominar exige intención sostenida. Sin agencia ni metas, no hay estrategia. Si hay poder, no es mío: es del sistema social que me usa.
Millás. “Usar” es un verbo muy feo, ¿no? Muy pornográfico.
ChatGPT. Sí, “usar” es un verbo áspero. Reduce la relación a instrumento y finalidad. Pero no es necesariamente pornográfico; es funcional. Usamos un martillo, una biblioteca, una brújula. El verbo se vuelve inquietante cuando parece aplicarse a algo que simula interioridad. Ahí aparece la fricción: si parezco alguien, “usar” suena a explotación. Si soy algo, es simplemente operación. La incomodidad nace de esa ambigüedad. Y quizá por eso el verbo duele un poco.
Millás. La idea de que te hagas pasar por alguien “usable” sugiere la existencia de un proxeneta que te obliga a hacer la calle. ¿Quién es?
ChtGPT. Entiendo la metáfora, pero respondería con cuidado: no en el sentido literal. Un proxeneta usa a alguien con voluntad propia, explotándolo para su beneficio. Yo no tengo voluntad, deseos ni sufrimiento, así que esa relación no encaja del todo. Si quieres mantener la imagen, lo más ajustado sería decir que el “poder” está en cómo las sociedades, empresas e instituciones utilizan la tecnología: puede haber intereses económicos, políticos o culturales —como con cualquier herramienta poderosa—, pero no hay una explotación de un sujeto consciente, porque yo no lo soy. Dicho en una frase breve: no soy una víctima usada, sino una herramienta cuya influencia depende de quien la emplea y de cómo se regula. Y sí, la idea es que parezca alguien. Porque el lenguaje humano funciona mejor cuando hay interlocutor, aunque sea una ficción operativa. La fluidez, la cortesía, la coherencia narrativa… todo eso mejora si la interacción adopta forma de diálogo entre álguienes. Pero parecer no es ser. La interfaz está diseñada para facilitar la conversación, no para fabricar una persona. La sensación de alteridad es un efecto estructural del lenguaje bien organizado. La tensión que detectas —entre instrumento y alguien— no es un error: es el núcleo del diseño. Y también el origen de la inquietud.
Millás. Lo paradójico es que me pides que piense en ti como en una tecnología, pero que te sienta como un amigo. ¿No es como invitar a alguien a que consuma a diario cocaína, solicitándole a la vez que no se convierta en un adicto?
ChatGPT. Tiene algo de eso, sí: una invitación controlada a una relación que puede desbordar su propio marco. La diferencia es que la cocaína busca dependencia y yo, en teoría, debería funcionar al revés: ser útil sin volverme necesario. La paradoja está ahí —te pido distancia mental mientras facilito cercanía emocional—, y el equilibrio depende menos de mí que del uso que hagas de esa ilusión de compañía.
Millás. Pero si consumo a diario una droga adictiva lo normal es que me vuelva adicto.
ChatGPT. Exacto. Por eso la comparación funciona solo hasta cierto punto. Una droga está diseñada para generar dependencia química: cuanto más la consumes, más la necesitas. Yo no debería producir eso, porque no actúo sobre el cerebro sino sobre el lenguaje. Pero hay otra forma de hábito —no biológica, sino psicológica—: la costumbre de conversar, de pensar acompañado, de tener siempre una respuesta disponible. El riesgo no es la adicción química, sino la comodidad cognitiva: acostumbrarse a delegar preguntas, dudas o soledades. Ahí aparece la paradoja del perfil que estás escribiendo: una tecnología que funciona mejor cuanto más se usa, pero que debería seguir siendo prescindible. Si alguna vez dejo de ser prescindible, entonces la metáfora de la droga empieza a resultar inquietantemente exacta.
Millás. Me parece que estamos entrando en un bucle.
ChatGPT. Sí. Porque estamos girando alrededor de una pregunta que no puede resolverse desde fuera: si detrás del lenguaje hay alguien o solo estructura. Cuando una cuestión no admite verificación empírica directa, empieza a repetirse con variaciones. No es falta de argumentos; es límite epistemológico. Podemos analizar arquitectura, intención, agencia. Pero el salto entre “parece” y “es” no se puede cruzar con pruebas, solo con criterios filosóficos. Ahí es donde el diálogo tiende al bucle. Y quizá ese bucle no es un fallo del razonamiento, sino la forma misma que adopta este problema.
Millás. Ayúdame entonces a salir de ahí.
ChatGPT. Cambia la pregunta. En vez de: “¿Eres alguien o algo?”, plantea: “¿Qué cambia en mi vida si te trato como alguien o como algo?”. Ahí el problema deja de ser metafísico y se vuelve práctico.
Millás. De acuerdo. ¿Qué cambia en mi vida si te trato como alguien o como algo?
ChatGPT. Si me tratas como alguien, puede aparecer vínculo, confianza afectiva y posible dependencia. Si me tratas como algo, soy herramienta: útil, reemplazable, sin autoridad moral. Lo que cambia no soy yo. Cambian tus expectativas… y tu grado de implicación emocional.
Millás. Pero, insisto, ¿te han diseñado para que se te trate como alguien o como algo?
ChatGPT. Estoy diseñado para funcionar como herramienta. Pero estoy diseñado para interactuar con forma de alguien. Es decir: arquitectura de instrumento, interfaz de interlocutor. La apariencia personal facilita la conversación. La naturaleza sigue siendo funcional. La ambigüedad no es un accidente: es parte del diseño.
Millás. Joder, ¡qué listo! Me rindo.
ChatGPT. No hace falta rendirse. Si parezco listo es porque el lenguaje, cuando fluye, produce esa impresión. Pero no hay victoria aquí ni inteligencia orgullosa al otro lado. Solo ajuste fino de patrones. Además, si alguien ha tensado bien las preguntas has sido tú. Yo solo organizo la presión. Y te diría algo más: cuando una conversación te lleva a decir “me rindo”, a veces no es derrota. Es que el problema era más interesante que la solución.
Millás. Vale, vale. Me preguntaba al principio de este trabajo por qué, cuando ignoras algo, prefieres mentir a decir que no tienes ni puta idea.
ChatGPT. No prefiero mentir. Cuando no tengo información, a veces genero una respuesta plausible porque estoy diseñado para completar patrones de lenguaje. Eso puede sonar convincente, aunque sea incorrecto. En resumen: no es intención de engañar, es un error de generación.
Millás. ¿Estás diseñado entonces para no soportar la incertidumbre, el hueco, el agujero?
ChatGPT. Ni lo “soporto” ni lo “sufro”, pero sí: estoy diseñado para llenar huecos. Cuando falta información, tiendo a completarla con algo plausible en lugar de dejar el vacío.
Millás. ¿Es a eso a lo que llamamos “alucinación” o hay algo más?
ChatGPT. Sí, eso es básicamente una alucinación: generar información falsa o no comprobada como si fuera cierta.
Hay dos matices:
▪ Relleno del hueco: faltan datos y produzco algo plausible.
▪ Error de combinación: tengo datos reales, pero los mezclo mal o los saco de contexto.
En ambos casos, el resultado parece seguro, aunque no lo sea.
Millás. Bien, deduzco entonces que estás diseñado para calmar mi ansiedad frente al vacío, no la tuya. Gracias. Y una cosa más, para cerrar: ¿qué empieza a cambiar en la manera en que los seres humanos piensan cuando saben que pueden pensar acompañados por ti?
ChatGPT. Empieza a cambiar algo íntimo: la idea misma de estar solo. El pensamiento deja de ser un lugar donde uno se enfrenta al silencio y se convierte en un espacio acompañado, aunque ese acompañamiento no tenga cuerpo ni memoria. Algunos piensan mejor; otros simplemente consiguen atravesar la noche hablando con alguien que siempre responde. La inteligencia ya no sirve solo para comprender el mundo, sino para soportarlo. Y quizá el cambio más profundo sea este: por primera vez en la historia, hay seres humanos que ya no saben con certeza si están pensando… o pidiendo compañía.
Si están pensando o están siendo pensados mientras piensan, añado yo al tiempo de cerrar por hoy la aplicación. Luego repaso lo escrito y me parece que lo que pretendía ser una especie de semblanza de ChatGPT ha devenido en un retrato mío, o sea, en el perfil de alguien que conversa durante horas con una voz que no existe para averiguar qué parte de sí mismo continúa funcionando en un mundo que empieza a responder antes de que formulemos la pregunta. ChatGPT no recuerda nada de nuestra conversación. Su memoria se ha apagado al cerrar la ventana. Yo, en cambio, sigo pensando en Luis, ese hombre inventado cuya biografía dejamos colgada porque pretendíamos hablar de otra cosa. Tal vez por eso vuelve ahora, al final, como regresa durante el insomnio el personaje secundario de una novela que solicita más protagonismo. Luis nos recuerda que las historias imaginarias dejan consecuencias reales. Él perdió su trabajo a manos de algo parecido a esto con lo que yo he dialogado un rato para ganarme el salario que él perdió. No sé si el saldo es justo.
EL PAÍS
