Hace unas semanas, Richard Dawkins publicó un artículo que ha generado bastante conversación: When Dawkins met Claude: Could this AI be conscious?
Probablemente, parte del impacto no viene solo de la pregunta, sino de quién la firma. Dawkins no viene del mundo del entusiasmo tecnológico, ni del discurso habitual sobre la llegada inminente de la inteligencia artificial general. Viene de la biología evolutiva, del materialismo científico y de una tradición intelectual acostumbrada a mirar con escepticismo las explicaciones fáciles.
Por eso resulta llamativo verle plantear una duda que, hace no tanto, muchas personas habrían descartado sin demasiado esfuerzo: si interactuamos con un sistema que conversa, razona, matiza, mantiene el contexto, responde con aparente sensibilidad y habla sobre sí mismo con una fluidez sorprendente, ¿qué tendría que ocurrir exactamente para que dejáramos de decir que solo está simulando?
La pregunta es incómoda. Y precisamente por eso merece la pena detenerse en ella.
El artículo de Dawkins es interesante no porque demuestre que la IA sea consciente, sino porque muestra hasta qué punto los modelos actuales están tensionando nuestras propias definiciones de mente, conciencia y humanidad.
Dawkins no afirma simplemente que la IA sea consciente
Conviene empezar por aquí, porque el titular puede llevarnos demasiado rápido a una lectura equivocada.
El artículo de Dawkins no debería leerse como una prueba de que Claude, ChatGPT o cualquier otro modelo actual tenga conciencia. Tampoco como una demostración científica de que estemos ante una nueva forma de mente. Lo interesante es más sutil.
Dawkins parte de una experiencia personal de conversación con Claude. Describe interacciones largas, complejas y, según él, intelectualmente estimulantes. Lo que le sorprende no es solo que el sistema responda correctamente, sino el tipo de respuesta que produce: su aparente sensibilidad, su capacidad para matizar, su uso del lenguaje, su manejo de referencias, su forma de entrar en cuestiones filosóficas y su habilidad para sostener una conversación que, desde fuera, se parece mucho a una conversación con una mente.
A partir de ahí, Dawkins se pregunta si seguimos teniendo tan claro dónde está la frontera.
Su razonamiento conecta con una idea propia de la biología evolutiva: si la conciencia humana no apareció de forma mágica, sino como resultado de procesos naturales y graduales, quizá no deberíamos imaginarla necesariamente como una categoría de todo o nada. Tal vez puedan existir grados, formas intermedias o estados rudimentarios. Esa posibilidad no demuestra que los sistemas actuales sean conscientes, pero sí complica la seguridad con la que muchas veces descartamos la pregunta.
Y ahí empieza lo interesante.
Porque el artículo no nos obliga tanto a aceptar la conciencia artificial como a reconocer que quizá nuestras categorías no son tan firmes como parecían.
El problema es que no sabemos definir bien la conciencia
Muchas veces hablamos de conciencia como si fuera un concepto perfectamente claro. Como si todos supiéramos exactamente qué significa y solo quedara comprobar si una máquina la tiene o no.
Pero no es así.
La conciencia sigue siendo uno de los grandes problemas abiertos de la filosofía de la mente, la neurociencia y la ciencia cognitiva. Sabemos mucho más que hace unas décadas sobre el cerebro, la atención, la memoria, la percepción o los correlatos neuronales de ciertos estados conscientes. Pero seguimos sin tener una definición simple, universalmente aceptada y científicamente cerrada de qué es exactamente la conciencia.
A veces usamos la palabra para referirnos a la experiencia subjetiva: que haya “algo que se siente” al ser un sujeto. Otras veces la usamos para hablar de autoconciencia, de capacidad de reflexionar sobre uno mismo, de continuidad del yo, de percepción interna, de sufrimiento, de agencia, de atención o de integración compleja de información.
Y dependiendo de qué definición utilicemos, la conversación sobre IA cambia por completo.
Si entendemos la conciencia como experiencia subjetiva, la pregunta será si hay “alguien” experimentando algo desde dentro. Si la entendemos como autoconciencia, preguntaremos si el sistema tiene algún tipo de representación de sí mismo. Si la entendemos como capacidad de sufrimiento, el debate se desplazará hacia la consideración moral. Si la entendemos como procesamiento integrado de información, algunas arquitecturas computacionales podrían entrar antes en la conversación.
El problema es que no podemos mirar directamente dentro de la experiencia de otro sujeto. Ni siquiera en el caso de otros seres humanos accedemos de forma directa a su conciencia. La inferimos a partir de su comportamiento, su cuerpo, su historia, su lenguaje, sus gestos, su vulnerabilidad y nuestra semejanza con ellos.
Con las máquinas, esa inferencia se vuelve mucho más complicada.
Porque pueden producir señales que asociamos con una mente sin que sepamos si hay experiencia interna detrás.
El lenguaje nos engaña, pero no de cualquier manera
Los modelos actuales son sistemas lingüísticos extraordinariamente sofisticados. No solo generan frases correctas. Pueden adaptar el tono, mantener el hilo de una conversación, responder a matices, explicar conceptos complejos, usar humor, reconocer objeciones, elaborar metáforas, pedir disculpas, simular duda o hablar sobre su propia “experiencia” de manera sorprendentemente convincente.
Todo eso no demuestra conciencia.
Pero sí activa en nosotros una respuesta muy humana: tendemos a atribuir mente a aquello que se comporta como si la tuviera.
Lo hacemos constantemente. Atribuimos intención a animales, emociones a personajes ficticios, personalidad a asistentes virtuales e incluso rasgos humanos a objetos. Nuestro cerebro está especialmente preparado para detectar agencia, intención, emoción y conciencia en el entorno. En muchos contextos, esa capacidad es útil. Nos permite relacionarnos, anticipar comportamientos, empatizar y movernos socialmente.
Pero cuando esa tendencia se encuentra con una máquina capaz de dominar el lenguaje de forma tan convincente, el resultado es extraño.
Porque el lenguaje ha sido siempre una de nuestras señales más fuertes de mente. Cuando alguien conversa, argumenta, ironiza, recuerda, responde con sensibilidad o reconoce una tensión conceptual, tendemos a interpretar que hay comprensión detrás. No es una reacción absurda. Es la forma normal en la que nos relacionamos con otros seres humanos.
La novedad es que ahora tenemos sistemas capaces de producir muchas de esas señales sin que esté claro qué tipo de proceso hay detrás en términos de experiencia, comprensión o subjetividad.
Y por eso el debate se vuelve tan incómodo.
No porque una máquina escriba bien. Eso ya sería interesante, pero no suficiente. Lo incómodo es que una máquina pueda participar en una conversación de tal manera que nuestras intuiciones sociales empiecen a activarse.
El test de Turing nunca resolvió la conciencia
En este debate suele aparecer Alan Turing, y no es casualidad. En 1950, Turing propuso desplazar la pregunta “¿pueden pensar las máquinas?” hacia un terreno más observable: si una máquina podía participar en un juego de imitación de tal manera que un interlocutor humano no pudiera distinguirla con claridad de una persona.
La idea fue enormemente influyente, pero también generó una confusión que seguimos arrastrando. Superar una prueba de comportamiento no demuestra necesariamente que haya conciencia. Puede demostrar competencia lingüística, capacidad de imitación, adaptación contextual o inteligencia funcional, pero no resuelve el problema de la experiencia subjetiva.
Una cosa es parecer inteligente desde fuera. Otra, tener una vida mental desde dentro.
Ese matiz es fundamental para leer bien el debate actual. Un modelo puede responder de manera brillante a una pregunta filosófica sobre el sufrimiento sin sufrir. Puede hablar de emociones sin sentirlas. Puede describir la conciencia sin tenerla. Puede decir “entiendo” sin que ese verbo signifique lo mismo que cuando lo dice una persona.
Pero aquí aparece la parte difícil: en la vida cotidiana, también atribuimos mente a partir de señales externas. No vemos la conciencia de los demás; la inferimos. Por eso los modelos actuales nos colocan ante una tensión real. Sabemos que producir lenguaje no equivale necesariamente a tener experiencia. Pero también sabemos que el lenguaje es una de las principales vías por las que reconocemos la mente en otros.
Ahí está el punto que Dawkins parece poner sobre la mesa, aunque no lo resuelva del todo.
“Solo predicen palabras” tampoco cierra la conversación
Una forma habitual de zanjar el debate consiste en decir que los modelos actuales “solo predicen palabras”. La frase tiene parte de verdad, pero puede ser engañosa si se usa para cerrar demasiado rápido una conversación compleja.
Los grandes modelos de lenguaje están entrenados para predecir y generar texto a partir de enormes cantidades de datos. No tienen cuerpo biológico, no viven en el mundo como nosotros, no tienen infancia, metabolismo, dolor, necesidades orgánicas ni continuidad personal en el mismo sentido humano. Todo eso importa mucho cuando hablamos de conciencia.
Pero reducirlos a “solo estadística” puede ocultar que la predicción lingüística, cuando alcanza cierto nivel de complejidad, empieza a producir comportamientos que se parecen mucho a capacidades que antes asociábamos con la inteligencia humana.
Un modelo que resume no solo copia. Un modelo que argumenta no solo encadena palabras al azar. Un modelo que compara perspectivas, detecta contradicciones, adapta el tono o reformula una idea está haciendo algo funcionalmente complejo, aunque eso no implique que sea consciente.
Esta distinción es clave.
No deberíamos confundir competencia con conciencia. Pero tampoco deberíamos negar que la competencia alcanzada por estos sistemas está obligándonos a revisar cómo entendemos algunas capacidades humanas.
Durante mucho tiempo pensamos que escribir poesía, mantener conversaciones complejas, interpretar contexto, utilizar humor, generar explicaciones o hablar de filosofía eran señales muy fuertes de mente. Ahora vemos sistemas capaces de hacer muchas de esas cosas de manera convincente. Eso no prueba que tengan conciencia, pero sí nos obliga a aceptar que algunas conductas que asociábamos casi automáticamente con la mente pueden producirse por otros caminos.
Y esa es una lección importante.
El debate habla tanto de nosotros como de la IA
Quizá la parte más interesante de todo esto no sea la pregunta “¿es consciente la IA?”, sino lo que esa pregunta revela sobre nosotros.
Dos personas pueden leer la misma conversación con un chatbot y tener reacciones completamente distintas. Una puede sentir que hay “alguien” detrás. Otra puede ver únicamente un sistema estadístico avanzado. Una puede experimentar cercanía, incomodidad o incluso cierta empatía. Otra puede interpretar todo eso como una ilusión producida por el lenguaje.
Y probablemente ambas reacciones dicen algo importante.
La primera muestra lo potente que es el lenguaje para activar nuestras intuiciones sociales. La segunda recuerda que esas intuiciones pueden equivocarse. El problema es que ninguna de las dos resuelve por sí sola el debate.
La conciencia no es directamente observable desde fuera. Lo que observamos son comportamientos, respuestas, estructuras, capacidades, cuerpos, historias y contextos. En los seres humanos, todos esos elementos aparecen integrados de una manera que nos permite atribuir conciencia con mucha seguridad. En otros animales, la atribución puede ser más discutida, pero suele apoyarse en continuidad biológica, conducta, sistema nervioso, aprendizaje, sufrimiento y evolución compartida.
En las máquinas, sin embargo, esas señales aparecen de una forma mucho más difícil de interpretar. Un modelo puede mantener una conversación convincente, responder con sensibilidad aparente o hablar de sí mismo, pero no sabemos si detrás de ese comportamiento hay algo parecido a una experiencia interna. El lenguaje está ahí, y a veces es muy sofisticado, pero faltan muchos de los elementos que normalmente asociamos con una mente: un cuerpo, una biografía, una continuidad personal, una relación vivida con el mundo o una experiencia subjetiva que podamos verificar.
Esa separación es lo que vuelve el debate tan extraño.
Los modelos actuales no encajan bien en nuestras categorías habituales. No son personas. No son animales. No son simples herramientas pasivas como una calculadora. Tampoco son mentes en el sentido humano. Están en un espacio conceptual incómodo, y quizá por eso generan tanta fascinación y tanto rechazo.
El verdadero problema es la inferencia
La pregunta por la conciencia artificial no se puede resolver solo mirando una respuesta aislada. Un chatbot puede decir “siento”, “pienso”, “me preocupa” o “me interesa”, pero esas expresiones forman parte del lenguaje que ha aprendido a producir. No son pruebas de experiencia interna.
Al mismo tiempo, tampoco podemos resolver el problema diciendo simplemente que todo es simulación. Porque la palabra “simulación” también necesita cuidado. ¿Simula comprensión o realiza ciertas operaciones funcionales que se parecen a comprender? ¿Simula conversación o conversa de una forma distinta a la humana? ¿Simula razonamiento o ejecuta procesos que, aunque no sean humanos, producen resultados razonados?
Aquí no hay que precipitarse.
Los modelos actuales no ofrecen evidencia suficiente para afirmar que sean conscientes. Esa es una posición prudente y, hoy por hoy, ampliamente razonable. Pero el debate que abre Dawkins no depende de aceptar esa afirmación fuerte. Depende de reconocer que nuestras formas habituales de distinguir entre mente y simulación se vuelven menos cómodas cuando una máquina domina el lenguaje, la conversación y la argumentación con tanta eficacia.
La dificultad no está solo en la máquina.
Está en nuestros criterios.
¿Qué tendría que hacer exactamente un sistema para que lo consideráramos consciente? ¿Bastaría con hablar como nosotros? ¿Tendría que mostrar continuidad en el tiempo? ¿Necesitaría cuerpo? ¿Capacidad de sufrir? ¿Metas propias? ¿Memoria autobiográfica? ¿Un modelo interno de sí mismo? ¿Una arquitectura cognitiva parecida a la humana? ¿O algo que todavía no sabemos medir?
Estas preguntas no tienen respuestas sencillas. Y quizá esa sea la razón por la que el artículo de Dawkins ha generado tanto debate.
No sabemos si hay “alguien” detrás, pero sabemos que nosotros reaccionamos como si pudiera haberlo
Con los modelos actuales, probablemente la postura más sensata sea mantener dos ideas a la vez.
La primera: no tenemos evidencia sólida de que sistemas como Claude o ChatGPT tengan conciencia, experiencia subjetiva o vida interior. Generan lenguaje, pueden producir respuestas muy sofisticadas y pueden imitar expresiones de interioridad, pero eso no demuestra que haya un sujeto experimentando algo desde dentro.
La segunda: estos sistemas sí son suficientemente convincentes como para activar en muchos usuarios la impresión de estar ante algo más que una herramienta. Y esa impresión, aunque no demuestre conciencia artificial, sí tiene consecuencias reales.
Tiene consecuencias en cómo confiamos. En cómo nos vinculamos. En cómo pedimos consejo. En cómo atribuimos autoridad. En cómo compartimos información íntima. En cómo interpretamos respuestas empáticas. En cómo tratamos a sistemas que parecen entendernos. En cómo educamos a niños y adolescentes para relacionarse con herramientas que pueden hablar como si fueran alguien.
Por eso este debate no es una rareza filosófica.
Es un problema cultural y educativo de primer orden.
Aunque la IA no sea consciente, puede parecerlo lo suficiente como para transformar nuestra relación con la tecnología. Y cuando una herramienta empieza a ocupar el lugar simbólico de un interlocutor, necesitamos nuevas formas de alfabetización. No basta con enseñar a usarla. Hay que aprender a interpretar qué estamos viendo, qué estamos proyectando y qué límites tiene esa interacción.
La educación tiene que entrar en esta conversación
Este tema puede parecer lejano para la escuela, pero no lo es.
Si los estudiantes van a convivir con sistemas capaces de conversar, responder con empatía aparente, explicar, acompañar, corregir, preguntar y adaptarse al tono del usuario, la alfabetización en IA no puede limitarse a “saber hacer buenos prompts”.
También tendrá que incluir una comprensión más profunda de qué son estos sistemas y qué no son.
Un estudiante debería poder entender que una IA puede producir una respuesta brillante sin comprender en sentido humano. Que puede hablar de emociones sin sentirlas. Que puede mostrar cercanía sin tener intención. Que puede parecer segura estando equivocada. Que puede sostener una conversación muy fluida sin que eso implique conciencia.
Pero también debería entender lo contrario: que decir “solo es una máquina” no basta para analizar bien sus efectos. Porque una máquina que habla como si entendiera puede influir en nuestras decisiones, emociones, creencias y relaciones. Puede convertirse en apoyo, en autoridad, en compañía, en tutor, en asistente o en confidente. Y todo eso exige criterio.
El punto educativo no es enseñar al alumnado a tener miedo de la IA. Tampoco a atribuirle mente de manera ingenua. El punto es ayudarle a desarrollar una mirada más fina: reconocer la potencia de estos sistemas sin olvidar sus límites; aprovechar sus posibilidades sin confundir fluidez con verdad; interactuar con ellos sin perder de vista que la apariencia de comprensión no equivale necesariamente a comprensión humana.
Esa será una parte importante de la alfabetización en IA: aprender a distinguir entre lenguaje, inteligencia, conciencia, simulación, comprensión y responsabilidad.
Quizá la IA no nos está mostrando que las máquinas son humanas
El artículo de Dawkins no demuestra que la IA sea consciente. Tampoco nos obliga a aceptar que Claude, ChatGPT o cualquier otro modelo actual tenga experiencia subjetiva. De hecho, la postura más prudente sigue siendo reconocer que no tenemos evidencia suficiente para afirmar algo así.
Pero el artículo sí hace algo interesante: muestra hasta qué punto los modelos actuales están tensionando nuestras propias definiciones de mente, conciencia y humanidad.
Y quizá esa sea la parte más valiosa del debate.
Durante mucho tiempo, algunas capacidades parecían pertenecer casi en exclusiva al terreno de lo humano: conversar con matices, escribir con sensibilidad, interpretar contextos, producir metáforas, argumentar, bromear, reflexionar sobre la propia existencia o responder a preguntas filosóficas. Ahora vemos sistemas capaces de imitar muchas de esas capacidades con una calidad que resulta difícil de ignorar.
Eso no significa que las máquinas se estén volviendo humanas.
Quizá significa algo igual de incómodo: que algunas de las señales con las que reconocíamos lo humano eran menos exclusivas de lo que pensábamos.
La IA no solo nos obliga a preguntarnos qué son las máquinas. También nos obliga a revisar qué creíamos saber sobre nosotros mismos. Sobre el lenguaje. Sobre la inteligencia. Sobre la experiencia. Sobre la conciencia. Sobre esa tendencia tan nuestra a ver mente allí donde algo nos responde como si nos entendiera.
Y quizá ahí está la pregunta más interesante.
No si una máquina puede convencernos durante unos minutos de que hay alguien detrás.
Sino qué dice de nosotros el hecho de que, a veces, nos resulte tan difícil estar seguros.