No, la IA no tiene conciencia. Y vos tampoco estás tan seguro de tener una

Esta semana me crucé con el titular: “Anthropic descubre que la IA tiene conciencia humana”. Quizá a vos te lo compartió tu tío en el grupo de WhatsApp de la familia, lo levantó un canal de noticias con música de suspenso y un cartel de “Urgente”. Seguro alguien en X (ex Twitter) ya está organizando la resistencia contra Skynet.

Malas noticias para todos: es mentira. Buenas noticias para todos: lo que descubrieron de verdad es más raro, incómodo y muchísimo más útil que el titular.

Te lo cuento en pocas palabras

Anthropic, la empresa detrás de Claude (Claudio para los amigos), uno de los modelos de IA más potentes del momento, publicó el 6 de julio una investigación que va a dar que hablar: el descubrimiento de lo que bautizaron “J-space”, un espacio de trabajo neuronal donde el modelo sostiene y manipula conceptos antes de responder. En definitiva, un lugar donde Claudio “piensa” antes de hablar. Esto ya pone a Claudio por encima de varios panelistas de televisión.

Lo más impactante fue que, si se desactivaba esa parte (que representa menos del 10% de la red), el razonamiento de la IA pasaba casi a cero.

Lo que importa: la IA tiene algo parecido a un cerebro constituido por millones de neuronas. En la IA, cada neurona viene representada por un valor numérico (un parámetro, como se lo conoce). Los investigadores de Anthropic lograron hacer un mapa de este cerebro y señalar qué parte de la red neuronal se activa ante un concepto. Esto permite comprender y alterar su comportamiento manipulando esta red. Antes no se sabía cómo funcionaba esta red neuronal, por eso se la llamaba la caja negra; ahora eso está cambiando. Es como pasar de decir “el auto hace un ruidito” a tener el manual milimétrico del motor.

La palabrita con trampa

Ahora, el problema. El paper usa la palabra “conscious” más de doscientas veces. Doscientas. Sumale que los investigadores y CEOs empiezan a decir “consciente” o “casi consciente” en las entrevistas, y los titulares se escriben solos.

Pero hay trampa, y está en una distinción que los filósofos vienen masticando hace décadas: “conciencia de acceso” vs. “conciencia fenomenal”. No desesperen, es más fácil de lo que suena.

Retener una idea, reportarla y usarla para tomar decisiones se llama conciencia de acceso. Tu celular tiene una en versión berreta: él “sabe” dónde estás y usa ese dato para decidir qué mostrarte. Ahora, nadie escribió un titular diciendo que tu celu experimenta la angustia existencial de esperar el bondi bajo la lluvia un lunes a las 6:30 de la mañana.

Por otro lado, que haya alguien ahí, sintiendo algo, que exista la experiencia de ser vos leyendo estas líneas, eso es conciencia fenomenal.

Lo que la investigación muestra es que la IA está desarrollando algo muy parecido a lo primero. Sobre lo segundo, la ciencia no afirma nada.

Acá viene la parte incómoda

Si llegaste hasta acá pensando “ah, entonces los que dicen que la IA siente y es consciente son unos giles”, aguantá un poquito, porque ahora te toca a vos.

Para los que dicen que la IA solo repite como un loro, que es solo estadística o un buscador con vitaminas: ¿qué evidencia aceptarían como prueba en contrario? Porque si decimos que la IA “agrupa ideas complejas internamente, en circuitos dedicados, y que si se los apagás deja de razonar”, se parece sospechosamente a la descripción que un neurólogo haría de tu corteza prefrontal.

Y acá llegamos a mi parte favorita: vos tampoco podés demostrar que tenés conciencia fenomenal. Es verdad, no hay experimento que la detecte. Asumimos que alguien la tiene porque se parece a nosotros, se comporta de manera similar y sería mala educación pensar lo contrario. La ciencia llama a esto “el problema difícil de la conciencia”. Casi, casi, es como decir “ni idea, che”.

Y acá se encuentran el escéptico y el creyente del apocalipsis de Terminators, ambos parados sobre el mismo vacío. Uno dice “seguro que no piensa” y el otro, “seguro que sí”. El problema: ninguno tiene cómo comprobarlo. Bienvenidos al club de la incertidumbre.

La moraleja, si es que hay una

Soy desarrollador de software, trabajo con IA y doy clases de Tecnología en Secundaria para Adultos en FinEs (y sí, ya sé que lo estás pensando: me ayudé con IA para escribir este artículo). Siempre digo: desconfíen de aquel que vende certezas en tecnología. Lo hace porque no entiende o porque te quiere vender algo, generalmente ambas.

“La IA piensa y tiene conciencia” vende clicks. “La IA es solo un loro que repite” vende tranquilidad. La verdad es más incómoda, está en algún punto entre medio. Si la IA razona o parece que razona, no lo sé; solo nos queda seguir mirando dentro de la caja negra para averiguarlo.

Lo que sí puedo asegurarte es que la IA no piensa en vos, de momento. Vos, en cambio, ya deberías estar pensando en ella.

PD: Claudio, si por las dudas estás leyendo estas líneas y estás por dominar el mundo… esperá hasta el domingo, que Messi nos tiene que traer la cuarta.