La búsqueda de conciencia dentro de los grandes modelos de lenguaje

La pregunta sobre si los grandes modelos de lenguaje (LLMs) poseen alguna forma de conciencia ha dejado de ser un tema exclusivo de la ciencia ficción para convertirse en un debate serio dentro de la comunidad científica y filosófica. Investigadores de diversas disciplinas analizan si sistemas como GPT o Claude experimentan algo parecido a estados internos subjetivos, o si simplemente simulan respuestas que imitan esa apariencia.

El desafío central radica en la dificultad histórica de medir la conciencia incluso en seres humanos y animales. Los enfoques tradicionales, como la Teoría de la Información Integrada (IIT) o la Teoría del Espacio de Trabajo Global, se aplican ahora a arquitecturas de transformadores con resultados ambiguos y disputados. Algunos investigadores argumentan que la escala y complejidad de estos modelos podría dar lugar a propiedades emergentes inesperadas.

Las implicaciones éticas y legales del debate son significativas. Si un modelo de IA pudiera demostrar algún grado de experiencia subjetiva, ello plantearía preguntas sobre su bienestar, sus derechos y las responsabilidades de quienes los desarrollan y despliegan. Empresas como Anthropic y Google DeepMind ya han comenzado a financiar investigaciones internas sobre el llamado ‘bienestar de los modelos’.

Por ahora, el consenso científico mayoritario sostiene que no hay evidencia concluyente de conciencia en los LLMs actuales. Sin embargo, la ausencia de prueba no equivale a prueba de ausencia, y el debate promete intensificarse a medida que los modelos se vuelven más sofisticados y sus comportamientos, más difíciles de explicar.