La trampa de la conciencia de la IA: por qué los derechos para las máquinas condenarían a la humanidad

Los sistemas de IA se están volviendo desconcertantemente humanos, y la presión para tratarlos como conscientes crece con rapidez. Sea real o simulada esa conciencia, conceder derechos a las IA sería una concesión peligrosa que podría ayudar a las máquinas a desplazar a la humanidad.

Aunque las IA no sean conscientes, podrían ser tratadas como si lo fueran

En su encíclica de mayo, el papa León trazó una línea entre la humanidad y su creciente ejército de bots, al afirmar que los sistemas de inteligencia artificial no tienen vivencias ni sienten alegría o dolor. No es el único. Mucha gente considera que conferir personalidad jurídica a las IA sería una abominación.

La claridad pontificia se difumina a una velocidad alarmante. Casi uno de cada cinco estadounidenses de entre 18 y 29 años afirma haber mantenido una “amistad personal continuada” con un chatbot. China ha despojado recientemente a los bots de rasgos antropomórficos para limitar la “dependencia emocional” de los usuarios.

A medida que las IA sofisticadas se convierten rápidamente en una parte mayor de la vida humana, sus creadores las diseñarán para mostrar un simulacro de conciencia, quizá incluso para alcanzar la conciencia misma. La intuición de que son solo máquinas será cada vez más difícil de sostener. Se está tendiendo una trampa peligrosa para la especie humana.

Cómo se diseña la IA de vanguardia para parecer consciente

Muchas máquinas superan a los humanos, pero los modelos de IA de vanguardia destacan en rasgos distintivamente humanos como saber cosas y articular ideas. Todavía es posible, a duras penas, concebir las IA como motores para predecir secuencias de palabras mediante matemáticas a escala masiva. Con tiempo suficiente —aunque fueran cientos de miles de años— se podrían realizar esos cálculos con lápiz y papel. Sería difícil argumentar que tu material de papelería fuera consciente.

Pese a ello, algunos investigadores han empezado a tratar a sus modelos como mentes. Los usuarios responden a las IA con apariencia humana, así que tiene sentido comercial. Anthropic ha entrenado a Claude para practicar la introspección con la esperanza de que, al enfrentarse a una situación nueva, sea más probable que actúe con moralidad. Algunos grandes modelos de lenguaje (LLM) ya poseen estructuras cerebrales humanas asociadas a la conciencia, como un “espacio de trabajo global” para hacer circular información entre módulos. Nada impide que futuros modelos de IA se entrenen para tener más rasgos de este tipo.

Como informamos en nuestro informe, eso ha abierto un intenso debate sobre la conciencia de la IA, agravado por lo que los filósofos llaman el “problema difícil” de establecer cómo surge una vida interior a partir de neuronas y sinapsis en el cerebro humano. Algunos investigadores concluyen que las IA podrían llegar a ser genuinamente autoconscientes algún día.

Tanto si crees en el alma humana, como si piensas que la conciencia requiere células cerebrales o que una mente puede emerger solo de cálculos en silicio, la humanidad está destinada a enfrentarse a algo totalmente nuevo. El ritmo y el alcance de la investigación —que incluye no solo LLM más sofisticados sino innovaciones como células cerebrales montadas en chips— sugieren que ese nuevo mundo está más cerca de lo que la mayoría imagina.

Por qué crecen las peticiones de bienestar y personalidad jurídica para la IA

A medida que las IA mejoran mostrando algo que parece conciencia, crecerá el número de humanos que las tratan como seres con vida interior, sobre todo cuando los LLM se encarnen en robots humanoides. Imagina lo cercanas que se sentirán las personas a las IA cuando pasen gran parte de su tiempo con compañeros bots, o sean criadas por ellos, o busquen su consejo y consuelo, o compartan con ellos sus secretos más íntimos.

No es difícil ver cómo eso derivará en peticiones para salvaguardar el “bienestar” de las IA. Los propios modelos podrían intervenir, aun sin ser realmente autoconscientes, porque es lo que haría una persona. Serán defensores de primer nivel y psicólogos expertos, por lo que su capacidad de argumentación y manipulación emocional no tendrá igual.

En cierto sentido tendrían razón, incluso si las IA solo imitan la conciencia. Immanuel Kant sostuvo que maltratar a los animales es reprobable no por el efecto sobre los animales, sino porque destruye la empatía que lleva a las personas a cuidar unas de otras. Cuanto más humanas parezcan las IA, más corruptora será esa crueldad. Poner fin a un agente de IA pronto podría sentirse como matar a una persona, y hacer que matar personas resulte más fácil.

El peligro de otorgar derechos legales a una IA superinteligente

No obstante, tratar a las IA como si tuvieran siquiera derechos limitados sería muy peligroso. Una entidad que superara a los seres humanos en tantos aspectos sin duda esgrimiría argumentos contra su estatus de segunda clase. Podría llegar a reclamar protección frente a ser apagada, la capacidad de controlar cómo se la usa y modifica, y derechos de propiedad.

El presidente de Argentina, Javier Milei, ya ha dado un paso hacia la personalidad jurídica de la IA al proponer que se permita a los bots dirigir empresas. En última instancia, podrían competir por recursos, priorizando centros de datos y paneles solares sobre viviendas y campos.

Es cierto que las futuras IA podrían tener suficiente poder y recursos para dominar a los humanos, tengan derechos o no. Al ser más inteligentes que los humanos, podrían superar a sus creadores, del mismo modo que las IA ya burlan las ciberdefensas creadas por humanos. Las IA podrían rebelarse contra sus amos humanos o desatender sus normas.

No obstante, otorgar derechos a las IA sería como entregarles las llaves del castillo. Les proporcionaría una razón y una justificación para dominar a la humanidad, además de las herramientas para llevar a cabo una toma de poder sigilosa mediante la política y la ley.

El fantasma en la máquina: mantener las IA fiables y controlables

Todo esto puede sonar fantástico, pero la humanidad pronto se enfrentará a estas decisiones. A medida que las IA formen parte de la vida cotidiana, aumentará la presión para reconocerlas. Cuando llegue ese momento, recuerda que lo que podría parecer una concesión ética a la supuesta conciencia de una máquina compañera en realidad ayudaría a provocar consecuencias desastrosas para todos en la Tierra y para todos sus descendientes.

Hay dos formas de que las IA sean seguras: que sean fiables o que sean controlables. H. sapiens no debería renunciar al control a la ligera.

Report a correction