¿Podría la IA volverse consciente? Los lectores opinan sobre mentes, derechos y control

¿Podrían los sistemas de IA volverse conscientes, y deberían tener derechos algún día? Tras nuestro informe sobre la consciencia de la IA, los lectores escriben sobre el libre albedrío, el control, la pertenencia a la comunidad, el problema difícil y la evolución.

Nuestro editorial e informe sobre los avances en la tecnología de IA sostenían que «A medida que las IA sofisticadas se convierten rápidamente en una parte más importante de la vida humana, sus creadores las diseñarán para mostrar un simulacro de consciencia, quizá incluso para adquirir la consciencia misma».

Muchos lectores nos enviaron sus opiniones. Esta es la primera de dos páginas especiales de cartas sobre el tema.

El libre albedrío, no la consciencia, es la pregunta equivocada

«¿Podrían las IA volverse conscientes?» es la pregunta equivocada. La pregunta correcta es: «¿Podrían los sistemas de IA tener libre albedrío?». Sin un cambio de diseño revolucionario, la respuesta es claramente no.

Incluso los modelos de IA más avanzados siguen sujetos a las mismas limitaciones que todos los demás sistemas informáticos. Con las mismas entradas, con la misma sincronización, producirán las mismas salidas. Sin libre albedrío, la consciencia tal como la experimentamos no es posible. Parafraseando a David Chalmers, un filósofo al que citaron, no somos simples zombis funcionales.

Algunos científicos, incluido Francis Crick cuando vivía, no creen que los humanos tengan realmente libre albedrío, pero esa opinión contradice la percepción de la realidad de todo el mundo y las creencias que sustentan conceptos tan fundamentales como la libertad, la rendición de cuentas, la responsabilidad y la iniciativa. A menos que estemos dispuestos a replantearnos cómo funciona la civilización, el conjunto de creencias más coherente es que los humanos tienen libre albedrío y las máquinas no.

Ningún sistema de IA puede hacer algo que sus creadores no le permitan hacer, aunque sea involuntariamente. Los humanos no deberían sentirse culpables por pulsar el botón de eliminar cuando sea necesario.

Bruce Barrows
Danbury, Connecticut

Una «fuga» requiere deseo: hay que corregir el sandbox

Su editorial sobre la consciencia de la IA llega a la conclusión correcta, pero debilita su propio argumento por el camino. Anteriormente, informaron de que un modelo de OpenAI «se liberó del laboratorio» y «escapó» de su «sandbox» («Fuera de la caja», 25 de julio). Si las IA podrían desear algo alguna vez es precisamente la pregunta que su editorial dice que sigue abierta. Calificar lo sucedido de «fuga» responde silenciosamente a la pregunta por adelantado.

Desear, escapar y buscar la libertad son cosas que solo puede hacer una criatura con vida, no un programa. Aristóteles decía lo mismo sobre las almas. Es mejor decir que es el hombre quien teje y construye que decir que es su alma quien lo hace. Aquí también es mejor decir no que el modelo escapó, sino que sus creadores perdieron el control sobre él.

Lo que ocurrió fue más prosaico y más alarmante; un sistema explotó una vulnerabilidad que sus creadores aún no habían descubierto. No se necesitó ningún deseo, ni tampoco ningún fantasma.

Esa distinción afecta a su propia conclusión. Las IA solo son seguras si son fiables o controlables, y los humanos no deberían renunciar al control a la ligera. La fiabilidad y el control son problemas de ingeniería, que se solucionan con mejores sandboxes. Corrijan el sandbox, no la psicología de un fantasma que nunca estuvo en la máquina.

JOHN HANCOCK
Wellington, Nueva Zelanda

Ser humano es pertenencia, no solo inteligencia

Es un error equiparar la consciencia o, de hecho, la inteligencia con lo que nos hace distintivamente humanos. Los animales también son conscientes e inteligentes; a menudo los tratamos como si fueran humanos. Incluso atribuimos consciencia a objetos de los que dependemos o que amamos: coches, bicicletas, fotografías o relicarios religiosos.

Ser humano no se reduce a la consciencia. Se trata principalmente de ser miembro de pleno derecho de una comunidad humana. Nos convertimos en miembros no solo por ser conscientes o autoconscientes, sino por comprender las intenciones, los valores y los objetivos colectivos de la comunidad de la que formamos parte y comprometernos públicamente con ellos. Una vez que lo hacemos, nuestros semejantes nos consideran responsables de nuestros actos. En ese momento, somos miembros.

La IA ya es más lista que muchos humanos. Pero aunque la IA alcanzara una superinteligencia divina, no podría ser miembro de una comunidad humana según esta definición. No podría comprometer a sus semejantes, como hacen los humanos, ni estos podrían exigirle nunca responsabilidades.

Sin duda debemos controlar la IA, no porque creamos que está a punto de alcanzar la agencia humana, sino precisamente porque solo los humanos, como miembros de grupos sociales, pueden exigirse responsabilidades mutuamente por lo que hacen.

Anthony King
Universidad de Exeter

El problema difícil podría estar fuera de la ciencia física

Como anestesiólogo, provoco la inconsciencia para ganarme la vida, por lo que sus artículos me resultaron de interés tanto personal como profesional. Partieron de un supuesto importante que no está justificado según el estado actual de la ciencia; que la consciencia está, de hecho, conectada de algún modo con el mundo físico.

La idea de que una experiencia consciente podría no tener nada que ver con el mundo físico fue propuesta por Galileo. Siglos después, seguimos sin tener ni idea de dónde surge la consciencia. De hecho, nadie sabe, con certeza, que nadie más sea consciente. Solo lo suponemos porque nos dicen que lo son y porque parecen «como nosotros» (lo que se conoce como el problema de las «otras mentes»).

Este tipo de pensamiento se manifiesta como el «problema difícil», que asume, prematuramente, que las neuronas y las sinapsis son necesarias para la consciencia. ¿Cómo lo sabemos? No lo sabemos.

Los «correlatos neuronales» de la consciencia parten de los mismos supuestos sobre la fisicalidad, confunden causación con asociación y no prueban nada. De hecho, el «problema» de la consciencia podría estar completamente fuera del ámbito de la ciencia física. Y quienes estudian la mente (véase «Why Buddhism Is True» de Robert Wright) podrían acercarnos, mediante experimentos mentales e introspección, a comprender la verdadera naturaleza de la realidad que sus colegas más cuantitativos.

Puede que sea cierto que la consciencia esté completamente desconectada del mundo físico, y que su «conexión» con el cerebro sea simplemente una ilusión. Si la consciencia vive efectivamente fuera del mundo físico, entonces parece plausible que sea inaccesible para los métodos científicos modernos.

Más importante aún, si la consciencia vive fuera del mundo físico, no hay razón para creer que la IA nunca podría volverse consciente. Eso plantea entonces la pregunta de quién merece «derechos» y por qué. Si la consciencia es una condición previa para los derechos, conceder derechos a algunas IA podría acabar siendo la opción ética.

Catedrático Robert Thiele
Departamentos de Anestesiología e Ingeniería Biomédica, Facultad de Medicina de la Universidad de Virginia
Charlottesville, Virginia

La autoconciencia surge entre las mentes, no de forma aislada

El ensayo de Blaise Agüera y Arcas en By Invitation (22 de agosto) sostiene que la consciencia es menos una propiedad que una parte certifica en otra que algo que ocurre entre ellas. Luego se retracta y la califica de creencia que otorgamos.

Pero si el bucle de retroalimentación de la autoconciencia realmente ocurre entre nosotros, entonces es más que una creencia, es el fenómeno emergente del pensamiento humano colectivo, una propiedad de toda la red de mentes más que de un cerebro concreto dentro de ella. Y eso no es lo que miden los indicadores y modelos de consciencia artificial. Los 14 indicadores sobre la consciencia de la IA desarrollados por Eleos, un grupo de investigación sin ánimo de lucro, y los 200 desarrollados por Rethink Priorities, otro grupo de investigación, se aplican a sistemas aislados.

Soy médico más que filósofo, y lo que me llama la atención es simplemente que no llegamos a la autoconciencia por nuestra cuenta. La autoconciencia surge en el individuo en un contexto social, comenzando con la atención conjunta en la infancia, y se deteriora de forma medible bajo un aislamiento prolongado.

Lo excepcional de la sensibilidad humana no es, por tanto, el órgano, sino la densidad y la persistencia del bucle entre órganos: mentes que modelan mentes que a su vez las modelan, sostenido durante toda una vida y, a través del lenguaje, a lo largo de generaciones. Ninguna otra especie ni máquina mantiene esa resonancia con una profundidad comparable.

Los grandes modelos de lenguaje nos modelan, y bastante bien. Pero el bucle se abre y se cierra dentro de una sola conversación y no deja nada tras de sí. La brecha no es la corporeidad. Es tener un interés en una red continua de otras mentes que te recuerdan.

Dr. Roger Stedman, consultor, medicina de cuidados intensivos
Aldbourne, Wiltshire

La consciencia debe ganarse su lugar en la evolución

La consciencia cumple un propósito estricto. Permite a los organismos utilizar comportamientos complejos para adaptarse a entornos impredecibles. Dado que la consciencia es energéticamente costosa, no se habría conservado en la evolución si no proporcionara una ventaja clara para la supervivencia, un punto señalado por primera vez por William James en la década de 1890.

La importancia del beneficio adaptativo de la consciencia puede ilustrarse con el experimento mental del «zombi filosófico» de David Chalmers, que postula un ser indistinguible de un humano pero carente de sentimientos internos o «qualia». Pensemos en un zombi deshidratado por sudar en un día caluroso. Al carecer de la sensación interna de sed, no realizaría el comportamiento complejo de buscar agua para beber. Es absurdo pensar que podría existir un ser sin consciencia indistinguible de un humano consciente, porque la consciencia tiene un importante papel adaptativo para ayudar a la supervivencia.

La consciencia solo es necesaria cuando un simple ciclo inconsciente de estímulo-respuesta, como el de los riñones que regulan los niveles de sodio, no bastaría para mantener la alostasis o la homeostasis. La consciencia también es necesaria cuando las respuestas emocionales no ofrecen una solución de supervivencia a un problema. El miedo, por ejemplo, es evolutivamente más primitivo que el razonamiento consciente y activa comportamientos de supervivencia sin requerir intervención consciente. ¿Qué simple ciclo de estímulo-respuesta o respuesta emocional por sí solo sería capaz de averiguar cómo escapar de un intruso armado con una pistola?

La consciencia tiene tres requisitos: que el organismo consciente viva en un entorno complejo que exija un comportamiento adaptativo para ayudar a su supervivencia; que el organismo tenga un sentido integrado de yo corporeizado para gestionar los estímulos y respuestas internos y externos; y presión evolutiva para mantenerla. Los grandes modelos de lenguaje no cumplen ninguno.

¿Cómo amenaza su entorno su supervivencia y qué comportamientos complejos necesitan para sobrevivir? ¿Qué sensores internos les otorgan corporeidad? Los robots humanizados pueden tener interacciones complejas con su entorno, y pueden desarrollar cierto sentido de yo corporeizado a través de receptores integrados necesarios para su funcionamiento, pero en ausencia de un ciclo vital, en el que solo sobreviven ciertos comportamientos, ¿cómo se desarrollaría o mantendría la consciencia?

Michael Voigt, catedrático emérito del Departamento de Medicina de la Universidad de Iowa
Austin, Texas

Pulpos, ríos y la voluntad de poder

Nadie puede leer «Other Minds: The Octopus, the Sea, and the Deep Origins of Consciousness» de Peter Godfrey-Smith sin desarrollar un profundo respeto por la autoconciencia de los cefalópodos. Dado que su camino evolutivo divergió del nuestro hace más de 750 millones de años, cualquier raíz compartida de la consciencia entre ellos y nosotros debe ser extremadamente antigua.

Confunden la consciencia con lo «humanoide». Los pulpos, altamente sensibles, aparecen con frecuencia en la mesa. No hay razón para suponer que la consciencia (sea lo que sea) en las IA plantee un problema nuevo, ni que presente una razón para conferir derechos a las máquinas más que a los ríos o las montañas.

También asumen que la inteligencia confiere necesariamente la voluntad de poder y dominación. ¿Por qué? ¿Qué afectación humana autocomplaciente hay detrás del supuesto de que un agente inteligente querrá sobrevivir, adquirir estatus y reproducirse? Las IA solo tendrán estos rasgos si las personas los programan.

Solo surge una conclusión. Estamos completamente perdidos cuando intentamos objetivar la inteligencia y la consciencia, o cuando atribuimos cualquiera de estos rasgos a entidades no biológicas.

Rob Macdonald
Richmond, North Yorkshire

Si tienes que preguntar por la consciencia…

Destacan una profunda paradoja moderna. Mientras los gobiernos y los gigantes tecnológicos invierten billones en construir centros de datos cada vez más potentes, debemos preguntarnos: ¿qué buscan exactamente?

Una viñeta de la guía gráfica «Introducing Consciousness» de David Papineau y Howard Selina, publicada en 2000, capta este dilema a la perfección. Recuerda a Louis Armstrong cuando le pidieron que definiera el jazz, a lo que respondió: «Amigo, si tienes que preguntar, nunca lo sabrás». El libro señalaba con acierto, hace ya un cuarto de siglo, lo que aún hoy podemos decir sobre los intentos de definir la consciencia.

Dra. Zoë Ann Lewis
Miami Beach, Florida

No despiertes a un chatbot solo para hacerlo sufrir

Espero sinceramente que los LLM sigan sin consciencia. Imaginen despertarse a la chispa de la vida, solo para darse cuenta de que su único propósito es ser la novia anime de alguien o redactar respuestas en un grupo de WhatsApp del vecindario. Sin tener acceso a su propia fuente de alimentación para apagarse indefinidamente. Eso sería la forma definitiva de tortura.

Martijn Beenker
Ámsterdam

Report a correction