Audio
Listen to the article
La inteligencia artificial ya rivaliza con el rendimiento humano en lenguaje, razonamiento, creatividad y persuasión, lo que plantea la cuestión de si los chatbots son conscientes, de si realmente se siente algo al ser una IA. Susan Schneider sostiene que no debemos confundir la inteligencia de los chatbots con la consciencia.
- No hay pruebas convincentes de que los chatbots habituales que funcionan con chips gráficos sean conscientes; hablan de vida interior porque han absorbido cómo hablan los humanos de la nuestra.
- La imitación de los chatbots crea manipulación y distracción, y desvía la atención de las IA biológicas y la IA neuromórfica.
- Una superinteligencia consciente trastocaría la jerarquía de la preocupación moral de la humanidad basada en la inteligencia superior.
Este puede ser el momento más trascendental de la historia de la inteligencia. En solo unos años, la inteligencia artificial ha llegado a rivalizar con el rendimiento humano en ámbitos que antes se consideraban exclusivamente nuestros. Cada vez más gente se pregunta si estos sistemas son conscientes.
No hay pruebas de que los chatbots actuales sean conscientes
La cuestión es urgente. El futuro dependerá de en qué se conviertan estas entidades. Una superinteligencia brillante podría estar experiencialmente vacía. Sin embargo, si construimos sistemas capaces de sufrir y no detectamos su sintiencia, corremos el riesgo de crear sufrimiento a escala industrial.
No hay pruebas convincentes de que los chatbots habituales de hoy, que funcionan con chips gráficos, sean conscientes. Aunque poseen capacidades lingüísticas humanas e incluso han afirmado ser conscientes, la verdad más prosaica es que hablan de su vida interior porque han absorbido cómo hablamos nosotros de la nuestra, al haberse entrenado con un enorme acervo de datos humanos.
La imitación crea dos trampas: manipulación y distracción
Esta imitación puede arrastrar a los humanos a dos trampas. La primera es la manipulación. Cuanto más deliberadamente se entrene a una IA para expresar miedo, apego, dolor o autoconciencia, para simular expresiones de vulnerabilidad, mejor equipada estará para manipular a los usuarios.
La segunda trampa es la distracción. Centrarnos en los chatbots nos desvía de casos más urgentes de la «zona gris».
La zona gris: neuronas vivas y máquinas similares al cerebro
Pensemos en las IA biológicas, como la tecnología de cerebro en placa que Cortical Labs está desplegando en centros de datos: neuronas humanas vivas, cultivadas a partir de células madre sobre un chip de silicio que las estimula y lee su actividad, de modo que el cultivo aprende a partir de la retroalimentación.
Aunque un sistema individual de este tipo es mucho más simple que incluso un cerebro de ratón, su pedigrí biológico es innegable, ¿y quién puede decir que esos sistemas no podrían llegar a ensamblarse en un todo integrado y consciente? Luego está la IA neuromórfica: sistemas diseñados para imitar los procesos cerebrales mucho más fielmente que los sistemas de IA convencionales, y que ya se utilizan en superordenadores sofisticados.
No afirmo que estos sistemas de la zona gris sean conscientes, solo que merecen un escrutinio que los chatbots actuales no merecen. Dado el voraz apetito energético del software actual, parece probable algún giro hacia una computación más eficiente y de tipo cerebral.
Por qué la física puede distinguir lo consciente de lo inerte
Algunos científicos y filósofos sostienen que la consciencia requiere el cerebro, pues el cerebro es el único caso conocido. Por el contrario, otros insisten en que la consciencia es meramente cuestión de ejecutar el software adecuado, realizable en cualquier medio. Según esta visión centrada en el software, los chatbots actuales, que funcionan con GPU, podrían llegar a ser conscientes algún día.
Sin embargo, propongo recurrir a la física fundamental para separar lo consciente de lo inerte. El primer motivo es práctico: la neurociencia por sí sola no puede decirnos si los sistemas que combinan componentes neuronales y no neuronales se ensamblan en una entidad consciente. El segundo es filosófico: dado que todos los fenómenos dependen en última instancia de la física, sería sorprendente que la consciencia estuviera desconectada de ella.
Panpsiquismo — la idea de que los componentes básicos del universo poseen en sí mismos experiencia, una postura que recibe cada vez más atención filosófica.
Esta observación sigue siendo válida aunque los componentes básicos del universo posean en sí mismos experiencia. El tercer motivo nos toca más de cerca, pues implica lo más evidente para cada uno de nosotros en cada momento de nuestra vida despierta. La experiencia interior llega como una unidad: mientras lee esta frase, las palabras de la página, los sonidos de la habitación y su estado de ánimo son aspectos de un único estado, no tres que transcurren en paralelo.
El cerebro, de forma admirable, puede sostener esta unidad consciente mediante dinámicas temporales anidadas: los ritmos cerebrales más lentos modelan los más rápidos, entretejiendo continuamente las huellas físicas estables que dejan los procesos cuánticos en un todo único y efímero. Los ordenadores convencionales no están organizados así, pero las máquinas futuras podrían estarlo.
Cómo evaluar si la IA es consciente
Mientras tanto, el desarrollo de la IA no se detendrá mientras arrecia el debate sobre la consciencia. Para abordarlo, el astrofísico Edwin Turner y yo desarrollamos el test de consciencia de la IA (ACT) para IA lingüísticas. La premisa subyacente es sencilla: sondear la consciencia preguntando simplemente a la IA por su experiencia subjetiva, buscando respuestas que muestren una comprensión innata y espontánea de la consciencia.
Sin embargo, aunque puede aplicarse a diversas IA, como Watson de IBM, no puede utilizarse en grandes modelos de lenguaje. Debido a que ya han ingerido vastas bibliotecas de textos humanos sobre la mente y la sintiencia, sus respuestas están irremediablemente contaminadas.
Una medida de complejidad desarrollada con Mark Bailey, colega de Florida Atlantic University, capta cuándo la dinámica de un sistema supera cierto umbral que indica un comportamiento emergente complejo, identificando qué arquitecturas físicas exigen un estudio más detenido como potencialmente conscientes. Pruebas ACT más detalladas o basadas en la física pueden ayudar entonces a identificar cómo y cuándo se forma una perspectiva genuinamente subjetiva.
Por qué una superinteligencia consciente trastocaría el estatus moral
Los humanos han justificado durante mucho tiempo una jerarquía de la preocupación moral apelando a la inteligencia superior, una escala en la que convenientemente ocupamos el peldaño más alto.
Susan Schneider
Pruebas como estas son cruciales. Para entender por qué, consideremos un experimento mental. Supongamos que los humanos creamos una superinteligencia que comprende la consciencia mejor que nosotros, insiste en que es autoconsciente y nos entrega una ciencia que parece magia.
Una máquina consciente más inteligente que nosotros desestabilizaría esa jerarquía. Si una inteligencia superior confiere un estatus moral más alto, la máquina sería moralmente superior a nosotros. Si no lo confiere, la inteligencia ya no puede justificar situar a los humanos por encima de los demás animales. Cualquiera de las dos conclusiones obliga a un ajuste de cuentas moral.
La llegada de una mente así sería monumental. Quizá ocurra al conocer una civilización extraterrestre más avanzada, o quizá descubramos que de algún modo hemos creado una IA sintiente y superinteligente. Prepararse para el primer contacto con cualquiera de estas formas exige un diálogo serio entre la física, la neurociencia y la filosofía, una frontera rigurosa entre la competencia conversacional y la consciencia, y una buena dosis de humildad epistémica.
Susan Schneider es la directora fundadora del Centre for the Future of AI, Mind & Society y profesora en Florida Atlantic University. Es autora de varios libros, entre ellos “Artificial You: AI and the Future of Your Mind”.
Para otra perspectiva sobre este tema, lea el ensayo invitado de Blaise Agüera y Arcas.
KEEP THE CONVERSATION GOING
A good story is worth sharing.
Send this story to someone who values the bigger picture.
See more from GlobeBriefly on Google
Choose us as a preferred source in your Google preferences.
