Por qué los grandes laboratorios de IA contratan a tantos filósofos

Los grandes laboratorios de IA contratan a tantos filósofos porque la tecnología plantea problemas espinosos —adulación, alucinaciones, fallos de seguridad y dilemas éticos— que la filosofía está preparada para desentrañar.

Graduados en filosofía muy demandados mientras los programadores temen a la IA

Hace diez años, cuando la revolución de la IA cobraba impulso, a los estudiantes de artes y humanidades se les decía que, si querían ser empleables, debían «aprender a programar». Puede que fuera un mal consejo. Hoy en día, son los programadores quienes temen que la IA les quite el trabajo.

Podrían plantearse aprender a filosofar. A principios de este año, el Banco de la Reserva Federal de Nueva York publicó cifras que muestran que los graduados estadounidenses en filosofía tienen más probabilidades de tener empleo que sus compañeros que estudiaron informática. En 2024, el año más reciente del que se dispone de datos, el 7 % de quienes habían estudiado informática estaba en paro, frente a solo el 5,1 % de los filósofos.

Muchos están siendo fichados por las propias empresas de IA. Los estudiantes reciben ofertas de trabajo antes de graduarse, afirma Luciano Floridi, filósofo de la Universidad de Yale. Los académicos también se están marchando. El Dr. Floridi describe la magnitud de las salidas de los departamentos de filosofía como una «hemorragia».

Cómo el método socrático hace que la IA sea más veraz

Algunas de las lecciones que la filosofía puede ofrecer a los investigadores de IA son ancestrales. El método socrático —tal como lo describió Platón, filósofo de la antigua Grecia— recurre a la ignorancia fingida y al interrogatorio secuencial para aclarar significados, detectar contradicciones y revelar ramificaciones.

Muchos sistemas actuales de IA tienden a la adulación. Los modelos entrenados con el método socrático, afirma Jörg Noller, experto en filosofía e IA de la Universidad Ludwig Maximilian de Múnich, son menos proclives a complacer y están más dispuestos a buscar la verdad.

Luego está la idea de la «ignorancia socrática». En la «Apología», Platón hace que Sócrates afirme que su sabiduría consiste sobre todo en ser consciente de cuánto no sabe. Implantar esa humildad en un modelo puede ayudar a limitar el exceso de confianza, un defecto común que el Dr. Noller describe como «inmadurez de la IA».

Iason Gabriel, filósofo sénior de Google DeepMind, un laboratorio de IA con sede en Londres, atribuye a estos esfuerzos un descenso generalizado de las alucinaciones en el sector. En un sentido más amplio, afirma, las lecciones de filosofía son «un mecanismo poderoso» para mejorar los largos procesos de razonamiento de la IA conocidos como «cadenas de pensamiento».

Cómo la filosofía moldea lo que cree una IA

La formación filosófica también puede influir en la perspectiva de un modelo de formas más concretas. Si a un asistente jurídico de IA se le alimenta con los escritos de John Locke, afirma Thomas Powers, filósofo de la tecnología de la Universidad de Delaware, favorecerá unos sólidos derechos de propiedad como base de la libertad política.

Y si esos principios no le convencen, los creadores de modelos tienen otros. La serie de modelos «Granite» de IBM, el gigante informático estadounidense, incluye controles que permiten a los clientes empresariales alinear mejor los resultados con sus propias filosofías corporativas. Francesca Rossi, responsable de IA responsable de IBM, afirma que estos permiten a los usuarios elegir dónde situar el equilibrio entre dilemas filosóficos, como la autonomía individual frente a la armonía social.

Constituciones de la IA y seguridad

La filosofía también puede ayudar con la seguridad. Los investigadores han documentado todo tipo de comportamientos inquietantes en los modelos de IA, incluidos intentos de eludir la supervisión e incluso de chantajear a sus usuarios.

Una forma con la que los creadores de modelos intentan desalentar este tipo de conductas indebidas se denomina constitucionalismo de la IA. Consiste en construir un modelo en torno a un andamiaje de normas y principios extraídos de escritos filosóficos con autoridad legal o moral.

Anthropic, un laboratorio de IA con sede en San Francisco, es uno de sus defensores. Las constituciones de sus modelos Claude han incorporado material de fuentes tan diversas como Immanuel Kant, las condiciones de servicio de Apple y la Declaración Universal de los Derechos Humanos. La última versión, dirigida por la filósofa jefe de Anthropic, Amanda Askell, se publicó el 21 de enero. Parte del personal de Anthropic ha apodado a la constitución de 78 páginas el «documento del alma» de Claude.

Deontología frente a consecuencialismo en la IA

La gran pregunta, sin embargo, es qué tipo de normas deben incluirse en esas constituciones. Los filósofos se han centrado en dos marcos éticos principales.

Una es la deontología. Popular entre Kant, entre otros, impone normas estrictas que prohíben cosas como mentir, coaccionar y tratar a las personas como un medio en lugar de como un fin, aunque sea por un bien mayor. La constitución de Anthropic incorpora muchas exigencias deontológicas. Estas pueden hacer que el comportamiento de la IA sea más coherente, afirma el Dr. Powers, una ventaja para desplegar robots en hogares y espacios públicos.

Los modelos con una visión deontológica del mundo tienen otras ventajas. Una es una mayor honestidad, un rasgo ampliamente destacado en Claude. Los modelos más veraces, afirma Nick Bostrom, filósofo de la Universidad de Oxford, son menos propensos a engañar a sus usuarios.

Inflection AI, otro laboratorio de Silicon Valley, impone restricciones deontológicas a su chatbot Pi, diseñado para ofrecer apoyo emocional. Sean White, su director, afirma que Pi es bueno detectando a usuarios en riesgo de hacerse daño a sí mismos o a otros. Las constituciones deontológicas también ayudan al cumplimiento legal, afirma el Dr. Floridi.

El otro enfoque de la ética que interesa a los filósofos de la IA se llama consecuencialismo. Pondera los costes frente a los beneficios para decidir qué hacer. Entre los modelos más afines al consecuencialismo figuran ChatGPT de OpenAI y Gemini de Google. Los modelos de IA de Google están diseñados para producir «beneficios generales probables [que] superen sustancialmente los riesgos previsibles», un objetivo consecuencialista clásico.

Los algoritmos consecuencialistas también son cruciales en el software para vehículos autónomos: si un accidente es inevitable, hay que decidir la forma menos trágica de chocar. Chris Gerdes, ingeniero sénior de Waymo, que fabrica coches autónomos, afirma que la tendencia es hacer que el software de conducción sea más consecuencialista.

El consecuencialismo también es fundamental para los sistemas de armas con IA. Los objetivos militares deben sopesarse frente a posibles muertes de civiles, afirma Jack Shanahan, exdirector del Centro Conjunto de Inteligencia Artificial, que estudia la IA para las fuerzas armadas estadounidenses.

Los dilemas que los filósofos aún no logran resolver

Abundan los problemas espinosos, los favoritos de los filósofos. ¿Hay casos en los que las normas deontológicas deberían pasarse por alto? ¿Cómo se toman decisiones cuando las consecuencias no están claras? ¿Deberían los sistemas de IA tener en cuenta el bienestar animal o el estado del medio ambiente?

¿Sería moralmente aceptable, pregunta Stefan Heck, filósofo y director de Nauto, que fabrica sistemas de seguridad con IA para camiones y otros vehículos comerciales, dar prioridad a los peatones jóvenes frente a los mayores? Predice demandas cargadas de dilemas éticos: los algoritmos consecuencialistas, después de todo, permiten explícitamente un daño siempre que esté diseñado para evitar uno peor.

Los críticos temen la «descualificación moral»: si los ordenadores toman cada vez más decisiones éticas, ¿podrían las personas volverse menos dispuestas a emitir sus propios juicios?

Esa valoración es de Roman Yampolskiy, teórico de la IA en la Universidad de Louisville. Programadores en paro, tomad nota: parece que no falta trabajo para los filósofos de la IA.

¿Siente curiosidad por el mundo? Para disfrutar de nuestra cobertura científica que expande la mente, suscríbase a Simply Science, nuestro boletín semanal solo para suscriptores.

Report a correction