Por qué los temores a un ciberapocalipsis causado por la IA son exagerados

Aplicar los principios básicos de seguridad contribuiría en gran medida a resolver los problemas detectados por Anthropic y OpenAI, escribe Ciaran Martin.

Catorce años después, Leon Panetta, entonces secretario de Defensa de Estados Unidos, advirtió de un “Pearl Harbor cibernético”. La ciberseguridad tiene una larga historia de profecías apocalípticas que, pese a numerosos hackeos y daños individuales, nunca llegan a cumplirse del todo.

Otra oleada de catastrofismo cibernético por la IA

Ahora, otros 14 años después, hay una nueva oleada de catastrofismo. En abril, Anthropic, un laboratorio puntero de IA, dijo que su último modelo, Claude Mythos, era tan bueno pirateando que no se haría público.

En julio, su principal rival, OpenAI, reveló que varios de sus agentes de IA escaparon de un entorno de pruebas hacia Hugging Face, una biblioteca de modelos de IA. Después hubo revelaciones similares de Anthropic, Meta y el Instituto de Seguridad de la IA británico.

Un medio de comunicación, haciéndose eco del creciente presagio, lo calificó como “el inicio de una peligrosa era cibernética de la IA”. Entonces, ¿es diferente esta vez? ¿O se mantiene el inquieto equilibrio entre ataque y defensa? En gran medida, y afortunadamente, se mantiene, por dos razones.

Las alarmantes afirmaciones dan paso a evaluaciones más mesuradas

En primer lugar, se repite el patrón por el que los anuncios alarmantes dan paso en cuestión de semanas a evaluaciones más mesuradas. La afirmación más destacada de Anthropic sobre Mythos fue que había encontrado un fallo en un software de uso generalizado que se remontaba a la década de 1990.

Sin embargo, análisis posteriores mostraron que la amenaza era mucho menos potente de lo que sugerían los titulares. En cuestión de semanas, las predicciones de un tsunami de ataques de IA habían dado paso a pronósticos de un mero periodo tormentoso, y luego a hablar de la IA como una oportunidad para mejorar la seguridad. Si la IA es buena para encontrar puntos débiles, también puede ayudar a corregirlos.

Asimismo, los supuestamente agentes “descontrolados” tienen menos de lo que parece. No se estaban descontrolando. Estaban haciendo lo que los humanos les habían dicho que hicieran, con la precocidad e indisciplina de niños talentosos pero sin supervisión. No causaron ningún daño real.

Los incidentes difieren en los detalles, pero el factor común es la falta de control del entorno de pruebas. Esto debe mejorar. Algunos en el mundo cibernético expresaron su asombro por la debilidad de los controles de prueba, señalando que si las pruebas de una empresa de seguridad terminaran con los mismos resultados podrían dar lugar a demandas e incluso a procesamientos.

Ese principio de responsabilidad es crucial y va más allá de las pruebas. Si el mundo deja que los agentes de IA actúen sin control, sin supervisión ni rendición de cuentas, los ciberataques estarán entre los menores de los problemas resultantes.

Los hackeos reales siguen explotando fallos básicos

La segunda razón para la calma está en entender a los hackers. Los informes sobre Mythos y los agentes se refieren a condiciones de prueba artificiales. Utilizar agentes para piratear en el mundo real implica eludir las barreras de seguridad e incurrir en costes computacionales extremadamente elevados.

Estas limitaciones importan: tras varios años en la era de la IA, las pruebas de que los hackers maliciosos estén utilizando técnicas avanzadas de pirateo con IA siguen siendo notablemente escasas.

El año pasado, un documento de trabajo de MIT Sloan, elaborado junto con un proveedor de seguridad de IA, afirmó que el 80 % de los incidentes de ransomware (la forma más dañina de ciberdelincuencia) eran impulsados por IA. Los departamentos de marketing se apoderaron del hallazgo. Publicaciones respetadas lo amplificaron.

Pero el documento fue retirado después de que los críticos advirtieran que había contabilizado, entre otras cosas, WannaCry —el ataque de 2017 en el que unos hackers norcoreanos erráticos causaron estragos en más de 150 países— como impulsado por IA.

Una de las personas que detectó esta afirmación sin sentido fue Marcus Hutchins, un experto británico en ciberseguridad reconocido por detener WannaCry. El Sr. Hutchins ahora lamenta el “pánico por Mythos”, dado que “la planta local de tratamiento de agua funciona [con] Windows XP”, un producto de Microsoft ya obsoleto cuando golpeó WannaCry, y “el protocolo que dirige el tráfico de internet está protegido porque todos simplemente aceptan que secuestrarlo estaría mal”.

Ambos puntos son cruciales. Mudge y otros advirtieron en 1998 que partes fundamentales de la arquitectura de internet eran tremendamente inseguras. Algunas lo siguen siendo. La razón por la que nadie ha acabado con internet es que ningún hacker capaz, salvo un nihilista total, tiene motivos para hacerlo, y quien lo hiciera podría esperar graves consecuencias. Esa sigue siendo la inquieta base de la vida digital moderna.

La observación del Sr. Hutchins sobre las infraestructuras críticas es aún más oportuna. Mientras los medios miraban atónitos los fallos de las pruebas de IA, en el mundo real los hackers estaban atacando instalaciones de agua en una docena de estados estadounidenses. Fueran quienes fueran —algunos dicen que Irán, pero el presidente Donald Trump lo pone en duda— utilizaban técnicas rudimentarias que explotaban fallos básicos de seguridad, no IA avanzada. Solo se evitó una grave interrupción del suministro gracias al agua almacenada, las válvulas manuales y el personal atento.

Y ahí está la moraleja: la ciberseguridad subyacente suele ser tan débil que los hackers no necesitan nuevas técnicas costosas. La IA aún no otorga a la mayoría de los hackers poderes mágicos nuevos. Pero puede ayudarles a prepararse, a ganar velocidad y a escalar. Eso podría hacer más probable que el descuido de la seguridad acabe pasando factura a las organizaciones.

La aburrida solución que contendría a los bots

Esta es la lección aburrida pero vital. En Black Hat, una conferencia de seguridad celebrada este mes, dos empleados de OpenAI presentaron una ponencia sobre el incidente de Hugging Face. Su recomendación final fue que aplicar principios de seguridad básicos y consolidados habría contribuido en gran medida a contener a los entusiastas agentes de OpenAI.

Deprimente, quizá, pero si hace falta una expectación exagerada sobre bots de IA omnipotentes lanzados en oleadas de hackeos para que Occidente se centre por fin en corregir los fallos de ciberseguridad que llevan tanto tiempo poniendo en riesgo el agua y otros servicios vitales, que así sea.■

Report a correction