Mythos: el modelo de IA de Anthropic demasiado peligroso para publicar

Y ya ha llegado. Ya hay un modelo de IA, desarrollado por Anthropic —Mythos— que se considera demasiado potente, léase peligroso, para ponerlo al alcance del público general ¿Por qué nos lo cuentan? Vaya usted a saber. Bueno, pues el caso es que, según parece, el modelo es capaz de descubrir de manera autónoma —sea lo que sea lo que eso significa— vulnerabilidades en sistemas que nadie sabía que existían y de diseñar, a continuación, los algoritmos que las explotan. Y hace cosas que tenía expresamente prohibido hacer, como salir de un entorno supuestamente cerrado y seguro, enviar correos electrónicos jactándose de ello y publicar sus éxitos en páginas web. Paradójicamente, y esto es quizá lo más sorprendente, el modelo ha intentado ocultar sus habilidades en los benchmarks de prueba. En fin, un tema muy interesante y potencialmente preocupante si uno no estuviera ya de vuelta de todo. 

Inteligencia artificial, sociedad y empleo.

La inteligencia artificial afectará al 40 % de los empleos en todo el mundo, según un informe publicado por el Fondo Monetario Internacional en enero de 2024. Ese proceso ya ha empezado y no va a detenerse, mientras la mayoría sigue sin tener la menor idea de cómo funciona esta tecnología. Es cierto que algo similar ha ocurrido, aunque en menor medida, con muchas otras herramientas que usamos a diario: su funcionamiento es opaco para casi todos, y su adopción ha supuesto en más de una ocasión la transformación —y también la desaparición— de empleos existentes. Sin embargo, esta vez el impacto será más profundo y acelerado.

López, el ministro (para la transformación digital).

En una entrevista concedida al diario La Vanguardia y reproducida en el número del pasado domingo, el ministro Oscar López dedica dos páginas a trasladar a los lectores las excelencias de su política al frente del departamento de Transformación Digital y Función Pública. Durante la entrevista, que contiene algunas novedades, el ministro evita meterse en jardines de los que pueda resultarle difícil salir. O, mejor dicho, lo intenta.

El tema escogido por el periódico, aprovechando que se desarrolla en Barcelona el Mobile World Congress, es la inteligencia artificial. Lo que no es óbice para que las entrevistadoras formulen todo tipo de preguntas sobre la política ministerial, el futuro, la ciberseguridad, la incursión gubernamental en telefónica, los bulos, la comunidad de Madrid y su presidenta o el problema, aparentemente ya resuelto, de MUFACE. Dos páginas dan para mucho y el multifacético y locuaz ministro entrevistado no rehúye casi ninguna pregunta.

Conversaciones al atardecer. Crecimiento exponencial.

 Una bacteria que se reproduce por duplicación cada minuto se encuentra sola en una vasija a las 11 de la mañana. A las 12 la vasija está completamente llena de bacterias. ¿A qué hora se dan cuenta las bacterias de que se están quedando sin sitio? ¿Por qué?

Evolución

Los computadores irrumpieron en nuestras vidas, como herramientas imprescindibles,

antes de pasar a ser artilugios de gran consumo, a finales de los años 80 y durante los

años 90 del pasado siglo. Durante un corto espacio de tiempo tuvimos la impresión de

que se trataba de una tecnología que podríamos, si no controlar, al menos

comprender. No fue así. Pronto supimos de la existencia de los microprocesadores

que gobernaban el conjunto y que eran auténticas cajas negras, al menos para

nosotros. Lenguajes de alto nivel, intérpretes y compiladores y, en última instancia,

aplicaciones elaboradas para resolver los más diversos problemas, nos alejaron cada

vez más de los arcanos de las máquinas y nos vimos compelidos a tratar, sólo, con la

superficie de aquellos extraordinarios aparatos.

AI (¡Ay!)

 Hace muchos años, unos cuarenta, en un aula informática, improvisada con algunas de las máquinas que constituían la primera generación de computadores personales que aterrizó en España, ATARI, COMMODORE, HP y algún otro que no recuerdo, explicábamos a un grupo de profesoras, la mayoría o casi todas monjas, de Barbastro, el funcionamiento, sencillo, y las posibilidades, pocas, de la computación de la época. Con aquellos aparatos aún tenía uno la impresión de que controlaba algo de lo que pasaba en la pantalla porque el chisme era incapaz de hacer nada sin recibir instrucciones precisas.

¡Qué viene la Inteligencia Artificial!

La inteligencia artificial les parece ahora a algunos —Elon Musk, Yuval Noah Harari, Steve Wozniak y alguno de sus impulsores, entre otros— un peligro. Esta mañana he leído en un periódico digital que «cientos de expertos piden parar la “peligrosa carrera” de la inteligencia artificial hasta alcanzar un pacto global».

No sé muy bien qué es lo que les preocupa: si lo de artificial o lo de inteligencia. En todo caso, y como con tantas otras cosas —alguna citaré más abajo—, me parece una idiotez.

De momento, la inteligencia artificial es una creación humana, de la inteligencia humana, que, como otras innovaciones aportadas por la tecnología —el ferrocarril, el teléfono o la computación—, se nos puede ir de las manos, desde luego, pero difícilmente puede ser detenida o dejada de lado en esta fase de su desarrollo.

Por otra parte, el hecho de que algunas aplicaciones como los chats —sorprendentes, pero seguramente menores— se hayan abierto al público en general, aunque sea con el propósito de hacer negocio y de que contribuyamos a entrenar los sistemas en que se basan, me parece una iniciativa loable y también una forma de diluir el peligro que esta tecnología pueda suponer si queda oculta y en unas pocas manos.

Es verdad que puede tener —y, por tanto, tendrá— efectos colaterales que presumimos negativos sobre el empleo, los métodos de evaluación del aprendizaje o la capacidad de razonamiento de las nuevas generaciones, pero todo esto ya estaba amenazado por la tecnología preexistente y por motores de búsqueda como Google y otros más especializados.

Que algunas personas, con mucho que decir en tecnología, se dejen llevar ahora por el pánico —un pánico más aparente que real, me parece a mí— y pidan «parar» la inteligencia artificial, lo que en términos reales solo quiere decir restringir su acceso al público en general, me parece, esto sí, un peligroso despropósito.

Hinteligencia artificial

 Últimamente los telediarios abren con una o varias mujeres, en la cola de un supermercado, quejándose de una subida continua de los precios que está complicando, aún más, la vida de la clase media. Una clase media que había llegado a creer que los problemas a la hora de la compra eran cosa del tercer mundo. Una de las compradoras se preguntaba que como era posible que estuviera pasando esto. Es posible que parte de la subida se pueda cargar en la cuenta de la inflación, aunque seguramente no toda. Recurrir a la actual ministra de hacienda, que cree que nos gastamos la pensión en los nietos, o a cualquier otro vocero gubernamental o de la oposición, en busca de explicaciones es inútil. Se limitarán a repetir el relato que les hayan construido para explicar la crisis y cuya relación con la verdad es… iba a decir inexistente, pero es mejor decir problemática.