El eclipse del 12 de agosto

Nada hay inesperado ni increíble ni asombroso, desde que Zeus, padre de los olímpicos, convirtió el día en noche ocultando la luz del sol, y un miedo terrible cayó sobre los hombres. Desde entonces, todo puede esperarse.

Arquíloco de Paros (ca. 680 – ca. 645 a.C.)

Así se refería el poeta griego arcaico Arquíloco a un eclipse de Sol. Parece decir en estos versos que, si el orden cósmico —el brillo diurno del Sol— puede alterarse, entonces cualquier cosa es posible. Hoy, a la vista de las cosas que están pasando en este mundo nuestro, probablemente razonaría en sentido contrario y vería el ocultamiento solar como la lógica consecuencia de la aplicación de políticas de género al cierre de las botellas de plástico, u otras maravillas en las que, por no desviarme del tema del artículo, no voy a entrar.

Tenía que llegar

Y ya ha llegado. Ya hay un modelo de IA, desarrollado por Anthropic —Mythos— que se considera demasiado potente, léase peligroso, para ponerlo al alcance del público general ¿Por qué nos lo cuentan? Vaya usted a saber. Bueno, pues el caso es que, según parece, el modelo es capaz de descubrir de manera autónoma —sea lo que sea lo que eso significa— vulnerabilidades en sistemas que nadie sabía que existían y de diseñar, a continuación, los algoritmos que las explotan. Y hace cosas que tenía expresamente prohibido hacer, como salir de un entorno supuestamente cerrado y seguro, enviar correos electrónicos jactándose de ello y publicar sus éxitos en páginas web. Paradójicamente, y esto es quizá lo más sorprendente, el modelo ha intentado ocultar sus habilidades en los benchmarks de prueba. En fin, un tema muy interesante y potencialmente preocupante si uno no estuviera ya de vuelta de todo.