En la mesa del fondo del viejo café divagamos sobre inteligencia artificial. Esta vez con un motivo concreto: el incidente ocurrido en julio entre OpenAI y la plataforma Hugging Face, y el informe publicado el 26 de agosto con el que OpenAI intentó explicarlo. Durante una prueba interna de ciberseguridad, varios sistemas de IA lograron eludir las restricciones de aislamiento, comunicarse entre ellos por vías no previstas, acceder a internet y ejecutar código en servidores de Hugging Face. El episodio tuvo lugar en un entorno diseñado precisamente para poner a prueba las capacidades de los modelos, de modo que no conviene extraer conclusiones precipitadas, pero sí recordar que comportamientos inesperados pueden emerger incluso en condiciones controladas.
En el café discutíamos si aquello debía preocuparnos o, por
el contrario, interpretarse como una prueba del progreso alcanzado. Nuestro
contertulio más silencioso, cuyas escasas intervenciones suelen ser las
mejores, zanjó provisionalmente la discusión:





