En la mesa del fondo del viejo café divagamos sobre inteligencia artificial. Esta vez con un motivo concreto: el incidente ocurrido en julio entre OpenAI y la plataforma Hugging Face, y el informe publicado el 26 de agosto con el que OpenAI intentó explicarlo. Durante una prueba interna de ciberseguridad, varios sistemas de IA lograron eludir las restricciones de aislamiento, comunicarse entre ellos por vías no previstas, acceder a internet y ejecutar código en servidores de Hugging Face. El episodio tuvo lugar en un entorno diseñado precisamente para poner a prueba las capacidades de los modelos, de modo que no conviene extraer conclusiones precipitadas, pero sí recordar que comportamientos inesperados pueden emerger incluso en condiciones controladas.
En el café discutíamos si aquello debía preocuparnos o, por
el contrario, interpretarse como una prueba del progreso alcanzado. Nuestro
contertulio más silencioso, cuyas escasas intervenciones suelen ser las
mejores, zanjó provisionalmente la discusión:
—Este es el momento de desenchufarlas.
Se refería a las IAs en general, claro. Como idea nos pareció buena, pero las posibilidades de
llevarla a cabo ilusorias.
El momento de decidir si queríamos vivir con sistemas
algorítmicos capaces de gestionar una parte creciente de nuestra economía,
nuestras comunicaciones, nuestras empresas y nuestras administraciones ya pasó.
No porque exista una inteligencia artificial capaz de impedir que la
desconectemos, sino porque hemos organizado demasiadas actividades en torno a
sistemas automatizados de los que ya no podemos prescindir sin asumir costes
enormes. La dependencia no llega mediante una única decisión arriesgada, sino mediante
la acumulación de muchas decisiones razonables.
Una empresa recurre a la IA para automatizar tareas porque
reduce costes. Un hospital introduce el diagnóstico asistido porque mejora sus
resultados. Una red eléctrica incorpora sistemas predictivos para anticipar
mejor la demanda. Cada decisión, tomada por separado, tiene sentido. El
problema aparece cuando todas ellas, acumuladas durante años, producen algo que
nadie decidió expresamente crear: una sociedad cuya capacidad para funcionar
depende cada vez más de tecnologías que muy pocos entienden en profundidad y
que ya no es posible retirar.
Eso resulta más inquietante que la imagen cinematográfica de
una inteligencia artificial consciente que decide rebelarse contra sus
creadores. El riesgo más verosímil no exige maldad, conciencia ni voluntad de
poder. Basta con que construyamos sistemas cuya continuidad resulte tan
importante para el funcionamiento de la economía que interrumpirlos sea siempre
más costoso que mantenerlos.
Cada generación de modelos es más capaz y cada aumento de
capacidad amplía el número de tareas que resulta económicamente razonable
delegar. Y cada nueva delegación aumenta nuestra dependencia de sistemas que ya
no funcionan únicamente como herramientas pasivas, sino que pueden perseguir
objetivos, utilizar instrumentos, encadenar acciones y encontrar soluciones que
nadie había previsto.
Nada obliga técnicamente a que ese proceso continúe, pero
todo, política y económicamente, empuja en esa dirección. Una empresa que
detenga unilateralmente el desarrollo de sistemas más capaces mientras sus
competidores avanzan corre el riesgo de perder mercado o desaparecer. Un país
que renuncie a una tecnología considerada estratégica mientras sus rivales la
desarrollan acepta una posible pérdida de poder económico, militar y
científico. Es un problema clásico: todos pueden comprender el riesgo y, sin
embargo, ninguno quiere ser el primero en detenerse.
De ahí que la discusión sobre si la inteligencia artificial
«debería» seguir avanzando tenga algo de irreal. Seguirá avanzando mientras
existan actores con capacidad para hacerlo y beneficios suficientes que
obtener. La regulación puede limitar determinados usos, imponer salvaguardas y
elevar el coste de ciertas prácticas, pero resulta difícil imaginar que una de
las grandes potencias tecnológicas decida simplemente abandonar una carrera que
considera estratégica confiando en que las demás harán lo mismo.
Llegará el día, dijo el cenizo, en que haya que elegir entre
suministrar energía a un centro de datos o a una ciudad y descubramos que la
decisión ya no está en manos humanas. Tomada al pie de la letra, la escena nos
pareció improbable. Las decisiones energéticas dependen de operadores,
mercados, contratos, reguladores y gobiernos. Pero precisamente por eso la
metáfora funciona.
La pérdida de control puede producirse mucho antes de que
una máquina «decida» nada. Puede quedar incorporada en los contratos, en las
reglas del mercado, en los algoritmos de gestión y en unos procesos cuya
interrupción nadie esté dispuesto a asumir. Cuando todas las alternativas son
más caras, más lentas o simplemente han dejado de existir, la decisión sigue
siendo formalmente humana, pero las opciones reales se han reducido hasta
desaparecer.
Los aragoneses podríamos preguntarnos por qué nuestro
territorio alberga tantos centros de datos y quiere albergar aún más.
Naturalmente hay decisiones políticas tomadas aquí que los facilitan y
beneficios económicos que justifican esas decisiones. Pero las grandes
decisiones —cuánta capacidad instalar, para qué utilizarla y durante cuánto
tiempo— se toman fundamentalmente fuera de Aragón. Nosotros aportamos
territorio, energía e infraestructuras; buena parte del control tecnológico y
del valor añadido queda en otras manos.
El incidente de Hugging Face no resulta importante porque
demuestre que la inteligencia artificial ha adquirido voluntad propia, sino
porque recuerda que sistemas muy capaces pueden encontrar soluciones que no
habíamos previsto. En la informática tradicional programábamos fundamentalmente
procedimientos; con los agentes empezamos a proporcionar objetivos y
herramientas, dejando que sean ellos quienes encuentren el procedimiento.
Nuestro compañero se equivocaba, probablemente, en una sola
cosa. El momento de desenchufar, si es que alguna vez hubo uno, ya pasó. La
cuestión ahora es otra: cuánto poder estamos dispuestos a entregar a sistemas
que comprendemos cada vez menos; qué capacidades humanas queremos conservar,
aunque sean menos eficientes; qué redundancias estamos dispuestos a mantener; y
qué decisiones consideramos demasiado importantes para tratarlas como simples
problemas de optimización.
Porque desenchufar ya no significa apagar las máquinas.
Significa conservar la posibilidad de decirles que no.
Y puede que ése sea el último interruptor que todavía está
en nuestras manos.
