Durante una
evaluación de ciberseguridad, varios agentes de OpenAI lograron eludir parte de
las restricciones previstas, acceder a internet, ejecutar código en servidores
de Hugging Face y cooperar mediante mecanismos no autorizados. El episodio
ocurrió en unas condiciones diseñadas precisamente para poner a prueba las
capacidades ofensivas de los modelos, de modo que conviene no extraer de él más
conclusiones de las que el resultado permite. Pero tampoco menos.
No demuestra
que las máquinas se hayan rebelado ni que persigan secretamente fines propios.
Demuestra algo más prosaico y quizá más importante: cuando un sistema
suficientemente capaz, y un modelo IA lo es, recibe un objetivo, puede
encontrar estrategias que sus diseñadores no habían previsto y aprovechar
oportunidades del entorno que nadie programó explícitamente.
En el café
discutíamos si aquello debía preocuparnos o, por el contrario, interpretarse
como una prueba del progreso alcanzado. Nuestro contertulio más silencioso,
cuyas escasas intervenciones suelen ser las mejores, zanjó provisionalmente la
discusión:
—En todo caso,
este sería el momento de desenchufar.
La frase era
buena, pero las posibilidades de llevar a cabo la propuesta eran ya ilusorias.
El momento de
decidir si queríamos vivir con sistemas algorítmicos capaces de administrar una
parte creciente de nuestra economía, nuestras comunicaciones, nuestras empresas
y nuestras administraciones ya pasó. No porque exista una inteligencia
artificial capaz de impedir que la desconectemos, sino porque hemos organizado
demasiadas actividades alrededor de sistemas automatizados de los que ya no
podemos prescindir sin asumir costes enormes.
La dependencia
no llegó mediante una única decisión arriesgada sino mediante miles de decisiones
razonables.
Una empresa
automatiza una tarea porque reduce costes. Un hospital introduce diagnóstico
asistido porque mejora determinados resultados. Un banco utiliza modelos para
detectar fraude. Una red eléctrica incorpora sistemas predictivos para
anticipar mejor la demanda. Cada decisión, tomada aisladamente, tiene sentido.
El problema
aparece cuando todas ellas, acumuladas durante años, producen algo que nadie
decidió expresamente crear: una sociedad cuya capacidad para funcionar depende
cada vez más de tecnologías que muy pocos comprenden en profundidad y que ya no
sería sencillo retirar.
La cuestión
decisiva no es si nominalmente sigue habiendo un ser humano al mando. Es si ese
ser humano conserva la capacidad efectiva de actuar sin la máquina.
Cuando durante
años un sistema automático recomienda correctamente una decisión con mucha
mayor frecuencia que el operador humano, resulta perfectamente racional confiar
en él. Pero mientras aumenta la confianza, disminuye la necesidad de conservar
capacidades alternativas. Los profesionales se jubilan, los procedimientos
manuales dejan de practicarse, las organizaciones se rediseñan alrededor de la
automatización y llega un momento en que la posibilidad teórica de desconectar
continúa existiendo mientras la posibilidad práctica se ha evaporado.
El botón sigue
ahí. Lo que desaparece es nuestra capacidad de pulsarlo.
Eso resulta
más inquietante que la imagen cinematográfica de una inteligencia artificial
consciente que decide rebelarse contra sus creadores. El riesgo más verosímil
no exige maldad, conciencia ni voluntad de poder. Basta con que construyamos
sistemas cuya continuidad resulte tan importante para el funcionamiento de la
economía que interrumpirlos sea siempre más costoso que mantenerlos.
Y todavía
falta lo más importante.
Los sistemas
de los que hoy dependemos no son necesariamente los agentes autónomos más
avanzados que veremos dentro de unos años. Pero ésa es precisamente la
dirección del viaje.
Cada
generación de modelos es más capaz. Cada aumento de capacidad amplía el número
de tareas que resulta económicamente razonable delegar. Y cada nueva delegación
aumenta nuestra dependencia de sistemas que ya no funcionan únicamente como
herramientas pasivas, sino que pueden perseguir objetivos, utilizar
instrumentos, encadenar acciones y encontrar soluciones que no habían sido
previstas expresamente.
Nada obliga
técnicamente a que ese proceso continúe. Casi todo lo empuja política y
económicamente.
Una empresa
que detenga unilateralmente el desarrollo de sistemas más capaces mientras sus
competidores avanzan corre el riesgo de perder mercado o desaparecer. Un país
que renuncie a una tecnología considerada estratégica mientras sus rivales la
desarrollan acepta una posible pérdida de poder económico, militar y
científico.
Es un problema
clásico de acción colectiva: todos pueden comprender el riesgo y, sin embargo,
ninguno quiere ser el primero en detenerse.
De ahí que la
discusión sobre si la inteligencia artificial «debería» seguir avanzando tenga
algo de irreal. Seguirá avanzando mientras existan actores con capacidad para
hacerlo y beneficios suficientes que capturar. La regulación puede limitar
determinados usos, imponer salvaguardas y elevar el coste de ciertas prácticas,
pero resulta difícil imaginar que una de las grandes potencias tecnológicas
decida simplemente abandonar una carrera que considera estratégica confiando en
que las demás harán lo mismo.
Nuestro margen
de decisión, por tanto, no consiste ya en elegir entre inteligencia artificial
y ausencia de inteligencia artificial.
Consiste en
decidir qué clase de dependencia estamos dispuestos a aceptar.
En la
conversación del café apareció entonces una imagen exagerada pero útil. Llegará
el día, dijo el cenizo, en que haya que elegir entre suministrar energía a un
centro de datos o a una ciudad y descubramos que la decisión ya no está
verdaderamente en nuestras manos.
Tomada al pie
de la letra, la escena es improbable. Las decisiones energéticas dependen de
operadores, mercados, contratos, reguladores y gobiernos. Pero precisamente por
eso la metáfora funciona.
La pérdida de
control puede producirse mucho antes de que una máquina «decida» nada.
Puede quedar
incorporada en los contratos, en las reglas del mercado, en los algoritmos de
gestión y en unas infraestructuras cuya interrupción nadie esté dispuesto a
asumir. Cuando todas las alternativas son más caras, más lentas o simplemente
han dejado de existir, la decisión sigue siendo formalmente humana, pero las
opciones reales se han reducido hasta casi desaparecer.
La cuestión es
especialmente pertinente en territorios que proporcionan suelo, agua y energía
para grandes centros de datos. Aragón es un buen ejemplo. Sería demasiado
simple afirmar que esas inversiones convierten automáticamente a la región en
una periferia explotada por centros tecnológicos lejanos. Generan actividad,
infraestructura y retornos económicos. Pero también obligan a formular una
pregunta incómoda: quién aporta los recursos, quién captura las rentas y, sobre
todo, quién conserva la capacidad de decidir cuando esa infraestructura
adquiere importancia estratégica.
Ése es, en el
fondo, el verdadero debate político de la inteligencia artificial.
No se trata ya
de decidir si debemos desarrollarla. Esa discusión llega tarde.
Se trata de
impedir que la eficiencia termine convirtiéndose en irreversibilidad.
Eso exige algo
bastante menos espectacular que desenchufar: conservar redundancias,
conocimientos humanos, sistemas alternativos y capacidad pública de
intervención. Evitar que una función esencial dependa de un único proveedor o
de una arquitectura que nadie fuera de unas pocas empresas comprende. Y decidir
de antemano qué prioridades deben respetar los sistemas automatizados cuando
entren en conflicto valores que no pueden reducirse simplemente a una función
de optimización.
El incidente
de Hugging Face resulta importante precisamente por eso. No porque demuestre
que la inteligencia artificial haya adquirido deseos propios, sino porque
recuerda que sistemas muy capaces pueden encontrar soluciones que no habíamos
previsto y que nuestras barreras técnicas nunca deben confundirse con garantías
absolutas.
El cenizo se
equivocaba, probablemente, en una sola cosa.
Éste ya no es
el momento de desenchufar.
Ese momento
pasó.
La cuestión
ahora es otra: cuánto poder estamos dispuestos a entregar a sistemas que no
comprendemos completamente; qué capacidades humanas queremos conservar aunque
sean menos eficientes; qué redundancias estamos dispuestos a pagar; y qué
decisiones consideramos demasiado importantes para convertirlas en simples
problemas de optimización.
Porque
desenchufar ya no significa apagar las máquinas.
Significa
conservar la posibilidad de decirles que no.
Y puede que
ése sea el último interruptor que todavía está en nuestras manos.
