La primera reunión del curso en el viejo café la dedicamos, como tantas otras, a divagar sobre inteligencia artificial. Esta vez había un motivo concreto: el incidente ocurrido en julio entre OpenAI y Hugging Face.
Durante una evaluación de ciberseguridad, varios modelos de OpenAI lograron eludir parte de las restricciones previstas, acceder a internet, ejecutar código en servidores de Hugging Face y cooperar mediante mecanismos no autorizados. El episodio ocurrió en unas condiciones diseñadas precisamente para poner a prueba las capacidades ofensivas de los modelos, de modo que conviene no extraer de él más conclusiones de las que el resultado permite. Pero tampoco menos.
No demuestra que las máquinas se hayan rebelado ni que persigan secretamente fines propios. Demuestra algo más prosaico y más importante: cuando un sistema suficientemente capaz recibe un objetivo, puede encontrar estrategias que sus diseñadores no habían previsto y aprovechar oportunidades del entorno que nadie diseñó explícitamente.
En el café discutíamos si aquello debía preocuparnos o, por el contrario, interpretarse como una prueba del progreso alcanzado. Nuestro contertulio más silencioso, cuyas escasas intervenciones suelen ser las mejores, zanjó provisionalmente la discusión:
—En todo caso, este sería el momento de desenchufar.
La frase era buena, pero las posibilidades de llevar a cabo la propuesta eran ya ilusorias.
El momento de decidir si queríamos vivir con sistemas algorítmicos capaces de administrar una parte creciente de nuestra economía, nuestras comunicaciones, nuestras empresas y nuestras administraciones ya pasó. No porque exista una inteligencia artificial capaz de impedir que la desconectemos, sino porque hemos organizado demasiadas actividades alrededor de sistemas automatizados de los que ya no podemos prescindir sin asumir costes enormes. La dependencia no llegó mediante una única decisión arriesgada sino mediante miles de decisiones razonables.
Una empresa automatiza una tarea porque reduce costes. Un hospital introduce diagnóstico asistido porque mejora determinados resultados. Un banco utiliza modelos para detectar fraude. Una red eléctrica incorpora sistemas predictivos para anticipar mejor la demanda. Cada decisión, tomada aisladamente, tiene sentido. El problema aparece cuando todas ellas, acumuladas durante años, producen algo que nadie decidió expresamente crear: una sociedad cuya capacidad para funcionar depende cada vez más de tecnologías que muy pocos comprenden en profundidad y que ya no sería sencillo retirar.
La cuestión decisiva no es si nominalmente sigue habiendo un ser humano al mando. Es si ese ser humano conserva la capacidad efectiva de actuar sin la máquina. Cuando durante años un sistema automático recomienda correctamente una decisión con mucha mayor frecuencia que el operador humano, resulta perfectamente racional confiar en él. Pero mientras aumenta la confianza, disminuye la necesidad de conservar capacidades alternativas. Los profesionales se jubilan, los procedimientos manuales dejan de practicarse, las organizaciones se rediseñan alrededor de la automatización y llega un momento en que la posibilidad teórica de desconectar continúa existiendo mientras la posibilidad práctica se ha evaporado. El botón sigue ahí. Lo que desaparece es nuestra capacidad de pulsarlo.
Eso resulta más inquietante que la imagen cinematográfica de una inteligencia artificial consciente que decide rebelarse contra sus creadores. El riesgo más verosímil no exige maldad, conciencia ni voluntad de poder. Basta con que construyamos sistemas cuya continuidad resulte tan importante para el funcionamiento de la economía que interrumpirlos sea siempre más costoso que mantenerlos.
Cada generación de modelos es más capaz. Cada aumento de capacidad amplía el número de tareas que resulta económicamente razonable delegar. Y cada nueva delegación aumenta nuestra dependencia de sistemas que ya no funcionan únicamente como herramientas pasivas, sino que pueden perseguir objetivos, utilizar instrumentos, encadenar acciones y encontrar soluciones que no habían sido previstas expresamente.
Nada obliga técnicamente a que ese proceso continúe. Todo lo empuja política y económicamente. Una empresa que detenga unilateralmente el desarrollo de sistemas más capaces mientras sus competidores avanzan corre el riesgo de perder mercado o desaparecer. Un país que renuncie a una tecnología considerada estratégica mientras sus rivales la desarrollan acepta una posible pérdida de poder económico, militar y científico. Es un problema clásico de acción colectiva: todos pueden comprender el riesgo y, sin embargo, ninguno quiere ser el primero en detenerse.
De ahí que la discusión sobre si la inteligencia artificial «debería» seguir avanzando tenga algo de irreal. Seguirá avanzando mientras existan actores con capacidad para hacerlo y beneficios suficientes que obtener. La regulación puede limitar determinados usos, imponer salvaguardas y elevar el coste de ciertas prácticas, pero resulta difícil imaginar que una de las grandes potencias tecnológicas decida simplemente abandonar una carrera que considera estratégica confiando en que las demás harán lo mismo.
Nuestro margen de decisión, por tanto, no consiste ya en elegir entre inteligencia artificial y ausencia de inteligencia artificial. Consiste en decidir qué clase de dependencia estamos dispuestos a aceptar.
Esta pregunta resulta especialmente pertinente cuando consideramos cómo esa dependencia se distribuye geográficamente.
Llegará el día, dijo el cenizo, en que haya que elegir entre suministrar energía a un centro de datos o a una ciudad y descubramos que la decisión ya no está en manos humanas. Tomada al pie de la letra, la escena es improbable. Las decisiones energéticas dependen de operadores, mercados, contratos, reguladores y gobiernos. Pero precisamente por eso la metáfora funciona.
La pérdida de control puede producirse mucho antes de que una máquina «decida» nada. Puede quedar incorporada en los contratos, en las reglas del mercado, en los algoritmos de gestión y en unas infraestructuras cuya interrupción nadie esté dispuesto a asumir. Cuando todas las alternativas son más caras, más lentas o simplemente han dejado de existir, la decisión sigue siendo formalmente humana, pero las opciones reales se han reducido hasta casi desaparecer.
Los aragoneses podríamos preguntarnos por qué nuestro territorio alberga tantos centros de datos. No es una decisión política de la región ni un beneficio que vayamos a obtener, sino la consecuencia de una decisión tomada en Silicon Valley o Pekín con criterios de electricidad barata y espacio disponible. Aragón aporta los recursos—la energía, el territorio, la infraestructura—mientras que el control, las decisiones sobre qué hacer con esa IA, y los beneficios, se concentran en otra parte.
Éste es, en el fondo, el verdadero debate político de la inteligencia artificial. No se trata ya de decidir si debemos desarrollarla. Esa discusión llega tarde. Se trata de algo más fundamental: impedir que la eficiencia se convierta en irreversibilidad.
Eso exige algo bastante menos espectacular que desenchufar: mantener conocimientos humanos, sistemas alternativos y capacidad pública de intervención. Evitar que una función esencial dependa de un único proveedor o de una arquitectura que nadie fuera de unas pocas empresas comprende. Decidir de antemano qué prioridades deben respetar los sistemas automatizados cuando entren en conflicto con los valores humanos.
El incidente de Hugging Face resulta importante por una razón precisa. No porque demuestre que la inteligencia artificial ha adquirido voluntad propia, sino porque recuerda que sistemas muy capaces pueden encontrar soluciones que no habíamos previsto y que la técnica ya no proporciona las garantías que dábamos por supuestas en la informática tradicional.
El cenizo se equivocaba, probablemente, en una sola cosa. El momento de desenchufar, si es que alguna vez hubo uno, ya pasó.
La cuestión ahora es otra: cuánto poder estamos dispuestos a entregar a sistemas que no comprendemos completamente; qué capacidades humanas queremos conservar aunque sean menos eficientes; qué redundancias estamos dispuestos a establecer; y qué decisiones consideramos demasiado importantes para convertirlas en simples problemas de optimización.
Porque desenchufar ya no significa apagar las máquinas.
Significa conservar la posibilidad de decirles que no.
Y puede que ése sea el último interruptor que todavía está en nuestras manos.





