El botó nuclear: la IA no dubta; qui l’ha d’aturar, sí

La cursa desaforada de la «inintel·ligència» artificial, explicada pels mateixos que la construeixen.

Aquest article es va publicar al Diari d’Andorra, a la secció Foc i Lloc, el dilluns 14 de setembre de 2026. Aquesta és la versió ampliada del text del diari, amb tot el que a la caixa del bitllet d’opinió no hi cabia.

Més ràpid del que ens pensàvem. Sempre he sentit dir aquesta excusa en boca dels responsables de desastres de tota mena. Per exemple, el de l’edifici bioclimàtic Gina de Nantes, que seria l’exemple a seguir per adaptar-se al canvi climàtic. Amb les primeres calorines va esdevenir un forn per als treballadors. També als del politiqueig, que han de fer front a les catàstrofes que provoquen les pluges torrencials o les glaceres en col·lapsar al fondre’s. O quan arriben els informes de caiguda en picat de la biodiversitat.

És així. Quan la meteorologia provoca un desastre darrere l’altre, els que cobren per controlar-ho diuen, com a excusa, que tot està passant més ràpid del que es pensaven. Això implica, hi estarem d’acord, que ja ho sabien. Però aplicant el «qui dia passa, any empeny» podien anar fent. Conscients que d’aquí a uns anys, la solució l’haurien d’aplicar uns altres. Per tant, era una solució coneguda, però descartada per interès propi o sistèmic. Cap d’ells volia, vol, parar la música de la festa capitalista. Pel motiu que fos, que n’hi ha força, cap d’ells es volia enfrontar al sistema que ens porta al precipici com a espècie.

I ara, amb la «inintel·ligència» artificial, també. Sembla que se’ls està escapant de les mans, aquesta tecnologia. I tot apunta que, com amb el petroli, es girarà contra nosaltres. El risc ve del fet que no és intel·ligent, sinó que és eficient. Imagina’t si torna a escapar-se d’un entorn de proves —com va fer aquest juliol un eixam d’agents d’OpenAI que va acabar atacant sistemes d’Hugging Face que ningú li havia demanat— i aquest cop polsa el botó nuclear. En incidents militars anteriors, només el dubte d’un humà ho va evitar. La IA no dubta, executa un prompt. Dit altrament, obeeix cegament una instrucció.

Això no és una hipòtesi de ciència-ficció

El març de 2020, segons un informe del panell d’experts de l’ONU sobre Líbia, un dron Kargu-2 va ser programat per atacar objectius «sense requerir connectivitat de dades entre l’operador i les municions», amb la capacitat de «dispara, oblida i troba» (fire, forget and find). L’informe no confirma que hi hagués víctimes mortals ni que el dron estigués efectivament en mode autònom en aquell moment —Jack McDonald, del King’s College de Londres, així ho va assenyalar—, però el precedent és aquí. La possibilitat que una màquina decideixi matar sense que cap humà hi pugui interposar el seu dubte ja no és especulació. És real.

I els qui la construeixen ho saben. Fins i tot, ho diuen.

Ells mateixos ho admeten

Aquest setembre, Jacob Coxon, un entrenador de models d’IA que acabava de dimitir d’Anthropic, va escriure a X ( l’antic Twitter ) una frase que en poques hores va superar els 100 milions de visualitzacions: «Les persones que construeixen IA creuen de debò que podria matar-nos a tots abans que acabi aquesta dècada». Per a reblar el clau, un company seu que encara hi treballa, Samuel Marks, ho va confirmar: «Els desenvolupadors d’IA creuen que la seva tecnologia podria causar l’extinció humana». Un tercer, Evan Hubinger, va ser encara més explícit: «Jacob té raó — de debò creiem que la IA podria matar tots els humans! Personalment, penso que és superior al 10% en la propera dècada».

Deu per cent. Una entre deu. I Dario Amodei, conseller delegat d’Anthropic, va respondre que hi estava d’acord, matisant que no li agrada posar-hi un percentatge perquè «sona com si fos una tirada de daus». Però va afegir que si la indústria pren el camí equivocat, la probabilitat podria ser «fins i tot més alta». Al cap de tres dies, va publicar un assaig demanant «anar més a poc a poc», que les empreses donin accés a avaluadors externs independents per revisar els models des de dins, i va advertir que la IA podria arribar a «prendre el control d’internet» en qüestió d’un any. Sam Altman, d’OpenAI, va dir que hi estava d’acord i que la seva empresa faria el mateix.

Fixeu-vos en el que diuen: no és que «algú altre» ho farà malament. És que ells mateixos, els qui tenen els models més avançats, admeten que la probabilitat que tot això se’ls escapi de les mans és massa alta per ignorar-la. I tot i així, continuen corrent.

Per això els humans les han estat «entrenant». Com si fossin cavalls de cursa, volen tenir la millor IA, per competir i vèncer la dels altres. Una cursa tan desmesurada, i gens legislada, que ara reconeixen que s’han passat de frenada. Ho diuen, però, amb l’afegit que si no continuen, igualment ho farà un altre. I que aquell altre, sí que és el dolent.

La qüestió és que el seu objectiu no és que les persones siguin felices i deixin de patir, sinó els beneficis innombrables que esperen aconseguir. Amb ells podran controlar la població i també el poder. Només cal mirar les destralades que estan fent al mercat de valors mundial per finançar els seus centres de dades.

I aquí hi ha una altra lectura, més incòmoda, que assenyalava aquest dimarts Lluís Amiguet a La Contra de La Vanguardia: potser l’apocalipsi que de debò temen no és el nostre, sinó el seu. Perquè mentre ells fan sonar les trompetes de l’extinció, al darrere tenen una legió d’emprenedors que regalen en codi obert els mateixos serveis que ells venen, i molt més barats. I és clar, si el cel s’ha de caure, millor que caigui amb normes. Perquè res no barraria tan bé el pas a aquesta competència imparable com una regulació exigent, pensada amb tota la bona intenció del món, que ells mateixos han demanat a crits. Un cataclisme, sí — però financer, i per als altres.

Les destralades

Perquè les xifres són, aquest cop, les que són.

El centre de dades de Microsoft a Middenmeer (Països Baixos) va consumir 1,17 TWh el 2025, aproximadament l’1% de tot el consum elèctric neerlandès. El consum total del país aquell any va ser d’una mica més de 112 TWh. És a dir: un sol centre de dades gasta l’equivalent a una part significativa del consum d’un país sencer. Google, per la seva banda, va augmentar el seu consum elèctric global un 37% el 2025, el creixement més gran de la seva història, arribant a uns 44 TWh: més del triple que fa sis anys. I no és només electricitat: Google va consumir 19.700 milions de litres d’aigua per refrigerar els seus centres de dades el 2022 —un 20% més que l’any anterior—, i Microsoft 6,4 milions de metres cúbics, un 34% més. Bona part d’aquesta aigua és aigua dolça. Potable, en gran part.

La mateixa eina que pot matar, pot curar

I aquí ve la part que costa més d’encaixar. Perquè tot i que els mateixos que construeixen la IA diuen que pot matar-nos, i tot i que el cost energètic i hídric és monumental, també és cert que hi ha coses que funcionen. Sí, la IA pot tenir usos positius, en àmbits com la medicina, la ciència climàtica, o la lluita contra incendis forestals. N’hi ha més.

Un sistema d’IA desenvolupat per la Universitat Johns Hopkins, en ús a desenes d’hospitals dels Estats Units, detecta la sèpsia amb entre 2 i 48 hores d’antelació i ha reduït la mortalitat un 18%. El projecte Forest Foresight del WWF prediu on és probable que es talin els boscos abans que passi, i a Bolívia ja cobreix 3,3 milions d’hectàrees.

Això és real. I és important dir-ho, perquè si només parlem del «botó nuclear», perdem de vista que la mateixa eina que pot matar també pot curar. El problema no és la capacitat de la tecnologia. El problema és qui decideix cap on va, i per què.

Les polítiques públiques

Sortosament, la Unió Europea ha estat la primera a legislar de manera integral amb l’AI Act. El que proposa no és la prohibició sinó la classificació segons el risc que comporten els diferents models.

En un nombre creixent de governs hi ha un consens creixent que la responsabilitat última ha de ser humana. Aquests exigeixen que les organitzacions que hi treballen estableixin estructures de govern clares amb rols de supervisió designats. Així ho ha fet, per exemple, el municipi de Naut Aran, a Catalunya. La seva ordenança és pionera perquè exigeix que l’ús de la IA per part de l’ajuntament es faci sota supervisió humana permanent, i crea un comitè per garantir que es compleixin els criteris ètics i de no-discriminació.

No és intel·ligent, és eficient

Perquè la mateixa estructura que fa possible que un algoritme detecti una sèpsia a temps és la que va permetre que Facebook amplifiqués l’odi contra els rohingya a Myanmar fins a contribuir al que l’ONU va qualificar de genocidi. L’informe d’Amnistia Internacional ho diu amb claredat: el model de negoci de Meta es basa en la publicitat dirigida i el màxim engagement, i els seus algoritmes «sovint tenen l’efecte de prioritzar contingut inflamatori, divisiu i nociu». No va ser un accident. Va ser el resultat previsible d’un sistema dissenyat per maximitzar beneficis. Del seu funcionament ja en vaig parlar en aquest bloc el 2025.

Això és el que vull dir quan dic que no és intel·ligent, sinó que és eficient. La IA no té intencions. No vol res. Simplement executa el que li han ensenyat a optimitzar. I si el que li han ensenyat a optimitzar és el temps que passem mirant una pantalla, farà exactament això, encara que el resultat sigui un genocidi. O afectar la salut mental dels joves, com ja ha estat demostrat.

Això sí. Alerta! Perquè de la mateixa manera que els bancs, a aquests també els haurem de rescatar.

Quan el sistema que han construït peti —perquè petarà, com va petar el de les hipoteques subprime—, no seran ells qui pagaran, no. Serem nosaltres. Els de sempre. Com sempre.

I tu, què hi dius? Et fa més por la IA o que ningú no la vulgui controlar mentre genera beneficis? Espero el teu comentari —o, si estàs inscrit, la teva resposta al butlletí dels dissabtes.

Nota de cortesia: aquest article es va publicar, en versió reduïda, a la secció Foc i Lloc del Diari d’Andorra. Pots llegir-ne aquí la versió original en PDF.