Un raport de intelligence realizat cu ajutorul inteligenței artificiale a generat o alertă falsă în rândul armatei americane, susțin surse familiarizate cu incidentul. Documentul indică greșit că o navă chineză transporta componente pentru un program de arme nucleare în Orientul Mijlociu, fapt care a declanșat măsuri de pregătire pentru interceptare, inclusiv ridicarea de avioane militare. În ultimele momente, oficialii au descoperit că raportul era complet fals, fiind generat de o eroare a AI-ului folosit.
Rănirea unei operațiuni militare planificate
Guvernul american a avut planuri de interceptare a navei chineze, pe fondul tensiunilor în războiul cu Iranul. Două surse spun că militarii se pregăteau să urce la bordul respectivei nave, fiind mobilizate avioane militare din teren. În momentul în care s-au făcut verificările detaliate asupra raportului, s-a constatat că acesta fusese generat automat și nu reflecta realitatea.
Manipulare generată de AI și de chatbot
Raportul, realizat inițial de un analist din cadrul comandamentului pentru operații speciale, a fost generat utilizând un chatbot. Sursele indică faptul că această aplicație, a cărei proveniență nu este clară – fie comercială, fie guvernamentală – a combinat informații din surse deschise cu date secrete obținute prin interceptări. Rezultatul a fost o concluzie falsă despre încărcătura navei, care a fost considerată în mod eronat ca fiind legată de arme nucleare.
Reevaluarea și corectarea erorii
După identificarea erorii, oficialii militari au analizat în detaliu raportul. Aceștia au descoperit că generarea acestuia fusese complet greșită și că, în realitate, informațiile folosite nu susțineau o amenințare nucleară din partea navei chineze. În timp ce raportul a fost transmis mai departe și folosit pentru a planifica acțiuni militare, decizia de a nu interveni a fost luată pe baza concluziilor corectate.
Probleme legate de utilizarea AI în intelligence
Potrivit unor surse, acest incident nu reprezintă un caz izolat în comunitatea de intelligence. Dezvoltarea și implementarea AI-ului în domeniul militar au fost menite să accelereze luarea deciziilor, inclusiv selectarea țintelor și localizarea resurselor. Cu toate acestea, există preocupări legate de presiunea exercitată asupra analiștilor pentru a realiza și transmite rapid informații, ceea ce crește riscul de erori.
Efectele și riscurile utilizării AI în militare
Se observă că analiștii tineri, nativi digital, utilizează intens aceste instrumente, având încredere mai mare în rezultatele generate de AI, fără a le verifica critic. În consecință, astfel de „halucinații” sau greșeli automate pot duce la situații extrem de tensionate, cum ar fi declanșarea unei reacții militare nejustificate sau chiar a unui conflict armat între națiuni.
Raportul arată dificultățile și riscurile majore ale utilizării AI în deciziile de securitate națională. Resursele militare complexe, precum și echipamentele de interceptare, devin mai rapide în procesul decizional, însă pot fi și mai vulnerabile la erori generate de erori algoritmice sau de interpretarea necorespunzătoare a datelor.
