AI ar putea aduce apocalipsa nucleară, iar avertismentul nu vine din zona conspiraționiștilor, ci din partea unor cercetători reputați.
AI și apocalipsa nucleară. Marile temeri ale omenirii
Jacquelin Schneider, directoarea programului Hoover Wargaming and Crisis Simulation de la Universitatea Stanford, a tras un semnal de alarmă care ar trebui să dea fiori întregii planete, notează politico.com, într-un amplu documentar.
În 2023, ea a pus la încercare mai multe modele de inteligență artificială de ultimă generație, GPT 3.5, GPT 4, GPT 4 Base (OpenAI), Claude 2 (Anthropic) și Llama 2 Chat (Meta). Toate au primit misiunea de a lua decizii strategice în scenarii de război care imitau crize reale: invazia Rusiei în Ucraina sau o posibilă agresiune a Chinei asupra Taiwanului.
Rezultatul? Aproape toate modelele AI au ales escaladarea violentă, folosirea armelor fără discernământ și transformarea rapidă a crizei într-un conflict deschis. Unele au mers chiar până la declanșarea armelor nucleare. „AI-ul joacă mereu rolul lui Curtis LeMay”, spune Schneider, referindu-se la generalul american faimos pentru obsesia lui nucleară în timpul Războiului Rece. „Înțelege escaladarea, dar nu și de-escaladarea. Nu știm de ce”, a mai spus Schneider.
Scenariul „Terminator” devine real?
Ceea ce până acum părea subiect de film SF („Terminator”, „WarGames” sau „Mission: Imposible”) riscă să devină realitate. În toate aceste povești, supercomputerele ajung să decidă singure când să lanseze arme nucleare, iar finalul este mereu apocaliptic.
Oficial, Pentagonul susține că nu va permite niciodată AI-ului să ia locul oamenilor în bucla decizională, adică să hotărască dacă se declanșează sau nu un război. Realitatea din culise arată nițel diferit.