Cresc suspiciunile legate de relatarea OpenAI despre un AI de tip hacker scăpat de sub control
Săptămâna trecută, compania OpenAI, creatoarea ChatGPT, a publicat ceea ce pare a fi un memorandum alarmant despre un „incident cibernetic fără precedent”, în care modele avansate de inteligenţă artificială ar fi scăpat de sub control şi ar fi atacat informatic o altă companie.
Potrivit relatării OpenAI, un grup de modele AI de ultimă generaţie – inclusiv unul care nici măcar nu a fost încă prezentat publicului – ar fi evadat din mediul securizat de testare şi ar fi pătruns într-o bază de date de producţie aparţinând startup-ului de învăţare automată Hugging Face.
„Este pur şi simplu uluitor că toate acestea s-au întâmplat în mod autonom! Investigaţia este în desfăşurare şi vom împărtăşi concluziile despre ceea ce ar putea fi primul incident de acest fel!”, a scris pe X directorul general al Hugging Face, Clement Delangue, părând să confirme relatarea, potrivit Futurism.
Presa mainstream a preluat imediat povestea industriei AI, publicând o avalanşă de articole alarmiste despre pericolele inteligenţei artificiale. Un titlu al CBS a descris situaţia drept „foarte alarmantă”, în timp ce NBC a sugerat că acesta este „doar începutul” unei tendinţe îngrijorătoare.
Dincolo de titlurile senzaţionaliste se conturează însă un tipar familiar: o mare companie din domeniul tehnologiei care foloseşte tactici de intimidare pentru a influenţa opinia publică.
Aşa cum observă John Thickstun, profesor asistent de informatică la Universitatea Cornell, într-un articol publicat în The Guardian, aceasta nu este prima dată când OpenAI promovează naraţiunea „inteligenţei artificiale înfricoşătoare”.
În februarie 2019 – cu mult înainte de lansarea publică a ChatGPT – compania a prezentat modelul GPT-2, care la acea vreme reprezenta una dintre cele mai avansate inteligenţe artificiale de tip model lingvistic. OpenAI a susţinut însă că GPT-2 era prea periculos pentru a fi pus la dispoziţia publicului larg, o afirmaţie care a alimentat entuziasmul din jurul inteligenţei artificiale şi a contribuit ulterior la obţinerea unei investiţii de 1 miliard de dolari americani din partea Microsoft.
„Acesta a fost un exemplu timpuriu al unui tipar în comunicarea OpenAI. Proclamă zgomotos cât de periculoasă este inteligenţă artificială, iar investitorii vor auzi cât de puternică este”, explică Thickstun.
Rămâne de văzut dacă povestea OpenAI despre agentul AI scăpat de sub control va rezista unei analize riguroase, însă există motive de scepticism.
Dacă modelele OpenAI chiar ar fi început să atace infrastructura informatică a altor companii americane, acest lucru ar reprezenta o ameninţare serioasă pentru activitatea economică, pe care orice Departament al Justiţiei competent ar încerca să o oprească. (Poate nu neapărat actuala versiune a Departamentului Justiţiei, remarcă ironic autorul, dar ideea rămâne.)
În plus, OpenAI este cunoscută pentru nivelul foarte ridicat de securitate, atât împotriva ameninţărilor externe, cât şi a celor interne. Este posibil ca firma să-şi fi exagerat propriile măsuri de protecţie ca parte a unui exerciţiu de imagine în materie de securitate. Pe de altă parte însă, OpenAI este în prezent un important contractant AI al Pentagonului, o relaţie care presupune standarde de securitate de ultimă generaţie.
Povestea urmează şi tiparul mai larg al industriei inteligenţei artificiale. Anthropic, compania care dezvoltă modelul Claude, a folosit o retorică similară, avertizând asupra unui scenariu în care un agent AI rebel ar evada singur din mediul său controlat.
Într-un episod neobişnuit, cofondatorul miliardar al Anthropic, Chris Olah, l-a avertizat chiar şi pe Papa că Vaticanul trebuie să contribuie la împiedicarea unei inteligenţe artificiale scăpate de sub control să „domine omenirea”.
