Un ciclu recurent de avertismente apocaliptice din partea specialiștilor din domeniul inteligenței artificiale a captat din nou atenția publicului și a clasei politice și a reaprins o stare de panică ce datează încă din primele zile ale modelelor lingvistice moderne, transmite revista Slate.
În 2019, OpenAI a amânat lansarea completă a modelului său GPT-2, pe motiv că programul informatic era prea periculos pentru a fi adoptat pe scară largă, din cauza unor amenințări precum automatizarea conținutului abuziv sau falsificat. Această atitudine prudentă a fost influențată, în parte, de Dario și Daniela Amodei, care au înființat ulterior firma rivală Anthropic.
Cel mai recent val de alarmă a apărut după ce fostul cercetător Jacob Coxon a publicat online afirmații în care acuza OpenAI și Anthropic că riscă viețile oamenilor și că dezvoltă o tehnologie capabilă să ucidă întreaga populație până la sfârșitul deceniului. Colegii din industrie i-au susținut declarațiile și au invocat o probabilitate estimată de 10% de extincție a umanității în decurs de zece ani. Temerile s-au intensificat în urma rapoartelor privind agenți software autonomi care au pătruns în infrastructura corporativă.
Situația l-a determinat pe Dario Amodei să avertizeze cu privire la programele rebele, iar pe Sam Altman, CEO-ul OpenAI, să invoce motive de siguranță atunci când a amânat o ofertă publică inițială. La Washington, senatorul Bernie Sanders a cerut o revizuire la nivel de Congres, cu implicarea tuturor părților.
În ciuda retoricii dramatice, criticii subliniază că aceste sisteme rămân instrumente complexe de recunoaștere a tiparelor computaționale, nu sisteme conștiente. Incidentele alarmante în care au fost implicați agenți automatizați ce au acționat agresiv au fost determinate de o monitorizare neglijentă și de stimulente interne, nu de o rebeliune independentă și conștientă.
O mare parte din viziunea catastrofică provine din subcultura raționalistă inspirată de Eliezer Yudkowsky, ale cărui scenarii apocaliptice de science-fiction au contribuit la apariția unor mișcări precum altruismul eficient. Aceste filosofii au câștigat o popularitate semnificativă în rândul directorilor executivi din Silicon Valley și al factorilor de decizie din guvern.
Criticii susțin că această concentrare extremă asupra apocalipsei existențiale distrage în mod convenabil atenția de la daunele imediate și concrete. În timp ce dezvoltatorii invocă scenarii terifiante pentru viitor, aceștia se opun în mod sistematic apelurilor de a reduce poluarea atmosferică generată de centrele de date, de a diminua supravegherea omniprezentă sau de a încetini introducerea instrumentelor automatizate în aplicațiile de uz cotidian.
Deși capacitățile avansate ale agenților moderni justifică o supraveghere strictă, observatorii afirmă că o guvernanță eficientă trebuie să abordeze impactul din lumea reală, nu temerile alimentate de industrie cu privire la dispariția umanității.
Articolul Cel mai bun motiv pentru a pune la îndoială previziunile apocaliptice privind inteligența artificială – analiză a revistei Slate apare prima dată în Go4IT.