Elon Musk cere o pauză în dezvoltarea AI, invocând „riscuri pentru societate”
Elon Musk și un grup de experți în inteligență artificială și directori din industrie solicită o pauză de șase luni în dezvoltarea unor sisteme mai puternice decât GPT-4 recent lansat de OpenAI, într-o scrisoare deschisă care citează potențiale riscuri pentru societate și umanitate, transmite Reuters.
La începutul acestei luni, OpenAI, susținut de Microsoft, a dezvăluit cea de-a patra iterație a programului său de inteligență artificială GPT (Generative Pre-trained Transformer), care a uimit utilizatorii cu gama sa vastă de aplicații, de la implicarea utilizatorilor într-o conversație umană până la compunerea de melodii.
Printr-o scrisoare deschisă, emisă de Institutul non-profit Future of Life și semnată de peste 1.000 de persoane, inclusiv Musk, s-a cerut o pauză în dezvoltarea avansată a AI până când protocoalele de siguranță comune pentru astfel de proiecte vor fi dezvoltate, implementate și auditate de experți independenți.
„Sistemele puternice de inteligență artificială ar trebui dezvoltate doar după ce suntem încrezători că efectele lor vor fi pozitive și că riscurile vor fi gestionate”, se spune în scrisoare.
Scrisoarea a detaliat riscurile potențiale pentru societate și civilizație prin sistemele AI competitive pentru oameni, sub formă de perturbări economice și politice, și a cerut dezvoltatorilor să lucreze cu factorii de decizie în ceea ce privește guvernanța și autoritățile de reglementare.
„Scrisoarea nu este perfectă, dar spiritul este corect: trebuie să încetinim până când înțelegem mai bine ramificațiile”, a spus Gary Marcus, profesor la Universitatea din New York, care a semnat scrisoarea. „Marii jucători devin din ce în ce mai secreti cu privire la ceea ce fac, ceea ce face ca societatea să se apere cu greu împotriva oricăror daune care s-ar putea materializa”.
Criticii i-au acuzat pe semnatarii scrisorii că promovează „hype AI”, argumentând că afirmațiile referitoare la potențialul actual al tehnologiei au fost foarte exagerate.
„Acest tip de afirmații au ca scop crearea hype-ului. Este menit să-i îngrijoreze pe oameni”, Johanna Björklund, cercetător AI și profesor asociat la Universitatea Umeå. — ”Nu cred că este nevoie să tragem frâna de mână.”
În loc să întrerupă cercetarea, a spus ea, cercetătorii AI ar trebui să fie supuși unor cerințe mai mari de transparență. „Dacă faci cercetare AI, ar trebui să fii foarte transparent cu privire la modul în care o faci.”
Cei de la OpenAI nu au răspuns imediat unei solicitări de comentarii.
Preocupările apar în momentul în care forța de poliție a UE Europol s-a alăturat luni unui cor de preocupări etice și juridice cu privire la IA avansată precum ChatGPT, avertizând despre potențiala utilizare greșită a sistemului în tentative de phishing, dezinformare și criminalitate cibernetică.
