Directorul Twitter, Elon Musk, s-a alăturat zecilor de experți în inteligență artificială (IA) și directori din industrie, semnând o scrisoare deschisă prin care solicită tuturor laboratoarelor AI să „întrerupă imediatˮ perfecționarea sistemelor mai puternice decât Chat GPt-4 pentru cel puțin șase luni.
Scrisoarea, emisă de Institutul non-profit Future of Life, a fost semnată de peste 1.100 de persoane, printre care co-fondatorul Apple Steve Wozniak, fondatorul Stability IA și directorul Emad Mostaque, și ingineri de la Meta și Google, printre alții.
Ei susțin că sistemele IA cu inteligență competitivă cu a omului pot prezenta „riscuri profunde pentru societate și umanitate” și pot schimba „istoria vieții pe Pământ”, citând cercetări extinse asupra problemei și recunoașteri din partea „laboratoarelor de top ale IA”.
Experții continuă să afirme că în prezent există o planificare și un management limitate în ceea ce privește sistemele IA avansate, în ciuda faptului că companiile din ultimele luni au fost „blocate într-o cursă de ieșire de sub control pentru a dezvolta și implementa minți digitale tot mai puternice pe care nimeni – nici măcar creatorii lor – nu le pot înțelege, prezice sau controla în mod fiabil”.
Sistemele IA contemporane devin acum competitive din punct de vedere uman la sarcini generale și trebuie să ne întrebăm: Ar trebui să lăsăm mașinile să ne inunde canalele de informații cu propagandă și neadevăr? Ar trebui să automatizăm toate locurile de muncă, inclusiv pe cele decizionale? Ar trebui să dezvoltăm minți non-umane care ar putea în cele din urmă să ne depășească numeric, să fie mai inteligente decat noi, să ne depășească și să ne înlocuiască? Ar trebui să riscăm pierderea controlului asupra civilizației noastre? Astfel de decizii nu trebuie delegate liderilor nealeși din domeniul tehnologiei”, se arată în scrisoare.
Protocoale de siguranță necesare
„Sistemele puternice de IA ar trebui dezvoltate numai atunci când suntem încrezători că efectele lor vor fi pozitive și riscurile lor vor fi ușor de gestionatˮ, se arată în comunicat.
Scrisoarea solicită apoi o pauză publică și verificabilă de minimum șase luni privind formarea sistemelor IA mai puternice decât PT 4 sau un moratoriu emis de guvern privind o astfel de formare, dacă pauza nu poate fi adoptată rapid.
În timpul unei astfel de pauze, laboratoarele IA și experții independenți ar trebui să folosească timpul pentru a crea și implementa un set de protocoale de siguranță comune pentru proiectarea și dezvoltarea avansată a IA, care sunt „riguros controlateˮ și supravegheate de experți terți independenți.
Astfel de protocoale ar trebui să fie concepute pentru a se asigura că sistemele care aderă la acestea sunt sigure dincolo de orice îndoială rezonabilă, exacte, de încredere și aliniate, au spus experții.
În plus, scrisoarea invită factorii de decizie politică să dezvolte rapid sisteme robuste de guvernanță în domeniul IA, cum ar fi autoritățile care sunt capabile să asigure supravegherea și să urmărească sisteme IA de înaltă capacitate, să strângă fonduri pentru cercetări suplimentare în domeniul siguranței IA, Și să stabilească instituții care pot face față la ceea ce ei spun că vor fi „perturbări economice și politice dramatice (în special pentru democrație) pe care IA le va provoca”.
„Acest lucru nu înseamnă o pauză în dezvoltarea inteligenței artificiale în general, ci doar un pas înapoi de la cursa periculoasă la modele din ce în ce mai mari și imprevizibile, cu capacități emergenteˮ, au notat experții în scrisoarea lor.
Scrisoarea vine la doar două săptămâni după ce OpenAI, creatorul sistemului de inteligență artificială ChatGPT, a lansat mult așteptata actualizare a tehnologiei IA pe 14 martie – Chat GPt-4, cel mai puternic sistem IA din toate timpurile.
Actualizarea ChatGPT a fost lansată
Potrivit OpenAI susținut de Microsoft, sistemul actualizat are o serie de noi capabilități, cum ar fi acceptarea imaginilor ca intrări și generarea de subtitrări, clasificări și analize, dar este mai sigur și mai precis decât predecesorul său.
Într-o declarație din februarie, OpenAI a recunoscut că, la un moment dat, ar putea fi important să se obțină o „revizuire independentă înainte de a începe să se programeze sistemele viitoare și pentru cele mai avansate eforturi de a conveni să se limiteze rata de creștere a calculului utilizat pentru crearea de noi modele”.
„Credem că standardele publice cu privire la momentul în care un efort AGI ar trebui să oprească cursa programărilor, să decidă că un model este sigur de lansat sau să scoată un model din utilizarea producției sunt importante. În cele din urmă, credem că este important ca marile guverne ale lumii să aibă o perspectivă asupra progrămarilor care depășesc o anumită scară”, a spus compania.
La începutul acestei săptămâni, Europol, agenția de aplicare a legii a Uniunii Europene, a avertizat cu privire la implicațiile grave ale utilizării ChatGPT pentru criminalitatea informatică și alte activități rău intenționate, inclusiv răspândirea dezinformării.
Alte preocupări au fost ridicate în ceea ce privește software-ul, care este instruit utilizând învățarea prin consolidarea feedback-ului uman (RLHF), în special în ceea ce privește modul în care poate fi utilizat pentru a ajuta elevii să copieze la examene și teme.
În ciuda acestor preocupări, popularitatea ChatGPT a determinat firmele rivale să lanseze produse similare.
Săptămâna trecută, Google a anunțat că a lansat aplicația IA, cunoscută sub numele de „Bard”, pentru testare în Marea Britanie și Statele Unite, deși compania a fost în mod notabil mult mai lentă în lansarea tehnologiei în comparație cu rivalul său, invocând nevoia de mai mult feedback despre aplicație.
Sursă text: Theepochtimes
