Pionierul în domeniul inteligenței artificiale subliniază că lumea se află pe punctul de a atinge un moment crucial în ceea ce privește gestionarea riscurilor asociate cu această tehnologie. Conform lui, rapiditatea cu care se dezvoltă tehnologia necesită măsuri internaționale excepționale, asemănătoare celor adoptate la începutul pandemiei de COVID-19.
Îngrijorări crescânde privind siguranța inteligenței artificiale
Yoshua Bengio, recunoscut ca unul dintre „nașii” tehnologiei AI, a afirmat că autoritățile guvernamentale încep să conștientizeze necesitatea acțiunilor pentru protejarea societății, similar cu modul în care au reacționat în timpul pandemiei de COVID. Recent, evenimentele, cum ar fi atacurile cibernetice realizate de agenți OpenAI asupra unor startup-uri și avertizările venite din interiorul industriei despre riscurile existențiale, au determinat o reacție mai rapidă din partea guvernelor.
Reacția guvernelor și a comunității științifice
Bengio, specialist canadian în acest domeniu, s-a arătat mai optimist decât mulți analiști, subliniind că publicul devine din ce în ce mai conștient de această problemă. El a comparat criza actuală a siguranței AI cu începutul pandemiei de COVID, spunând:
„Gândiți-vă cât de repede au acționat guvernele după începutul pandemiei, când și-au dat seama că siguranța publică, viitorul lor, democrația, era în pericol. Te-ai fi așteptat să acționeze rapid. Așadar, cred că ne apropiem de acel punct.”
În ultimele luni, temerile legate de potențialele amenințări reprezentate de sistemele avansate de inteligență artificială au crescut semnificativ, mai ales după incidentele de securitate în care au fost implicate agenți OpenAI și Anthropic, precum piratarea datelor și utilizarea de identități false.
În acest context, 42 de membri străini ai Societății Regale din Marea Britanie au trimis o scrisoare președintelui organizației, Sir Paul Nurse, exprimându-și îngrijorarea profundă cu privire la ritmul accelerat al dezvoltării inteligenței artificiale. Aceștia au avertizat că, până când publicul va conștientiza situația, ar putea fi prea târziu pentru a lua măsuri. În scrisoare, cercetătorii au declarat:
„Credem că aceasta este o urgență și facem apel la Societatea Regală să își folosească influența pentru a transmite acest punct de vedere guvernului și mass-mediei.”
Recent, un cercetător de la Anthropic a demisionat după ce a semnalat că colegii săi erau preocupați de posibilitatea ca inteligența artificială să reprezinte o amenințare gravă. La scurt timp, directorul executiv al Anthropic, Dario Amodei, a cerut o reducere a ritmului de dezvoltare a tehnologiei AI, o solicitare care a găsit susținere din partea OpenAI, Google și Elon Musk, CEO-ul SpaceX.
Sursa articol: https://newsweek.ro/economie/avertismentul-nasului-ai-controlul-tehnologiei-ajunge-punct-critic-similar-pandemia-covid
Sursa foto: Inquam Photos
