Musk și un grup de experți cer o pauză în dezvoltarea de sisteme de IA mai puternice decât modelul GPT-4

Magnatul Elon Musk și un grup de experți în inteligență artificială și responsabili din industria IT au făcut apel la o pauză de șase luni în pregătirea de sisteme mai puternice decât modelul GPT-4 recent lansat de laboratoarele OpenAI, avertizând într-o scrisoare deschisă asupra potențialelor riscuri la adresa societății și omenirii, relatează miercuri Reuters.

Scrisoarea publicată de institutul non-profit Future of Life și semnată de peste 1000 de persoane – între care Elon Musk, șeful companiei Stability AI Emad Mostaque, cercetători de la laboratorul DeepMind al grupului Alphabet și informaticieni de prestigiu ca Yoshua Bengio și Stuart Russell – cere o pauză în dezvoltarea IA avansate până când nu vor fi create, implementate și verificate de experți independenți protocoale de securitate comune pentru astfel de modele.
“Nu ar trebui dezvoltate sisteme IA puternice decât după ce vom putea avea încredere că efectele lor sunt pozitive și putem gestiona riscurile”, se arată în scrisoare.
Aceasta explică de asemenea că sistemele de IA ce intră în competiție cu inteligența umană generează potențiale riscuri pentru societate și civilizație sub forma tulburărilor economice și politice și îi îndeamnă pe dezvoltatorii de astfel de sisteme să conlucreze cu factorii de decizie politică și autoritățile de reglementare.
Musk, a cărui companie Tesla folosește IA pentru sistemul de autopilotare al mașinilor autonome, și-a exprimat în mod repetat preocuparea în legătură cu inteligența artificială. Luni, forța de poliție a UE Europol s-a alăturat la rândul ei corului de preocupări etice și juridice cu privire la sistemele avansate de IA cum este ChatGPT, avertizând împotriva unor potențiale utilizări abuzive ale acestora sub forma tentativelor de phishing, a dezinformării și criminalității informatice.
După ce anul trecut OpenAI, cu sprijinul Microsoft, a lansat ChatGPT, concurența a accelerat dezvoltarea de modele similare ce integrează inteligența artificială generativă.
Sam Altman, CEO al OpenAI, nu a semnat scrisoarea, menționează Reuters, citând un purtător de cuvânt de la Future of Life.
“Scrisoarea nu este perfectă, dar este corectă: trebuie să scădem ritmul până când vom înțelege mai bine ramificațiile”, a notat Gary Marcus, profesor la Universitatea New York și unul dintre semnatari. Sisteme puternice de IA “pot provoca daune grave (…), marii jucători sunt din ce în ce mai secretoși în legătură cu ceea ce fac, iar societății îi va fi mai greu să se apere de problemele care se pot materializa”, a adăugat acesta.