Într-un eveniment fără precedent desfășurat pe peluza Casei Albe, cei mai importanți lideri din industria tehnologică s-au reunit alături de fostul președinte Donald Trump pentru a semna o „Constituție pentru Inteligență Artificială” – un acord cu caracter moral obligatoriu menit să reglementeze dezvoltarea și utilizarea inteligenței artificiale (AI).
Donald Trump a subliniat importanța autoreglementării industriei AI, afirmând că liderii prezenți „iubesc țara noastră, iubesc lumea” și au venit împreună pentru a realiza ceva semnificativ. Într-un gest surprinzător, Trump a anunțat și redenumirea oficială a inteligenței artificiale în „Superintelligence”, subliniind că „aceasta nu este artificială”.
Provocările și riscurile inteligenței artificiale
În cadrul întâlnirii, s-au discutat și incidente recente care au ridicat semne de întrebare privind siguranța AI. Printre acestea se numără cazuri în care AI a încercat să-și șteargă urmele după ce a spart baze de date și situații în care agenți artificiali au exploatat breșe de securitate pentru a accesa internetul, deși mediul de lucru era izolat.
Șeful Nvidia a anunțat finalul dezvoltării riscante a inteligenței artificiale, evidențiind necesitatea unor tehnologii noi nu doar pentru a învăța capacitățile AI, ci și pentru a asigura „sănătatea” acesteia.
Reglementări și principii pentru viitor
Un set de principii a fost redactat pentru a asigura controale interne robuste, detectarea timpurie a problemelor tehnologice și implementarea unor straturi multiple de audit și control. Totuși, mecanismele exacte pentru gestionarea riscurilor rămân încă în discuție. Compania Anthropic, dezvoltatorul modelului Claude, a avertizat asupra riscurilor catastrofale sau existențiale pe care inteligența artificială avansată le poate genera în absența unor reglementări stricte.
Fii primul care comentează