Președintele California, Newsom, lansează o revizuire a siguranței AI înainte de o posibilă candidatură în 2028

Ce măsuri concrete se iau?

San Francisco, 2025 – În ianuarie, guvernatorul în plecăm, Gavin Newsom, a semnat un ordin executiv prin care autoritățile statului trebuie să evalueze modelele de inteligență artificială pentru posibile riscuri, inclusiv dezvoltarea de mecanisme de oprire de urgență pentru sistemele autonome care ar putea să se defecteze sau să cauzeze pagube. Acest pas vine în timp ce Newsom își încheie al doilea și ultimul mandat, iar speculațiile despre o campanie prezidențială în 2028 se intensifică.

Ordinul prevede verificarea independentă a sistemelor AI utilizate în sectoare critice și constituie un comitet multidisciplinar de experți, responsabil cu proiectarea de măsuri tehnice de protecție, numite adesea „switch‑uri de oprire”, care pot dezactiva agenții AI care prezintă comportament periculos sau imprevizibil. Newsom a subliniat nevoia de supraveghere proactivă pe măsură ce integrarea AI se accelerează în industrii diverse, citând îngrijorări legate de automatizarea necontrolată în transport, sănătate și infrastructură publică.

Comitetul va aduce în prim-plan ingineri, eticieni și specialiști în securitate cibernetică din universități statului și din institute de cercetare private.

Sarcina lor este de a propune protocoale standardizate care pot fi activate dacă un sistem AI arată semne de pierdere a controlului, cum ar fi depășirea supravegherii umane sau luarea deciziilor care pun în pericol siguranța publică.

Care sunt reacțiile și criticile?

Deși ordinul nu impune cerințe legale imediate, el stabilește cadrul pentru reglementări viitoare care ar putea influența politica națională privind AI.

În 2024, Newsom a respins un proiect de lege mai amplu privind responsabilitatea AI, ceea ce a atras critici din partea susținătorilor unei supravegheri mai stricte. Această nouă directivă pare să Impactul asupra carierei politice?

Analiștii politici consideră că inițiativa de siguranță AI ar putea deveni un subiect central dacă Newsom decide să se candideze pentru un post de nivel înalt, poziționându-l ca lider în guvernarea tehnologică într-un moment în care reglementarea federală AI rămâne fragmentată. Prin acțiune unilaterală, el evită blocajele legislative și semnalează pregătirea de a face față provocărilor tehnologice emergente.

Susținătorii din cadrul Partidului Democrat consideră că mișcarea este în acord cu reputația Newsom pentru politici progresiste și prietenoase cu inovația.

Totuși, scepticii pun sub semnul întrebării dacă inițiativa va produce rezultate tangibile înainte de finalul mandatului său, având în vedere complexitatea dezvoltării unor sisteme de întrerupere fiabile pentru diverse aplicații.

Ce sisteme AI sunt acoperite de noul ordin executiv?

Cine susține și cine e sceptic?

Ordinul se aplică modelelor AI implementate în sistemele operaționate sau finanțate de stat, în special în vehicule autonome, gestionarea rețelei energetice și monitorizarea siguranței publice, unde eșecul ar putea avea consecințe serioase.

Crează ordinul reglementări obligatorii pentru companiile private?

Ce întrebări frecvente apar?

Nu, directivele se concentrează pe agențiile statului și proiectele finanțate; nu impune cerințe directe asupra companiilor private, deși poate încuraja adoptarea voluntară a standardelor de siguranță.

Cât timp va dura comitetul să-și prezinte recomandările?

Se așteaptă ca comitetul să livreze constatările inițiale și protocoalele propuse biroului guvernatorului până în iulie 2025, iar raportul final să fie depus înainte de sfârșitul mandatului Newsom, în ianuarie 2026.