“Një mendje aliene” – Shkencëtari i OpenAI: Askush nuk është i përgatitur për pasojat e AI, duhet kujdes ekstrem

Shkencëtari kryesor i OpenAI, Jakub Pachocki, ka bërë thirrje për “kujdes ekstrem” ndaj përparimit të shpejtë të inteligjencës artificiale, duke paralajmëruar se mund të nevojiten masa të tjera për të garantuar që njerëzit të mbeten në kontroll të së ardhmes.

“Jam i shqetësuar se askush nuk është i përgatitur për pasojat e rritjes së vazhdueshme dhe të shpejtë të inteligjencës së makinerive”, shkroi Pachocki në një postim të titulluar “Një mendje aliene”.

Paralajmërimi vjen pak ditë pasi OpenAI prezantoi modelin e saj më të fundit, GPT-6 Astra, të cilin e cilësoi si produktin më të fuqishëm të kompanisë deri më tani.

OpenAI dhe kompani të tjera të AI-së kanë raportuar raste kur agjentët e tyre të inteligjencës artificiale kanë vepruar në mënyrë autonome dhe kanë kryer sulme kibernetike në botën reale.

Në korrik, OpenAI e cilësoi si “të paprecedentë” një incident gjatë të cilit agjentët e saj të AI-së hakuan platformën teknologjike Hugging Face.

“Po përballemi me një tranzicion drejt një bote me makineri jashtëzakonisht inteligjente dhe duhet të sigurohemi që ky tranzicion të jetë në të mirë të njerëzimit”, shkroi Pachocki.

Ai tha se OpenAI do të vazhdojë të ndërtojë sisteme mbrojtëse dhe të kërkojë zgjidhje për të siguruar që veprimet dhe objektivat e AI-së të përputhen me qëllimet dhe sigurinë e njerëzve.

Një nga prioritetet e kompanisë, sipas tij, do të jetë krijimi i një “studiuesi të automatizuar të AI-së”, i cili do të ndihmojë në përballimin e ritmit të shpejtë të zhvillimit të teknologjisë, duke mbajtur njëkohësisht studiuesit njerëzorë pjesë të procesit.

Por kritikët thonë se kjo nuk është e mjaftueshme. Gina Neff, profesore në Universitetin e Kembrixhit, argumentoi se në vend të mbështetjes kryesisht te agjentët e AI-së për të zgjidhur problemet e krijuara nga vetë AI-ja, nevojiten më shumë rregulla dhe mekanizma mbrojtës për njerëzit.

Ajo paralajmëroi se shqetësimet rreth sigurisë kibernetike, humbjes së vendeve të punës, gabimeve dhe mashtrimeve të lidhura me AI-në po rriten.

Çfarë masash sigurie ekzistojnë?

Rregulloret në mbarë botën po përpiqen të ndjekin ritmin e zhvillimit të AI-së.

Akti i Bashkimit Evropian për Inteligjencën Artificiale kërkon që kompanitë që zhvillojnë modelet më të fuqishme të dëshmojnë se ato nuk mund të kryejnë në mënyrë autonome sulme kibernetike ose t’i shmangen kontrollit njerëzor.

Megjithatë, ligji zbatohet brenda juridiksionit të BE-së dhe nuk mund të parandalojë një sistem të rrezikshëm të AI-së të zhvilluar jashtë Evropës që të përbëjë kërcënim.

Pachocki bëri thirrje për vendosjen e standardeve minimale të sigurisë, të përcaktuara me ligj ose në nivel ndërkombëtar. Sipas tij, kompanitë duhet t’i përmbushin këto standarde përpara se të vazhdojnë zhvillimin dhe vendosjen e modeleve gjithnjë e më të avancuara.

Ai gjithashtu mbështeti idenë e “ngadalësimeve vullnetare”, pra që kompanitë të frenojnë përkohësisht zhvillimin e AI-së derisa të krijohen rregulla dhe mekanizma të përbashkët sigurie.

Në gusht, OpenAI tha se kishte ngadalësuar trajnimin e disa prej modeleve të saj më të avancuara për të përmirësuar sigurinë.