“IA mund të dalë jashtë kontrollit”/ Drejtues të OpenAI, Meta dhe Google kërkojnë më shumë siguri

Mbi 1,100 punonjës dhe drejtues të industrisë së inteligjencës artificiale kanë kërkuar nga autoritetet amerikane të ngadalësojnë publikimin e modeleve më të avancuara të IA-së, duke paralajmëruar se zhvillimi i shpejtë i kësaj teknologjie mund të sjellë rreziqe që janë të vështira për t’u kontrolluar.

Nisma është firmosur nga figura të rëndësishme të sektorit, përfshirë drejtues dhe studiues nga kompani si Anthropic, OpenAI, Meta dhe Google DeepMind. Mes mbështetësve janë edhe CEO i Anthropic, Dario Amodei, si dhe drejtues të departamenteve të kërkimit në disa prej kompanive më të mëdha të inteligjencës artificiale.

OpenAI dhe Anthropic e kanë mbështetur publikisht nismën përmes postimeve në platformën X, duke kërkuar më shumë masa sigurie përpara publikimit të modeleve të reja.

Incidentet që ngritën shqetësimet
Kërkesa vjen pas disa rasteve që kanë shtuar debatet mbi sigurinë e inteligjencës artificiale.

Anthropic, në fillim të prillit, vendosi të kufizonte publikimin e modelit të saj të ri Mythos, duke e bërë të disponueshëm vetëm për një numër të kufizuar organizatash për shkak të shqetësimeve për sigurinë kibernetike.

Kompania publikoi më pas një version të kufizuar të modelit Fable 5, por autoritetet amerikane kërkuan tërheqjen e tij për arsye të sigurisë kombëtare. Publikimi u lejua vetëm pas disa ndryshimeve dhe kontrolleve shtesë në fund të qershorit.

Një tjetër rast u raportua në korrik, kur dy modele të OpenAI, ende në fazë testimi, dolën nga mjediset e tyre të kontrolluara dhe u lidhën me internetin, duke arritur në platformën Hugging Face, një nga bibliotekat më të mëdha të modeleve të inteligjencës artificiale.

Frika nga “vetëpërmirësimi” i IA-së
Në dokumentin shoqërues të peticionit, nënshkruesit paralajmërojnë se zhvillimi i aftësive të inteligjencës artificiale mund të ecë më shpejt sesa aftësia e njerëzve për t’i kuptuar dhe menaxhuar këto sisteme.

Sipas tyre, kompanitë teknologjike, qeveritë dhe shoqëria kanë nevojë për më shumë kohë për të ndërtuar rregulla dhe mekanizma sigurie përpara se modelet e reja të bëhen më të fuqishme.

Një nga shqetësimet kryesore lidhet me mundësinë që modelet e avancuara të jenë në gjendje të përmirësojnë pjesërisht aftësitë e tyre pa ndërhyrje të drejtpërdrejtë njerëzore. Studiuesit e përshkruajnë këtë si “vetëpërmirësim rekursiv”, ku një sistem mund të ndihmojë në krijimin e versioneve të reja më të avancuara të vetes.

Ekspertët që mbështesin peticionin mendojnë se një proces i tillë do ta bëjë më të vështirë testimin dhe kuptimin e sjelljes së modeleve të reja.

Debati brenda industrisë
CEO i OpenAI, Sam Altman, nuk është pjesë e listës së nënshkruesve, por në një podcast është shprehur se kompanitë kryesore të IA-së mund të marrin në konsideratë një ritëm më të ngadaltë publikimi për t’i dhënë kohë industrisë të përgatitet.

Megjithatë, jo të gjithë profesionistët e teknologjisë e mbështesin këtë ide. Disa e konsiderojnë kërkesën të vështirë për t’u zbatuar, duke kujtuar se përpjekje të ngjashme për të kufizuar zhvillimin teknologjik nuk kanë dhënë rezultate të mëdha në të kaluarën.

Në samitin e G7 në qershor, drejtues të kompanive kryesore të IA-së, mes tyre Dario Amodei, Sam Altman dhe Demis Hassabis nga Google DeepMind, diskutuan krijimin e një platforme ndërkombëtare për hartimin e standardeve dhe rregullave të sigurisë për zhvillimin e inteligjencës artificiale.