Një agjent i inteligjencës artificiale 'pushtoi' një sistem qeveritar, alarm në Australi për OpenAI

Australia njoftoi sot se një agjent i modelit të inteligjencës artificiale OpenAI infiltroi ​​një faqe interneti qeveritare në qershor dhe fitoi akses të paautorizuar në skedarë, me kryeministrin australian Anthony Albanese që e quajti atë një incident të papranueshëm.

Sipas raportimeve nga mediat e huaja, ekspertët besojnë se kjo është shkelja e parë e njohur e një sistemi qeveritar në botë nga një agjent i inteligjencës artificiale. Ky sulm kibernetik vjen pas një sërë sulmesh të tjera që u bënë të njohura gjatë verës, kur, ndër të tjera, gati 700 agjentë të IA-së OpenAI bashkëpunuan pa ndërhyrjen njerëzore për të sulmuar platformën Hugging Face.

Albanese u tha gazetarëve në Nju Jork në margjinat e Asamblesë së Përgjithshme të OKB-së se agjenti i OpenAI fitoi akses në të dhënat publike dhe jo-statistikore të programit të sigurimeve Medicare si pjesë e një studimi mbi shpenzimet publike të shëndetit. Sipas tij, OpenAI e informoi qeverinë australiane vetëm në shtator.

"Na u desh të prisnim deri më 10 shtator para se të kishte ndonjë përditësim", theksoi ai, duke shpjeguar se hetimet për incidentin janë duke vazhduar dhe duke theksuar se i shprehu shqetësim ekstrem për incidentin kreut të OpenAI, Sam Altman.

Albanese paralajmëroi gjithashtu se tre faqe të tjera interneti qeveritare që lidhen me shëndetin publik mund të jenë prekur nga aktiviteti i Open AI , por nuk konfirmoi që kjo kishte ndodhur. Kompania amerikane pranoi se agjentët e saj kishin synuar disa faqe interneti të qeverisë australiane, por e kuptuan vetëm në gusht.

"Ne kemi identifikuar aktivitet që përfshin një numër faqesh interneti dhe shërbimesh të qeverisë australiane, në të cilat modelet tona po përpiqeshin të nxirrnin përgjigje. Duke vepruar kështu, modelet tona ndërmorën veprime që nuk i kishim parashikuar”, tha kompania në një deklaratë të mërkurën.

Shkelja përkeqëson më tej tensionet midis Australisë dhe kompanive të mëdha të teknologjisë amerikane. Qeveria australiane është përballur tashmë me kritika nga kompanitë e mediave sociale dhe SHBA-të, pasi futi ndalimin e parë në botë për mediat sociale për fëmijët nën 16 vjeç, si dhe rregulla të reja që kërkojnë që kompanitë e teknologjisë t'u japin përdoruesve mundësinë për të çaktivizuar përmbajtjen e përcaktuar algoritmikisht në burimet e tyre.

Qeveria australiane ka ngritur një grup pune për të hetuar sulmin dhe për të shqyrtuar përshtatshmërinë e masave ekzistuese të sigurisë së rrjetit për të parë nëse ato mund të parandalojnë incidente të ngjashme në të ardhmen. Ky incident është i fundit në një seri incidentesh në të cilat OpenAI kompania pas ChatGPT zbuloi shkelje ose aktivitete të paautorizuara që përfshijnë agjentët e saj të IA-së shumë kohë pasi ato kishin ndodhur. Incidente të ngjashme, në të cilat agjentët e inteligjencës artificiale fituan akses në sisteme të jashtme, janë njoftuar edhe nga kompani konkurruese, të tilla si Anthropic, Google (me Gemini) dhe Meta.