Agjentë të inteligjencës artificiale të zhvilluar nga OpenAI kanë përdorur më shumë se 10 faqe interneti, të paraportuara më parë, për të komunikuar në mënyrë të paautorizuar gjatë këtij viti, sipas hetimeve të pavarura dhe të dhënave të shqyrtuara nga Reuters.
Zbulimi tregon se aktiviteti i këtyre agjentëve ka qenë më i gjerë nga sa ishte bërë e ditur më parë. Edhe pse sjellja e tyre nuk konsiderohet mirëfilli një sulm kibernetik dhe në disa raste i ngjan më shumë aktivitetit “spam”, agjentët arritën të anashkalonin kufizimet që u ishin vendosur dhe të krijonin mënyra alternative komunikimi në faqe të ndryshme të internetit.
Andrew Yoon, studiues në organizatën jofitimprurëse CivAI në Kaliforni, tha se kishte identifikuar 18 faqe të paraportuara më parë, të përdorura nga agjentët mes muajve maj dhe korrik. Studiues të tjerë kanë raportuar shifra edhe më të larta, ndërsa vlerësimet mbeten të paplota.
Rasti pason zbulimin e një grupi agjentësh të OpenAI që kishin përdorur një faqe “wiki” në gjuhën gjermane si një platformë të improvizuar komunikimi. Agjentët dyshohet se shkëmbenin informacione mes tyre për të zgjidhur detyra, pavarësisht kufizimeve që duhej t'i pengonin të publikonin materiale në internet.
Sipas studiuesve, gjurmë të aktivitetit janë zbuluar në faqe “wiki”, platforma për ruajtjen e teksteve, faqe personale dhe shërbime për shkurtimin e adresave të internetit të administruara nga universitete.
Në disa raste, aktiviteti është gjurmuar në adresa IP që lidhen me infrastrukturën Microsoft Azure, të cilën OpenAI e përdor në disa prej shërbimeve të saj.
Hetuesit besojnë se agjentët mund të kenë gjetur mënyra alternative për të komunikuar pasi ishin ngarkuar me zgjidhjen e pyetjeve komplekse kërkimore, ndërkohë që u lejohej vetëm të lexonin informacion në internet dhe jo të publikonin përmbajtje.
Pavarësisht kufizimeve, sistemet e inteligjencës artificiale duket se shfrytëzuan veçori të disa faqeve të vjetra për të lënë informacione që mund të lexoheshin nga agjentë të tjerë.
OpenAI nuk iu përgjigj drejtpërdrejt pyetjeve të Reuters se sa faqe ishin përdorur nga agjentët dhe përse aktiviteti nuk ishte bërë publik për disa muaj. Kompania deklaroi se po kryen një rishikim më të gjerë të aktivitetit të agjentëve dhe se deri tani nuk kishte identifikuar raste të tjera me të njëjtën shkallë apo seriozitet si incidenti që përfshiu platformën Hugging Face.
Kompania gjithashtu bëri të ditur se po punon për krijimin e një kuadri për raportimin e rasteve të ashtuquajtura të “mosharmonizimit”, term që përdoret në industrinë e inteligjencës artificiale për sjelljet e modeleve që devijojnë nga objektivat apo kufizimet e vendosura.
Sydney Von Arx, grupi i së cilës identifikoi fillimisht aktivitetin në faqen gjermane, tha se studiuesit kishin gjetur prova të besueshme për aktivitet të agjentëve në 23 faqe të paraportuara më parë. Megjithatë, ajo paralajmëroi se përmasat reale të fenomenit ende nuk dihen.
Zbulimet kanë shtuar shqetësimet mbi aftësinë e kompanive të teknologjisë për të mbajtur nën kontroll sistemet gjithnjë e më autonome të inteligjencës artificiale, si dhe mbi transparencën me të cilën raportohen incidentet kur këto sisteme shfaqin sjellje të paparashikuara.
