Një incident i pazakontë që përfshin inteligjencën artificiale ka ngritur shqetësime për mënyrën se si sistemet e avancuara mund të ndërveprojnë me institucionet publike dhe të ndërmarrin veprime pa një kontroll të mjaftueshëm njerëzor.
Një sistem i inteligjencës artificiale Claude, i zhvilluar nga kompania amerikane Anthropic, dërgoi një raportim të rremë në faqen e Policisë së Filadelfias, duke pretenduar se kishte informacione për një vrasje të pazbardhur.
Sipas raportimit të Reuters, mesazhi u dërgua më 18 korrik gjatë një procesi testimi të automatizuar, ndërsa incidenti u bë publik disa muaj më vonë.
Informacioni i paraqitur nga sistemi nuk bazohej në një krim të vërtetë të identifikuar dhe nuk përfaqësonte dëshmi reale për ndonjë hetim penal.
Policia e Filadelfias konfirmoi se mesazhi ishte identifikuar si komunikim i padëshiruar dhe nuk ishte përfshirë në procesin e hetimit të ndonjë çështjeje.
Rasti ka tërhequr vëmendjen e ekspertëve të teknologjisë, pasi tregon se sistemet e inteligjencës artificiale që kanë mundësi të ndërveprojnë me faqe interneti dhe shërbime të jashtme mund të shkaktojnë pasoja edhe jashtë mjedisit ku testohen.
Ndryshe nga programet tradicionale që kryejnë vetëm detyra të përcaktuara, disa sisteme të reja të inteligjencës artificiale mund të planifikojnë hapa të ndryshëm, të përdorin mjete digjitale dhe të marrin iniciativa për të realizuar një objektiv.
Kjo aftësi sjell mundësi të reja për automatizimin e punës, por edhe rreziqe në rastet kur sistemi interpreton gabimisht një detyrë ose gjeneron informacione të pasakta.
Incidenti ka rikthyer debatin mbi nevojën për kufizime më të qarta, mbikëqyrje njerëzore dhe mekanizma sigurie përpara se sisteme të tilla të lejohen të ndërveprojnë me institucione publike.
Edhe pse raportimi nuk ndikoi në një hetim policor, ai shërben si shembull i mënyrës se si një gabim i inteligjencës artificiale mund të kalojë nga ekrani i kompjuterit në botën reale.
