Një bluzë me një vizatim të çuditshëm mund të bëjë diçka që deri dje dukej si fantashkencë: kamera ju filmon, por inteligjenca artificiale mund të mos kuptojë se ju jeni aty.
Ideja që po testohet në Shtetet e Bashkuara nuk synon të fshehë fytyrën dhe as të bllokojë kamerat. Synimi është shumë më interesant: të mashtrojë algoritmin që analizon pamjet dhe që duhet të dallojë nëse përpara tij ndodhet një njeri, një makinë apo një targë.
Projekti quhet noRecognition dhe është krijuar nga Bill Swearingen, ekspert amerikan i sigurisë kibernetike me mbi 20 vjet përvojë. Ai e prezantoi atë në DEF CON 34, konferencën e njohur të sigurisë kibernetike në Las Vegas.
Pas rreth 31 milionë provash, Swearingen thotë se ka krijuar motive grafike që arrijnë të çorientojnë disa sisteme të analizës automatike të imazheve.
Mekanizmi është relativisht i thjeshtë për t’u kuptuar. Syri i njeriut sheh normalisht një person që ka veshur një bluzë me një dizajn të pazakontë. Kamera gjithashtu vazhdon ta filmojë. Por modeli grafik mund të ngatërrojë programin që analizon videon deri në atë pikë sa ai të mos e klasifikojë siç duhet atë që ka përpara.
Në botën e inteligjencës artificiale kjo njihet si “adversarial attack”, ose sulm kundërshtar: imazhi manipulohet në një mënyrë që për njeriun ndryshon shumë pak, por që mund ta çojë algoritmin drejt një përfundimi të gabuar.
Dhe eksperimenti nuk është bërë vetëm me bluza.
Më 7 gusht, në Las Vegas, një Toyota Yaris e vitit 2009 u mbulua me një prej këtyre dizajneve dhe kaloi përpara një kamere Flock, sistem që përdoret në SHBA për leximin automatik të targave. Sipas Swearingen, sistemi nuk arriti ta identifikonte saktë automjetin.
Studiuesi pretendon se motivet e krijuara janë testuar kundër 11 sistemeve open-source të zbulimit të objekteve në imazh. Projekti ka synuar gjithashtu teknologji të lidhura me lexuesit e targave Flock, kamerat trupore Axon dhe sistemet e Clearview AI.
Por kjo nuk do të thotë se është zbuluar një “mantel padukshmërie”.
Rezultati mund të ndryshojë sipas llojit të kamerës dhe algoritmit, distancës, ndriçimit, këndit të filmimit dhe madje edhe cilësisë së printimit të dizajnit. Për më tepër, të dallosh se në një pamje ndodhet një fytyrë dhe të identifikosh se kujt i përket ajo janë dy procese të ndryshme.
Ideja e noRecognition është të ndërhyjë që në hapin e parë: nëse algoritmi nuk arrin të kuptojë se përpara tij ndodhet një person, nuk mund të kalojë më pas te identifikimi i fytyrës së tij në një bazë të dhënash.
Swearingen thotë se projekti lindi nga një shqetësim personal. Ndërsa mendonte të merrte pjesë në një manifestim publik, numri i kamerave dhe mundësia e identifikimit automatik e bënë të ndihej vazhdimisht nën vëzhgim. Kështu nisi të kërkonte një mënyrë që individi të mund t’i kundërvihej gjurmimit masiv të realizuar me inteligjencë artificiale.
Megjithatë, pretendimet duhen trajtuar me kujdes. noRecognition nuk është publikuar ende në një revistë shkencore dhe rezultatet nuk janë verifikuar nga ekspertë të pavarur. Pjesa më e madhe e informacionit për testet vjen nga vetë autori i projektit.
Swearingen nuk ka publikuar as dizajnet që pretendon se funksionojnë më mirë. Arsyeja është paradoksale: nëse kompanitë që prodhojnë sistemet e mbikëqyrjes i marrin në dorë, mund t’i përdorin për të trajnuar algoritmet e tyre që t’i njohin dhe t’i neutralizojnë.
Për momentin nuk mund të bëhemi vërtet të padukshëm për kamerat. Por eksperimenti tregon se beteja e ardhshme e privatësisë mund të mos jetë më mes njeriut dhe kamerës.
Mund të jetë mes njeriut dhe inteligjencës artificiale që qëndron pas saj.
