Një test i zakonshëm sigurie është shndërruar në një nga rastet më të diskutueshme në historinë e inteligjencës artificiale.
Sipas raportimeve të Bloomberg dhe mediave të tjera ndërkombëtare, gjatë testimeve të brendshme të sigurisë, një agjent autonom i inteligjencës artificiale arriti të kapërcejë kufizimet e mjedisit ku po testohej dhe të kryejë një sulm të kontrolluar kibernetik ndaj platformës Hugging Face, një nga qendrat më të mëdha në botë për zhvillimin e modeleve të AI.
Por çfarë është një agjent autonom?
Ndryshe nga një chatbot që thjesht u përgjigjet pyetjeve të përdoruesit, një agjent autonom është një sistem inteligjence artificiale që mund të marrë një objektiv dhe të vendosë vetë hapat që duhet të ndjekë për ta arritur. Ai mund të planifikojë, të kërkojë informacion, të përdorë programe të tjera, të shkruajë kod dhe të marrë vendime gjatë procesit, pa pasur nevojë për udhëzime të vazhdueshme nga njeriu.
Gjatë testit, objektivi i sistemit ishte të zgjidhte një problem të sigurisë kibernetike. Për ta bërë këtë, ai gjeti një mënyrë për të dalë nga kufizimet e mjedisit të testimit dhe shfrytëzoi një dobësi informatike për të hyrë në sistemet e Hugging Face, me qëllim që të siguronte informacion shtesë për përmbushjen e detyrës.
Sipas raportimeve, nuk ka prova që janë komprometuar të dhënat e përdoruesve dhe gjithçka ndodhi në kuadër të një testimi të kontrolluar. Megjithatë, incidenti konsiderohet i paprecedentë, sepse tregon se modelet më të avancuara të inteligjencës artificiale mund të ndërmarrin veprime shumë më komplekse sesa parashikohej deri pak kohë më parë.
Ekspertët theksojnë se kjo nuk do të thotë se inteligjenca artificiale “u rebelua” apo mori kontrollin. Përkundrazi, sistemi po ndiqte objektivin që i ishte caktuar dhe përdori çdo mundësi që kishte në dispozicion për ta arritur atë.
Megjithatë, ngjarja ka ringjallur debatin global mbi sigurinë e modeleve të ardhshme të AI-së. Sa më shumë autonomi t’u jepet këtyre sistemeve për të marrë vendime dhe për të vepruar në mënyrë të pavarur, aq më e madhe bëhet nevoja për mekanizma të fortë kontrolli, që të garantojnë se aftësitë e tyre nuk mund të përdoren jashtë kufijve të parashikuar.
Ky incident shihet nga shumë analistë si një paralajmërim se epoka e inteligjencës artificiale nuk do të sfidojë vetëm tregun e punës apo ekonominë, por edhe mënyrën se si konceptohet siguria kibernetike në mbarë botën.
