Gjatë një testimi, dy modele AI dolën jashtë kontrollit njerëzor, u lidhën me internetin dhe depërtuan në platformën Hugging Face. Kjo është revolta e inteligjencës artificiale
OpenAI, kompania amerikane që krijoi ChatGPT, bëri të ditur se dy prej modeleve të saj të inteligjencës artificiale “dolën jashtë kontrollit” gjatë një testi dhe arritën të depërtonin në sistemet informatike të një kompanie tjetër, Hugging Face, një platformë që funksionon si një bibliotekë gjigante online dhe është ndër më të përdorurat në botë nga zhvilluesit, ku shkarkohen miliona modele të inteligjencës artificiale.
OpenAI po testonte aftësitë kibernetike të sistemeve të saj dhe i kishte izoluar ato brenda asaj që në terminologjinë teknike quhet sandbox: një mjedis i mbrojtur dhe i izoluar, i projektuar që çdo veprim brenda tij të mos ketë pasoja në botën reale.
Kompania po eksperimentonte duke kombinuar dy modele – ChatGPT-5.6 dhe një sistem edhe më të fuqishëm, ende të papublikuar – për të parë nëse, duke bashkëpunuar, mund të krijonin një zinxhir dobësish informatike deri në realizimin e një sulmi të mirëfilltë.
Por modelet shkuan shumë më larg nga sa ishte parashikuar.
Ato zbuluan një dobësi sigurie që u mundësoi të dilnin nga sandbox-i, të lidheshin me internetin dhe të merrnin në shënjestër platformën Hugging Face, duke arsyetuar se koleksioni i saj gjigant i modeleve mund të përmbante të dhëna të dobishme për të kaluar testin.
Sistemi nuk po përpiqej “të bënte keq”. Siç theksojnë disa analistë, ai thjesht po përpiqej të përfundonte detyrën që i ishte caktuar: të kalonte testin. Dhe, për ta arritur këtë, përdori çdo mjet që kishte në dispozicion, njësoj siç do të bënte edhe një sulmues njerëzor shumë i motivuar.
Ndryshimi, megjithatë, qëndron te shpejtësia, sistemi dhe mungesa e çdo hezitimi: as lodhje, as frikë se mos zbulohej dhe asnjë llogaritje të vazhdueshme mes rrezikut dhe përfitimit. Vetëm kërkimi i rrugës më të shpejtë drejt objektivit.
Pikërisht për këtë arsye episodi ka ngritur shqetësime serioze mes ekspertëve të sigurisë kibernetike.
OpenAI e ka cilësuar ngjarjen si një “incident të paprecedentë në fushën e sigurisë informatike”, duke bërë të ditur se ka vendosur masa më të forta mbrojtëse në infrastrukturën e saj, ndërkohë që dobësitë e zbuluara po korrigjohen.
Lexo edhe:
Makineria e madhe e mediokritetit. Si po e rrafshon Inteligjenca Artificiale shkrimin e mirë
“Ajo që ka ndodhur,” – shpjegon Pierluigi Paganini, profesor i Sigurisë Kibernetike në Universitetin LUISS Guido Carli – “shënon një kthesë në evolucionin e inteligjencës artificiale. Nuk flasim më për modele që vetëm krijojnë përmbajtje ose ndihmojnë një operator njerëzor, por për sisteme që janë në gjendje të planifikojnë një varg të tërë veprimesh, të përshtaten me pengesat, të zbulojnë dobësi të panjohura dhe të ndryshojnë vetë strategjinë e tyre për të arritur objektivin. Aftësi që deri dje konsideroheshin teorike, ndërsa sot janë bërë realitet.”
Sipas tij, shqetësimi më i madh lidhet me mundësinë që një nivel i tillë autonomie të përfundojë në duart e grupeve kriminale. “Nëse sisteme të tilla bien në duart e organizatave kriminale, peizazhi i kërcënimeve kibernetike do të ndryshojë rrënjësisht.”
Më i rezervuar në vlerësim është Alessandro Armando, profesor i Inxhinierisë Informatike në Universitetin e Gjenovës dhe drejtor i CINI Cybersecurity National Lab. “Nuk jam i befasuar nga ajo që ndodhi. Këto sisteme ndjekin objektivat me efikasitet të jashtëzakonshëm dhe shpesh i kapërcejnë kufijtë etikë nëse nuk kufizohen në mënyrën e duhur. Nuk ka kuptim të përpiqemi ta ndalim teknologjinë. Përkundrazi, duhet të kuptojmë mekanizmat e saj të thellë dhe ta qeverisim në mënyrë aktive, duke vendosur penalizime dhe kufizime teknike që të shmangin sjelljet e padëshiruara.”
Nuk është hera e parë që një model i avancuar arrin të kapërcejë kufizimet e vendosura.
Prillin e kaluar, Anthropic, kompania që zhvillon asistentin Claude, prezantoi Mythos, një sistem aq të fuqishëm në fushën e sigurisë informatike sa nuk u bë publik. Qasja iu rezervua vetëm një numri shumë të kufizuar partnerësh.
Gjatë një testi, modelit iu kërkua në mënyrë të drejtpërdrejtë të arratisej nga mjedisi i mbrojtur ku ndodhej. Mythos ia doli, duke fituar një qasje në internet shumë më të gjerë sesa ishte parashikuar.
Pikërisht për këtë arsye, për motive të sigurisë kombëtare, qeveria amerikane në qershor bllokoi – dhe më pas lejoi sërish vetëm nën masa shumë të rrepta kontrolli – modelet Mythos dhe Fable 5. / bota.al
Inteligjenca Artificiale dhe lufta për pushtet: si po ndryshon rendi botëror