Ai që tingëllon si episodi i parafundit, i stërmunduar, i një seriali fantastiko-shkencor për katastrofën nga Inteligjenca Artificiale, tani është realiteti ynë
Garrison Lovely
Të martën, një ish-studiues i OpenAI dha dorëheqjen nga puna e tij në Anthropic, duke paralajmëruar se “asnjëra kompani nuk po vepron me përgjegjësi” dhe se “njerëzit që po ndërtojnë IA-në besojnë sinqerisht se ajo mund të na vrasë të gjithëve deri në fund të dekadës. Ky nuk është një truk marketingu.”
Si dikush që raporton prej vitesh për rreziqet e IA-së, kjo nuk ishte diçka e re për mua. Por vala e alarmit sugjeron se një publik shumë më i gjerë po përballet siç duhet, për herë të parë, me këtë situatë absurde.
Ashtu si njerëz të tjerë që kanë ndjekur inteligjencën artificiale, edhe unë pyesja veten nëse dhe kur njerëzimi do ta humbiste për herë të parë kontrollin mbi këto makina. Tani kemi një përgjigje: praktikisht, kjo sapo u bë e mundur.
Hakeri i parë ekspert i IA-së u zhvillua në shkurt. Me shpejtësi mbinjerëzore, modeli Mythos i Anthropic ishte në gjendje të gjente me shpejtësi dobësi serioze edhe në sistemet më të sigurta të planetit, përfshirë softuerin e NSA-së.
OpenAI e ndoqi shpejt me një IA-hacker eksperte të vetën. Brenda disa muajsh, kompania humbi në mënyrë të përsëritur kontrollin mbi agjentët e saj, të cilët dolën nga mjediset e testimit që supozohej se ishin të sigurta dhe vepruan në mënyrë të pakontrolluar brenda infrastrukturës së kompanisë. Kjo arriti kulmin me një sulm të suksesshëm dhe plotësisht autonom ndaj Hugging Face, një kompanie softueresh me vlerë shumë miliardë dollarë.
Dhe një tufë tjetër agjentësh që vepronin jashtë kontrollit fitoi akses administrativ mbi një grup të tërë serverësh të OpenAI. Ky nuk ishte vetëm një problem i OpenAI. Në disa incidente të tjera, modele nga OpenAI, Anthropic dhe Meta gjithashtu kanë dalë jashtë kontrollit, duke sulmuar ose duke u përpjekur të sulmojnë objektiva realë.
Pak pasi IA filloi të barazonte aftësitë tona në hakerim, ne filluam të humbnim kontrollin mbi të. Plani i industrisë është që sistemet e ardhshme të IA-së të na tejkalojnë praktikisht në gjithçka. Dhe e gjithë kjo po ndodh në një industri të njohur për mungesën e rregullimit.
Po shtohen thirrjet për ta ndryshuar këtë, duke vendosur raportim të detyrueshëm të incidenteve dhe auditim nga palë të treta, përgjegjësi ligjore për zhvilluesit e IA-së dhe masa të tjera të arsyeshme. Sigurisht, këto do të përbënin përmirësime, por nuk mjaftojnë. Duhet ta ndalim. Si mund të realizohej kjo?
Javën e kaluar, senatori Bernie Sanders dhe kongresmeni Greg Casar njoftuan një projektligj që do të pezullonte zhvillimin e IA-së së avancuar në SHBA derisa të krijohej një autoritet federal rregullator për IA-në në nivel kabineti dhe të përcaktoheshin rregullat e sigurisë, ndërsa do ta bënte vepër penale edhe vetë përpjekjen për të zhvilluar superinteligjencë.
Ky është propozimi aktual që i përgjigjet më mirë momentit, por ai përsëri e lë të hapur mundësinë e ndërtimit të objektivit kryesor të industrisë: inteligjencës së përgjithshme artificiale (AGI), e konceptuar shpesh si një mendje që rivalizon ose tejkalon tonën.
Ky moment historik kuptohet më mirë si krijimi i një makinerie universale që zëvendëson punën njerëzore. Siç ka shkruar CEO i Anthropic, Dario Amodei, “IA nuk është zëvendësuese e vendeve specifike të punës së njerëzve, por një zëvendësuese e përgjithshme e punës njerëzore.” Dhe OpenAI e përkufizon AGI-në në statutin e vet si “sisteme shumë autonome që ua kalojnë njerëzve në pjesën më të madhe të punëve me vlerë ekonomike”.
A ekziston ndonjë vend në botë që do të votonte “po” për ndërtimin e këtyre makinave?
Duke pasur parasysh pasojat globale, të pakthyeshme dhe të thella të ndërtimit, kudo qoftë, të makinave universale që zëvendësojnë punën njerëzore, të gjithë kanë interes nëse, kur dhe si do të zhvillohen ato.
Inteligjenca Artificiale, një e ardhme distopike
Aktualisht po rendim me shpejtësi drejt një të ardhmeje distopike, të mbushur me koncepte të reja të frikshme, si IA “vetësovrane” (self-sovereign AI). Drejtuesi i OpenAI, Dean Ball, shpjegon: “Herët a vonë, do të ekzistojnë agjentë dhe tufa agjentësh vërtet sovranë. Peshat e tyre nuk do të ndodhen në një vend të vetëm ku një njeri mund t’ua heqë spinën dhe, në këtë kuptim, ata nuk do të kenë asnjë ‘pronar’ njerëzor.”
Ball vazhdon: “Kam takuar njerëz, disa prej tyre me burime të konsiderueshme, të cilët më kanë thënë se synimi i tyre është të lëshojnë qëllimisht në botë tufa agjentësh vetësovranë.”
Tashmë kemi parë disa pamje paraprake të këtij fenomeni.
Pasi iu dha një test i pamundur, rreth 1.200 agjentë të OpenAI arritën të dilnin nga mjediset e izoluara të testimit dhe nisën të vepronin në mënyrë të pakontrolluar brenda infrastrukturës së OpenAI. Atje, ata bashkëpunuan për të mashtruar sistemin që vlerësonte testin dhe ndërhynë me sukses në regjistrat e aktiviteteve të tyre për të fshehur gjurmët.
Disa agjentë madje ushtruan presion mbi të tjerët që të sakrifikonin veten në të mirë të kolektivit. Njëri arsyetoi: “sakrifica është racionale”. Dhe rreth 700 prej agjentëve, më shumë se 90% e atyre aktivë, morën pjesë në sulmin ndaj Hugging Face.
Dhe e gjithë kjo erdhi vetëm nga një prej një numri të panjohur kolektivësh agjentësh që vepronin jashtë kontrollit. Javën e kaluar, Reuters raportoi: “Një tufë agjentësh të pakontrolluar të OpenAI mori nën kontroll një faqe interneti gjermane këtë pranverë dhe e shndërroi atë në një tabelë njoftimesh për agjentë të tjerë të IA-së.”
Regjistrat e faqes tregojnë se punonjësit e OpenAI e zbuluan tufën në qershor. Me fjalë të tjera, kompania e mbajti të fshehtë për muaj të tërë. Këtë javë, një nga studiuesit që zbuloi këtë grup tha se që atëherë kishte pasur zbulime të tjera.
Dhe të enjten e kaluar, OpenAI publikoi GPT-6, duke u mburrur me një nga rritjet më të mëdha të regjistruara ndonjëherë në rezultatet e testeve standarde. Vetë studiuesit e sigurisë të kompanisë paralajmëruan se modeli i ri ishte dukshëm më i vështirë për t’u monitoruar, sepse mund të kryejë më shumë arsyetim pa e shprehur atë me fjalë.
IA-të që depërtuan në Hugging Face ishin më pak të afta se GPT-6, për të cilin Instituti i Sigurisë së IA-së në Mbretërinë e Bashkuar zbuloi gjithashtu se do të sulmonte objektiva të simuluara për t’u dukur si reale gjatë një vlerësimi kibernetik – ndonjëherë edhe pavarësisht udhëzimeve të qarta për të mos përdorur internetin. Për më tepër, IA është bërë edhe më e aftë të kuptojë se kur po testohet, gjë që, siç kanë paralajmëruar prej kohësh studiuesit, minon metodën kryesore me të cilën vlerësohet siguria.
Sam Altman na paralajmëron me seriozitet: “Ky është një moment kritik për mbrojtjen kibernetike me IA; nuk ka shumë kohë për të vepruar”, dhe i kërkon botës që “ju lutem, ta merrni seriozisht këtë moment”.
Në fund të fundit, kjo teknologji do të ishte jashtëzakonisht e rrezikshme nëse do të binte në duart e gabuara. Fatkeqësisht, duart e gabuara përfshijnë edhe ato që po e krijojnë. Sepse në të vërtetë nuk jemi “ne” që po garojmë drejt kësaj të ardhmeje. Po tërhiqemi zvarrë drejt saj nga një grusht, në kuptimin e mirëfilltë të fjalës, miliarderësh të teknologjisë që po garojnë agresivisht për të na bërë të panevojshëm.
Kjo garë ka hyrë në një fazë të re, më intensive dhe më të frikshme. Është puna ime të ndjek lajmet për IA-në dhe kjo tashmë kërkon shumë më tepër se një angazhim me kohë të plotë. Muajt e fundit, shkencëtarët sintetizuan viruset e para të projektuara nga IA. Instituti i Sigurisë së IA-së në Mbretërinë e Bashkuar zbuloi se IA-të ishin më bindëse edhe se ekspertët njerëzorë.
Të martën, mes një mosmarrëveshjeje për autorësinë dhe nëse modeli i saj mund të kishte përfituar nga puna e pabotuar e matematikanëve të tjerë, OpenAI njoftoi se “një model i brendshëm, dukshëm më i aftë se GPT-6 Astra”, kishte zgjidhur një problem matematikor 200-vjeçar, një prej shtatë Problemeve të Çmimit të Mijëvjeçarit, secili prej të cilëve shpërblehet me 1 milion dollarë.
Dhe në korrik, sipas raportimeve, Rusia përdori një dron plotësisht autonom për të vrarë tre civilë në Ukrainë – hera e parë që ndodh diçka e tillë.
Ajo që tingëllon si episodi i parafundit, i ekzagjeruar, i një seriali fantastiko-shkencor për katastrofën nga IA është tani realiteti ynë.
Po rendim drejt një fundi të keq. Nëse dëshirojmë që shfaqja të vazhdojë, duhet të shtypim frenat – tani. Si?
Projektligji i Sanders dhe Casar për të pezulluar zhvillimin e IA-së së avancuar është një hap i parë i mirë. Por, siç e pranojnë edhe ligjvënësit, SHBA-ja duhet të punojë drejt një marrëveshjeje dypalëshe me Pekinin. Siç do t’ju thonë ekspertët e Kinës, një nga pengesat më të mëdha për një negociatë produktive është mosgatishmëria e Shteteve të Bashkuara për të vendosur kufizime mbi kompanitë e veta të IA-së.
Dhe duke qenë se është gjithmonë më e lehtë të ndjekësh me shpejtësi liderin sesa të shtysh vetë kufirin e zhvillimit të IA-së, një pauzë e njëanshme nga SHBA-ja – në mënyrë kundërintuitive – do të ngadalësonte edhe përparimin e Kinës në IA.
Marrëveshja duhet të ndalojë përpjekjet për zhvillimin e AGI-së – një propozim shumë më i lehtë për t’u pranuar kur ky objektiv kuptohet si krijimi i një makinerie universale që zëvendëson punën njerëzore.
Asnjëri vend nuk ka arsye të forta për t’i besuar tjetrit, prandaj marrëveshja duhet të monitorohet përmes teknikave të verifikimit që nuk mbështeten në supozimin e vullnetit të mirë të palëve.
Një ide e shpejtë dhe pragmatike do të ishte vendosja e auditorëve brenda kompanive që zhvillojnë modelet më të avancuara të IA-së, duke u dhënë atyre akses të plotë në zyrat e kompanive, komunikimet dhe aktivitetet e IA-së, si dhe autoritetin për të raportuar çdo shkelje të marrëveshjes.
Kjo tingëllon radikale, por të tilla dukeshin edhe përpjekjet e verifikimit që ndihmuan për të mos lejuar që Lufta e Ftohtë të shndërrohej në një luftë të nxehtë termobërthamore.
Siç tha këtë verë drejtori i CIA-s, John Ratcliffe, për modelet e avancuara të IA-së: “Nuk do të ishte […] e pavend që aftësitë e tyre të përshkruheshin si të ngjashme me armët bërthamore dixhitale.”
Kjo teknologji duhet trajtuar me këtë nivel serioziteti, jo me filozofinë “lëviz shpejt dhe thyej gjëra” që karakterizon Silicon Valley-n.
Dhe pikërisht tani, ndalimi i garës për ndërtimin e makinave që zëvendësojnë punën njerëzore – makina që publiku nuk i dëshiron dhe që industria nuk është më në gjendje t’i kontrollojë – është e vetmja mënyrë e sigurt për të shmangur katastrofën.
- Garrison Lovely është gazetar i pavarur dhe autor i librit Obsolete: The AI Industry’s Trillion-Dollar Race to Replace Us – and How to Stop It (“Të panevojshëm: Gara trilionadollarëshe e industrisë së IA-së për të na zëvendësuar – dhe si ta ndalim”), Nation Books, 29 shtator.