Përdorimi i algoritmeve në polici është një prej shembujve të rritjes së ndikimit të tyre në jetët tona. Dhe teksa bëhen gjithnjë e më të kudondodhur, po kështu intensifikohet edhe debati nëse duhet të lejojmë që të bëhemi kaq të varur prej tyre – dhe kush, e kontrollon përdorimin e tyre. Shqetësime të tillë u forcuan edhe më shumë pas zbulimeve të vazhdueshëm për mënyrën si Agjencia Kombëtare e Sigurisë e SHBA, NSA, ka përdorur algoritmet për të interpretuar sasinë e madhe të të dhënave që ka grumbulluar prej rrjetës së saj të fshehtë të telekomunikimeve ndërkombëtare
Në 4 gusht 2005, departamenti i policisë i Memphis, Tennessee, bëri kaq shumë arrestime brenda një periudhe tre-orëshe, saqë i mbaruan mjetet për të transportuar në qeli të ndaluarit. Tre ditë më vonë, 1200 vetë ishin arrestuar në të gjithë qytetin – një rekord i ri për departamentin e policisë. Operacioni Blue Crush u përshëndet si një sukses shumë i madh.
Harry Goldwin, drejtori i ri i policisë në qytet, e shpalosi menjëherë skemën dhe deri në 2011, krimi në qytet kish rënë me 24%. Kur u zbulua që “Blue Crush” do të pësonte shkurtime buxhetorë në fillim të këtij viti, pati një shpërthim proteste në publik. Kjo mënyrë e veprimit të policisë u perceptua si shumë e suksesshme dhe ajo është imituar kudo në botë, duke përfshirë vende si Polonia apo Izraeli. Në 2010, u tha se edhe forca policore në Mbretërinë e Bashkuar e përdornin, por identitetet e tyre nuk u zbuluan.
Crush do të thotë “Criminal Reduction Utilising Statistical History” (Reduktim i Krimeve duke Shfrytëzuar Historinë Statistikore). E përkthyer, do të thotë polici parashikuese. Ose më saktë, oficerë policie të udhëhequr prej algoritmeve. Një ekip kriminilogësh dhe shkencëtarësh të të dhënave në Universitetin e Memphisit e zhvilluan fillimisht këtë teknikë duke përdorur programe kompjuterikë parashikues të IBM. Thënë thjeshtë, ata nxorrën statistikat e krimeve në të gjithë qytetin dhe ua vendosën të dhënave të tjera – hartave të strehimit social, temperaturave të jashtme etj – dhe më pas udhëzuan algoritmet që të kërkonin për korrelacione për identifikimin e pikave të nxehta të krimit. Më pas, policia u dynd në ato zona me patrulla që kishin objektiva specifikë.
“Eshtë, si të thuash, të vendosësh njerëzit e duhur, në vendet e duhur, në ditën dhe orën e duhur”, thotë Dr Richard Janikowski, profesor në departamentin e kriminologjisë dhe drejtësisë në Universitetin e Memphisit, atje ku u lancua skema. Por jo të gjithë ndihen rehat me këtë ide. Disa kritikë e kanë quajtur “Minority Report”, duke iu referuar filmit fantastiko shkencor në të cilin përdoren njerëz me aftësi telepatike për të orientuar një njësi policore të “ParaKrimit”.
Përdorimi i algoritmeve në polici është një prej shembujve të rritjes së ndikimit të tyre në jetët tona. Dhe teksa bëhen gjithnjë e më të kudondodhur, po kështu intensifikohet edhe debati nëse duhet të lejojmë që të bëhemi kaq të varur prej tyre – dhe kush, e kontrollon përdorimin e tyre. Shqetësime të tillë u forcuan edhe më shumë pas zbulimeve të vazhdueshëm për mënyrën si Agjencia Kombëtare e Sigurisë e SHBA, NSA, ka përdorur algoritmet për të interpretuar sasinë e madhe të të dhënave që ka grumbulluar prej rrjetës së saj të fshehtë të telekomunikimeve ndërkombëtare.
“Për sasi të dhënash si ato që grumbullon NSA, përdorimi i algoritmeve është mënyra e vetme për të realizuar detyra të caktuara”, thotë James Ball, redaktor i The Guardian dhe pjesë e ekipit që raporton për cështjen e NSA për këtë gazetë. “Problemi është se si vendosen rregullat: është e pamundur që kjo të bëhet përsosmërisht. Nëse, për shembull, po kërkon për terroristë, atëherë je duke kërkuar për dicka shumë të rrallë. Vendosi rregullat shumë të ngushtë, dhe do të humbasësh shumë prej të dyshuarve potencialë për terrorizëm. Por vendosi më gjerë, dhe do të fusësh në rrjetën tënde shumë njerëz të pafajshëm, të cilët më pas do i nënshtrohen mbikëqyrjes së mëtejshme apo edhe hetimit formal. Ne nuk e dimë me saktësi se si NSA apo GCHQ përdorin algoritmet – apo deri në cfarë mase aplikohen. Por ne e dimë që ata i përdorin, përfshirë edhe në rrjetën e madhe të të dhënave të zbuluar prej The Guardian”.
Që nga faqet e internetit ku lihen takime, deri tek shitjet me pakicë në internet apo kërkimet online (algoritmi i Google është tashmë një sekret tregtar që ruhet edhe më fort se sa receta e Coca-Cola), algoritmet po përcaktojnë gjithnjë e më shumë të ardhmen tonë kolektive. “Miratimet bankarë, kartat e dyqaneve, të dhënat e punës dhe më shumë se kaq i nënshtrohen parimeve të ngjashëm”, thotë Ball. “Algoritmi është Zoti nga makina që u jep fuqi atyre, për mirë apo për keq”.
Po cfarë është një algoritëm? Dr Panos Parpas, profesor i analizës sasiore dhe shkencës së vendim-marrjes (quads) në departamentin e kompjuterëve të Imperial College London, thotë se sa herë përdorim kompjuterë, ne mbështetemi në algoritmet: “Ka shumë lloje, por algoritmet, të shpjeguar thjeshtë, ndjekin një seri udhëzimesh për të zgjidhur një problem. Ngjan pak me një recetë që të ndihmon të gatuash një tortë. Në vend të një mielli gjenerik apo një temperature gjenerike të sobës, algoritmi do të përdorë një seri variacionesh për të prodhuar tortën më të mirë të mundshme, nga opsionet dhe ndërrimet që ka në dispozicion”.
Parpas thekson se algoritmet nuk janë një fenomen i ri: “Ata janë përdorur prej dekadash – që në kohën e Alan Turing dhe buluesve të kodeve, dhe më përpara madje – por rritja e interesit për ta që vërejmë sot ndodh për shkak të sasisë së madhe të të dhënave që prodhohen sot si dhe nevojës për t’i përpunuar dhe kuptuar. Ata janë tashmë të integruar në jetët tona.
Nga njëra anë, janë të mirë sepse na kursejnë kohë dhe bëjnë gjëra të rëndomta në vendin tonë. Pikëpyetjet që ngrihen për momentin nuk janë për algoritmet në vetvete, por për mënyrë se si është strukturuar shoqëria, sa i përket përdorimit të të dhënave dhe privatësisë së të dhënave. Gjithashtu ka të bëjë me mënyrën se si përdoren modelet për të parashikuar të ardhmen. Aktualisht kemi një martesë disi të sikletshme mes të dhënave dhe algoritmeve. Teksa teknologjia zhvillohet, do të ketë gabime, por është e rëndësishme të mbajmë mend gjithmonë se ata janë thjeshtë një mjet. Ne nuk duhet të fajësojmë mjetet tanë”.
“Gabimet” për të cilët flet Parpas janë ngjarje si për shembull “flash crash” i 6 majit 2010, kur mesatarja industriale e bursës ra me 1 mijë pikë brenda vetëm pak minutave. Tregu e rimori veten 20 minuta më vonë. Arsyet për rënien e papritur nuk janë shpjeguar asnjëherë plotësisht, por shumica e vëzhguesve financiarë fajësojnë “garën deri në fund” të algoritmeve sasiorë të shitblerjeve të aksioneve, që përdoren gjerësisht për të kryer veprime në frekuenca të larta. Scott patterson, një gazetar i Wall Street Journal dhe autor i librit “The Quants”, e krahason përdorimin e algoritmeve në sallat e bursës me fluturimin e një avioni me pilotin automatik. Pjesa më e madhe e shitblerjeve në bursë sot kryhen përmes algoritmeve, por kur gjërat shkojnë keq, sic ndodhi gjatë “flash crash”, njerëzit mund të ndërhyjnë.
“Deri tani, algoritmet më të komplikuar i gjen në shkencë, ku ata përdoren për prodhimin e ilaceve të rinj apo modelimin e klimës”, thotë Parpas. “Por këto bëhen brenda një mjedisi të kontrolluar me të dhëna të pastra. Eshtë e lehtë të shohësh nëse ka një virus apo një problem në një algoritëm. Vështirësitë vijnë kur ata përdoren në shkencat sociale dhe shitblerjet financiare, ku ka më pak dijeni se si duhet të jetë modeli dhe rezultati, dhe ku ata veprojnë në një mjedis më dinamik. Shkencëtarëve u duhen vite ta bëjnë të vlefshëm algoritmin e tyre, ndërkohë që një tregtar në bursë ka vetëm disa ditë kohë ta bëjë këtë në një mjedis të ndryshueshëm”.
Ideja që tregjet financiarë të botës – dhe si pasojë, mirëqenia e pensioneve tanë, aksioneve, kursimeve etj – tashmë janë të varur kryesisht nga algoritmet është shumë shqetësuese për disa. Por, sic e treguan edhe zbulimet e NSA, pikëpyetja më e madhe që rrethon algoritmet ka të bëjë me qeverisjen dhe privatësinë. Si përdoren ata për të aksesuar dhe interpretuartë dhënat “tona”? Dhe nga kush?
Dr. Ian Brown, Ndihmës Drejtor i Qendrës së Sigurisë Kibernetike në Oxford University thotë se të gjithë duhet të mendojmë për pasojat e lejimit të interesave tregtarë dhe interesave të qeverisë që të përdorin algoritmet për të analizuar prirjet tona: “Shumica prej nesh supozojnë që “big data” është dicka shumë bujare. Ligjet në SHBA dhe Britani thonë se pjesa më e madhe e zbulimeve të NSA është e lejuar, vetëm se shumica e njerëzve ende nuk e kuptojnë. Por ka një pikëpyetje të madhe për mbikëqyrjen. Ne tani shpenzojmë kaq shumë nga koha jonë në mënyra që ofrojnë shanse për mbledhjen e sasive të mëdha të të dhënave”.
Brown thotë se algoritmet tani janë programuar për të parë korrelacione “indirektë, jo të dukshëm” në të dhënat. “Për shembull, në SHBA, kompanitë e kujdesit shëndetësor mund të bëjnë tani vlerësime për një risk siguracioni të mirë apo të keq, bazuar pjesërisht në distancën që t’i përshkon për të shkuar në punë”, thotë ai. “Ata identifikojnë njerëzit me risk të ulët dhe i orientojnë politikat e tyre drejt tyre. Me kalimin e kohës, kjo gjë përkeqëson ndarjet sociale. Profesor Oscar Gandy, në Universitetin e Pennsylvanias, ka bërë kërkime për “diskriminimin dytësor racor”, ku sigurimi shëndetësor dhe kredia, që mbështetet kryesisht edhe tek kodet postarë, mund të diskriminojë grupe racorë për arsye se ndodh që ata të jetojnë shumë pranë grupeve të tjerë racorë që kanë rezultate të këqinj”.
Brown ka shqetësime të ngjashëm edhe për përdorimin e algoritmeve në ndihmë të policisë, sic shihet edhe në Memphis ku algoritmet e Crush kanë lidhur disa grupe racorë me disa krime të caktuar: “Nëse një grup ndalohet në mënyrë të vazhdueshme nga policia, një taktikë e tillë zmadhon perceptimin që ata kanë se janë vënë në shënjestër”.
Viktor Mayer-Schönberger, profesor i qeverisjes së internetit në Oxford Internet Institute, gjithashtu paralajmëron kundër kësaj. “Ky transformim paraqet një kërcënim krejt të ri: dënime të bazuar në prirjet”, shkruan ai në librin e tij të fundit, “Big Data: Një revolucion që do të transformojë mënyrën se si jetojmë, punojmë dhe mendojmë”. “Kjo është mundësia që të përdoren parashikimet e big-data për njerëzit për t’i gjykuar dhe ndëshkuar ata edhe përpara se të kenë vepruar. Kjo gjë hedh poshtë idetë e drejtësisë dhe vullntetit të lirë. Përvec privatësisë dhe prirjes, ka një rrezik të tretë. Rrezikojmë të biem viktima të një diktature të dhënash, ku ne fetishizojmë informacionin, rezultatin e analizës sonë, dhe përfundojmë duke e keqpërdorur atë. Nëse menaxhohet me përgjegjshmëri, big-data është një mjet shumë i dobishëm për vendim-marrjen racionale. Në rast të kundërt, mund të shndërrohet në një instrument për të pushtetshmit, që mund ta kthejnë në një burim represioni, qoftë thjeshtë duke mërzitur konsumatorët dhe punëmarrësit, ose më keq, duke u bërë dëm qytetarëve”.
Mayer-Schönberger paraqet dy skenarë shumë të ndryshëm nga jeta reale për të ilustruar se si po përdoren algoritmet. Së pari, ai shpjegon se si ekipi i analitikës për shitësin me pakicë Target në SHBA mund të përllogarisë tani nëse një grua është shtatzënë dhe, nëse është e vërtetë, kur do të lindë. “Ata vërejtën se këto gra blejnë shumë locion pa aromë në muajin e tretë të shtatzanisë dhe se pak javë më vonë kishin prirjen të blinin suplemente si magnez, kalcium dhe zink. Në fund, ekipi zbuloi mbi njëzetë produkte që, të përdorur si të përafërt, i mundësuan kompanisë të përllogariste një pikaverazh “parashikimi shtatzënie” për cdo kliente që paguante me kartë krediti apo kupona të marra me postë. Korrelacioni i mundësoi madje shitësit që të llogariste datën kur kishin për të lindur me përafërsi, me qëllim që t’u dërgonte kupona për cdo fazë të shtatzanisë”. Targetim i padëmshëm, mund të thonë disa. Por cfarë ndodh, sic edhe është thënë tashmë, kur një babai i dërgohen gabimisht kupona në vend t’i dërgohen vajzës së tij adoleshente, që një shitës e ka identifikuar si shtatzanë edhe përpara se ta marrë vesh babai?
Shembulli i dytë i Mayer-Schönberger parashtron dilema edhe më të mundshme: “Bordet e lirimit me kusht të të burgosurve në më shumë se gjysmën e shteteve në SHBA përdorin parashikime që i kanë bazuar në analiza të të dhënave si faktor për të vendosur nëse dikush duhet liruar nga burgu apo duhet mbajtur prapa hekurave”.
Christopher Steiner, autor i “Si algoritmet po komandojnë botën tonë” ka identifikuar një seri shembujsh ku algoritmet ofrojnë parashikime – shpesh herë brenda industrive krijuese. Në librin e tij, ai tregon historinë e një krijuesi të një faqeje interneti i quajtur Mike McCready që ka krijuar një algoritëm për të analizuar dhe renditur këngë që janë hit-e. Duke përdorur një teknikë që quhet Advanced Spectral Deconvolution, algoritmi ndan cdo këngë hit në pjesët eveta përbërëse – melodia, ritmi, progresioni i kordave e kështu me radhë – dhe më pas i përdor të dhënat për të përcaktuar një tipar të përbashkët në një seri këngësh që janë në vendet e parë në klasifikime. Algoritmi i McCready parashikoi me saktësi – që përpara se të dilnin – se albumet debutues të Norah Jones dhe Maroon 5 përmbanin një numër shumë të madh këngësh që do të bëheshin hit-e.
Hapi tjetër logjik – ndoshta për kompanitë muzikore që kërkojnë fitime – është që të përdorin algoritmet për të zëvendësuar njeriun si krijues këngësh. Po a është ky vërtetë një propozim tërheqës? “Algoritmet ende nuk po shkruajnë muzikën pop”, thotë Steiner. Më tej, duke qeshur, shton: “Të paktën, jo me aq sa dimë. Në fakt nëse do të isha një drejtues i një kompanie muzikore apo një artist muzike pop, nuk do i thoja askujt nëse kisha një këngë në majë të klasifikimit që e kishte shkruajtur një algoritëm”.
Steiner argumenton se nuk duhet t’i shohim automatikisht algoritmet si një ndikim të keq në jetët tona, por ne duhet të debatojmë për gjithëpraninë e tyre si dhe gamën e gjerë të përdorimit. “Jemi tashmë në gjysmë të rrugës drejt një bote ku algoritmet drejtojnë pothuajse gjithcka. Teksa fuqia e tyre rritet, edhe pasuria do të përqëndrohet drejt tyre. Ata do të sigurojnë që ndarja 1%-99% të bëhet më e madhe. Nëse nuk je pjesë e klasës së lidhur me algoritmet, do të vuash. Arsyeja përse nuk ka shpërthim zemërimi popullore për faktin që bursa drejtohet nga algoritmet është sepse shumica e njerëzve ende nuk e dinë apo nuk e kuptojnë”.
Por Steiner thotë se duhet t’i mirëpresim kur përdoren si duhet. Por duhet të ketë një vijë të qartë ndarëse mes algoritmeve “të mirë” dhe “të këqinj”, thotë ai. “Nuk më duken vecanërisht të frikshëm zbulimet e NSA. Për momentin ata thjeshtë mbajnë të dhënat. Edhe shkencëtarët më të mirë të të dhënave do të kishin shumë probleme e nuk do dinin c’të bënin me gjithë ato të dhëna. Por, ne duhet të jemi të vëmendshëm për hapin tjetër. Ata mund të shkatërrojnë vërtetë jetën e dikujt me një parashikim fals”.
Shpejtësi marramendëse
Algoritmet e parë për të luajtur në Bursë, krijuar në vitet tetëdhjetë nga programuesi Thomas Peterffy kufizoheshin në arrjen prej linjave telefonike të vlerave të aksioneve dhe të përcakonin blerjen apo shitjen vetëm në pak situata veçanërisht të avantazhuara. Përdoreshin me kujdes nga krijuesi i tyre, që sot është një manjat i Uall Street. Ndërsa pasardhësit e tyre sot bëjnë me qindra oferta në sekondë, në shumë raste vetëm për të gënjyer algoritme të tjerë konkurrues dhe për t’i shtyrë që të rrisin ose të ulin çmimet. “Rezultati”, shpjegon Steiner, “është që gjatë një hapjeje të Bursës i gjithë sistemi amerikan i telekomunikacionit është i mbingarkuar me të dhëna, që në shumicën e rasteve shërbejnë vetëm për oferta false të blerjeve apo shitjeve. Dhe e gjitha me një shpejtësi marramendëse, që një operator njerëzor nuk mund ta ndjekë”.
Mjafton një “bug” në program për të shkaktuar një rrëmujë të madhe. Sic ndodhi më 6 maj 2010, kur në Bursën e Nju Jorkut, për 6 minuta treguesi i Dou Jones humbi 998.5 pikë, baraz me një miliardë dollarë: rënia më shkatërrimtare e historisë. Grupe të fuqishëm industrialë dhe financiarë panë aksionet të binin në vlerën e vetëm një cent, për t’u rikthyer më pas në atë fillestare të 40 dollarëve. Çfarë kishte ndodhur? Askush nuk e ka zbuluar asnjëherë, por është e mundur që të ketë pasur një problem në algoritmet e softuerëve të blerjes së aksioneve.
“Pikërisht sasia e pazakontë e të dhënave që shërbejnë për t’i ushqyer ka revolucionarizuar botën e algoritmeve”, shpjegon Massimo Marchiori, matematicien dhe informaticien italian që jep mësim në Universitetin e Padovës, një prej baballarëve të algoritmit të Google. “Deri 5 vjet më parë të gjithë të dhënat e një algoritmi mund të qëndronin në një kompjuter dhe në një vend fizik të mirëpërcaktuar. Sot, masat e të dhënave të prodhuara nga Google, Facebook etj që përmbajnë informacione themelorë për të gjithë ne, janë kaq të mëdha saqë janë të shpërndara në një rrjet shumë të gjerë server-sh të lidhur mes tyre në internet. Është problemi i “big data”, që ngre edhe problemin e aksesit në të dhëna, të cilat janë pronësi e këtyre grupeve. Studiuesit që do të donin t’i përdorin, për të zhvilluar algoritme të rinj më eficientë dhe të dobishëm për të gjithë, nuk mund ta bëjnë”.
