Algoritmi razumejo le matematiko
Matematika je univerzalni jezik in z njo lahko opišemo kar koli. Napoved prihodnosti z njo je mogoča, če poznamo vrednosti vseh spremenljivk, ki vplivajo na prihodnji dogodek. Težava ni le v tem, da ne poznamo vrednosti spremenljivk, temveč da tudi ne vemo, katere vse moramo upoštevati. Računalniški algoritem je zbirka ukazov in podatkov, na podlagi katerih se algoritmi odločajo in so, kako drugače pa bi bilo, omejeni z našim vedenjem. Algoritme je naredil človek, zato ne morejo biti boljši od njega. Ne glede na to osnovno dilemo in omejitev vse bolj prepuščamo, da se namesto nas o za nas pomembnih zadevah odločajo algoritmi.

Pravzaprav je smešno, kako zelo smo od algoritmov odvisni, pa čeprav se tega niti ne zavedamo. Kako poteka proces pridobivanja kredita v banki? Uslužbenec nas sprašuje, mi odgovarjamo, on odgovore vnaša v računalnik, na koncu pa pove, ali nam bo banka sploh dala krediti, kolikšnega in pod kakšnimi pogoji. Enak postopek je pri urejanju zavarovanja, naročnin na storitve, urejanju razmerij z državo, pravzaprav pri vseh postopkih, v katerih za kaj prosimo. Občutek imamo, da se dogovarjamo s človekom, ki sedi nasproti nas, ta nam je podoben in bo razumel naše probleme, v resnici pa mu odločevalni algoritmi puščajo zelo malo svobode pri sprejemanju odločitev. Z aktualnega stališča milijonskih slabih kreditov, ki so jih naše banke dajale na lepe oči nekaterim ljudem, bi bilo celo bolje, če bi tudi v teh primerih odločali algoritmi. Ti jim kredita zagotovo ne bi odobrili. Druga zgodba, ko pravila ne veljajo za vse ljudi.

Odločitve na podlagi starih podatkov
Algoritmi sprejemajo odločitve na podlagi podatkov, ki so jim dostopni. Koliko denarja ima prosilec za kredit na računu, kolikšni so mesečni prilivi in kako vesten je bil prosilec pri poravnavi obveznosti. Nekomu, ki je vedno zamujal pri plačevanju obveznosti, bo računalnik skoraj gotovo prižgal rdečo luč. Če je nekdo redni zamudnik, je velika verjetnost, da bo tudi v prihodnje obdržal slabo navado. Ni pa nujno, da bo tako. Morda so razlogi za to kje drugje. Algoritma ti ne zanimajo, saj so preveč človeški, da bi jih lahko zapisal v matematično obliko in jih razumel. Tu je še problem odgovornosti. Uslužbenec, ki verjame prepričljivemu prosilcu, mu morda odobri kredit, vendar krivdo za morebitno neplačevanje prevzame nase. Enostavneje je zanj, da zaupa odločitvi algoritma in se ogradi od vsakršne morebitne odgovornosti. To je tudi razlog, zakaj vse bolj odločitve prepuščamo algoritmom!

Primer bank smo omenili, ker so pomemben dejavnik pri razvoju gospodarstva. Finančno ne najbolje stoječ človek ima lahko dobre ideje za razvoj dejavnosti in bi lahko razvil uspešno podjetje, vendar potrebnih sredstev ne more dobiti, ker je višina kredita, ki bi mu ga banka odobrila, omejena na njegovo preteklo finančno stanje. Prosilec je omejen na družbeni razred, v katerem je bil rojen. Dober primer, kajti tako delujejo manj »življenjsko« pomembni algoritmi spletnih storitev, ki vsakodnevno vplivajo na vse nas.

Zapiranje v mehurčke
Nevarnost popolnega zaupanja v algoritme odločanja, ki niso vedno slabi, je ravno v tem, da posameznika zapirajo v mehurček, za katerega ocenijo, da mu najbolj ustreza. Storitev pretočnega videa Netflix je dober primer, pa čeprav nam Slovencem ni dosegljiva. Hvalijo se z algoritmom, ki uporabniku predlaga, kaj naj gleda. V osnovi gre za preprost algoritem. Na podlagi poznavanja, kaj je uporabnik že gledal, mu predlaga, kaj bi morda še moral pogledati. Če smo na primer pred časom gledali dobro ocenjen dokumentarec, nam predlaga podobno ocenjen dokumentarec, ki ga še nismo gledali. Ogledamo si še nekaj dobrih filmov in algoritem ima več možnosti, kaj nam bo predlagal. V resnici Netflix zbira veliko več podatkov o navadah uporabnika. Kaj gleda, kaj išče, katere vsebine je ocenil, kdaj gleda in koliko časa zdrži pri ogledu videa, dokler ga ne ugasne in se odloči za ogled nečesa drugega. Namesto da bi tako razvijal individualni algoritem uporabnika, tega uvrsti v skupino uporabnikov, ki imajo podobna zanimanja in navade gledanja, in mu podaja predloge na podlagi tega, kaj so že gledali njemu podobni ljudje. Uporabnik, ki popolnoma zaupa algoritmu, je omejen na tiste vsebine, ki jih ta oceni kot njemu primerne, in mu ne dopusti širjenja obzorja in raziskovanja popolnoma drugačnih vsebin. Težava je tudi, ker tovrstni algoritmi ne upoštevajo konteksta, da so gledalčeve navade lahko različne glede na dan v tednu, čas v dnevu, glede na naprave, na kateri uporablja storitev, in tudi glede na njegov trenutni zemljepisni položaj.

Človek tvega, algoritem je ziheraš
Problem algoritmov za predlaganje, ki se morajo »zavleči« v glavo uporabnika, da ga spoznajo, od njega dobijo podatke in mu na koncu lahko predlagajo, je, da so ti prej prišli iz glave nekoga drugega. Tistega, ki jih je oblikoval. Znan je Facebookov algoritem, ki nam na vrhu prikaže objave, za katere oceni, da nas bolj zanimajo od drugih. Facebook vztraja in noče izdati skrivnosti, kako njegovi algoritmi delujejo. Osnovna načela pa so znana. »Mačka, ki umira pred pragom uporabnika, je lahko zanj pomembnejša novica od smrti tisoč lačnih Afričanov. Všečkanje neke objave pove algoritmu, da si uporabnik želi več takšnih objav. Nasprotno, objava, ki jo uporabnik umakne (skrije) iz svojega prikaza, algoritmu pove, da si tovrstnih objav ne želi.« Po tem načelu Facebook ves čas cenzurira objave v uporabnikovem prikazu. Kaj nam prikaže, je zelo odvisno od stvari, za katere smo v preteklosti pokazali zanimanje.

Omejitev takšnega pristopa, ki je hkrati metodološki in ideološki, se je pokazala letošnjega avgusta, ko je ameriški policist streljal in ubil temnopoltega najstnika. Michael Brown je bil mlad, temnopolt in neoborožen. Postal je glavna novica, ki je ljudi zanimala. Facebooka pa ni zanimala. Njegovemu nazaj usmerjenemu algoritmu dolgo časa ni uspelo prepoznati pomena te novice in je ni prikazoval kot tisti trenutek najpomembnejše.

Pravzaprav je logično, da je ni prepoznal. Statistično gledano je bilo novic na to temo, za katero je veliko uporabnikov v preteklosti pokazalo zanimanje, malo. Zaposleni v Facebooku pa so inženirji, ki razumejo eksaktnost – dogodki s statistično veliko verjetnosti, da bodo ljudi zanimali. S statistiko lahko opišemo vsak dogodek, besni pa postanemo, ko želi nekdo s statistko opisati nas, kar delajo algoritmi. Razmišljamo drugače, poskušamo in delamo napake. Prav mogoče je, da nas pritegne stvar, ki v preteklosti ni bila zanimiva za skoraj nikogar. Svet se spreminja, dogodki so postavljeni v drugačne kontekste, to pa je nekaj, česar algoritmi ne znajo predvideti. Razlog, zakaj so spletna podjetja skrivnostna in ne odgovarjajo o podrobnostih delovanja svojih algoritmov, je na dlani. Ker bi njihovi odgovori sprožili še več vprašanj in ker bi morali priznati, da so njihovi algoritmi še daleč od popolnosti.

Algoritmi so povsod
Tudi če se zavedamo problema in uporabljamo spletne storitve, ki se manj zanašajo na svoje algoritme in manj zapirajo uporabnike v mehurčke, se algoritmov nismo znebili. Nošenje kape iz aluminija, pokrivalo teoretikov zarot, ki trdijo, da nas nezemljani nadzirajo z radijskimi valovi, kar preprečuje takšna kapa, ne pomaga. Znanstveniki newyorške univerze trdijo, da so razvili algoritem, ki s 84-odstotno gotovostjo oceni, ali bo rokopis romana komercialno uspešen. Vsi novi uspešni romani bi bili podobni drug drugemu, če bi knjižni založniki sprejeli ponujeni algoritem. A ga niso. So tudi algoritmi, ki analizirajo filmski scenarij in podajo oceno, koliko bi film lahko zaslužil. To počnejo na podlagi analize scenarijev finančnih uspešnic in filmski studii jih uporabijo. Algoritmi »sedijo« v odboru, kjer se direktorji odločajo, kateri scenarij posneti in katerega ne. Nič čudnega, da so filmi, ki zadnje čase zaslužijo največ denarja, sumljivo podobni drug drugemu. Veliko akcije s plehko zgodbo.

Ko bi šlo le za kulturo. Nevarnejši so algoritmi, ki so skoraj v celoti zavzeli finančno industrijo. V kratkem času se bodo na borzah algoritmi odločali, katere posle skleniti, skoraj brez nadzora človeka. To je dejstvo. Ne bi nas smela skrbeti prihodnost, v kateri bodo morda stroji dominirali ljudem. Bolj bi nas morala skrbeti sedanjost, v kateri se algoritmi spektakularno sesuvajo in povzročajo težave.

Kaj pomeni, da se algoritmi odločajo na podlagi preteklih podatkov, si lahko predstavljamo na naslednji način. V vozilu imamo navigacijsko napravo s starimi zemljevidi. Popolnoma zaupamo njenim napotkom. Vodi nas po cesti, ki jo pozna in za katero ve, da se po njej redno vozimo. Zgradijo novo, hitrejšo cesto, ki je algoritem ne pozna. Še vedno nas vodi po stari cesti. Še huje je, če nikoli z nje ne zavijemo, ker odločitvi algoritma popolnoma zaupamo. Ne raziskujemo novih cest, ne spoznavamo novih krajev, varno smo zaprti v mehurček, v katerega nas je algoritem zaprl. Tako ne deluje le Facebookov algoritem. Tako delujejo vsi algoritmi. Tudi Googlovi, Applovi, Amazonovi in algoritmi, ki jih kot pomoč pri odločanju uporabljajo v podjetjih. Pravzaprav vsi, ki posredno oblikujejo naše življenje.