Zdravo, svete

Slučaj medicine svakako je manje prožet napetošću od primera iz krivičnog prava. Ovde ne postoje tužilac i odbrana. Svi u sistemu zdravstvene nege rade sa istim ciljem – da pacijent ozdravi. Ali čak i tu svaki učesnik procesa ima donekle drugačiji skup ciljeva.

U koji god aspekt života da se uvede algoritam, uvek će postojati neka vrsta ravnoteže. Između privatnosti i opšteg dobra. Između pojedinca i populacije. Između različitih izazova i prioriteta. Nije lako pronaći put kroz zamršene podsticaje, čak ni kada se na kraju nalazi jasna nagrada u vidu boljeg zdravstva.

Ali još je teže kada su konkurentni podsticaji skriveni od pogleda. Kada se koristi od algoritma prenaglašavaju, a rizici zabašuruju. Kada morate da se upitate šta vam se to nameće kao nešto u šta treba da poverujete, i ko će zaraditi od toga što ćete u to poverovati.

Opet, dobro bi bilo da upamtimo kako besplatan ručak ne postoji. Kako zakon bude hvatao priključak, i kako se bitka između korporativnih profita i društvenog dobra bude odvijala, moramo pripaziti da se ne uljuljkamo u lažni osećaj privatnosti. Kad god koristimo neki algoritam – naročito ako je on besplatan – treba da se upitamo šta se iza toga krije. Zašto mi ta aplikacija sve to daje besplatno? Šta ovaj algoritam zaista radi? Je li ta razmena takva da mi ne smeta? Da li bi mi bilo bolje bez nje?

Uvek postoji asimetrija u tome kako sagledavamo snagu ciljanih političkih oglasa. Volimo da sebe smatramo ličnostima s nezavisnim mišljenjem, imunim na manipulaciju, a opet zamišljamo da su drugi – pogotovo oni sa drugačijim političkim uverenjem – fantastično lakoverni. Stvarnost je verovatno negde između.

Ali isto tako mislim da Zakerberg greši. Ljudi mu nisu tek tako prepuštali pojedinosti o sebi. Oni su mu ih slali kao deo razmene. Zauzvrat su dobijali pristup algoritmu koji im je omogućavao da se besplatno povežu s prijateljima i porodicom, i davao prostor na kojem su mogli svoj život da podele sa drugima. Da imaju sopstvenu privatnu mrežu u ogromnoj svetskoj mreži interneta. Ne znam za vas, ali ja sam svojevremeno smatrala da je posredi prilično poštena trampa.

Postoji samo jedan problem u toj logici: mi nismo uvek svesno dugoročnijih implikacija te razmene. Retko je očigledno šta naši podaci mogu da urade ili, kad se povere pametnom algoritmu, koliko zapravo mogu da vrede. Niti, zauzvrat, koliko smo jeftino kupljeni.

Ova naša sklonost da sagledavamo stvari kao crne ili bele – vidimo u algoritmima ili svemoćne gospodare ili beskorisno đubre – predstavlja veliki problem u naše doba visoke tehnologije. Ako mislimo da iz tehnologije izvučemo najviše što možemo, moraćemo da smislimo način da budemo malo objektivniji. Moramo da naučimo iz Kasparovljeve greške i priznamo sopstvene nedostatke, dovedemo u pitanje svoje instinktivne reakcije i budemo malo svesniji onoga što mislimo o algoritmima koji nas okružuju. S druge strane, treba da algoritme spustimo na zemlju, istražimo ih malo podrobnije i upitamo se jesu li oni zaista sposobni da čine ono što tvrde. Tako se jedino može zaključiti zaslužuju li oni doista moć koja im je podarena.

Nažalost, često je to mnogo lakše reći nego uraditi. Neretko se vrlo malo pitamo u pogledu moći i domašaja algoritama oko nas, čak i kad su posredi oni koji neposredno utiču na nas.

Ovo naročito važi za algoritme koji se bave najbitnijom modernom robom: podacima. Za algoritme koji nas tiho prate po internetu, one koji prikupljaju naše lične informacije, remete našu privatnost i donose zaključke o našem karakteru te imaju punu slobodu da suptilno utiču na naše ponašanje. U toj savršenoj oluji pogrešno poklonjenog poverenja i moći i uticaja, posledice imaju potencijal da temeljno izmene naše društvo.

To podseća na izreku među pilotima avio-kompanija da se najbolji letački tim sastoji od tri komponente: pilota, kompjutera i psa. Kompjuter je tu da upravlja avionom, a pilot je tu da nahrani psa. A pas je tu da ujede čoveka ako ovaj pokuša da pipne kompjuter.

Postoje trenuci kada moramo kontrolu da prepustimo nepoznatom, čak i kada znamo da je algoritam sposoban da pogreši. Trenuci kad smo primorani da odmerimo sopstveni sud spram suda mašine. Kad će nam, ukoliko odlučimo da verujemo sopstvenim instinktima umesto njenim proračunima, biti potrebno poprilično hrabrosti za sopstveno ubeđenje.

Jedno je verovati obično pouzdanom algoritmu. Verovati algoritmu bez ikavkog čvrstog poimanja njegovog kvaliteta nešto je sasvim drugačije.

kao što veli stara internet pošalica, najbolje mesto da sakrijete leš jeste druga strana rezultata pretrage na Guglu

Nijedan objekt ili algoritam nikad sam po sebi nije dobar ili zao. Važno je to kako se oni koriste.