Az algoritmusok növekvő hatalma az ember felett

Ki fogja ellenőrizni a modern technológiát?

A Harvard Business Review cikke a 21. század egyik legfontosabb kihívását tárgyalja: milyen veszélyek leselkednek az emberi szabadságra egy fokozottan digitalizált világban? Digitális fogyasztási szokásainkat ugyanis egyre nagyobb mértékben nemcsak elemzik, de alakítják is az egyre bonyolultabbá váló algoritmusok: hogy mit írunk ki a közösségi médiára, mit vásárolunk vagy éppen milyen zenét hallgatunk. Amikor az interneten böngészünk, a keresőbe írt kifejezésre kapott találatokat is algoritmusok válogatják és rangsorolják személyre szabottan, aszerint, hogy mit ítélnek számunkra „hasznosnak” vagy „relevánsnak”. Vagyis a véletlenszerű felfedezés élménye helyett előre szűrt tartalmat kapunk, és így könnyen saját személyes buborékunkban rekedhetünk.

Ez annak dilemmáját is felveti, hogy miközben önmagunk korlátlanul szabad kifejezésének terepeként tekintünk az internetre, már puszta láthatóságunkat is egyre inkább személytelen és a többség számára átláthatatlanul működő algoritmusok döntik el. Erre jelentenek triviális példát a különböző randialkalmazások, amelyek súlyosan torz módon szűrik meg a felhasználók szeme elé kerülő lehetséges partnerek körét. A Tinderhez, a Hinge-hez vagy a Bumble-höz hasonló applikációk ugyanis a többségi preferenciák vagy éppen saját korábbi párválasztási szokásaink alapján állítják össze „ajánlásaikat”, és így már azt is korlátozzák, hogy kik közül kezdünk egyáltalán válogatni. A randizásnál is súlyosabb problémát jelenthet azonban, ha az algoritmusok komplett társadalmak élete felett is folyamatosan növekvő hatalmat kapnak. Például ha átláthatatlan kritériumok alapján bizonyos politikai hangokat, véleményeket előtérbe tolnak, míg másokat háttérbe szorítanak az elvileg szabad digitális térben; vagy ha hitelképességünket, biztosítási ajánlatainkat, vagyis társadalmi „árfolyamunkat” baráti körünk, magánéleti tevékenységünk, netán DNS-ünk szerkezete, vagyis legprivátabb adataink alapján határozzák meg.

Az, hogy kik nyernek betekintést az ilyen, életünk legapróbb mozzanatait érintő szelekciós mechanizmusok működésébe, pláne befolyást a meghatározásukba, döntően érinti a hatalmi viszonyokat, így legalapvetőbb szabadságjogainkat. Márpedig manapság elég távol vagyunk attól, hogy az ilyen algoritmusokat létrehozó és felügyelő cégekben az egyes társadalmi csoportok megfelelő reprezentációval és ellenőrzéssel bírjanak. Ezért kulcskérdés, hogy a jövőben sikerül-e nagyobb demokratikus kontrollt kiépíteni afölött, hogy kik birtokolják és hogyan használják fel a modern digitális társadalomban a legfontosabb erőforrásnak számító adatokat.

ajánló