Eтика u korištenju digitalnih tehnologija: novi izazovi i principi

Uvod: od alata do sredstva stanovanja

Digitalne tehnologije su prestale biti neutralnim alatima, pretvarivši se u sredinu koja oblikuje ponašanje, svijest i društvene odnose. To zahtijeva prebacivanje od uskoj «profesionalne etike» IT-stručnjaka do kompleksne digitalne etike — sustava moralnih principa koji regulira razvoj, provod i korištenje tehnologija. Ključni paradoks suvremnosti je da tehnološki razvoj nadmašuje etičku refleksiju, stvarajući «normativni vakuum» oko takvih pojava kao što su algoritmičko donošenje odluka, generativni AI i neurointerfejsi.

Glavne etičke probleme digitalne dobe

1. Odgovornost algoritama i predbijednost podataka

Artificialni intelekt i algoritmi sve češće donose odluke koje utječu na život ljudi: od odobravanja kredita i izbora kandidata za posao do određivanja trajanja zatvora. Međutim, algoritmi nisu objektivni — oni odražavaju predbijednosti koje su zaključene u učbenim podacima. Jarki primjer je sustav COMPAS, korišten u SAD-u za procjenu rizika ponovnog zločina. Istraživanje ProPublica iz 2016. godine je pokazalo da algoritam sistematski je povećavao rizik za afroamerikance i smanjio za bijelce, reproducirajući historične društvene neravnotežnosti.

Interesantan činjenica: Godine 2018. Amazon je bio prisiljen odustati od algoritma za izbor osoblja koji je diskriminirao žene. Sustav se učio na rezime radnika kompanije u zadnjih 10 godina, gdje su većinu činili muškarci, i naučio «kažniti» riječi karakteristične za ženska rezime (npr. «kapetan ženske šahovske ekipe»).

2. Digitalna neravnost i dostupnost

Eтика digitalnih tehnologija mora uzeti u obzir digitalni jaz — neravnost u pristupu tehnologijama i digitalnim vještinama. Pandemija COVID-19 je otkrila ovu problemu: dok su neki mogli raditi i učiti na daljinu, drugi su bili isključeni iz društveno-ekonomskog života. Pored tehničkog pristupa, javlja se problem funkcionalne analfabeta — nesposobnosti kritički procjeniti informaciju, zaštiti privatnost i razumjeti logiku algoritama.

3. Manipulacija pažnjom i dofnaminski dizajn

Socialne mreže i platforme su konstruirane na svrhu maksimalnog održavanja pažnje, koristeći znanje iz neuroznanosti. Beskonačna ljestvica novosti, obavještenja, algoritmi koji prikazuju sadržaj koji izaziva snažne emocije — sve to stvara ekonomiju pažnje, gdje korisnik postaje proizvod. Etika zahtijeva transparentnost u takvim praktikama i pružanje korisnicima stvarnog izbora, a ne iluzije kontrole.

Primjer: Godine 2021. Facebook (Meta) je postao središte skandala nakon otkrića Fransis Haugen. Bivši zaposlenik je pokazao da je kompanija svjesno koristila algoritme koji pojačavaju gnjev i polarizaciju, jer takav sadržaj povećava uključenost, unatoč štetnosti za javni dijalog i psihično zdravlje mladih.

4. Autonomija ljudi vs. automatizacija

Automaticizacija i sustavi preporuka postupno ograničavaju ljudsku autonomiju, sužavajući polje izbora. Algoritmi YouTube-a ili TikTok-a određuju koju informaciju ćemo vidjeti; navigatori — koji put će izabrati; sustavi pametnog doma — koji klimat će biti u stanu. Etička zadaća je očuvati za ljudem pravo na neslaganje s algoritmom i mogućnost neobičnog izbora.

Principi digitalne etike

U odgovor na te izazove formiraju se novi etički principi:

Princip transparentnosti (objašnjenosti). Algoritmički sustavi moraju biti objašnjeni korisnicima. U EU je već djeluje «Pravo na objašnjenje» unutar GDPR, koji dopušta tražiti razjašnjenje odluka koje su donesene automatski. Za složene neuronetske mreže to ostaje tehnički problem, što je proizvelo posebno pravovremeno pravno područje — «objašnjeni AI» (XAI).

Princip pravde i nediskriminacije. Traži aktivno otkrivanje i uklanjanje iskrivljivanja u podacima i algoritmima. U praksi to znači raznovrsnost timova razvoja, auditanje algoritama i korištenje «sastavnih podataka», koji provjeravaju sustav na otpornost diskriminaciji.

Princip privatnosti po umoljbi (Privacy by Design). Zaštita privatnosti mora biti ugrađena u arhitekturu sustava inačno, a ne dodana kao dopuna. To uključuje minimizaciju sakupljanja podataka, šifriranje i anonimizaciju.

Princip ljudski orijentiranosti. Tehnologije trebaju služiti ljudskom blagostanju i razvoju, a ne obrnuto. Europska grupa za etiku u znanosti i novim tehnologijama definira to kao potrebu očuvati «ljudski kontrol» nad autonomnim sustavima.

Interesantan činjenica: Godine 2019. OECD je prihvatila prve međuvladine Pravila za umjetni intelekt, namijenjena osiguravanju inovativnog i pouzdog korištenja. Među pet principa: uključeni rast, pravda, transparentnost, sigurnost i odgovornost. Na njima se grade mnoge nacionalne strategije.

Institucionalni odgovori

Formiraju se novi instituciji za rješavanje etičkih dilema:

Etički odbori i savjeti za umjetni intelekt u kompanijama i vladi.

Auditanje algoritama neovisnim organizacijama, slično financijskom auditu.

Digitalno obrazovanje, koje uključuje etičku gramotnost uz tehničku.

Završetak: etika kao uvjet održivog razvoja

Digitalna etika nije luksus, već nužno uvjet za sprečavanje tehnološkog štete i izgradnju povjerenja u digitalnom ekosustvu. U svijetu u kojem se tehnologije sve dublje probijaju u ljudsku tijelost i psihiku (neurointerfejsi, uređivanje genoma), stari etički okviri su nedostatni. Trebalo bi trajni multidisciplinarni dijalog između tehnologa, filozofa, pravnika, psihologa i društva. Uspešnim će biti taj, koji će stvoriti najjaču tehnologiju, a ne taj koji će je ugraditi u društveni kontekst, minimalizirajući rizike i maksimizirajući korist za čovječanstvo. Budućnost se određuje ne samo time što možemo stvoriti, već i time što ćemo odlučiti ne stvarati po etičkim razlogima.

Permanent link to this publication: