Etika u korištenju digitalnih tehnologija: novi izazovi i principi

Uvod: od alata do sredstva stanovanja

Digitalne tehnologije su prestale biti neutralnim alatima, pretvarivši se u sredinu koja oblikuje ponašanje, svijest i društvene odnose. To zahtijeva prekid od uskoj «profesionalne etike» IT-stručnjaka do kompleksne digitalne etike — sustava moralnih principa koji regulira razvoj, uvođenje i korištenje tehnologija. Ključni paradoks suvremnosti je da tehnološki razvoj pređe etičku refleksiju, stvarajući «normativni vakuum» oko takvih pojava kao što su algoritmičko donošenje odluka, generativni AI i neurointerfejsi.

Glavne etičke probleme digitalne ere

1. Odgovornost algoritama i predbijednost podataka

Artificialni intelekt i algoritmi sve češće donose odluke koje utiču na život ljudi: od odobravanja kredita i odabira kandidata za posao do određivanja trajanja zatvora. Međutim, algoritmi nisu objektivni — oni reflektiraju predbijednosti založene u učbenim podacima. Jarki primjer — sistema COMPAS koja se koristi u SAD-u za procenu rizika reцидiva kod kriminalaca. Istraživanje ProPublica iz 2016. godine je pokazalo da algoritam sistematski je povisio rizik za afroamerikance i smanjio za bijelce, reprizirajući historične društvene neravnotežnosti.

Interesantan činjenica: Godine 2018. Amazon je bio prisiljen odustati od algoritma za izbor osoblja koji je diskriminirao žene. Sistem se učio na rezime zaposlenika kompanije tijekom 10 godina, gdje su većinu činili muškarci, i naučio «nakazivati» riječi karakteristične za ženska rezime (npr., «kapetan ženske šahovske ekipe»).

2. Digitalna neravnost i dostupnost

Eтика digitalnih tehnologija mora uzeti u obzir digitalni jaz — neravnost u pristupu tehnologijama i digitalnim vještinama. Pandemija COVID-19 je otkrila ovu problemu: dok su neki mogli raditi i učiti na daljinu, drugi su bili isključeni iz društveno-ekonomskog života. Pored tehničkog pristupa, javlja se problem funkcionalne analfabeta — nesposobnosti kritički procjeniti informaciju, zaštiti privatnost i razumjeti logiku algoritama.

3. Manipulacija pažnjom i dofaminov dizajn

Socijalne mreže i platforme su konstruirane na svrhu maksimalnog održavanja pažnje, koristeći znanje iz neuroznanosti. Beskonačna ljestvica novosti, obavještenja, algoritmi koji prikazuju sadržaj koji izaziva snažne emocije — sve to stvara ekonomiju pažnje, gdje korisnik postaje proizvod. Etika zahtijeva transparentnost u takvim praksama i pružanje korisnicima stvarnog izbora, a ne iluzije kontrole.

Primjer: Godine 2021. Facebook (Meta) je postao središte skandala nakon otkrića Francisa Haugena. Bivši zaposlenik je pokazao da je kompanija namjerno koristila algoritme koji pojačavaju gnjev i polarizaciju, jer takav sadržaj povećava učestalost, unatoč štetnosti za javni dijalog i mentalno zdravlje mladih.

4. Autonomija čovjeka vs. automatizacija

Automatizacija i sustavi preporuča postupno ograničavaju ljudsku autonomiju, sužavajući polje izbora. Algoritmi YouTube-a ili TikTok-a određuju koju informaciju ćemo vidjeti; navigatori — koji put će biti izabran; sustavi pametnog doma — koji klimat će biti u stanu. Etička zadaća je očuvati za čovjeka pravo na neslaganje s algoritmom i mogućnost neslučajnog izbora.

Principi digitalne etike

U odgovor na te izazove formiraju se novi etički principi:

Princip transparentnosti (obrazloženosti). Algoritamske sustave treba biti razumljivi korisnicima. U EU već djeluje «Pravo na objašnjenje» u okviru GDPR, koji omogućuje zahtijevati razjašnjenje odluka koje su donesene automatski. Za složene neuralne mreže to ostaje tehnički problem, što je proizvelo posebno pravovremeno pravno područje — «obrazloživi AI» (XAI).

Princip pravde i nediskriminacije. Zahtijeva aktivno otkrivanje i uklanjanje smetanja u podacima i algoritmima. U praksi to znači raznovrsnost timova razvoja, auditanje algoritama i korištenje «sustavičnih podataka», koji provjeravaju sustav na otpornost diskriminaciji.

Princip privatnosti po umoljenju (Privacy by Design). Zaštita privatnosti treba biti ugrađena u arhitekturu sustava od početka, a ne dodana kao popravak. To uključuje minimizaciju sakupljanja podataka, šifriranje i anonimizaciju.

Princip ljudskog usmjerenosti. Tehnologije trebaju služiti ljudskom blagostanju i razvoju, a ne obrnuto. Europska grupa za etiku u znanosti i novim tehnologijama definira to kao potrebu očuvati «ljudski kontrol» nad autonomnim sustavima.

Interesantan činjenica: Godine 2019. OECD je prihvatila prve međuvladine Pravila za umjetni intelekt, namijenjena osiguravanju inovativnog i pouzdog korištenja. Među pet principa: uključeni rast, pravda, transparentnost, sigurnost i odgovornost. Na njima se grade mnoge nacionalne strategije.

Institucionalni odgovori

Formiraju se novi instituciji za rješavanje etičkih dilema:

Etički odbori i saveti za umjetni intelekt u kompanijama i vladama.

Auditanje algoritama neovisnim organizacijama, poput financijskog audita.

Digitalno obrazovanje, koje uključuje etičku savjesnost uz tehničku.

Završetak: etika kao uslov trajnog razvoja

Digitalna etika nije luksus, već nužno uslov za sprečavanje tehnološkog štete i izgradnju povjerljive digitalne ekosisteme. U svijetu u kojem se tehnologije sve dublje probijaju u ljudsku tijelost i psihiku (neurointerfejsi, uređivanje genoma), stari etički okviri su nedostatni. Potrebno je stalni multidisciplinarni dijalog između tehnologa, filozofa, pravnika, psihologa i društva. Uspješan će biti onaj koji stvori najjaču tehnologiju, a ne onaj koji će uspjeti ugraditi je u društveni kontekst, minimalizirajući rizike i maksimizirajući korist za čovječanstvo. Budućnost se određuje ne samo time što možemo stvoriti, već i time što ćemo odlučiti ne stvarati po etičkim smislim.

Permanent link to this publication: