Etika u korištenju digitalnih tehnologija: novi izazovi i principi

Uvod: od alata do sredstva stanovanja

Digitalne tehnologije su prestale biti neutralnim alatima, pretvorivši se u sredinu, koja oblikuje ponašanje, svijest i društvene odnose. To zahtijeva prekid od uske „profesionalne etike“ IT-stručnjaka do kompleksne digitalne etike — sistema moralnih principa koji reguliraju razvoj, uvođenje i korištenje tehnologija. Ključni paradoks suvremennosti je da tehnološki razvoj premašuje etičku refleksiju, stvarajući „normativni vakuum“ oko takvih pojava kao što su algoritamsko donošenje odluka, generativni AI i neurointerfeisi.

Glavne etičke probleme digitalne ere

1. Odgovornost algoritama i predbijednost podataka

Artificialni intelekt i algoritmi sve češće donose odluke koje utiču na život ljudi: od odobravanja kredita i izbora kandidata za posao do određivanja roka zatvora. Međutim, algoritmi nisu objektivni — oni odražavaju predbijednosti koje su založene u učbenim podacima. Jarki primjer je sustav COMPAS, koji se koristi u SAD-u za procjenu rizika reцидiva kod kriminalaca. Istraživanje ProPublica iz 2016. godine je pokazalo da algoritam sistemski je povisio rizik za Afroamerikance i smanjio za bijele, reprodukcijom historijskih društvenih neravnovesnosti.

Interesantan fakt: godine 2018. Amazon je bio prisiljen odustati od algoritma za izbor osoba za posao, koji je diskriminirao žene. Sustav se učio na rezime zaposlenika kompanije tijekom 10 godina, gdje su većinu činili muškarci, i naučio "nakazivati" riječi karakteristične za ženska rezime (npr. "kapitan ženske šahovske ekipe").

2. Digitalna neravnovesnost i dostupnost

Eтика digitalnih tehnologija mora uzeti u obzir digitalni jaz — neravnovesnost u pristupu do tehnologija i digitalnim vještinama. Pandemija COVID-19 je otkrila ovu problemu: dok su neki mogli raditi i učiti na daljinu, drugi su bili isključeni iz društveno-ekonomskog života. Pored tehničkog pristupa, javlja se problem funkcionalne analfabeta — nesposobnosti kritički procijeniti informaciju, zaštiti privatnost i razumjeti logiku algoritama.

3. Manipulacija pažnjom i dofaminski dizajn

Socijalne mreže i platforme su konstruirane na svrhu maksimalnog održavanja pažnje, koristeći znanja iz neuroznanosti. Beskonačna lista novosti, obavještenja, algoritmi koji prikazuju sadržaj koji izaziva snažne emocije — sve to formira ekonomiju pažnje, gdje korisnik postaje proizvod. Etika zahtijeva transparentnost u takvim praktikama i pružanje korisnicima stvarnog izbora, a ne iluzije kontrole.

Primjer: godine 2021. Facebook (Meta) je postao središte skandala nakon otkrića Fransis Haugen. Bivši zaposlenik je pokazao da je kompanija namjerno koristila algoritme koji pojačavaju gnjev i polarizaciju, jer takav sadržaj povećava učestalost, unatoč šteti za javni dijalog i mentalno zdravlje mladih.

4. Autonomija ljudi vs. automatizacija

Automatizacija i sustavi preporuča postupno ograničavaju ljudsku autonomiju, sužavajući polje izbora. Algoritmi YouTube-a ili TikTok-a određuju koju informaciju ćemo vidjeti; navigacije — koji put će biti izabran; sustavi pametnog doma — koji klimat će biti u stanu. Etička zadaća je očuvati za čovjeka pravo neslaganja s algoritmom i mogućnost nestandardnog izbora.

Principi digitalne etike

U odgovor na te izazove formiraju se novi etički principi:

Princip transparentnosti (objašnjenosti). Algoritamske sustave treba biti objašnjeni korisnicima. U EU već djeluje "Pravo na objašnjenje" u okviru GDPR, koji dopušta zahtijevati razjašnjenje odluka koje su donesene automatski. Za složene neuralne mreže to ostaje tehnički problem, što je provelo do posebnog pravca — "objašnjeni AI" (XAI).

Princip pravednosti i nediskriminacije. Zahtijeva aktivno otkrivanje i uklanjanje iskrivljavanja u podacima i algoritmomima. U praksi to znači raznovrsnost timova razvoja, auditanje algoritama i korištenje "sastavnih podataka", koji provjeravaju sustav na otpornost diskriminaciji.

Princip privatnosti po umoljbi (Privacy by Design). Zaštita privatnosti treba biti ugrađena u arhitekturu sustava inače, a ne dodana kao dopuna. To uključuje minimizaciju sakupljanja podataka, šifriranje i anonimizaciju.

Princip ljudskog usmjeravanja. Tehnologije trebaju služiti ljudskom blagostanju i razvoju, a ne obratno. Europska grupa za etiku u znanosti i novim tehnologijama definira to kao potrebu očuvati "ljudski kontrol" nad autonomnim sustavima.

Interesantan fakt: godine 2019. OECD je prihvatila prve međuvladine Principi umjetnog intelekta, namjenjene osiguravanju njegovog inovativnog i pouzdog korištenja. Među pet principa: inkluzivni rast, pravednost, transparentnost, sigurnost i odgovornost. Na njima se grade mnoge nacionalne strategije.

Institucionalni odgovori

Formiraju se novi instituciji za rješavanje etičkih dilema:

Etički odbori i savjeti za umjetni intelekt u kompanijama i vladi.

Auditanje algoritama neovisnim organizacijama, poput financijskog audita.

Digitalno obrazovanje, koje uključuje etičnu savjesnost zajedno s tehničkom.

Završetak: etika kao uslov trajnog razvoja

Digitalna etika nije luksuz, već nužno uslov za sprečavanje tehnološkog štetu i izgradnju povjerenjske digitalne ekosisteme. U svijetu gdje se tehnologije sve dublje prodiru u ljudsku tijelost i psihiku (neurointerfeisi, uređivanje genoma), stari etički okviri su nedostatni. Treba neprestani multidisciplinarni dijalog između tehnologa, filozofa, pravnik, psihologa i društva. Uspešnim će biti onaj koji stvori najjaču tehnologiju, a ne taj koji će je ugraditi u društveni kontekst, minimalizirajući rizike i maksimizirajući korist za čovječanstvo. Budućnost se određuje ne samo tim što možemo stvoriti, već i tim što ćemo odlučiti ne stvoriti iz etičkih razloga.

Permanent link to this publication: