Etika v uporabi digitalnih tehnologij: nove izpostavke in principi

Uvod: od orodja do prostora življenja

Digitalne tehnologije so prenehale biti neutralna orodja, preobrnile se v prostor, ki oblikuje obnašanje, zavest in socialne odnose. To zahteva prehod od ozke «profesionalne etike» IT-študentov do kompleksne digitalne etike — sistema moralnih principov, ki regulira razvoj, uvedbo in uporabo tehnologij. Ključni paradoks sodobnosti je, da tehnološki razvoj prehaja etični refleksiji, ustvarja «nORMATIVNI vakuum» okoli takšnih javnosti, kot so algoritmično sprejemanje odločitev, generativni AI in neurorazmerki.

Glavne etične probleme digitalne dobe

1. Odgovornost algoritmov in predvzetost podatkov

Artificialna inteligencija in algoritmi so vedno bolj pogosto sprejemajo odločbe, ki vplivajo na življenje ljudi: od odobrenja kredita in izbora kandidatov za delo do določevanja trajnosti zapornišča. Vendar so algoritmi neobjektivni — oni odražajo predobrazbe, zavedene v učbenih podatkih. Jaren izjemni primer je sistem COMPAS, uporabljen v Združenih državah za ocenjevanje rizika ponovnega kršenja zakona. Raziskava ProPublica iz leta 2016 je pokazala, da algoritem sistematično povečuje rizik za afroameričane in znižuje za belce, reproducirajoč zgodovinske socialne neravnovesnosti.

Interesantna dejstvo: V letu 2018 je Amazon moralno odstopil od algoritma za izbiranje kadrov, ki je diskriminiral ženske. Sistem se je učil na rezume zaposlenih podjetja za 10 let, kjer so večina zaposlenih bili moški, in je naučil se «kaznovati» besede, ki so značilne za ženska rezume (npr. «kapitan ženske šahovske ekipe»).

2. Digitalna neravnovesnost in dostopnost

Etika digitalnih tehnologij mora upoštevati digitalno razliko — neravnovesnost v dostopu do tehnologij in digitalnih znanj. Pandemija COVID-19 je otkrila to problematiko: medtem ko so nekateri lahko delali in učili se na oddaljenost, drugi so bili izključeni iz socio-ekonomične življenjske srede. Poleg tehničnega dostopa se pojavlja tudi problem funkcionalne analfabetske zmožnosti — nezmogljivosti kritične ocenjevanje informacij, varovanje zasebnosti in razumevanje logike algoritmov.

3. Manipulacija pozornosti in dofaminovni dizajn

Socijalne omrežja in platforme so zavzeto konstruirane za maksimalno ohranjanje pozornosti, uporabljajoč znanja o neuronaucnih znanostih. Neomejena lista novic, obvestila, algoritmi, ki prikazujejo vsebino, ki povzroči močne emocije, vse to oblikuje ekonomiko pozornosti, kjer uporabnik postane proizvod. Etika zahteva transparentnost v takšnih praksoh in ponudbo uporabnikom resnega izbora, ne glede na iluzijo kontrole.

Primer: V letu 2021 se je Facebook (Meta) našel v sredi skandala po razkrijevih Frances Haugen. Bivši zaposlenec je pokazal, da je podjetje zavzeto uporabljal algoritme, ki so pospeševali gnev in polarizacijo, ker takšen vsebina povečuje učinkovitost, kljub škodljivosti za javni dialog in psihično zdravje mladine.

4. Avtonomija človeka proti automatizaciji

Avtomatizacija in sisteme priporočil so postajale postopoma omejevale človeško avtonomijo, zmanjševale poleg izbora. Algoritmi YouTube ali TikTok določajo, kaj bomo videli; navigacijski programi – kaj bo izbrana pot; sisteme zelo domačih hiš – kaj bo klima v stanovanju. Etična naloga je ohraniti človeku pravico do nesoglasja s sistemom in možnost neobičajnega izbora.

Principi digitalne etike

Na odgovor na te izpostavke se oblikujejo nove etične principi:

Princip transparentnosti (razlAGljivosti). Algoritmične sisteme morajo biti razlAGljivi za uporabnike. V EU že deluje «Pravo na razlAGljivost» v okviru GDPR, ki omogoča zahtevati razlAGljivost odločitev, sprejetih avtomatsko. Za zelo zapletene neuronske mreže to ostaja tehnična težava, kar je rodilo posebno smer — «razlAGljivi AI» (XAI).

Princip ravnotežnosti in nediskriminacije. Zahteva aktivno odkrivanje in odstranjevanje nerešenosti v podatkih in algoritмах. V praksi to pomeni raznovrstnost ekip razvijalcev, pregled algoritmov in uporaba «sostevnih podatkov», ki preverijo sistem na odpor proti diskriminaciji.

Princip zasebnosti po meri (Privacy by Design). Zaščita zasebnosti mora biti vgrajena v arhitekturo sistema od početja naprej, ne pa dodana kot popravilo. To vključuje minimalizacijo zbiranja podatkov, šifriranje in anonimizacijo.

Princip človeko-orientiranosti. Tehnologije morajo služiti človeškemu blagoravenju in razvoju, ne obratno. Evropska skupina za etiko v znanosti in novih tehnologij to določi kot potrebo za ohranjanje «človeškega nadzora» nad avtonomnimi sistemami.

Interesantna dejstvo: V letu 2019 je OECD sprejela prve medvladne Pravila za umetno inteligenco, ki so namenjena osiguravanju innovativnega in zaupanja vrednega uporaba. Med petimi principi: vključni rast, ravnotežnost, transparentnost, varnost in odgovornost. Na njih so zgrajene mnoge nacionalne strategije.

Institucionalni odgovori

Oblikujejo se nove institucije za reševanje etičnih dilem:

Etični komite in sveti za umetno inteligenco pri podjetjih in vladi.

Auditing algoritmov neodvisnimi organizacijami, podobno kot finančni audit.

Digitalno izobraževanje, ki vključuje etično zmožnost hkrati s tehnično.

Zaključek: etika kot pogoj za udržljivo razvoj

Digitalna etika ni luksuz, ampak obveza za preprečevanje tehnološke škodo in gradnjo zaupanja vredne digitalne ekosisteme. V svetu, kjer se tehnologije globlje vdirajo v človeško telo in psihiko (neurorazmerki, urejanje genomov), so stare etične okvirje nedostatne. Potrebuje se neprestanek meddisciplinarnega dialoga med tehnologami, filozofi, pravniki, psihologi in družbo. Uspešen bo on, ki bo ustvaril najmočnejšo tehnologijo, ne on, ki bo uspel vgrajiti jo v socialni kontekst, minimalizirati riske in maksimizirati koristi za človeštvo. Bodočnost se določa ne le tem, kar moremo ustvariti, ampak tudi tem, kar bomo etično odločili ne ustvariti.

Permanent link to this publication: