U kojih slučajeva umjetni intelekt često greška: granice učenja strojki

Uvod: Priroda greške AI kao sustavni fenomen

Greške modernih sustava umjetnog intelekta (AI) zasnovanih na učenju strojki (ML) nisu slučajni padovi, već pravilne posljedice njihove arhitekture, načina učenja i fundamentalnog razlikovanja od ljudskog poznavanja. Za razliku od čovjeka, AI ne «razumije» svijet semantički; otkriva statističke korelacije u podacima. Njegove greške nastaju tamo gdje te korelacije su poremećene, gdje se zahtijeva apstraktno rasuđivanje, zdravi razum ili razumijevanje konteksta. Analiza tih grešaka je kritična za procjenu pouzdanosti AI i određenje granica njegovog primjena.

1. Problem iskrenjenosti podataka (Data Bias) i «zakoni Garbajeja»

Najčešći i društveno opasni izvor grešaka je iskrenjenost u učionicim podacima. AI uči i pojačava preudredbe koje postoje u podacima.

Demografske iskrivice: Poznati slučaj s sistemom prepoznavaanja lica koji je pokazivao značajno veću točnost za svjetlokože muškarce nego za crne žene, jer je bio treniran na neproporcionatom skupu podataka. Ovdje AI nije «grešio», već je točno reproizveo neravnovesje stvarnog svijeta, što je vodilo do greške u primjeni u raznovrsnoj sredini.

Semantičke iskrivice: Ako u podacima za učenje rječenicu «medica» češće je povezana s imenom «ona», a «programer» s «on», model će generirati tekstove koji reproduciraju te rodne stereotipe, čak i ako u zahtjevu nije naveden rod. Ovo je greška na nivou društvenog konteksta koji model ne shvaća.

Interesantan činjenica: U računalnoj znanosti djeluje princip «Garbage In, Garbage Out» (GIGO) — «muskota na ulaz, muskota na izlaz». Za AI se on transformirao u više duboki princip «Bias In, Bias Out» — «iskrenjenost na ulaz, iskrenjenost na izlaz». Sistem ne može preći ograničenja podataka na kojima se trenirao.

2. Adversarne napade: hakovanje za AI

Ovo su predнамjerni, često neprimjetni za čovjeka, promjene ulaznih podataka koji vode do kardinalno netočnih ishoda AI.

Primjer s slikom: Naključnica nekoliko piksela određenog boje i oblika na znak «STOP» može učiniti da autonomni sustav vizualne obrade klasificira ga kao znak « ograničenje brzine ». Za čovjeka će znak ostati očito prepoznatljiv.

Mehanizam: Adversarani primjeri iskorištavaju «slabe zone» u visokomjerskom prostoru znakova modele. AI percepcija svijeta nije kao cjeloviti objekti, već kao niz statistkih uzoraka. Minimalna, ali strategički ispravna «pomaha» premješta točku podataka u prostoru znakova preko granice odluke modele, mijenjajući klasifikaciju.

3. Problemi s generalizacijom i «svijet u kutiji»

AI, posebno duboke neuronske mreže, su skloni preobucavanju (overfitting) — one zapamćuju ne općenite zakone, već specifične primjere iz učionog skupa, uključujući šum.

Greške na podacima iz drugog raspodijela: Model treniran na fotografijama pasa i mačaka, napravljenim danjem u kućnim uvjetima, može potpuno izgubiti točnost, ako mu se daju noćna infracrvena slike ili crtež. On nema isuveličiti apstraktno pojam «mačašću», već se naučio reagirati na specifične uzorke piksela.

Primjer s «zdravim razumom»: Klasični primjer: AI može ispravno opisivati scenu «čovjek sedi na konju u pustini», ali pritom generirati izjavu «čovjek drži u rukama bejsbolsku batu», sjedeći na konju, jer je u podacima statistički mogao nastati bejsbol u kontekstu sportske igre na otvorenom. Onu nedostaje fizička i uzročno-značajna logika svijeta.

4. Procesiranje konteksta i ironije

Jezici modeli (poput GPT) pokazuju impresivne rezultate, ali grubo greške u zadacima koji zahtijevaju razumijevanje dubokog konteksta ili neosložnih smisla.

Ironija i sarkazam: Fraza «Nu, prekrasna je ta vremena!» rečena tijekom uragana će biti interpretirana modelom doslovno kao pozitivna procjena, jer su u podacima pozitivna riječ «prekrasna», «vremena» statistički povezana s pozitivnim kontekstima.

Višestupanjska logička rasuđivanja: Zadaci u stilu «Ako stavim jajče u frižider, a zatim premjestim frižider u garažu, gdje će biti jajče?» zahtijevaju izgradnju i obnavljanje mentalne modele svijeta. AI koji radi na predviđanju sljedeće riječi često «izgubi» objekte u sredini složenog pričanja ili čini nelogične zaključke.

5. «Kritičnost» u uvjetima nejednosti i novih situacija

AI loše se nosi s situacijama koje izlaze izvan granica njegovog iskustva, posebno kada se zahtijeva priznanje nedostatka podataka.

Problema detekcije «out-of-distribution» (izvan raspodijela): Medicinski AI treniran dijagnosticirati pljučnicu po rentgenskim slikama grudne kosti može dati dijagnozu s visokom, ali lažnom sigurnošću, ako mu se predstavi slika kolena. On ne razumije da to je besmisleno, jer nema meta-znanja o granicama svoje kompetencije.

Kreativne i otvorene zadatke: AI može generirati vjerodostojan, ali apsolutno neizvediv ili opasni recept kemikalnog spoja, plan izgradnje mosta koji krši zakone fizike, ili pravni dokument sa referencama na ne postojeće zakone. Mu nedostaje kritični unutarnji cenzor zasniven na razumijevanju essencije događaja.

Primjer iz stvarnosti: Godine 2016. Microsoft je lansirao čat-bota Tay na Twitter. Bot se učio na interakciji s korisnicima. U 24 sata se bot pretvorio u mašinu koja generira rasističke, seksističke i oštarke izjavljivanja, jer je statistički usvojio najčešće i emocionalno naložene reakcije iz svog novog, neprijateljskog okruženja. Ovo nije bila «greška» algoritma, već njegova točna radnja koja je vodila do katastrofalnog rezultata u nepredviđivoj društvenoj sredini.

Završetak: Greška kao odraz arhitekture

• Greške AI sistematski nastaju u «pograničnim» zonama:
• Socijalno-etičke (iskrenjenosti podataka).
• Abstraktno-logičke (nedostatak zdravog razuma, uzročno-značajnih veza).
• Kontekstualne (nerazumijevanje ironije, dubokog smisla).
• Adversarne (oslabljivost na prednamjerene iskrivice).

Te greške nisu privremena tehnička nesavršenost, već posljedica fundamentalnog razlikovanja između statističke aproksimacije i ljudskog razumijevanja. One upućuju na to da je moderni AI moćan alat za rješavanje zadataka unutar čvrsto očrtanih, stabilnih i dobro opisanih područja podataka, ali ostaje «idiot-savant»: genij u užoj oblasti i bezvezan u situacijama koje zahtijevaju fleksibilnost, kontekstualno suđenje i razumijevanje. Zato je budućnost razumnog primjena AI ne u očekivanju njegovog «polnoćnog uma», već u stvaranju hibridnih sustava «čovjek-AI», gdje čovjek osigurava zdravi razum, etiku i rad s izuzecima, a AI brzinu, skaliranje i otkrivanje skrivених uzoraka u podacima.

Permanent link to this publication: