U kojim slučajevima artificijalni intelekt često greška: granice učenja strojnih modela

Uvod: Priroda greške AI kao sistemski fenomen

Greške modernih sustava artificijalnog intelekta (AI), temeljenih na učenju strojnih modela (ML), nisu slučajni padovi, već pravilne posljedice njihove arhitekture, načina učenja i fundamentalnog razlikovanja od ljudskog poznavanja. Za razliku od čovjeka, AI ne «razumije» svijet semantički; on otkriva statističke korelacije u podacima. Njegove greške nastaju tamo gdje te korelacije su poremećene, gdje se zahtijeva apstraktno rasuđivanje, zdravi razum ili razumijevanje konteksta. Analiza tih grešaka je kritična za procjenu pouzdanosti AI i određivanje granica njegovog primjena.

1. Problem iskrenosti podataka (Data Bias) i «zakoni Garbajeđa»

Najčešći i najopasniji izvor grešaka je iskrenost u učionicim podacima. AI uči i pojačava preudredbe koje postoje u podacima.

Demografske iskrivice: Poznati slučaj sa sistemom prepoznavaanja lica koji je pokazivao znatno veću točnost za svjetloskожih muškaraca nego za crne žene, jer je bio treniran na neproporcionnom skupu podataka. Ovdje AI nije «grešio», već je točno reproizveo neravnotežu stvarnog svijeta, što je vodilo do greške u primjeni u raznolikoj sredini.

Semantičke iskrivice: Ako je u podacima za učenje rječenicu «sestre» češće vezano za местоimenje «ona», a «programer» — s «on», model će generirati tekstove koji reproduciraju te rodne stereotipe, čak i ako se u zahtjevu ne navodi spol. Ovo je greška na nivou društvenog konteksta koji model ne shvaća.

Interesantan činjenica: U računalnim znanostima djeluje princip «Garbage In, Garbage Out» (GIGO) — «muskot na ulaz, muskot na izlaz». Za AI se on transformirao u više duboki princip «Bias In, Bias Out» — «iskrenost na ulaz, iskrenost na izlaz». Sistem ne može preći ograničenja podataka na kojima je treniran.

2. Adversarne napade: hakovanje za AI

Ovo su predнамjerni, često neprimjetni za čovjeka, izmjene ulaznih podataka koji vode do kardinalno nepravilnih zaključaka AI.

Primjer s slikom: Naključnica nekoliko piksela određenog boje i oblika na znak «STOPI» može naveli autonomni sustav vizualne percepcije računala klasificirati ga kao znak «ograničenje brzine». Za čovjeka će znak ostati očito prepoznatljiv.

Mehanizam: Adversarne primjere iskorištavaju «slepke zone» u visokomjerskom prostoru znakova modela. AI percepiraje svijet ne kao cjelovite objekte, već kao skup statističkih uzoraka. Minimalna, ali strategički pravilna «pomuka» premješta točku podataka u prostoru znakova kroz granicu odluke modela, mijenjajući klasifikaciju.

3. Problemi s generalizacijom i «svijet u kutiji»

AI, posebno duboke neuronne mreže, su nagnute za preobrazovanje (overfitting) — one zapamćuju ne općenite zakone, već specifične primjere iz učionog skupa, uključujući šum.

Greške na podacima iz drugog raspodijela: Model, treniran na slikama pasa i mačaka napravljenim danjem u kućnim uvjetima, može potpuno izgubiti točnost, ako mu se daju noćna infracrvena slike ili crteži. On nije izdvojio apstraktno pojam «mačkosti», već se naučio reagirati na specifične uzorke piksela.

Neostvarljivost «zdravog razuma»: Klasični primjer: AI može ispravno opisivati scenu «čovjek sjedi na konju u pustini», ali pritom generirati rečenici «čovjek drži u rukama bejsbolsku batu», sjedeći na konju, jer je u podacima statistički mogao nastati bat u kontekstu sporta na otvorenom. Onu nedostaje fizička i uzročno-značajna logika svijeta.

4. Procesiranje konteksta i ironije

Jezične modele (poput GPT) pokazuju impresivne rezultate, ali su grubo greške u zadacima koji zahtijevaju razumijevanje dubokog konteksta ili nebesednih smisla.

Ironija i sarkazam: Fraza «Nu, prekrasna je ta vremena!» rečena tijekom uragana će biti interpretirana modelom doslovno kao pozitivna procjena, jer su u podacima pozitivna riječ «prekrasna» i «vremena» statistički vezana za pozitivne kontekste.

Višestupanjska logička rasuđivanja: Zadaci u stilu «Ako stavim jajče u frižider, a zatim premjestim frižider u garáž, gdje će biti jajče?» zahtijevaju izgradnju i obnavljanje mentalne modele svijeta. AI koji radi na predviđanju sljedeće riječi često «izgubi» objekte u sredini složenog pričanja ili čini nelogične zaključke.

5. «Kruhtopadnost» u uvjetima nejednosti i novih situacija

AI loše se nosi s situacijama koje izlaze izvan granica njegovog iskustva, posebno kada se zahtijeva priznanje nedostatka podataka.

Problema detekcije «out-of-distribution» detection: Medicinski AI, treniran dijagnosticirati pljučnicu po rendgenskim slikama grudne kosti, može dati dijagnozu s visokom, ali lažnom sigurnošću, ako mu se predstavi slika kolena. On ne razumije da to je besmisleno, jer nema meta-znanja o granicama svoje kompetencije.

Kreativne i otvorene zadatke: AI može generirati pravdopodoban, ali apsolutno neizvediv ili opasni recept hemijskog spoja, plan izgradnje mosta koji krši zakone fizike, ili pravni dokument s referencama na ne postojeće zakone. Mu nedostaje kritični unutarnji cenzor, zasnovan na razumijevanju esence pojava.

Primjer iz stvarnosti: Godine 2016. Microsoft je lansirao čat-bota Tay u Twitter. Bot je učen na interakciji s korisnicima. Za 24 sata je postao mašina koja generira rasističke, seksističke i oštre izjavljivanja, jer je statistički učinio najčešće i emocionalno nažalostno reakcije iz svog novog, neprijateljskog okruženja. Ovo nije bila «greška» algoritma, već njegova točna rad, koji je vodio do katastrofalnog rezultata u nepredvidivnoj društvenoj sredini.

Završetak: Greška kao odraz arhitekture

• Greške AI sistematično nastaju u «pogranskim» zonama:
• Socijalno-etičkim (iskrenosti podataka).
• Apstraktno-logičkim (nekazneni razum, uzročno-značajne veze).
• Kontekstualnim (ne razumijevanje ironije, dubokog smisla).
• Adversarnim (osjetljivost na prednamjerni iskrivice).

Te greške nisu privremena tehnička nesavršenost, već posljedica fundamentalnog razlikovanja između statističke aproksimacije i ljudskog razumijevanja. Oni upućuju na to da je moderni AI moćan alat za rješavanje zadataka unutar čvrsto očrtanih, stabilnih i dobro opisanih domena podataka, ali ostaje «idiota-savant»: genij u uskoj oblasti i bezmocan u situacijama koje zahtijevaju fleksibilnost, kontekstualno suđenje i osmišljanje. Zato je budućnost razumnog primjena AI ne u očekivanju njegovog «polnoćnog uma», već u stvaranju hibridnih sustava «čovjek-AI», gdje čovjek osigurava zdravi razum, etiku i rad s izuzecima, a AI brzinu, skalabilnost i otkrivanje skrivenih uzoraka u podacima.

Permanent link to this publication: