U kojim slučajevima artificijalni intelekt često greška: granice mašinskog učenja

Uvod: Priroda greške AI kao sistemski fenomen

Greške modernih sistema artificijalnog intelekta (AI), zasnovanih na mašinskom učenju (ML), nisu slučajni padovi, već pravilne posljedice njihove arhitekture, načina učenja i fundamentalnog razlikovanja od ljudskog poznavanja. Za razliku od čoveka, AI ne «razume» svet u semantičkom smislu; on otkriva statističke korelacije u podacima. njegove greške nastaju tamo gde te korelacije su poremećene, gde su potrebna apstraktna razmišljanja, zdravi razum ili razumevanje konteksta. Analiza ovih grešaka je kritično važna za procenu pouzdanosti AI i određivanje granica njegovog primenjivanja.

1. Problem smetanja podataka (Data Bias) i «zakoni Garbajeđa»

Najčešći i najopasniji izvor grešaka je smetanje u učnim podacima. AI uči i pojačava preduzetoćenja koja postoje u podacima.

Demografska iskrivljavanja: Poznati slučaj sa sistemom prepoznavaanja lica koji je pokazivao značajno veću tačnost za svetloskolučne muškarce nego za crne žene, jer je bio treniran na neproporcionnom nizu podataka. Ovde AI nije «grešio», već je tačno reprodukovao diskordanac iz stvarnog sveta, što je vodilo do greške u primeni u različitoj sredini.

Semantička iskrivljavanja: Ako je u podacima za učenje izraz «medsestra» često povezan sa imenom žene, a «programer» sa imenom muškarca, model će generisati tekstove koji reprodukuju te rodne stereotipe, čak i ako se u zahtevu ne navodi pol. Ovo je greška na nivou društvenog konteksta koji model ne shvata.

Interesantan fakt: U računarstvu djeluje princip «Garbage In, Garbage Out» (GIGO) — «muskot na ulazu, muskot na izlazu». Za AI je on transformisan u više duboki princip «Bias In, Bias Out» — «smetanje na ulazu, smetanje na izlazu». Sistem ne može preći ograničenjima podataka na kojima je treniran.

2. Adversarne napade: hakovanje za AI

Ovo su predнамerni, često neprimjetni za čoveka, izmene ulaznih podataka koji vode do kardinalno nepravilnih zaključaka AI.

Primer sa slikom: Naključnica nekoliko piksela određenog boje i oblika na znak «STOPI» može naveli autonomnu sistem kompjuterske vizije da ga klasifikuje kao znak «ograničenje brzine». Za čoveka će znak ostati očito prepoznatljiv.

Mehanizam: Adversarani primjeri iskorištavaju «slepе zone» u visokorazmernom prostoru znakova modele. AI percepiraje svet ne kao cjelovite objekte, već kao niz statistkih šablova. Minimalna, ali strategički ispravna «pomaha» premješta tačku podataka u prostoru znakova preko granice odluke modele, mijenjajući klasifikaciju.

3. Problemi sa generalizacijom i «svet u kutiji»

AI, posebno duboke neuronske mreže, su nagnute za preobučavanje (overfitting) — one zapamćuju ne opšte zakonitosti, već specifične primere iz učne izbora, uključujući šum.

Greške na podacima iz drugog raspodjele: Model, treniran na slikama pasa i mačaka, napravljenim danjem u domaćim uslovima, može potpuno izgubiti tačnost, ako mu se daju noćna infracrvena slike ili animirani crtež. On nije izdvojio apstraktno pojam «koščastosti», već se naučio reagovati na specifične uzorke piksela.

Manjak «zdravog razuma»: Klasični primer: AI može ispravno opisivati scenu «čovek sedi na konju u pustini», ali pritom generisati rečenje «čovek drži u rukama bejsbolsku batu», budući da je bat statistički mogla pojaviti se u kontekstu sportske igre na otvorenom. On joj nedostaje fizička i uzročno-zavisna logika sveta.

4. Procesiranje konteksta i ironije

Jezične modele (poput GPT) pokazuju impresivne rezultate, ali su grubo greške u zadacima koji zahtevaju razumevanje dubokog konteksta ili nebučnih smisla.

Ironija i sarkazam: Frazu «Nu, prekrasna je tačna vremena!» rečenu tokom uragana će model interpretirati doslovno kao pozitivnu procenu, jer su pozitivna riječ «prekrasna» i «vremena» statistički povezana sa pozitivnim kontekstima.

Višestepeni logički rasuđivanja: Zadaci u stilu «Ako stavim jaje u frižider, a zatim premestim frižider u garážu, gde će biti jaje?» zahtevaju izgradnju i obnavljanje mentalne modele sveta. AI koji radi na predviđanju sledećeg reči često «izgubi» objekte u sredini složenog pričanja ili radi nelogične zaključke.

5. «Krušljivost» u uslovima neizvesnosti i novih situacija

AI loše se nosi sa situacijama koje izlaze izvan granica njegovog iskustva, posebno kada se zahteva priznanje nedostatka podataka.

Problema detekcije «out-of-distribution»: Medicinski AI, treniran da dijagnosticira pljučnicu po rendgenskim slikama grudne kosti, može dati dijagnozu s visokom, ali lažnom vernošću, ako mu se predstavi slika kolena. On ne razume da to je besmisleno, jer nema meta-znanja o granicama svoje kompetencije.

Kreativne i otvorene zadatke: AI može generisati verodoljan, ali apsolutno neizvediv ili opasni recept hemijskog spoja, plan izgradnje mosta koji krši zakone fizike, ili pravni dokument sa referencama na ne postojeće zakone. Mu nedostaje kritični unutrašnji cenzor, zasnovan na razumevanju esence pojave.

Primer iz stvarnosti: Godine 2016. Microsoft je pokrenuo chat-bota Tay u Twitter. Bot je bio treniran na interakciji sa korisnicima. Za 24 sata je postao mašina koja generiše rasističke, seksističke i oštrica izražaje, jer je statistički naučio najčešće i emocionalno naložene reakcije iz svog novog, neprijateljskog okruženja. Ovo nije bila «greška» algoritma, već njegova tačna delatnost, koja je vodila do katastrofalnog rezultata u nepredviđljivoj društvenoj sredini.

Završetak: Greška kao ogledalo arhitekture

• Greške AI sistematski nastaju u «pogranskim» zonama:
• Drustveno-etičko (smetanje podataka).
• Apstraktno-logičko (manjak zdravog razuma, uzročno-zavisnih veza).
• Kontekstualno (nerazumevanje ironije, dubokog smisla).
• Adversarano (oslabljivost na prednamerenim iskrivljavanjima).

Te greške nisu privremena tehnička nesavršenosti, već posledica fundamentalnog razlikovanja između statističke aproksimacije i ljudskog razumevanja. Oni ukazuju na to da je moderni AI moćan alat za rješavanje zadataka unutar četkih, stabilnih i dobro opisanih domena podataka, ali ostaje «idiota-savant»: genij u užoj oblasti i bezvezan u situacijama koje zahtevaju fleksibilnost, kontekstualno suđenje i osmišljanje. Zato je budućnost razumnog primenjivanja AI ne u očekivanju njegovog «polnoćnog uma», već u stvaranju hibridnih sistema «čovek-AI», gde čovek obezbeđuje zdravi razum, etiku i rad sa izuzecima, a AI brzinu, skalabilnost i otkrivanje skrivenih uzoraka u podacima.

Permanent link to this publication: