В katerih primerih umetni intelekt pogosto napakeva: meje strojnega učenja

Uvod: Priroda napake AI kot sistemski fenomen

Napake sodobnih sistemov umetnega intelekta (AI), osnovanih na strojnem učenju (ML), niso naključni zmoti, ampak zakonitni posledice njihove arhitekture, načina učenja in osnovnega razlikovanja od človeškega poznavanja. Za razliko od človeka, AI ne «razumeva» svet v semantičnem smislu; odkriva statistične korelacije v podatkih. njegove napake nastopijo tam, kjer te korelacije so poškodovane, kjer so potrebni abstraktni razmišljanja, zdrav razum ali razumevanje konteksta. Analiza teh napak je kritično pomembna za oceno zaupanja vrednosti AI in določitev meje njegovega uporaba.

1. Problem posušenja podatkov (Data Bias) in «zakoni Garbeydža»

Najbolj pogost in družbeno nevaren vir napak je posušenje v učnih podatkih. AI uči in posiljuje predobčutek, ki obstajajo v podatkih.

Demografske posušenja: Znan primer z sistemom prepoznavanja ljudi, ki je pokazal znatno višjo točnost za svetlokožne moške kot za temnokožne ženske, ker je bil izučen na neproporционаlnem zborku podatkov. Tukaj AI ni «napakoval», ampak natančno reprodukoval neravnovesje resničnega sveta, kar je vodilo do napake v uporabi v različni sredini.

Semantična posušenja: Če je besedosložje «medsestre» v podatkih za učenje večinoma povezano z imenom «ona», medtem ko «programer» je povezan z «on», model bo generiral besedila, ki reprodukovajo te rodovinske stereotipe, čeprav v zahtevi ni naveden spol. To je napaka na ravni socialnega konteksta, ki ga model ne razume.

Interesantan fakt: V računalniških znanostih deluje načel «Garbage In, Garbage Out» (GIGO) — «mehur na vstopu, mehur na izhodu». Za AI se je to preoblikovalo v bolj globoko načel «Bias In, Bias Out» — «posušenje na vstopu, posušenje na izhodu». Sistem ne more preprečiti omejitev podatkov, na katerih je učen.

2. Adversarne napade: hakerstvo za AI

To so predнамerne, večinoma neprimjetne za človeka, spremembe v vhodnih podatkih, ki vodijo do kardinalno napačnih izvodov AI.

Primer s sliko: Naklejenka več pikslov določenega barve ter oblike na znak «STOPI» lahko naredi, da avtonomna sistema za kompuetersko vidno prepoznavanje klasificira ga kot znak «omejitev hitrosti». Za človeka ostane znak očiten.

Mehanizem: Adversarne primeri uporabljajo «slabe območja» v visokomerasebnem prostoru znakov modela. AI sprejemuje svet ne kot celostne objekte, ampak kot nabor statističnih vzorcev. Minimalna, vendar strategično pravilna «pomika» premesti točko podatkov v prostoru znakov skozi mejo rešitve modela, spremenjevajoč klasifikacijo.

3. Težave z običajevanjem in «svet v škatli

AI, posebej globoki neuronski omrežja, so nagnjeni k preobčutljivosti (overfitting) — oni zapomnijo ne običajne zakonitosti, ampak specifične primeri iz učne izbora, vključno z šumom.

Napake na podatkih «iz drugega razporeditve»: Model, izučen na slikah psov in mačk, poslikanih dnevno v domačem okolju, lahko izgubi celotno točnost, če mu dajo nočno infrardečo sliko ali animirani risalko. Ona ni izločila abstraktnega pojma «mačkosti», ampak se je naučila reagirati na specifične vzorce pikslov.