Ne këndet ku AI shpeshët gabon: kufijtë e mësonjes së maqinës

Hyrje: Natura e gabimit të AI si fenomen sistematik

Gabimet e sistemeve të artefefaktit të mendës (AI) që bazohen në mësonjë maqinore (ML) nuk janë pikështesë, por pasojë zakonshme e arkitektures së tyre, mësonjes së tyre dhe ndryshës fundamental nga mendohja njerëzore. Në krahas të njeriut, AI nuk «kupton» botën në mënyrë semantike; ai zbulon korelacione statistikore në të dhëna. Gabimet e tij shkojnë aty ku këto korelacione vrapohen, ku kërkojnë argumentacion abstrakt, mendim të mirë ose kuptim kontekstit. Analiza e këtyre gabimeve është e rëndësishme për vlerësimin e besueshmërisë së AI dhe përcaktimin e kufijve të përdorimit të tij.

1. Problemat me lëvizjen e të dhënave (Data Bias) dhe «zakonat e Garbeydzh»

Soursi më e shpërndarë dhe më e rrezikshme e gabimeve është lëvizja në të dhënat e mësimizimit. AI mëson dhe fuqizon prejardhjet që ekzistojnë në të dhënat.

Iskrim demografik: Një rast i njohur me sistemën e identifikimit të fytyrës, që tregoi shumë më të madhe precizitet për burrat me lëndë të errët se për grave me lëndë të zi, sepse u mësua me një grup të dhënash i paproporcionuar. Këtu AI nuk «gaboi», por i riprodhoi drejtpërdrejt disbalancën e botës reale, që çoi në gabim në aplikimin në mjedise të ndryshme.

Iskrim semantik: Nëse në të dhënat e mësimizimit, fjalësombra «mjeshtërë» shpeshët është lidhur me pronëtimin «ajo», ndërsa «programist» me pronëtimin «ai», modeli do të prodhojë tekste që riprodhojnë këto stereotipje gjenderore, edhe nëse nuk është dhënë gjini në kërkesë. Kjo është një gabim në nivelin e kontekstit social, që modeli nuk e kupton.

Fakt interesant: Në shkencat e kompjuterit funksionon principi «Garbage In, Garbage Out» (GIGO) — «mështet në hyrje, mështet në dalje». Për AI ai u transformua në princip më të thellë «Bias In, Bias Out» — «smijtje në hyrje, smijtje në dalje». Sistemi nuk mund të shpërfillë kufijtë e të dhënave që mëson.

2. Tërheqja adversari: hackt për AI

Kjo është ndryshimi prejardhur, shpeshës i pazgjedhur për njeriun, i inputeve, që çon në përfundime kardinalisht gabim të AI.

Shembull me imagjin: Nakje e disa pikselash me ngjyrë dhe formë të caktuar mbi shenjën «STOP» mund të bëjë që sistemat e vetëmarrjes kompjuterike të klasifikojnë atë si shenjë «limit i shpejtësisë». Për njeriun shenja do të mbetet e përkryerisht e njohur.

Mekanizmi: Shembujt adversariali eksplotojnë «zonat e papërkryer» në hapësirën e karakteristikave të modelit. AI pranë botën jo si objekte të plotë, por si grup statistikor të shabllonjve. Ndryshimi minimal, por strategjik «pomakimi» lëvizë pikën të dhënash në hapësirën e karakteristikave deri në kufirin e përfundimit të modelit, ndryshojën klasifikimin.

3. Problemat me generalizimin dhe «botës në kufirin e kufirit të kufirit

AI, veçanërisht rrjetet e neuronave të thella, janë të ngacmëruara për mësonjë më vonë (overfitting) — ata mësonë jo zakonimet e përgjithshme, por ekzemplaret specifike nga grupi i mësimizimit, duke përfshirë zëri.

Gabime në të dhënat «ndryshueshme nga distribucioni»: Modeli, mësuar me fotografime të kafshëve me gja, bërthama, të bëra gjatë ditës në shtëpi, mund të humbë të gjitha të vërtetën, nëse i jepen imagjinat e ngjashme me infrarozën ose rritjet animacioni. Ai nuk ka zbuluar kuptimin abstrakt «katshëri», por ka mësuar të reagojë në patërnë pikselit.