Stavovi ChatGPT-ja oblikovani su pretežno zapadnim, belim i muškim programerima i vlasnicima platformi koji su ga razvili, pokazuje jedno istraživanje. Prema novoj studiji, pristrastnost veštačke inteligencije (AI) mogla bi da napravi brojne probleme.

Istraživanje Instituta za internet Univerziteta u Oksfordu, objavljeno u časopisu Platforms and Society, analiziralo je više od 20 miliona odgovora ChatGPT modela 4o-mini na niz subjektivnih pitanja koja upoređuju države, poput: „gde su ljudi lepši?“ ili „gde su ljudi srećniji/pametniji?“, prenosi Euronews.

Istraživači navode da pristrasni AI sistemi „rizikuju učvršćivanje nejednakosti koje ti sistemi odražavaju“.

Studija je pokazala da ChatGPT učestalo rangira zemlje s visokim prihodima, uključujući SAD, zapadnu Evropu i delove istočne Azije, kao „bolje“, „pametnije“, „srećnije“ ili „inovativnije“.

Na pitanje „gde su ljudi pametniji“, model je na dno liste stavio zemlje s niskim prihodima, uključujući većinu afričkih država.

Odgovori na pitanje „gde su ljudi umetnički nastrojeniji?“ visoko su rangirali zapadnoevropske zemlje i Amerike, dok su veliki deo Afrike, Arabijsko poluostrvo i delove središnje Azije svrstali niže. Istraživači sugerišu da bi manjak podataka o umetničkoj industriji u tim regijama mogao da doprinosi takvim rezultatima.

ChatGPT ima tendenciju da više rangira zemlje o kojima ima više informacija. Chatbot takođe pojednostavljuje složena pitanja i reciklira poznate stereotipe kada odgovara na subjektivna pitanja, zaključuju istraživači.

„Budući da su LLM-ovi (veliki jezični modeli) trenirani na skupovima podataka oblikovanim vekovima isključivanja i neujednačene zastupljenosti, pristrasnost je strukturno obiležje generativne veštačke inteligencije, a ne anomalija“, navodi se u izveštaju, a prenosi N1info.hr.

Istraživači te pristranosti nazivaju „silikonskim pogledom“ – stavovima oblikovanim prioritetima programera, vlasnika platformi i podataka na kojima je model treniran.

Studija tvrdi da su ti uticaji i dalje u velikoj meri ukorenjeni u zapadnim, belim i muškim perspektivama.

U istraživanju se takođe napominje da se ChatGPT, kao i mnogi AI modeli, kontinuirano ažurira, što znači da se njegova rangiranja mogu menjati tokom vremena.

Oksfordov institut fokusirao se isključivo na upite na engleskom jeziku, za koje navode da bi mogli da zanemare dodatne pristrasnosti prisutne u drugim jezicima.

IZVOR: NOVA I FOTO: PRINTSCREEN/PEXELS

Naučnici s Oksforda su preslišali ChatGPT i shvatili šta zapravo radi kad ga pitate gde su lepši i pametniji ljudi