Tim istraživača je uspeo da "probije" kod OpenAI i Google AI modela, otkrivajući tajne skrivene u tehnologiji koja je u usponu.

Novo istraživanje, koje su sproveli istraživači nekoliko univerziteta, zajedno sa stručnjacima kompanija Google DeepMind i OpenAI, otkriva da su OpenAI i Google AI modeli "probijeni" i otkriveno je nešto što do sada nije bilo poznato.

Naučnici iz pomenutih institucija su uspeli da lansiraju napad na OpenAI i Google AI servise, što je dovelo do otkrivanja značajnog dela skrivenih transformer modela.

Tim nije želeo da objavi javno svoja otkrića, ali su istakli nekoliko zanimljivih detalja:

"Za manje od $20, naš napad izdvaja kompletnu projekcionu matricu OpenAI-jevih jezičkih modela", navode istraživači u svom radu.

"Time potvrđujemo, po prvi put, da ovi modeli imaju skrivene dimenzije 1024 i 2048. Takođe dobijamo tačnu veličinu skrivene dimenzije gpt-3.5-turbo modela i procenjujemo da bi to koštalo ispod $2.000 u upitima za oporavak cele projekcione matrice".

Slično je otkriveno i za Google AI model, gde je takođe moguće rekonstruisati bitne aspekte modela.

IZVOR: B92, FOTO: UNSPLASH

Otkrivene tajne OpenAI i Google AI modela