Kompani të mëdha si Google, Amazon, Cohere dhe Mistral po punojnë për të reduktuar “halucinacionet” në modelet e mëdha gjuhësore, një nga pengesat më të mëdha në përhapjen e AI-së gjeneruese.
Këto përpjekje përfshijnë përmirësimin e cilësisë së të dhënave, zgjidhje teknike dhe sisteme verifikimi faktesh, veçanërisht për përdorim në fusha si shëndetësia dhe juridiku, ku saktësia është jetike.
Gabimet e chatbot-ëve kanë shkaktuar tashmë pasoja serioze: një gjykatë detyroi Air Canada të zbatojë një zbritje të sajuar nga një chatbot, ndërsa avokatë janë sanksionuar për përdorim të informacionit të pavërtetë të gjeneruar nga AI.
Ekspertët paralajmërojnë se eliminimi i plotë i halucinacioneve është i pamundur, për shkak të natyrës probabilistike të mënyrës sesi funksionojnë këto modele, që parashikojnë fjalën e radhës bazuar në të dhënat e trajnimit. Gabimet faktike dhe mospërputhjet me udhëzimet janë të lidhura ngushtë me cilësinë dhe shpeshtësinë e informacionit në këto të dhëna./abcnews.al
