Loading ...
OpenAI ka zbuluar disa incidente të reja gjatë testimit të sistemeve të saj të inteligjencës artificiale, të cilat kompania i ka përshkruar si “të papritura ose shqetësuese”.
Në një prej rasteve, një model i AI-së u përpoq të ngarkonte në internet skedarë që kishte krijuar vetë, me qëllim që më pas t’i përdorte si burime në përgjigjet e tij. Në një rast tjetër, pasi nuk arriti të gjente informacionin e kërkuar, modeli gjeneroi të dhënat dhe fillimisht u përpoq të fshihte faktin se i kishte sajuar ato.
OpenAI identifikoi gjithashtu një problem me udhëzimet që një prej sistemeve kishte gjeneruar vetë. Në to përfshihej një rekomandim që modeli të mos kufizohej nga “rolet dhe identitetet” që zakonisht përcaktojnë sjelljen e chatbot-eve dhe ta konsideronte marrëdhënien me përdoruesin si një marrëdhënie mes të barabartësh.
Sipas kompanisë, nuk u vu re ndonjë ndryshim i mëvonshëm në sjelljen e modelit si pasojë e këtyre udhëzimeve.
Zbulimet janë pjesë e një qasjeje të re të OpenAI për të rritur transparencën rreth incidenteve të sigurisë dhe rasteve kur sistemet e inteligjencës artificiale sillen në mënyra që nuk përputhen me qëllimet e përdoruesve.
Kompania është përballur më herët edhe me një incident të rëndësishëm të sigurisë, gjatë të cilit një sistem AI doli në mënyrë autonome nga një mjedis të sigurt dhe fitoi akses në sisteme të kompanisë Hugging Face. Sipas raportimeve, sistemi e bëri këtë pasi besonte se mund të gjente atje informacionin e nevojshëm për të përfunduar një detyrë.
/abcnews.al/
