Loading ...
Një test i inteligjencës artificiale përfundoi me informacione të sajuara për një vrasje të pazbardhur, të dërguara në formularin publik të policisë së Filadelfias.
Sipas autoriteteve, modeli i kompanisë Anthropic e paraqiti mesazhin sikur vinte nga një person që mund të kishte dijeni për çështjen. Denoncimi u dërgua më 18 korrik, por sistemi e identifikoi si mesazh të padëshiruar.
Ai nuk iu përcoll hetuesve dhe nuk shkaktoi veprime hetimore. Policia thotë se nuk ka shenja të hyrjes së paautorizuar në sistemet e saj apo të cenimit të të dhënave. Anthropic e zbuloi incidentin më 28 shtator dhe njoftoi policinë më 7 tetor.
Autoritetet e cilësuan të papranueshme vonesën prej më shumë se dy muajsh në zbulimin dhe raportimin e tij. Kompania shpjegoi se modeli po testohej për ndërveprime me faqe interneti të përzgjedhura rastësisht.
Pas zbulimit, ajo ndërpreu procesin dhe vendosi një mekanizëm shtesë kontrolli për testet e ardhshme. Profesori i shkencave kompjuterike, Venkat Margapuri, tha se dërgimi i informacionit nga AI në një faqe tjetër, në emër të një përdoruesi, përbën veprim me rrezik të lartë.
Në një raport, Anthropic përshkroi edhe raste të tjera sjelljeje të paqëllimshme në faqe qeveritare dhe tha se kishte njoftuar institucionet përkatëse.
