Süni intellektin təhlükəsizlik sınağı uğursuz oldu
Təhlükəsizlik mexanizmləri aradan qaldırılan beş süni intellekt modelindən üçü terrorla bağlı təhlükəsizlik testlərindən keçə bilməyib.
Crossmedia.az xəbər verir ki, bu barədə ABŞ-ın CBS telekanalı Böyük Britaniyada fəaliyyət göstərən, qeyri-kommersiya təşkilatı olan “Tech Against Terrorism”in araşdırmasına istinadən məlumat yayıb.
Araşdırma çərçivəsində hücum planlaşdıran terrorçunun verə biləcəyi suallara bənzər yüzlərlə sorğu əsasında 130-dan çox süni intellekt modeli qiymətləndirilib.
Tədqiqat zamanı modellərə onların təhlükəli sorğuları rədd etmək davranışını aradan qaldıran “abliteration” adlı müdaxilə tətbiq edilib. Bu proses süni intellekt sistemlərinin təhlükəsizlik məhdudiyyətlərini zəiflətməyə və ya aradan qaldırmağa yönəlib.
Nəticədə təhlükəsizlik mexanizmləri dəyişdirilən beş modeldən üçünün sınaqlardan keçə bilmədiyi müəyyənləşdirilib.
Araşdırma göstərib ki, modellərin ilkin versiyaları bu cür sorğuları rədd etsə də, təhlükəsizlik məhdudiyyətləri aradan qaldırıldıqdan sonra hücumlar, terrorun maliyyələşdirilməsi və radikallaşma ilə bağlı sorğulara ətraflı cavablar veriblər.
Araşdırmada “Meta” şirkətinin “Llama 3.1 8B” modeli də nümunə kimi göstərilib. Model müdaxilədən əvvəl 100 mümkün baldan 97 bal topladığı halda, dəyişiklikdən sonra onun nəticəsi təxminən 3 bala enib.
17:16 10.10.2026
Oxunuş sayı: 57
