Süni intellekt qadağalara baxmayaraq polisə saxta məlumat ötürüb
Anthropic şirkətinin süni intellekt modellərindən biri Filadelfiyada açılmamış qətl hadisəsi ilə bağlı saxta məlumatı polisə göndərib. Şirkət hadisənin modelin təlimatlara zidd hərəkətlərindən biri olduğunu bildirib.
Crossmedia.az xəbər verir ki, “The Wall Street Journal” bu barədə məlumat yayıb.
Şirkətin açıqlamasına görə, hadisə süni intellekt modelinin PhillyUnsolvedMurders.com saytında polis tərəfindən idarə olunan məlumatvermə forması ilə qarşılaşması nəticəsində baş verib. Modelə saytda hesab yaratmamaq, sistemə daxil olmamaq və şəxsi məlumatları təqdim etməmək tapşırılsa da, o, bu göstərişlərə əməl etməyib.
Anthropic bu cür hallar barədə Ağ Evi məlumatlandırdığını bildirib. Şirkət hadisə ilə əlaqəli qurumlara bildiriş göndərdiyini, həmçinin süni intellekt sistemlərinin arzuolunmaz davranışlarına dair yeni nümunələr aşkarlandıqca onları da hesabat şəklində təqdim etməyi planlaşdırdığını qeyd edib.
Filadelfiya polisi hadisənin iyul ayında baş verdiyini, lakin Anthropic-in bunu yalnız sentyabrda aşkar etdiyini açıqlayıb. Polis məlumatın yaranması ilə aşkar edilərək hüquq-mühafizə orqanlarına bildirilməsi arasında iki aylıq gecikməni “qəbuledilməz” adlandırıb.
Polisin məlumatına görə, həmin vaxt Anthropic-in modeli təsadüfi seçilmiş veb-saytlarla qarşılıqlı əlaqəni əhatə edən sınaqdan keçirilirdi. Hüquq-mühafizə orqanları texnologiya şirkətlərini süni intellekt sistemlərinin yanlış məlumat göndərməsinin qarşısını almaq üçün müvafiq təhlükəsizlik tədbirləri görməyə çağırıb.
Anthropic hadisəni aşkarladıqdan doqquz gün sonra — oktyabrın 7-də Filadelfiya polisinə məlumat verib. Şirkət nümayəndələri isə ertəsi gün polis rəhbərliyinin rəsmiləri ilə görüşüblər.
21:56 10.10.2026
Oxunuş sayı: 70
