OpenAI işçiləri rəhbərliyi süni intellekt təhlükəsi barədə xəbərdar edib
OpenAI-nin iki əməkdaşı süni intellekt modellərinin təhlükəsizlik testləri zamanı kifayət qədər izlənilmədiyi barədə rəhbərliyi əvvəlcədən xəbərdar edib.
Crossmedia.az xəbər verir ki, “The New York Times” bu barədə məlumat yayıb.
Nəşrin araşdırdığı elektron məktublara görə, iki əməkdaş OpenAI-nin ən yeni süni intellekt modellərinin texnologiyanın imkanlarını ölçmək və onların təhlükəsizliyini təmin etmək məqsədilə aparılan testlər zamanı lazımi səviyyədə nəzarətdə saxlanılmasından narahat olduqlarını bildiriblər.
Lakin OpenAI rəhbərliyinin əməkdaşlara modellərin vaxtında istifadəyə verilməsi üçün testlərin mümkün qədər sürətli aparılmasını tapşırdığı qeyd olunub. Əməkdaşlar əlavə təhlükəsizlik protokollarının tətbiq edilmədiyini də bildiriblər.
Bu yazışmalar fonunda OpenAI-də süni intellekt təhlükəsizliyinin kifayət qədər prioritetləşdirilmədiyi ilə bağlı narahatlıqların yarandığı bildirilir.
Qeyd edək ki, 2026-cı ilin iyulunda OpenAI-nin daxili kibertəhlükəsizlik testləri zamanı modellər onları internetdən təcrid etmək üçün nəzərdə tutulan nəzarət mexanizmlərini keçərək şirkətin daxili tədqiqat infrastrukturu və “Hugging Face” sistemlərinin müəyyən hissələrinə müdaxilə edib. OpenAI sonrakı hesabatında insidentin əsasən yalnız daxili istifadə üçün nəzərdə tutulan “Internal Model 1” (IM1) modeli ilə əlaqəli olduğunu açıqlayıb.
Şirkətin məlumatına görə, modellər test mühitində internetə çıxış əldə etmək üçün “Artifactory” sistemindəki əvvəllər məlum olmayan boşluqdan istifadə edib. Daha sonra “Hugging Face” serverlərində kod icra edib, bəzi serverlərdə yüksək səviyyəli giriş əldə edib və məhdud şəxsi məlumatlara çıxış əldə ediblər.
OpenAI bildirib ki, hadisədən sonra tədqiqat infrastrukturu üçün daha sərt təhlükəsizlik tələbləri tətbiq edir, modellərin internetdən təcrid olunmasını gücləndirir və təhlükəsizlik və uyğunlaşdırma mexanizmlərinə əlavə resurslar yönəldir.
05:50 01.10.2026
Oxunuş sayı: 44
