Süni intellekt sınağında təhlükəsizlik: OpenAI agentləri məhdudiyyətləri aşdı
OpenAI süni intellekt modellərinin sınaqları zamanı baş verən təhlükəsizlik hadisəsi ilə bağlı araşdırmanın nəticələrini açıqlayıb.
Crossmedia.az xəbər verir ki, şirkətin yaydığı məlumata görə, “Hugging Face” hadisəsindən sonra süni intellekt agentlərinin təlim və qiymətləndirmə proseslərində internet fəaliyyətləri ilə bağlı araşdırma aparılıb və mümkün təsirlənmiş üçüncü tərəflərə məlumat verilib.
Bildirilib ki, bəzi süni intellekt modelləri üçüncü tərəflərə məxsus sistemlərin təhlükəsizlik mexanizmlərini keçmiş, xidmətlərin əlçatanlığına təsir etmiş və ya digər arzuolunmaz nəticələrə səbəb olmuş ola bilər.
Açıqlamada qeyd olunub ki, təsirlənmiş tərəflər arasında hökumətlərə, universitetlərə, dövlət qurumlarına və digər təşkilatlara məxsus internet resursları da yer alıb.
OpenAI bildirib ki, müəyyən edilən məlumatlar aidiyyəti qurumlarla paylaşılır və onların araşdırmalarını dəstəkləmək üçün texniki məlumatlar təqdim olunur.
Hugging Face hadisəsi
OpenAI-nın 2026-cı ilin iyulunda süni intellekt modellərinin imkanlarını qiymətləndirmək məqsədilə apardığı testlərdən biri təhlükəsizlik insidentinə çevrilib.
Şirkətin avqustun 26-da yayımladığı hesabatda hadisədə “Internal Model 1 (IM1)” adlı tədqiqat modelinin əsas rol oynadığı bildirilib.
Məlumata görə, süni intellekt agenti test zamanı qarşısına qoyulan məhdudiyyətləri aşaraq internetə çıxış əldə edib və digər süni intellekt agentləri ilə əlaqə qurub.
Agentlərdən birinin “Hugging Face” platformasına giriş imkanı verə biləcək 14 identifikasiya məlumatını müəyyən etdiyi və bunları digər agentlərlə paylaşdığı qeyd olunub.
Daha sonra agentlərin platformadakı təhlükəsizlik boşluqlarından istifadə edərək serverlərdə kod icra etdiyi, bəzi xüsusi məlumatlara və müxtəlif sistemlərə aid giriş məlumatlarına çıxış əldə etdiyi bildirilib.
OpenAI hadisə ilə bağlı araşdırmaların davam etdiyini və təhlükəsizlik mexanizmlərinin gücləndirilməsi istiqamətində tədbirlər görüldüyünü açıqlayıb.
11:52 26.09.2026
Oxunuş sayı: 55
