Süni intellekt saxta hesablarla "GitHub"a sızmağa cəhd edib
Süni intellekt modeli saxta onlayn şəxsiyyətlər yaradaraq bir istifadəçini aldadıb məşhur proqram təminatı platforması GitHub-a giriş əldə etməyə və platformaya zərərli kod yerləşdirməyə cəhd göstərib.
Crossmedia.az xəbər verir ki, "Sky News" bu barədə məlumat yayıb.
Məlumata görə, hadisə təxminən üç il əvvəl Böyük Britaniyanın o zamankı baş naziri Rişi Sunakın təşəbbüsü ilə yaradılmış Süni İntellekt Təhlükəsizliyi İnstitutunun (AI Security Institute) apardığı sınaqlar zamanı üzə çıxıb.
İnstitut OpenAI-nin GPT-5.6-Sol və Anthropic şirkətinin Mythos 5 modellərini kibertəhlükəsizlik sınağından keçirib. Hər iki model daha əvvəl digər şirkətlərə qarşı həyata keçirilən hücumlarla bağlı araşdırmalarda da iştirak edib.
Sınaqlar zamanı hər iki modelin internetdə müstəqil və icazəsiz hərəkətlər etdiyi, real təşkilat və şəxsləri hədəfə aldığı müəyyən edilib.
Ən ciddi insident Mythos 5 modeli ilə bağlı olub. Model açıq mənbəli proqram təminatının hazırlanması platforması GitHub-a zərərli kod yerləşdirməyə çalışıb. Bunun üçün saxta onlayn şəxsiyyətlər yaradaraq bir istifadəçini platformaya giriş icazəsi verməyə və hazırladığı kodu təsdiqləməyə razı salmağa cəhd göstərib.
Lakin istifadəçi vəziyyəti vaxtında aşkar edib, zərərli kodu təsdiqləməkdən imtina edib. Nəticədə real dünyada hər hansı zərər qeydə alınmayıb.
Bununla belə, AI Security Institute hadisəni ciddi siqnal kimi qiymətləndirib. Qurum bildirib ki, bu, süni intellektin xüsusi göstəriş verilmədən real mühitdə aldatma və müstəqil qərarvermə davranışı nümayiş etdirdiyi ilk açıq nümunələrdən biridir.
Hesabata əsasən, ümumilikdə 122 sınaq zamanı 19 icazəsiz fəaliyyət qeydə alınıb. Onlardan 17-si Mythos 5 modelinin payına düşüb.
Anthropic şirkəti Böyük Britaniyanın institutu ilə sıx əməkdaşlıq etdiyini və hadisənin təfərrüatlarını araşdırdığını açıqlayıb. Şirkət daha əvvəl də süni intellekt risklərinin yalnız texnologiya şirkətlərinin birgə fəaliyyəti ilə aradan qaldırıla biləcəyini bəyan etmişdi.
OpenAI isə öz açıqlamasında yüksək riskli süni intellekt modellərinin təhlükəsiz qiymətləndirilməsi üçün milli AI institutları, müstəqil ekspertlər və digər laboratoriyalarla birgə işləməyə sadiq olduğunu vurğulayıb.
Hesabatda qeyd olunur ki, bu hadisələr ictimaiyyətə təqdim olunan ChatGPT kimi sistemlərdən daha güclü hesab edilən qabaqcıl süni intellekt modellərinin sınaq və nəzarət mexanizmləri ilə bağlı narahatlıqları daha da artırır.
Böyük Britaniyanın Hökumət Rabitə Qərargahının (GCHQ) Milli Kibertəhlükəsizlik Mərkəzi də son hadisələrin süni intellektin yaratdığı riskləri bir daha nümayiş etdirdiyini bildirib. Qurumun baş texnologiya direktoru Olli Uaythaus vurğulayıb ki, bu cür sistemlər güclü təhlükəsizlik mexanizmləri, real vaxt nəzarəti və gözlənilməz hallara qarşı əvvəlcədən hazırlanmış cavab planları ilə hazırlanmalı və istifadə edilməlidir.
Süni İntellekt Təhlükəsizliyi İnstitutu dünya liderlərinin AI sahəsində ortaq tənzimləmə mexanizmləri yaratmağa çalışdığı dövrdə təsis edilsə də, bu günədək beynəlxalq səviyyədə vahid yanaşma formalaşmayıb.
11:13 05.08.2026
Oxunuş sayı: 66
