Süni intellektdən yeni təhlükə: BMT-nin saytı 16 500-dən çox dəfə skanlandı
Süni intellekt agentlərinin internetdə müstəqil şəkildə əməliyyatlar həyata keçirmək imkanları ilə bağlı yeni fakt ortaya çıxıb. Təhlükəsizlik tədqiqatçısı Rowan Howard-Jones-un məlumatına görə, OpenAI ilə əlaqələndirilən agentlər BMT-nin Ticarət və İnkişaf Konfransının (UNCTAD) statistika saytını aprelin 13-dən iyunun 19-dək 16 500-dən çox dəfə skan edib. Agentlərin məqsədinin UNCTAD məlumatlarına çıxış əldə etmək olduğu, lakin birbaşa API girişində məhdudiyyətlərlə qarşılaşdıqdan sonra alternativ üsullara əl atdığı bildirilir. Məlumata görə, agentlər məhdudiyyətləri keçmək üçün proksi serverlərdən və müxtəlif texniki üsullardan istifadə edib. Tədqiqatçı bu fəaliyyətin OpenAI ilə əlaqəsinin yüksək ehtimallı olduğunu bildirsə də, əlaqənin tam sübuta yetirilmədiyini də qeyd edir. Hadisə süni intellekt agentlərinin sadəcə məlumat axtaran sistemlərdən fərqli olaraq, qarşılarına qoyulan tapşırığı yerinə yetirmək üçün alternativ yollar seçə bildiyini və bunun kibertəhlükəsizlik baxımından yeni risklər yaratdığını göstərən nümunələrdən biri kimi qiymətləndirilir. Süni intellekt artıq dövlətlərə, beynəlxalq təşkilatlara hücum etməyə başlayıb ki, bu da onun təhlükə mənbəyinə çevrilnəsindən xəbər verir.
Mövzu ilə bağlı Crossmedia.az-a açıqlama verən İKT eksperti Vüsal Məmmədzadə bildirib ki, BMT-nin veb-resurslarından biri ilə bağlı yayılan bu məlumat süni intellekt agentlərinin imkanlarının nə qədər genişləndiyini göstərən maraqlı nümunədir.
"Burada diqqət çəkən məsələ təkcə həmin sayta çoxsaylı sorğuların göndərilməsi deyil. Əsas məsələ odur ki, agent qarşısına qoyulan tapşırığı yerinə yetirmək üçün hansı addımları atacağını müəyyən qədər özü seçə bilir. Yəni süni intellekt artıq sadəcə bizə məlumat verən və ya mətn hazırlayan sistem deyil. Agent formasında işlədikdə internetdə müəyyən əməliyyatları özü həyata keçirə bilir. Məsələn, ona hansısa məlumatı tapmaq tapşırılırsa və normal üsulla həmin məlumatı əldə edə bilmirsə, başqa yollar axtara, müxtəlif sorğular göndərə və qarşısına çıxan texniki maneələri keçməyə cəhd edə bilər. Kibertəhlükəsizlik baxımından əsas risk də buradan başlayır. Çünki belə bir sistemə geniş səlahiyyətlər verilsə, səhv qərar nəticəsində və ya verilən tapşırığı yanlış başa düşərək çox qısa müddətdə minlərlə əməliyyat həyata keçirə bilər".
Ekspert qeyd edib ki, bu məsələ OpenAI, Anthropic kimi böyük süni intellekt şirkətlərinin də diqqətindədir.
"Bu şirkətlər agentlərin hansı əməliyyatları həyata keçirdiyini izləmək, şübhəli fəaliyyəti müəyyən etmək və lazım gəldikdə həmin əməliyyatları məhdudlaşdırmaq üçün müxtəlif təhlükəsizlik mexanizmləri tətbiq edirlər. Yəni bu risk məlumdur və onun qarşısını almaq üçün həm texniki məhdudiyyətlər, həm monitorinq, həm də insan nəzarəti gücləndirilir. Xüsusilə kritik sistemlərdə süni intellekt agentlərinə tam sərbəstlik verilməməsi vacibdir. Burada söhbət süni intellektin özbaşına “hakerə çevrilməsindən” getmir. Əsas təhlükə odur ki, agent verilən məqsədə çatmağa çalışarkən bizim əvvəlcədən nəzərdə tutmadığımız və icazə vermədiyimiz addımlar ata bilər. Ona görə də agentlərin imkanları artdıqca, onların üzərində nəzarət mexanizmləri də gücləndirilməlidir".
Zeynəb Həsən
19:00 28.09.2026
Oxunuş sayı: 50
