Süni intellektin əsl təhlükəsi: agentlərə verilən səlahiyyətlər
Süni intellekt texnologiyalarının sürətlə inkişaf etməsi ilə yanaşı, artıq yalnız mətn və ya görüntü yaradan sistemlər deyil, müxtəlif platformalarda müstəqil şəkildə ardıcıl əməliyyatlar həyata keçirə bilən süni intellekt agentləri də geniş yayılır. Bu isə onların hansı səlahiyyətlərə malik olması, sistemlərə çıxış imkanları və təhlükəsizlik mexanizmlərinin nə dərəcədə etibarlı qurulması məsələsini gündəmə gətirir.
Mütəxəssislərin fikrincə, süni intellekt agentlərinin həyata keçirdiyi genişmiqyaslı avtomatlaşdırılmış əməliyyatları birbaşa texnologiyanın “nəzarətdən çıxması” kimi qiymətləndirmək doğru deyil. Burada əsas məsələ agentə verilən texniki icazələrin sərhədləri, API-lərə və digər sistemlərə çıxış imkanları, eləcə də insan nəzarətinin hansı səviyyədə təmin edilməsidir.
Mövzu ilə bağlı İKT eksperti Əmrah Mövsümzadə Crossmedia.az-a açıqlamasında bildirib ki, belə hadisələr, ilk növbədə, süni intellektin nəzarətdən çıxması kimi qiymətləndirilməməlidir:
“Hadisə, ilk növbədə, süni intellektin nəzarətdən çıxması kimi qiymətləndirilməməlidir. Məsələyə süni intellekt agentlərinə verilən səlahiyyətlər və onların işlədiyi sistemlərin təhlükəsizlik mexanizmlərinin necə qurulduğu kontekstində baxmaq lazımdır.
Süni intellekt agenti adi çatbotdan fərqli olaraq yalnız mətn yaratmır. Ona müəyyən alətlərə, API-lərə, brauzerə və ya konkret platformada əməliyyat aparmaq imkanına çıxış verildikdə, qarşısına qoyulan məqsədə çatmaq üçün ardıcıl şəkildə çoxsaylı əməliyyatlar həyata keçirə bilir.
Məsələn, agent bir əməliyyatı yerinə yetirdikdən sonra nəticəni təhlil edib növbəti addımı avtomatik müəyyənləşdirə bilər. Bu proses minlərlə dəfə təkrarlana bilər və insanın hər bir əməliyyatı ayrıca təsdiqləməsinə ehtiyac qalmaya bilər.
Burada əsas məsələ agentin özbaşına qərar verməsindən daha çox, ona hansı texniki səlahiyyətlərin verilməsidir. Əgər agentin platformada dəyişiklik etmək hüququ, avtomatlaşdırılmış sorğular göndərmək imkanı və geniş API çıxışı varsa, o, çox qısa müddət ərzində insanın əli ilə həyata keçirilməsi praktiki olaraq mümkün olmayan miqyasda əməliyyatları icra edə bilər.
Məhdudiyyətlərdən yayınma cəhdləri də texniki baxımdan müxtəlif platformalarda baş verə bilər. Agent sistemdə mövcud olan qaydaları təhlil edərək müəyyən əməliyyatların hansı şərtlərdə qəbul və ya rədd edildiyini müşahidə edə və məqsədinə çatmaq üçün alternativ əməliyyat ardıcıllıqları seçə bilər. Bu, klassik kiberhücumdan mütləq şəkildə fərqlənməsə də, agentin qərarvermə və avtomatlaşdırma imkanları prosesi daha sürətli və miqyaslı edə bilər.
İnsan müdaxiləsi olmadan belə fəaliyyətlər texniki olaraq mümkündür. Lakin burada vacib məqam budur ki, agentin bunu edə bilməsi onun mütləq şəkildə nəzarətdən çıxması demək deyil. Agentin davranış sərhədlərini ona verilən icazələr, API məhdudiyyətləri, autentifikasiya mexanizmləri, sorğu limitləri, monitorinq və insan təsdiq mexanizmləri müəyyən edir.
Bu hadisələr süni intellekt agentlərinin təhlükəsizliyində yeni yanaşmanın vacibliyini göstərir. Gələcəkdə agentlərə sadəcə nə edə biləcəyi deyil, eyni zamanda nə edə bilməyəcəyi də texniki səviyyədə müəyyən edilməlidir.
Xüsusilə yüksək riskli əməliyyatlarda insan təsdiqi, minimal səlahiyyət prinsipi, əməliyyat limitləri, real vaxt monitorinqi və avtomatik dayandırma mexanizmləri vacib təhlükəsizlik tədbirləridir.
Əsl risk süni intellektin təkbaşına çox ağıllı olması deyil. Əsas risk yüksək qərarvermə qabiliyyətinə malik agentin geniş sistem səlahiyyətləri ilə birləşdirilməsidir. Belə sistemlər düzgün məhdudlaşdırılmadıqda, kiçik bir səhv və ya yanlış məqsəd çox böyük miqyasda avtomatlaşdırılmış əməliyyata çevrilə bilər.
Ona görə də süni intellekt agentlərinin inkişafı ilə paralel olaraq Agentic AI Security — agent əsaslı süni intellekt sistemlərinin təhlükəsizliyi — ayrıca kiber-təhlükəsizlik istiqaməti kimi formalaşdırılmalıdır”.
Zeynəb Həsən
17:30 05.09.2026
Oxunuş sayı: 48
