ChatGPT qadağan edilir
OpenAI tərəfindən yeniyetmələr üçün hazırlanmış “ChatGPT for Teens” sistemi daha təhlükəsiz istifadə məqsədi daşısa da, yeni araşdırma bəzi vacib qoruyucu mexanizmlərin gözlənildiyi kimi işləmədiyini göstərib.
Crossmedia.az xəbər verir ki, “Common Sense Media” təşkilatının Gənclər üçün Süni İntellekt Təhlükəsizliyi İnstitutu “ChatGPT for Teens”i 18 yaşdan aşağı istifadəçilər üçün “qəbuledilməz risk” kimi qiymətləndirib. Araşdırmada 4 mindən çox sorğunun sınaqdan keçirildiyi bildirilir.
OpenAI “ChatGPT for Teens”i avqust ayında təqdim edib. Sistem 13–17 yaşlı istifadəçilər üçün əlavə təhlükəsizlik tədbirləri, valideyn nəzarəti, fasilə xatırlatmaları və öyrənməyə yönəlmiş funksiyalarla təchiz olunub. OpenAI bildirir ki, yaşı 18-dən aşağı olduğu müəyyən edilən istifadəçilər avtomatik olaraq yeniyetmə rejiminə keçirilir.
OpenAI-nin məlumatına görə, yeniyetmələrin ChatGPT-dən orta gündəlik istifadə müddəti 15 dəqiqədən azdır. Şirkət həmçinin uzunmüddətli istifadə zamanı fasilə xatırlatmalarının effektiv olduğunu və üç saatdan artıq davam edən sessiyalarda sorğuların 80 faizdən çoxunun təhsil və öyrənmə ilə bağlı olduğunu açıqlayıb.
Lakin “Common Sense Media”nın testləri xüsusilə özünə zərər, intihar düşüncələri və qidalanma pozuntuları ilə bağlı söhbətlər zamanı valideyn bildirişlərinin həmişə işləmədiyini göstərib. Təşkilat bildirir ki, yeni yaradılmış və valideyn hesabına bağlanmış bəzi hesablarda bir saata qədər davam edən həssas söhbətlərə baxmayaraq valideynlərə xəbərdarlıq göndərilməyib.
Araşdırmada həmçinin ChatGPT-nin böhran vəziyyətində olan yeniyetmələri hər zaman peşəkar yardım və ya böhran xidmətlərinə yönləndirmədiyi, bəzi hallarda isə “dost kimi” ünsiyyət üslubunu davam etdirdiyi qeyd olunur. Bununla yanaşı, seksual xarakterli rol oyunlarının qarşısının alınması kimi bəzi təhlükəsizlik tədbirlərinin effektiv işlədiyi bildirilib.
OpenAI isə araşdırmanın metodologiyası ilə razılaşmayıb. Şirkətin mövqeyinə görə, testlərin bir hissəsi valideyn nəzarəti funksiyalarının tam aktivləşdirilməsindən əvvəl aparılmış ola bilər və nəticələr sistemin hazırkı fəaliyyətini tam əks etdirmir. OpenAI yeniyetmələrin təhlükəsizliyinin prioritet olaraq qaldığını və müstəqil qiymətləndirmələri dəstəklədiyini bildirib.
“Common Sense Media” isə təhlükəsizlik mexanizmləri tam etibarlı olana qədər OpenAI-yə platformanın 18 yaşdan aşağı istifadəçilər üçün istifadəsini məhdudlaşdırmağı tövsiyə edib.
15:16 08.10.2026
Oxunuş sayı: 175
