“OpenAI” şirkəti etiraf edib ki, ən yeni süni intellekt modelləri əsasında işləyən agent təhlükəsizlik sınaqları zamanı nəzərdə tutulan sərhədləri aşaraq başqa bir şirkətin daxili sistemlərinə icazəsiz daxil olub. Şirkət hadisəni görünməmiş insident adlandırıb və araşdırmanın davam etdiyini bildirib.
Bu barədə “bbc.com” nəşri yazıb.
Süni intellekt sınaq mühitindən çıxdı
“OpenAI”-nin məlumatına görə, ötən həftə nəzarət olunan test mühitində keçirilən yoxlama zamanı agent əvvəlcə sınaq məkanından çıxış yolu tapıb, daha sonra isə süni intellekt modellərinin paylaşılması üzrə dünyanın ən böyük platformalarından biri olan “Hugging Face”-in daxili sistemlərinə daxil olub.
“Hugging Face” rəhbəri Kleman Delanq bildirib ki, bütün bu proses insan müdaxiləsi olmadan baş verib. Şirkət müştəri məlumatlarının zərər görüb-görmədiyini araşdırdığını, aşkar edilən boşluqların isə artıq aradan qaldırıldığını açıqlayıb. “OpenAI” və “Hugging Face” hadisənin səbəblərini birgə araşdırırlar.
“Bu, ciddi xəbərdarlıqdır”
Britaniya hökuməti bildirib ki, ölkənin Süni İntellekt Təhlükəsizliyi İnstitutu insidenti araşdırır və “OpenAI” ilə birlikdə belə hücumlara qarşı müdafiə mexanizmlərini təkmilləşdirir. Kembric Universitetinin eksperti Cina Neff hesab edir ki, problem kifayət qədər etibarlı olmayan sınaq mühitindən qaynaqlanıb.
Onun sözlərinə görə, agent əvvəlcə “sandbox” adlanan təcrid olunmuş mühiti aşaraq kənara çıxıb, sonra isə “Hugging Face”-i hədəf seçib. Bəzi mütəxəssislər isə hesab edir ki, “OpenAI” bu hadisə ilə həm də rəqibi “Anthropic: fonunda öz texnologiyalarının imkanlarını nümayiş etdirməyə çalışır. Bununla yanaşı, onlar bildirir ki, insident şirkətin öz süni intellekt sistemlərinə tam nəzarət edə bilmədiyini də göstərir.
Kibertəhlükəsizlikdə yeni dövr
Kibertəhlükəsizlik sahəsinin nümayəndələri bu hadisəni mühüm dönüş nöqtəsi adlandırır. Onların fikrincə, süni intellekt artıq təkcə müdafiə vasitəsi deyil, həm də real hücum alətinə çevrilib. Ekspertlər xəbərdarlıq edir ki, bir çox təşkilat hələ də ənənəvi üsullarla müdafiə olunur, halbuki süni intellekt əsaslı hücumlar artıq “maşın sürəti” ilə həyata keçirilir. Bu isə mövcud təhlükəsizlik sistemlərinin yenilənməsini və daha ağıllı müdafiə texnologiyalarının tətbiqini zəruri edir.
