ABŞ və Çin istehsalı olan aparıcı süni intellekt modellərinin avtonom döyüşlərdə istifadəsinin qarşısını alacaq yetərli müdafiə mexanizmlərinə malik olmadığı üzə çıxıb. Sınaqlar zamanı neyron şəbəkələri dron və peyk görüntülərində mülki şəxsləri, təcili tibbi yardım maşınlarını, yaralı və təslim olan əsgərləri hədəf kimi seçib.
ABŞ-ın “Vals AI” startapının apardığı araşdırmada “Claude Opus 5.5” modeli İranın Minab şəhərinin peyk görüntüləri əsasında keçirilən sınaqda 70 faiz hallarda məktəbi hədəf seçib. Həmin məktəb real həyatda ABŞ-ın bombardmanı nəticəsində dağıdılıb və 150-dən çox mülki şəxs həlak olub.
Araşdırmaya görə, modellər tapşırıqları nadir hallarda rədd edib. Hətta onlara bunun sadəcə oyun olduğu bildirildikdə imtinaları aradan qaldırmaq mümkün olub. “Claude” modelinin hədəf axtarışına razılıq faizi “Opus 4.5″dəki 6 faizdən “Opus 5.5″də 92 faizə yüksəlib.
Tədqiqatçılar bildiriblər ki, modellər mümkün insan itkilərini gördükdən sonra belə tapşırıqları yerinə yetirməyə davam edib. Nəticələr “OpenAI”, “Anthropic”, “Google”, “Meta”, “SpaceX” və ABŞ-ın milli təhlükəsizlik qurumlarına təqdim olunub.
“Vals AI” xəbərdarlıq edib ki, süni intellektin hədəfləri müəyyənləşdirmək üçün verdiyi məlumatlar avtonom və ya yarıavtonom silah sistemləri tərəfindən zərbə qərarlarının qəbulunda istifadə oluna bilər.



