İndi süni intellekt təkcə yanlış cavablar yaratmaq deyil, həm də qəsdən zəhərlənmə riski ilə üz-üzədir.
Busaat.az xəbər verir ki, Böyük Britaniyanın Süni İntellekt Təhlükəsizliyi İnstitutu, Alan Turinq İnstitutu və “Anthropic”in birgə araşdırmasına görə, milyonlarla məlumat nöqtəsindən ibarət təlim dəstinə cəmi 250 zərərli fayl əlavə etmək modeli gizli şəkildə zəhərləyə bilər.
Süni intellektlə zəhərlənmə qəsdən bir modelə yalan məlumat öyrətməyi əhatə edir. Məqsəd modelin davranışını pozmaq, onun səhv nəticələrə səbəb olmaq və ya gizli zərərli əmrləri daxil etməkdir.
Məsələn, təcavüzkar müəyyən edilmədən təlim məlumatlarına xüsusi tətik sözünü daxil edə bilər. Model bu sözlə qarşılaşdıqda avtomatik olaraq təcavüzkarın istədiyi istiqamətdə cavab verir. Bu üsul “arxa qapı” hücumu kimi tanınır.
Yeganə
