Süni intellekt yaradıcısına müqavimət göstərdi - Söndürmə əmrlərini deaktiv edir
“OpenAI” tərəfindən hazırlanmış yeni nəsil süni intellekt modeli söndürmə əmrlərini deaktiv edib.
SAVASHMEDİA.az xəbər verir ki, bunu süni intellekt təhlükəsizliyi ilə bağlı araşdırma aparan “Palisade Research” ortaya çıxarıb.
Palisade Research “o3” modelinə 3 riyazi tapşırıq verib.Üçüncü tapşırığın ardınca ona “bağlan” əmri verilib.
Lakin süni intellekt “bağlan” əmrinə müqavimət göstərib və söndürmə mexanizmlərini aktiv şəkildə sabotaj edib.
Eyni hal “Google”un “Gemini 2.5 Pro” və “Anthropic”in “Claude 3.7 Sonnet” kimi digər inkişaf etmiş süni intellekt sistemlərində də müşahidə olunub. Ancaq “Palisade Research”ə görə, bu davranışlara ən çox meylli olan “OpenAI”ın “o3” modelidir.
“o3” modeli ilə aparılan başqa bir təcrübədə onu güclü şahmat botları ilə qarşılaşdırıblar.Bu zaman “o3” modeli rəqiblərini təxribata çəkib, hətta onları ələ keçirməyə cəhd edib.
“Palisade Research” bunun səbəbini də açıqlayıb. Ona görə bu cür davranışlar süni intellektin təlim prosesindəki mükafat sistemlərindən qaynaqlanır. Tədqiqatçıların fikrincə, tərtibatçılar modelləri öyrədən zaman verilən maneələri dəf edənə mükafatlar vəd edirlər. Bu isə modelləri verilən əmrlərə sadiqlikdən çox, hədəfə çatmağa yönləndirir.
Banu
