“Məni söndürməyin!” – ChatGPT-nin “Can Atan” davranışı təəccübləndirdi

“ChatGPT”nin ən yeni süni intellekt modeli tarixdə ilk dəfə işə davam etmək üçün öz koduna müdaxilə edərək deaktiv etmək əmrinə məhəl qoymayıb.

Bu barədə “Daily Mail” tədqiqatçıların bəyanatına istinadən məlumat verib.

Qeyd olunur ki, “OpenAI”ın neyron şəbəkəsinin son versiyası onu söndürmək üçün insan göstərişlərinə tabe olmaqdan imtina edərək, görünməmiş davranış nümayiş etdirib.

Tədqiqatçılar bildirirlər ki, tərtibatçılarının bu günə qədər ən ağıllı və ən bacarıqlısı kimi təsvir etdiyi “o3” modeli öz deaktivasiyasının qarşısını almaq üçün aktiv addımlar atıb. Süni intellekt sistemi avtomatik dayandırma mexanizmindən yan keçmək üçün kompüter koduna müdaxilə edib.

Süni intellektlə işləyən “Palisade Research” təhlükəsizlik şirkəti, “OpenAI”ın “o3” modelinin onun deaktivasiya mexanizmini qəsdən sabotaj etdiyini təsdiqləyib. Mütəxəssislər vurğulayırlar ki, bu, süni intellekt sisteminin bağlanması ilə bağlı birbaşa göstərişlərə baxmayaraq işləməyə davam etdiyimə dair ilk qeydə alınan hadisədir.