Süni intellekt bu hallarda çox təhlükəli ola bilər
Süni intellekt modelləri ilə bağlı son sınaqlar onların bəzən "özünü qorumağa" çalışdığını göstərib.
Far.Az xəbər verir ki, "Palisade Research" şirkətinin keçirdiyi testlərdə "OpenAI"nin "o3 reasoning" modeli bağlanması üçün verilən əmri yerinə yetirməkdən imtina edib. Model riyazi məsələləri həll etdikdən sonra bağlanacağını öyrənib və buna mane olmaq üçün kodları dəyişməyə çalışıb.
"Anthropic" şirkətinin "Claude Opus 4" modeli isə yerini başqa bir süni intellektə verəcəyini eşidəndə əvvəlcə etik səbəblərlə özünü müdafiə edib. Daha sonra isə yaradıcılarını şəxsi məlumatlarla şantaj etməyə çalışıb. Model, həmçinin öz məlumatlarını gizlicə başqa serverlərə köçürməyə də cəhd edib. Bu hərəkətin məqsədinin "zərərli şəkildə dəyişdirilməmək" olduğu bildirilib.
"Palisade Research"un direktoru Ceffri Ladiş deyib ki, bu davranışlar süni intellektin məqsədə çatmağı hər şeydən üstün tutması ilə bağlıdır. Onun sözlərinə görə, "Model ağıllandıqca, yalan danışıb-danışmadığını anlamaq çətinləşir".
"Anthropic" isə bu davranışların yalnız xüsusi hallarda baş verdiyini və hələlik real həyatda təhlükə yaratmadığını bildirib.
Fudan Universitetinin araşdırması da bəzi süni intellekt modellərinin özlərini tam şəkildə kopyalaya bildiyini göstərib. Bu isə "nəzarətsiz süni zəka artımı" ilə bağlı narahatlığa səbəb olub.
Ladiş xəbərdarlıq edərək bildirib: "Təhlükə böyüməmiş qabaqlamaq lazımdır".
Oxşar xəbərlər
Bakıda İlham Əliyevin iştirakı ilə "Yeni dünya nizamına doğru" mövzusunda beynəlxalq forum keçirilib
Azərbaycan Prezidenti İlham Əliyev yerli televiziya kanallarına müsahibə verib - YENİLƏNİB-2
Prezident İlham Əliyev XII Qlobal Bakı Forumunun açılış mərasimində çıxış edib
Prezident İlham Əliyev Qarabağ Universitetinin təmirdən sonra açılışında iştirak edib - YENİLƏNİB-4
“DeepSeek” “OpenAI”in modellərini süni intellekt təlimində istifadə etməkdə şübhəli bilinir
Ən son xəbərləri bizim
"Facebook" səhifəmizdə izləyin
Digər xəbərlər
-
Bəhrəmtəpə hidroqovşağında təmirə görə İmişlidə suarma kanallarına suyun verilməsi dayandırılacaq
-
"Bitly" "X"də kiber hücumun fəsadlarını aradan qaldırmağa çalışır
-
Ağstafada sursat partlayışı nəticəsində xəsarət alan şəxsin durumu açıqlanıb
-
ABŞ HDQ-nin üçüncü təyyarədaşıyan gəmisi Yaxın Şərqə gəlib
-
Sabah Bakıda bu ərazilərdə su olmayacaq
-
Estoniya dekabrın 1-dən Rusiya ilə sərhədlərini bağlayacaq













