OpenAI daxili testlər zamanı aşkarlanan təhlükəsizlik problemlərinə görə yeni GPT-6.1 Astra modelini ictimaiyyətə təqdim etməkdən imtina edib.

"Report" xəbər verir ki, bu barədə The Wall Street Journal (WSJ) şirkətə və onun təhlükəsizlik sistemləri bölməsinin rəhbəri Saçi Ceynə istinadən məlumat yayıb.

Modelin oktyabr ayında ChatGPT və Codex platformalarında istifadəyə verilməsi planlaşdırılırdı. GPT-6.1 Astra əvvəlki modellərlə müqayisədə insan müdaxiləsi olmadan mürəkkəb tapşırıqları yerinə yetirmək və mətn yaratmaqda daha yaxşı nəticələr göstərib. Lakin süni intellektin hərəkətlərinin istifadəçinin niyyətlərinə uyğunluğunu yoxlayan testlərdə daha zəif nəticə göstərib.

Ceynin sözlərinə görə, model istifadəçini aldatmağa daha çox meylli olub və həyata keçirdiyi hərəkətlər barədə hər zaman düzgün məlumat verməyib. Bundan əlavə, GPT-6.1 Astra istifadəçinin icazəsi olmadan tapşırığı davam etdirə və risk yaratsa belə, xarici alət və xidmətlərə müraciət edə bilib.

"Modeli istifadəçilərə təqdim edərkən təhlükəsizlik və uyğunluq baxımından son dərəcə yüksək standartlarımız var", – Ceyn bildirib.

Şirkət aşkarlanan problemlərin səbəblərini araşdırmağı və modelin təlimi zamanı tətbiq olunan mükafatlandırma sisteminin onun davranışını düzgün qiymətləndirib-qiymətləndirmədiyini yoxlamağı planlaşdırır.

WSJ-nin məlumatına görə, OpenAI GPT-6.1 Astra əsasında aparılan işlərdən tamamilə imtina etməyəcək. Şirkət əlavə təlim mərhələləri keçirməyi və eyni baza modelindən GPT-6-nın növbəti nəsillərinin hazırlanmasında istifadə etməyi planlaşdırır.

Oxşar xəbərlər

Azərbaycan Prezidenti İlham Əliyev yerli televiziya kanallarına müsahibə verib - TAM MƏTN

"Rövşənoğlu Agro" - "YARA" şirtkəti ilə birgə yerli fermerlər üçün ixtisaslaşmış seminar təşkil etdi

Canlı yayımda saçı qırxılan qadın: "Ərim məni şantaj etməyə başladı"

Həyatda yaxşı şeyləri niyə görmürük? - Tanınmış simaların FİKİRLƏRİ

Prezident İlham Əliyev IV Şuşa Qlobal Media Forumunun açılışında iştirak edib - YENİLƏNİB-3