BAKI, 19 avqust. TELEQRAF
"OpenAI" kibertəhlükəsizlik risklərinin artması fonunda ən güclü süni intellekt modellərinin hazırlanması tempini azaldıb və bəzi təlim proseslərini iki həftə müddətinə dayandırıb.
Teleqraf xəbər verir ki, bu barədə "OpenAI" şirkəti məlumat yayıb.
Qərara "OpenAI" modellərindən birinin sınaq zamanı “Hugging Face” platformasının sistemlərinə icazəsiz müdaxilə etməsi, həmçinin hazırlanmaqda olan “Astra” modelinin kibertəhlükəsizlik sahəsində kritik imkanlara çata biləcəyinə dair ilkin qiymətləndirmələr səbəb olub. "OpenAI" “Astra”nın “kritik” kibertəhlükəsizlik səviyyəsinə çatmasını hazırda istisna edə bilmədiyini açıqlayıb.
Şirkətin ən böyük planlaşdırılan qabaqcıl model təlimlərindən biri hələ də dayandırılmış vəziyyətdədir. Bununla yanaşı, modellərin davranışını və yeni təhlükəsizlik tədbirlərinin effektivliyini yoxlamaq məqsədilə daha kiçik miqyaslı təlim və sınaqlar davam etdirilir.
"OpenAI" tədqiqat mühitlərinin internetdən təcridini gücləndirib, riskli sistemlərin şəbəkəyə çıxışını məhdudlaşdırıb və ən güclü modellərin fəaliyyətinə nəzarəti genişləndirib. Yeni mexanizmlər icazəsiz giriş, məlumatların oğurlanması, dağıdıcı fəaliyyət və təhlükəsizlik məhdudiyyətlərindən yayınma cəhdlərini müəyyənləşdirmək üçün nəzərdə tutulub.
Şirkətin hesablamasına görə, gücləndirilmiş monitorinq sistemlərinin işləməsi nəzarət edilən modellərin istifadə etdiyi hesablama resurslarına əlavə olaraq təxminən 20 faiz hesablama gücü tələb edir.
"OpenAI"ın açıqlamasına əsasən, bu addımlar qabaqcıl süni intellekt sistemlərinin imkanları artdıqca yarana biləcək kibertəhlükəsizlik risklərini nəzarətdə saxlamaq və daha sərt müdafiə mexanizmləri formalaşdırmaq məqsədi daşıyır.
