ABŞ-nin Massaçusets Universitetinin (MIT) tədqiqatçıları “Saxta süni intellekt”lə bağlı yeni araşdırma yayımlayıb. Araşdırmaya görə, bəzi süni intellekt sistemləri insanları aldatmağı artıq öyrəniblər.

Teleqraf.com xəbər verir ki, bu süni intellekt sistemləri onlayn oyunlarda oyunçuları aldatmaq və ya CAPTCHA-dan yan keçmək (“Mən robot deyiləm”) kimi vəzifələri yerinə yetirə bilir.

Tədqiqatçılara görə, əhəmiyyətsiz görünən bu amilin real həyatda ciddi nəticələri ola bilər.

Ən ciddi nümunə “Meta” şirkətinin “Diplomatiya” oyununda öyrədilmiş “Cicero” alqoritmidir. Bu oyun zamanı istifadəçi dünyanı fəth etmək üçün ittifaqlar yaratmalıdır. Faydalı olmaq üçün proqramlaşdırılmış alqoritm qalib gəlmək üçün razılaşmaları pozaraq, aldatma ustasına çevrilib.

Başqa bir misal görmə qabiliyyətini itirmiş kimi davranan və CAPTCHA-ları onun adından keçmək üçün insanları işə götürən GPT-4-lə bağlıdır. Yeni araşdırmada onlarla belə nümunə var, bunların hamısı müxtəlif süni intellekt sistemlərinin aldatma qabiliyyətini göstərir.

Tədqiqat süni intellektə dürüstlüyün öyrədilməsinin vacibliyini vurğulayır. Ənənəvi proqram təminatından fərqli olaraq, dərin öyrənmə ilə süni intellekt sistemləri seçimə bənzər prosesdə inkişaf edir və zamanla davranışı dəyişə bilir. Bu, fırıldaqçılıq, saxtalaşdırma və geniş mənada, prinsipcə sistemlər üzərində nəzarətin itirilməsi riskləri yaradır.

Avropa Birliyi bu ilin martında süni intellektlə bağlı dünyada ilk qanunu qəbul edib. Sənəd real və potensial riskləri nəzərə almaqla bu texnologiyadan istifadəni tənzimləməli, həmçinin dünyada qanunvericilik meylini müəyyənləşdirməlidir.

Eyni zamanda, ChatGPT və DALL-E-ni yaradan OpenAI şirkəti öz məhsullarında böyüklər üçün məzmunun yaradılmasının təsdiqlənməsi imkanlarını müzakirə edir. Hər iki xidmət senzura ilə tanınır.