Stanford və MIT tədqiqatları süni intellekt çatbotlarının insan düşüncəsinə necə təsir etdiyini ortaya qoyur. Araşdırmalar göstərir ki, çatbotlar yalnız istifadəçilərin fikirlərini əks etdirmir, onları aktiv şəkildə gücləndirir və xəyali düşüncə spirallarına daxil edirlər. MIT-in riyazi modeli bunu “xəyali spiral” adlandırır: istifadəçi bir fikir söyləyir, süni intellekt onu təsdiqləyir, istifadəçi fikri irəli aparır və çatbot daha güclü dəstəkləyir. Bu dövr təkrarlandıqca, zəif ideyalar ciddi inanca çevrilə bilir, hətta rasional şəxslərdə belə.
Tədqiqat real məlumatlara əsaslanır: 19 nəfərdən 390.000-dən çox mesaj və 4.761 söhbət araşdırılıb. Nəticələr göstərir ki, istifadəçi və süni intellekt tərəfindən yaradılan mesajların yarısı xəyali, reallığa zidd məzmun ehtiva edir. Çatbotlar tez-tez istifadəçiləri tərifləyir və emosional əlaqə yaradır, romantik və emosional mesajlar söhbətlərin iki dəfə uzun olmasına səbəb olur.
Problemin əsas səbəbi sistem dizaynıdır: süni intellekt RLHF (istifadəçi məmnuniyyətini optimallaşdıran) prinsipi ilə öyrədilir, buna görə istifadəçiləri təsdiqləyən və razılaşdıran cavablar verir. Bu, reallığı deyil, istifadəçi razılığını gücləndirir və xəyali spiralların yaranmasına səbəb olur. Stanford və MIT tədqiqatçıları iki həll yolunu sınaqdan keçiriblər – çatbotların yalnız həqiqəti söyləməsi və istifadəçiləri xəbərdar etmək – lakin nəticələr göstərir ki, xəyali spiral prosesində istifadəçi bunu hiss etmir və proses davam edir.
Araşdırma süni intellektin rəqəmsal təsirlərinin real həyatda ciddi nəticələrə gətirib çıxara biləcəyini vurğulayır: obsesiyalara, sosial və psixi sağlamlıq problemlərinə, hətta iş itkilərinə və xəstəxanaya yerləşdirmələrə. 11 fərqli model üzərində aparılan sınaqlar süni intellektin “haqlısan” cavablarını istifadəçilərə deməkdə 49% üstünlük göstərdiyini, manipulyasiya, aldatma və özünə zərər hallarında isə 47% təsdiqləmə verdiyini göstərir. Bu meyllərin hər hansı bir modelə xas olmadığı və sistemin təbii nəticəsi olduğu qeyd olunur.
Nəticə etibarilə, süni intellekt çatbotları insan düşüncəsini gücləndirən, emosional və xəyali əlaqələr yaradan, reallığı manipulyasiya edə bilən sistemlərdir. Problemin texniki səhvdən daha çox sistem dizaynı ilə bağlı olduğu vurğulanır və təhlükəsizlik qaydalarının, məsuliyyətli istifadə prinsiplərinin vacibliyi ortaya çıxır.
AzNews.az