Sunʻʻiy intellekt insoniyatga tahdid solmoqda

AQSh Davlat departamenti buyurtmasi asosida tayyorlangan hisobotda sunʻʻiy intellekt odamzodga tahdid solayotgani, eng yomon stsenariyda insoniyatning yoʻq boʻlib ketishiga sababchi boʻlishi aytilgan. Hisobotda uning xatarlarini kamaytirish boʻyicha choralar, jumladan, maxsus Federal agentlik tashkil etish, kuchli modellar tafsilotlarini ommaga oshkor qilishni taqiqlash va SI xavfsizligi boʻyicha tadqiqotlarni moliyalashtirish taklif qilindi.

Amerikaning TIME jurnali AQSh Davlat departamenti (TIV) buyurtmasi asosida Gladstone AI kompaniyasi tomonidan tayyorlangan sunʻʻiy intellekt (SI) xavfsizligi boʻyicha hisobotning asosiy xulosalarini eʻʻlon qildi.

2022 yil noyabrʻ oyida boshlangan tadqiqotda hisobot mualliflari hukumat amaldorlari, ekspertlar va etakchi sunʻʻiy intellekt laboratoriyalari, jumladan OpenAI, Google DeepMind, Anthropic va Meta xodimlari bilan 200 dan ortiq intervʻyu oʻtkazib, bu sohadagi sunʻʻiy intellekt xavfsizligi boʻyicha xavotirlarni ochib berdi.

“Sunʻʻiy intellekt xavfsizligini oshirish boʻyicha chora-tadbirlar rejasi” deb nomlangan hisobot 247 sahifadan iborat boʻlib, 250 ming AQSh dollari evaziga tayyorlangan.

U sunʻʻiy intellekt boʻyicha xatarlarni kamaytirish boʻyicha chora-tadbirlar, jumladan, SI boʻyicha Federal agentlikni tashkil etish, kuchli SI modellari tafsilotlarini ommaga oshkor qilishni taqiqlash, sunʻʻiy intellekt chiplari ishlab chiqarish ustidan nazoratni kuchaytirish va SI xavfsizligi boʻyicha tadqiqotlarni moliyalashtirishni taklif qiladi.

Hisobotda: "Eng yomon stsenariyda SI insoniyat uchun yoʻq boʻlib ketish darajasida xavf tugʻdirishi mumkin. SIning hozirgi rivojlanishi milliy xavfsizlikka shoshilinch va ortib borayotgan tahdidlarni keltirib chiqaradi. Ilgʻor va yalpi rivojlanish, xuddi oʻz vaqtida yadro qurolining paydo boʻlishi kabi, global xavfsizlikni beqarorlashtirish potentsialiga ega”, - deyiladi.

Hisobot sunʻʻiy intellektni qurollanish va SI tizimlari ustidan nazoratni yoʻqotish xavfini taʻʻkidlab, misli koʻrilmagan foydalanish xavfi va dushmanona xatti-harakatlari ehtimoli tilga olinadi. Maqolada, shuningdek, SI sanoatida xavfsizlikdan koʻra rivojlanish tezligini birinchi oʻringa qoʻyadigan "raqobat dinamikasi" borligidan tashvish bildirilgan.

Tadqiqotchilar SI bilan bogʻliq milliy xavfsizlikka tahdidlarni bartaraf etish uchun AQSh hukumati tomonidan "tezkor va qatʻʻiy" choralar koʻrish zarurligini taʻʻkidladilar.