Sunʻʻiy intellekt insoniyatga tahdid solmoqda
AQSh Davlat departamenti buyurtmasi asosida tayyorlangan hisobotda sunʻʻiy intellekt odamzodga tahdid solayotgani, eng yomon stsenariyda insoniyatning yoʻq boʻlib ketishiga sababchi boʻlishi aytilgan. Hisobotda uning xatarlarini kamaytirish boʻyicha choralar, jumladan, maxsus Federal agentlik tashkil etish, kuchli modellar tafsilotlarini ommaga oshkor qilishni taqiqlash va SI xavfsizligi boʻyicha tadqiqotlarni moliyalashtirish taklif qilindi.
Amerikaning
TIME jurnali AQSh Davlat departamenti (TIV) buyurtmasi asosida Gladstone AI kompaniyasi
tomonidan tayyorlangan sunʻʻiy intellekt (SI) xavfsizligi boʻyicha hisobotning
asosiy xulosalarini eʻʻlon qildi.
2022 yil
noyabrʻ oyida boshlangan tadqiqotda hisobot mualliflari hukumat amaldorlari,
ekspertlar va etakchi sunʻʻiy intellekt laboratoriyalari, jumladan OpenAI, Google
DeepMind, Anthropic va Meta xodimlari bilan 200 dan ortiq intervʻyu oʻtkazib, bu
sohadagi sunʻʻiy intellekt xavfsizligi boʻyicha xavotirlarni ochib berdi.
“Sunʻʻiy
intellekt xavfsizligini oshirish boʻyicha chora-tadbirlar rejasi” deb
nomlangan hisobot 247 sahifadan iborat boʻlib, 250 ming AQSh dollari evaziga tayyorlangan.
U sunʻʻiy intellekt boʻyicha xatarlarni kamaytirish boʻyicha
chora-tadbirlar, jumladan, SI
boʻyicha Federal agentlikni tashkil etish, kuchli SI modellari tafsilotlarini ommaga
oshkor qilishni taqiqlash, sunʻʻiy intellekt chiplari ishlab chiqarish ustidan
nazoratni kuchaytirish va SI
xavfsizligi boʻyicha tadqiqotlarni moliyalashtirishni taklif qiladi.
Hisobotda: "Eng yomon stsenariyda SI insoniyat uchun yoʻq boʻlib ketish
darajasida xavf tugʻdirishi mumkin. SIning hozirgi rivojlanishi milliy xavfsizlikka shoshilinch va ortib
borayotgan tahdidlarni keltirib chiqaradi. Ilgʻor va yalpi rivojlanish, xuddi oʻz vaqtida yadro
qurolining paydo boʻlishi kabi,
global xavfsizlikni beqarorlashtirish potentsialiga ega”, - deyiladi.
Hisobot sunʻʻiy intellektni qurollanish va SI tizimlari ustidan nazoratni yoʻqotish
xavfini taʻʻkidlab, misli koʻrilmagan foydalanish xavfi va dushmanona
xatti-harakatlari ehtimoli
tilga olinadi. Maqolada, shuningdek, SI sanoatida xavfsizlikdan koʻra rivojlanish tezligini birinchi
oʻringa qoʻyadigan "raqobat dinamikasi" borligidan tashvish bildirilgan.
Tadqiqotchilar SI bilan bogʻliq milliy xavfsizlikka tahdidlarni bartaraf etish uchun AQSh
hukumati tomonidan "tezkor va qatʻʻiy" choralar koʻrish zarurligini
taʻʻkidladilar.