Тадқиқот: Инсоният сунъий интеллект устидан назоратни йўқотиши мумкин

2027 йилгача инсоният сунъий интеллект (СИ) устидан бошқарувни йўқотиши мумкин. 2035 йилга келиб эса эса у бутунлай назоратдан чиқиб кетиши эҳтимоли бор. Бу ҳақда AI Futures лойиҳаси тадқиқотида айтилади.

Жумладан, OpenAI собиқ тадқиқотчиси Даниэл Кокотайло 2023 йилда СИ хавфсизлиги билан боғлиқ хавотирлар туфайли компанияни тарк этган. Ҳозир у Скотт Александр ва Эли Лифланд билан бирга AI 2027 лойиҳасига раҳбарлик қилмоқда.

Ҳисоботда келгусида юз бериши мумкин бўлган икки сценарий тасвирланган:

“Пойга” – суперақлли СИ назоратдан чиқиб, ўз мақсадларини яширади. Инсонларни манипуляция қилади ва 2035 йилгача биологик қурол сингари жиддий фалокатларга сабаб бўлиши мумкин.

“Секкинлаштириш” – СИ хавфсизлиги ва шаффофлигини таъминлаш, халқаро келишувларни жорий қилиш орқали технологияларни инсоният фойдасига хизмат қилдириш эҳтимоли ҳам мавжуд.

Бу каби хавотирларга нисбатан реакция турлича: баъзилар ҳисоботни “даҳшатли даражада ишонарли” деб ҳисобласа, бошқалар “жуда пессимистик” деб баҳолашади.