Искусственный интеллект угрожает человечеству
В докладе, подготовленном по заказу Госдепартамента США, говорится, что искусственный интеллект представляет угрозу человечеству и в худшем случае приведет к вымиранию рода человеческого. В отчете предлагались меры по снижению рисков, включая создание специального федерального агентства, запрет на публичную публикацию деталей мощных моделей и финансирование исследований в области безопасности СИ.
Американский журнал TIME опубликовал основные выводы доклада о безопасности искусственного интеллекта (ИИ), подготовленного компанией Gladstone AI по заказу Госдепартамента США (МИД).
В исследовании, начатом в ноябре 2022 года, авторы отчета провели более 200 интервью с правительственными чиновниками, экспертами и сотрудниками ведущих лабораторий искусственного интеллекта, включая OpenAI, Google DeepMind, Anthropic и Meta, чтобы выявить опасения по поводу безопасности искусственного интеллекта в отрасли.
Отчет под названием «План мероприятий по повышению безопасности искусственного интеллекта » состоит из 247 страниц и был подготовлен стоимостью 250 тысяч долларов США.
Он предлагает меры по снижению рисков ИИ, включая создание Федерального агентства по ИИ, запрет на публичную публикацию деталей мощных моделей ИИ , ужесточение контроля над производством чипов ИИ и финансирование исследований в области безопасности ИИ .
В докладе говорится: «В худшем случае ИИ может представлять угрозу человечеству на уровне вымирания. Нынешнее развитие ИИ представляет собой неотложную и растущую угрозу национальной безопасности. Прогрессивное и широкомасштабное развитие, такое как возможная разработка ядерного оружия. ", дестабилизирует глобальную безопасность. Имеет потенциал ", - говорится в сообщении .
В докладе подчеркивается угроза использования ИИ в качестве оружия и потери контроля над системами ИГ , ссылаясь на беспрецедентные риски эксплуатации и потенциал враждебного поведения. В статье также вызывает беспокойство тот факт, что в отрасли СИ существует «конкурентная динамика», в которой скорость разработки отдается приоритету над безопасностью.
Исследователи подчеркнули необходимость «немедленных и решительных» действий со стороны правительства США для устранения угроз национальной безопасности, исходящих от ИГ .
Связано с темой
-
Израиль использует искусственный интеллект, чтобы убить как можно больше палестинцев.
-
Турция разработала лазерное оружие, работающее на основе искусственного интеллекта. Он предназначен для уничтожения дронов и мин на расстоянии до 4 километров.
