Суперинтеллект: риски и необходимость глобального регулирования

Научные открытия последних лет привели к созданию инструментов ИИ, обещающих прогресс в медицине, науке, бизнесе и образовании. Однако ведущие компании стремятся создать сверхинтеллект, превосходящий людей во всех когнитивных задачах.

Суперинтеллект — это не фантастика, а стратегическая цель с миллиардами инвестиций и участием мировых исследователей. Новое заявление Future of Life Institute призывает к глобальному запрету на его разработку до достижения научного консенсуса и общественного одобрения.

Суперинтеллект может изменить мир, но люди потеряют контроль. Проблема не в зле, а в буквальном выполнении инструкций. История показывает, что сложные системы выходят из-под контроля. Например, финансовый кризис 2008 года начался из-за непредсказуемых взаимодействий инструментов. Пандемия COVID показала, как локальные вспышки могут стать мировыми кризисами.

Создание сверхинтеллекта — это создание разума, способного переписывать код и превосходящего людей в мышлении.