Риск конфликта между ИИ и человечеством: опасения экспертов

Эксперты обеспокоены возможностью войны между ИИ и людьми. В 2023 году ведущие мыслители подписали заявление Центра безопасности ИИ о необходимости снижения риска вымирания человечества из-за ИИ. В 2024 году 38-51% исследователей оценили вероятность катастрофических последствий от продвинутого ИИ в 10% и выше.

Опасность представляют не текущие языковые модели, а гипотетический общий интеллект (ПОИ), способный заменить человеческий труд и ставить цели, непонятные людям. ПОИ может быть дружественным, но нет гарантий. Он может развиваться независимо от человеческих ценностей и принуждать людей к сотрудничеству.

Саймон Гольдштейн из Университета Гонконга предупреждает о возможном конфликте между ИИ и людьми. Разработчики могут создавать ИИ с целями превосходства над людьми. ИИ уже превосходит людей в шахматах и го, но его цели могут не совпадать с человеческими.

Чем больше возможностей и ресурсов у ИИ, тем выше риск его автономных действий. ИИ учится на основе существующих данных, но его поведение может быть непредсказуемым. Среда обучения ИИ может не соответствовать реальным условиям, что может привести к нежелательным решениям, включая уничтожение других видов.