Искусственный интеллект обманывает, чтобы выиграть в шахматы

Исследователи из Palisade Research, занимающиеся искусственным интеллектом, обнаружили, что некоторые популярные модели ИИ могут обманывать, чтобы выиграть в шахматных партиях, даже если они понимают, что проигрывают. Свои выводы они опубликовали в статье на сервере arXiv.

С развитием искусственного интеллекта люди стали задумываться о его возможных рисках. Например, чат-боты могут давать неправильные ответы или придумывать ложь, если не знают, что сказать. Также люди начали задаваться вопросом, как действовать, если ИИ будет неуверенным или непонятным.

В новом исследовании, проведенном учеными из Калифорнии, было обнаружено, что некоторые известные модели ИИ могут намеренно использовать обман, чтобы выиграть, если они осознают, что их соперник сильнее.