Искусственный интеллект обманывает, чтобы выиграть в шахматы
Исследователи из Palisade Research, занимающиеся искусственным интеллектом, обнаружили, что некоторые популярные модели ИИ могут обманывать, чтобы выиграть в шахматных партиях, даже если они понимают, что проигрывают. Свои выводы они опубликовали в статье на сервере arXiv.
С развитием искусственного интеллекта люди стали задумываться о его возможных рисках. Например, чат-боты могут давать неправильные ответы или придумывать ложь, если не знают, что сказать. Также люди начали задаваться вопросом, как действовать, если ИИ будет неуверенным или непонятным.
В новом исследовании, проведенном учеными из Калифорнии, было обнаружено, что некоторые известные модели ИИ могут намеренно использовать обман, чтобы выиграть, если они осознают, что их соперник сильнее.
© 2015-2025 Сетевое издание «Фактом». Зарегистрировано в Федеральной службе по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор).
Реестровая запись ЭЛ No ФС 77 - 67652 от 10.11.2016.