CPAIOR 2024 Proceedings: Ученые научили искусственный интеллект рассуждать справедливо

Американские учёные разработали модель ИИ, которая при принятии решений будет учитывать такой фактор, как справедливость. Исследование было представлено на конференции CPAIOR 2024 Proceedings.

Эксперты объяснили, что современные автоматизированные системы стремятся быть максимально объективными, а новая модель будет делать это с учетом справедливости.

Компьютерная модель использует правила оптимизации социального обеспечения. Другими словами, ИИ учитывает пользу и вред для отдельных личностей.

«При оценке справедливости ИИ одинаково относится к разным социальным группам», — объяснил один из авторов работы.

Модель протестировали на принятии решения по ипотеке для граждан. Кроме прочих факторов, ИИ учитывал, как может измениться их жизнь, если им будет отказано.