Оценка взаимодействия человека с ИИ: важность понимания реакций людей на работу алгоритмов

Новое исследование показало, что для успешного использования искусственного интеллекта (ИИ) в важных областях, таких как здравоохранение и авиаперевозки, недостаточно просто хорошо настроить ИИ и быстро обучить сотрудников. Нужно также оценивать, как люди взаимодействуют с ИИ, особенно в ситуациях, когда безопасность имеет первостепенное значение.

Исследователи считают, что важно оценивать не только алгоритмы ИИ, но и людей, которые ими пользуются. Это поможет понять, как люди реагируют на различные результаты работы ИИ — хорошие, средние и плохие. Такие оценки помогут выявить риски, связанные с ошибками ИИ.

В исследовании участвовали 450 студентов-медиков и 12 лицензированных медсестер из Университета штата Огайо. Они использовали ИИ для удаленного мониторинга состояния пациентов, чтобы понять, насколько вероятно, что им потребуется неотложная помощь.