AEquity: инструмент для борьбы с предвзятостью в медицинских данных

Ученые из Медицинской школы Икана на горе Синай создали новый способ находить и исправлять ошибки в данных, которые используются для обучения компьютерных алгоритмов в медицине. Это важно, потому что такие ошибки могут влиять на точность диагностики и лечения.

Ученые разработали инструмент под названием AEquity, который помогает находить и исправлять предвзятость в медицинских данных до того, как они используются для обучения искусственного интеллекта (ИИ).

AEquity проверили на разных медицинских данных, включая изображения, истории болезней и результаты Национального обследования состояния здоровья и питания. Инструмент нашел как известные, так и новые предвзятости.

Цель ученых — создать инструмент, который поможет находить и исправлять предвзятость в данных. Они хотят, чтобы ИИ работал хорошо для всех, а не только для самых представленных групп.

AEquity можно использовать с разными моделями ИИ — от простых до сложных. Он подходит для разных объемов данных и может проверять как входные данные (например, результаты анализов), так и выходные (например, диагнозы).