Надежная проверка искусственного интеллекта: новый подход математика Хуана Гамелья

Когда люди создают ИИ, они часто не знают, будет ли он работать как задумано. Иногда ИИ, который хорошо работает в теории, плохо справляется на практике. Чтобы люди доверяли ИИ, он должен быть надёжным и точным. Это важно как для чат-ботов, так и для научных инструментов.

Перед тем как выпустить новый ИИ в реальный мир, учёные часто проверяют ИИ в компьютерных симуляциях. Однако симуляции не всегда точно отражают реальность, и это может привести к тому, что ИИ кажется лучше, чем он есть на самом деле.

Математик Хуан Гамелья из ETH предложил новый способ проверки ИИ. Этот способ помогает убедиться, что ИИ надёжный и работает правильно.

ИИ состоит из модели и алгоритма. Модель — это система, которая учится на данных и выполняет задачи. Алгоритм — это набор правил, которым следует модель для выполнения задачи.