Энергоэффективная модель искусственного интеллекта: новый подход к работе ИИ

Учёные из Microsoft Research и Университета Китайской академии наук разработали новую модель искусственного интеллекта (ИИ), которая может работать на обычном процессоре, а не на более мощном графическом процессоре. Они опубликовали результаты своей работы на сайте arXiv.

В последние годы большие языковые модели (LLM), такие как ChatGPT, стали популярными. Эти модели используют графические процессоры для обучения на больших объемах данных. Однако это требует много энергии.

Учёные предложили новый способ работы ИИ, который потребляет меньше энергии. Они отказались от использования чисел с плавающей запятой, которые требуют много памяти и энергии, и предложили использовать 1-битную архитектуру. Это позволило снизить энергозатраты, не ухудшая качество работы модели.