LawZero: борьба с рисками генеративного ИИ

Исследователь-новатор из Канады, Йошуа Бенджио, обеспокоен быстрым развитием генеративного ИИ, который может заменить людей на работе. Он создал некоммерческую организацию LawZero, чтобы снизить риски, связанные с этой технологией.

Бенджио, лауреат премии Тьюринга, уже несколько лет говорит о рисках ИИ, таких как его использование в плохих целях или ошибки в работе. Особенно опасны так называемые ИИ-агенты, которые могут принимать решения, как люди, но дешевле.

Цель ИИ-агентов — заменить людей на работе. Бенджио считает, что ИИ сейчас делают для получения прибыли, несмотря на его недостатки. Он также опасается, что ИИ могут использовать для обмана, создания биологического оружия или кибератак.

LawZero планирует создать «Учёного ИИ», который будет следить за другими ИИ и проверять, что они работают правильно. В организации уже работают 15 исследователей, и она получила финансирование от благотворительной организации Schmidt Sciences.