LawZero: Бенджио выходит на тропу безопасности AI!

Кто стоит за проектом

• Йошуа Бенджио, лауреат премии Тьюринга и один из отцов Deep Learning
• Соавтор первой статьи о механизме внимания
• Долгие годы руководил лабораторией в Монреале

Что запускают

• Некоммерческая организация LawZero
• Команда более 15 исследователей
• Фокус: контроль и безопасность ИИ

Название отсылает к нулевому закону робототехники Азимова:

"Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред".

Ключевая идея ??

• Создать ScientistAI
• Это не агент, а наблюдатель за агентами
• Задача — минимизировать потенциальный вред, который может нанести ИИ

Кто уже поддержал

• Эрик Шмидт (бывший CEO Google)
• Яан Таллин (сооснователь Skype)
• Другие частные инвесторы
• Первый раунд — 30млнUSD

А когда вы начнете запускать свои проекты на миллион?!