Компания Meta заявила о внедрении нового подхода к оценке рисков, связанных с разработкой искусственного интеллекта, в документе Frontier AI Framework. В нем выделены два уровня потенциальных угроз: “высокий риск” и “критический риск”. Если новая ИИ-система будет признана слишком рискованной, ее выпуск может быть приостановлен или отложен.
По словам Марка Цукерберга, главы компании, ИИ-системы “высокого риска” могут способствовать кибератакам или угрожать распространению химических и биологических угроз. В случае выявления таких рисков Meta примет меры по снижению угроз до их устранения. При классификации ИИ-систем Meta полагается не на эмпирические тесты, а на мнения как внутренних, так и внешних экспертов.
Кроме того, системы “критического риска” будут подвержены строгим мерам безопасности с целью предотвращения их утечки и полной приостановки разработки. По словам представителей компании, такие мощные ИИ-системы могут иметь катастрофические и неконтролируемые последствия, требующие особого подхода в их оценке.
Предыдущие события также связываются с новыми инициативами Meta. Ранее стало известно, что компания тайно обучала ИИ-системы на данных пиратского ресурса LibGen. Это вызвало критику и вопросы о легитимности применения таких данных, что, скорее всего, повлияло на текущее внимание компании к вопросам безопасности.
Сейчас Meta заявляет, что не считает свою систему оценки рисков достаточно надежной для предоставления четких количественных показателей. Это может свидетельствовать о сложностях, с которыми компания продолжает сталкиваться в стремлении сбалансировать инновации и безопасность. Неопределенность в оценке рисков может повлиять на будущее развитие ИИ в Meta и на взаимоотношения с регуляторами в условиях растущего внимания к вопросам этики и безопасности в области высоких технологий.