1 час назад
2
Главы Google, Anthropic, Meta (признана в России экстремистской организацией и запрещена), OpenAI, xAI и Nvidia договорились создать независимые комитеты при советах директоров для контроля за безопасностью передовых ИИ-моделей.
Подписанное руководителями технологических компаний и президентом США Дональдом Трампом соглашение опубликовано в Truth Social американского лидера.
«Каждая компания, обучающая и развертывающая передовые модели, должна иметь надежные внутренние процессы и меры контроля. Это необходимо для обеспечения того, чтобы их технологии вели себя должным образом, а любые проблемы оперативно выявлялись и устранялись», — говорится в соглашении.
Помимо других мер предосторожности, компании договорились внедрить четыре уровня контроля и аудита:
- создать внутренние механизмы для мониторинга возможностей и соответствия моделей требованиям безопасности в таких областях, как кибербезопасность, биологические и химические угрозы, а также контролировать, чтобы модели не взламывали технические системы и не получали к ним непредусмотренный доступ;
- наделить полномочиями внутреннюю команду, которая будет следить за работой механизмов контроля, мониторинга и обнаружения проблем и обеспечивать их устранение;
- привлекать независимого внешнего аудитора или оценщика для проверки работы механизмов контроля, мониторинга и обнаружения;
- создать независимый комитет при совете директоров для надзора за этими командами и получения отчетов от внутренних и внешних аудиторов и оценщиков, а также контроля за устранением выявленных проблем.
Участники соглашения также договорились регулярно встречаться для разработки стандартов и обмена передовыми практиками с целью повышения безопасности своих систем.
В документе отмечается, что со временем может возникнуть необходимость закрепить эти меры в законах или нормативных актах. При этом компании обязались внедрить их независимо от того, будут ли они установлены государством в качестве обязательных требований.
Материал дополняется
English (US) · 
Russian (RU) ·