Дарио Амодеи, глава компании Anthropic, создавшей ИИ-модель Claude, призвал замедлить развитие передовых AI-технологий и начать их тщательно контролировать.
Фото: открытые источники.
В опубликованной в субботу статье Амодеи пишет, что он не ставит под вопрос необходимость развития ИИ, но в то же время видит, что это развитие одновременно несет с собой серьезные угрозы для человечества в целом.
Глава Anthropic предлагает ужесточить контроль над развитием ИИ на трех основных направлениях:
- независимый мониторинг моделей искусственного интеллекта и их совершенствования;
- разработка правил внутри самой индустрии;
- принятие AI-ограничений на глобальном уровне.
В последнее время в мире растет беспокойство по поводу опасностей, с которыми сопряжено развитие AI-технологий. На этой неделе, в частности, эксперт Anthropic в области безопасности использования ИИ Эван Хьюбингер заявил, что искусственный интеллект в ближайшее десятилетие с вероятностью выше 10% может погубить все человечество.
Помимо прочего, Anthropic официально заявила, что заблокировала деятельность определенных пользователей, которые пытались применить ее ИИ-разработки для исследований, способных привести к созданию биологического оружия.
Дарио Амодеи призывает развивать ИИ «в сбалансированном темпе, который обеспечит безопасность без отказа от приносимой им пользы». Это, как поясняет руководитель Anthropic, не означает, что обучение моделей нужно остановить. Он лишь призывает компании уделять достаточно времени на настройку безопасности своих разработок, а также на возможность их оценки со стороны независимымых экспертов.
«Я считаю, что если мы выиграем за счет замедления хотя бы год-два до выхода моделей на критический уровень их способностей, и потратим это время на совершенствование мер безопасности и приведение моделей в соответствие человеческим ценностям, мы существенно снизим вероятность серьезной катастрофы» — пишет в своей публикации лидер и руководитель Anthropic.
Дарио указывает, что модели ИИ развиваются очень и очень быстро и, в том числе, совершенствуется их способность самостоятельно создавать уже следующее поколение ИИ-моделей. Амодеи напоминает о происшествии компании OpenAI, которая в июле признала, что ее ИИ-агенты без ведома людей устроили кибератаку на посторонние сайты.
По мнению Дарио Амодеи, альтернативы развитию искусственного интеллекта в мире нет, но этот процесс необходимо контролировать.
Некоторые эксперты предположили, что главный смысл статьи Амодеи — не в безопасности ИИ, а в консолидации контроля над технологией искусственного интеллекта. А есть и такие критики-аналитики, которые обвиняют разработчиков ИИ в том, что они просто таким образом расхваливают свой товар.
Но, как мне представляется, объективный и беспристрастный подход к оценке возможностей искусственного интеллекта не может исключать, что такие «мощности» легко могут погубить и человечество, и планету в целом. И очень важно то, в чьих руках находится такая сила.
Также по теме: WSJ — Трамп сможет сохранить преимущество Америки в области искусственного интеллекта.
Ваш комментарий будет первым