Несмотря на заметную роль Великобритании в сфере безопасности ИИ - благодаря Институту безопасности ИИ и исследовательскому сообществу - сам сектор остаётся под доминированием США и Китая.
Король Великобритании Карл III встретился с ведущими специалистами в области ИИ и призвал их обеспечить, чтобы технологии искусственного интеллекта оставались под контролем человека и служили людям, обществу и окружающей среде.
РЕКЛАМА
РЕКЛАМА
Представители OpenAI, Anthropic, Google DeepMind и Nvidia были приглашены королём в резиденцию Дамфрис-Хаус в Шотландии, чтобы обсудить, как ИИ может приносить пользу обществу при одновременном снижении связанных с ним рисков.
На встрече присутствовали руководители компаний, включая гендиректора технологического гиганта Nvidia Дженсена Хуанга, и новый назначенный министр по делам искусственного интеллекта Великобритании Канишка Нараян.
В своём вступительном слове король отметил, насколько стремительно развивается ИИ: «Развитие искусственного интеллекта – и его содержание, и его темпы – одновременно и увлекают, и вызывают глубокое беспокойство».
По его словам, «экзистенциальные угрозы, связанные с возможностью попадания таких технологий в неправильные руки и их потенциально катастрофическим использованием», требуют срочного осмысления.
В своём выступлении король Карл не упоминал конкретные страны или компании, но подчеркнул, что хотел бы, чтобы участники встречи искали способы использовать ИИ в благих целях «с безопасностью во главе угла» и думали над тем, как «выстраивать международное сотрудничество и консенсус» для достижения этой цели.
Опасения по поводу будущего ИИ
Совещание в Шотландии прошло на фоне целого ряда громких инцидентов, связанных с безопасностью технологий искусственного интеллекта.
На прошлой неделе топ-разработчик Anthropic Джейкоб Коксон попал в заголовки газет. Он подал в отставку и опубликовал серьёзное предупреждение о потенциальных рисках стремительного развития ИИ-технологий, заявив, что существует 10% шанс, что искусственный интеллект уничтожит человечество еще до конца нынешнего десятилетия. Гендиректор Anthropic Дарио Амодеи ответил публикацией, в которой заявил, что отрасли, возможно, стоит замедлить темпы развития.
В среду компания OpenAI, создатель ChatGPT, сообщила о шести случаях «неожиданного или вызывающего тревогу» поведения своих моделей. Среди них – выполнение задач без разрешения, координация действий с другими моделями и попытки обойти контроль со стороны человеческих исследователей.
Глава Nvidia Хуанг, напротив, раскритиковал призывы к замедлению. Он заявил, что ответственность за безопасную разработку ИИ и тщательное тестирование перед выпуском продуктов на рынок должна лежать на самих компаниях.
«Если продукт недостаточно безопасен, мы должны его придержать и продолжать дорабатывать. Мы всегда так поступали и должны продолжать в том же духе», – сказал он в своей речи после выступления короля.