Премьер-министр призывает к «технологическому гуманизму» как ориентиру для будущего и предлагает глобальные стандарты защиты труда, частной жизни и человеческого суверенитета; эта инициатива прозвучала в её июньском выступлении в Эвиане, недавно опубликованном в Италии.
В возобновившейся дискуссии о возможностях и ограничениях искусственного интеллекта (ИИ), разгоревшейся после апокалиптического сценария, описанного бывшим сотрудником Anthropic, и последующего призыва основателя компании Дарио Амодеи притормозить развитие этой технологии, на первый план выходит политика.
РЕКЛАМА
РЕКЛАМА
Дональд Трамп оперативно отреагировал на призывы Амодеи, который при поддержке Сэма Альтмана из OpenAI и других лидеров IT-гигантов, включая Илона Маска, в интервью CBS в воскресенье предупредил о необходимости «мер безопасности» и «роли для государств и общества» наряду с частными компаниями в развитии ИИ.
«Соединённые Штаты опережают Китай в гонке искусственного интеллекта и должны сохранить это преимущество. Кто выигрывает гонку ИИ, тот выигрывает всё», — заявил на выходных во время своего визита в Ирландию президент США, который на церемонию своего вторичного вступления в должность в Белом доме в январе 2025 года пригласил всех руководителей национальных технологических компаний.
А на саммите G7 в Эвиане в июне этого года, напротив, Джорджа Мелони, согласно её выступлению, опубликованному в понедельник в газете La Stampa, призвала выработать правила, которые помогут сформировать общее будущее.
Мелони об ИИ: «Нам нужен моральный компас»
«Искусственный интеллект — это не просто очередная промышленная революция; это самая мощная и взрывная технологическая революция в истории человеческого рода. Только на этот раз, — сказала итальянский премьер мировым лидерам во Франции, — мы впервые не создаём инструмент, усиливающий нашу физическую силу или скорость вычислений, а делегируем машине функцию, которая до сих пор определяла саму специфику человеческого существа: мышление».
Мелони пояснила, что именно эта вступительная часть её речи была написана с помощью искусственного интеллекта, чтобы показать, что «жить в мире, в котором больше нельзя отличить правду от лжи, — значит просто отказаться от основы демократии».
Отсюда ключевой вопрос, который через три месяца вновь вышел на передний план. «Какое решение вы предлагаете? И главное: готовы ли мы договориться о глобальных стандартах, обязательных для отслеживания контента, создаваемого ИИ, — обратилась премьер к участникам встречи в Эвиане, — или позволим рынку самому решать, что должно считаться правдой?»
Какие ограничения и правила можно ввести для ИИ
Прежде чем выступить с призывом к замедлению развития моделей искусственного интеллекта (здесь полный текст выступления, опубликованный в субботу на английском под заголовком We must pace the Frontier), гендиректор Anthropic Амодеи написал в Белый дом, добиваясь государственного вмешательства. Со своей стороны Альтман (после переноса сроков публичного размещения OpenAI) выразил надежду, что такое регулирование удастся выработать совместно США и Китаю, второй крупной движущей силой глобального развития ИИ.
Не случайно председатель КНР Си Цзиньпин на саммите БРИКС недавно выдвинул идею создания зоны искусственного интеллекта между 11 странами-членами группы. И, по‑видимому, с этими позициями связано и то, что, начиная от систем вооружений США и до войны в Украине и Газе, искусственный интеллект уже играет преобладающую роль в военной сфере.
Во Франции, одной из стран, которые задают тон в разработке принципов защиты подростков от злоупотребления социальными сетями, Мелони, однако, акцентирует внимание на третьем элементе, который она описывает как «технологический гуманизм», ставящий в центр нужды и права человека — к чему, в свою очередь, призывает и папа Лев XIV в своей первой энциклике.
«Если алгоритм рискует вытеснить интеллект, если машина способна заменить работника на всех уровнях, мы обязаны обозначить и защитить границы этого человеческого суверенитета, — сказала она, подчеркнув, что это должно быть „общим обязательством“, в которое должны быть вовлечены и крупные технологические компании.
«Какими полномочиями располагает политика и какие обязательства могут взять на себя крупные компании?» — спросила Мелони, обозначив три параметра, которые должны направлять развитие искусственного интеллекта: достоинство труда, контроль над агентами ИИ, которые становятся всё более автономными и несут риск непредсказуемых действий, а также защиту данных и цифровой идентичности в условиях массовой дезинформации.
Своё рассуждение она завершила своего рода заблаговременным ответом на предостережение Трампа относительно недопустимости утраты преимущества в конкуренции с Китаем.
«Но уверены ли мы, что — западное конкурентное преимущество — сохранится? Если верно, а это верно, что ИИ прежде всего является мультипликатором данных, то уверены ли мы, что в долгосрочной перспективе именно режимы не будут располагать наибольшим объёмом данных для обработки, — заключила итальянский лидер, — ведь у них нет правил, например по защите конфиденциальности, предусмотренных в демократических системах».