Монах Паоло Бенанти носит простую коричневую рясу своего средневекового францисканского ордена и при этом решает одну из самых острых проблем современности - как управлять искусственным интеллектом (ИИ), чтобы он обогащал, а не ухудшал жизнь людей. Монах консультирует первых лиц планеты.
РЕКЛАМАБенанти является уполномоченным лицом Ватикана по вопросам технологий, ему доверяют Папа Франциск и ряд руководителей Кремниевой долины. Имея инженерное образование, докторскую степень богослова и страсть к тому, что он сам называет "этикой технологий", 50-летний итальянский священник помогает выполнять неотложную миссию, которую обозначили в Ватикане. Напомним, что папа Франциск в своем ежегодном послании о мире призвал к заключению международного договора для обеспечения этичного использования технологий искусственного интеллекта.
"В чем разница между человеком, который существует, и машиной, которая работает? - задается вопросом Бенанти. - Это, пожалуй, самый большой вопрос в наши дни. Мы стали свидетелями углубляющейся проблемы по мере "очеловечивания" машин".
Помощь или вред?
Бенанти - член консультативного органа ООН по искусственному интеллекту и глава итальянской правительственной комиссии, которой поручено дать рекомендации по защите журналистики от фейка и других форм дезинформации. Он также - эксперт Папской академии жизни. Бенанти уточняет, что во время их встреч о с понтификом помогает "разъяснять Святому Отцу сложные технические термины".
Его квалификация и рекомендации оказались очень нужными, в частности, во время встречи папы Франциска и президента Microsoft Брэда Смита в Ватикане; на ней обсуждалось, как искусственный интеллект может помочь или навредить человечеству. По данным Ватикана, это - не первая дискуссия понтифика и Смита; папа Франциск очень внимательно относится к уязвимым группам населения и беспокоится, что искусственный интеллект может ограничить права человека: негативно повлиять на рассмотрение заявки на ипотеку для желающего купить дом или на прошение мигранта о предоставлении убежища или же на оценку вероятности повторного совершения преступления...
"Совершенно очевидно, что если мы берем данные, которые не являются инклюзивными, то получим на выходе неинклюзивный отбор", - соглашается Бенанти, член ордена, основанного в начале XIII века святым Франциском Ассизским, который отказался от земных богатств и пропагандировал благотворительность. По словам Бенанти, компания Microsoft впервые связалась с ним несколько лет назад, чтобы узнать его мнение об этическом измерении новых технологий.
В 2023 году Смит записал подкаст с Бенанти, отметив в своем собеседнике присутствие "увлекательнейшей комбинации" знаний с точки зрения опыта в области инженерии, этики и технологий.
Встроить ИИ в демократию
Бенанти пришел в монашество в свои 20, оставив в прежней жизни учебу на инженерном факультете и невесту. Он - технооптимист, уверенный, что ИИ может стать "действительно мощным инструментом" в медицине и уходе за людьми.
Риски, связанные с ИИ, по его словам - это прежде всего возможные ошибки в управлении новинкой. "Именно здесь на помощь приходит этика: поиск правильного уровня использования в социальном контексте", - уточняет Бенанти. И обращает внимание на то, что большая часть данных, на основе которых создается ИИ, обрабатывается низкооплачиваемыми работниками, многие из которых живут в развивающихся странах. "Я не хочу, чтобы это время запомнилось тем, что мы извлекаем когнитивные ресурсы из глобального Юга", - говорит монах.
Итальянский премьер-министр Джорджия Мелони, опасающаяся, что ИИ может привести к сокращению рабочих мест, сделает этот вопрос главным на саммите G7, который пройдет в этом году в Италии. Готовясь к мероприятию, Мелони встретилась с основателем Microsoft Биллом Гейтсом, пригласив на переговоры и Бенанти. В интервью AP последний заявил, что регулирование искусственного интеллекта не должно означать ограничение его развития: "Это означает другое: технологии должны быть совместимы с той хрупкой системой, которой является демократия и которая сегодня кажется нам самой лучшей".