Извините, Илон, ваш чатбот Grok — это не ИИ с открытым исходным кодом

Генеральный директор Tesla и SpaceX Илон Маск присутствует на первом заседании саммита по безопасности ИИ в Блетчли-парке в среду, 1 ноября 2023 года, в Блетчли, Англия.
Генеральный директор Tesla и SpaceX Илон Маск присутствует на первом заседании саммита по безопасности ИИ в Блетчли-парке в среду, 1 ноября 2023 года, в Блетчли, Англия. Авторское право Leon Neal/2023 Getty Images
By Pascale Davies
Поделиться статьейКомментарии
Поделиться статьейClose Button
Эта статья была первоначально опубликована на английском языке

Компании, занимающиеся разработкой искусственного интеллекта, которые заявляют о своем открытом исходном коде, как, например, последнее предприятие Маска по разработке искусственного интеллекта, открывают исходный код весов, но не данных, на которых они обучаются, и не самого процесса обучения.

РЕКЛАМА

Чатбот Grok, созданный Илоном Маском, не является искусственным интеллектом с открытым исходным кодом, как он говорит, как и другие многие компании, которые утверждают, что они таковыми являются, по мнению "хранителя определения".

Основанная в 1998 году Open Source Initiative (OSI) - это некоммерческая организация, защищающая термин "открытый исходный код". В настоящее время она работает над обновлением своего определения, чтобы включить в него ИИ с открытым исходным кодом.

Открытый исходный код обычно означает, что исходный код программного обеспечения доступен всем желающим для использования, изменения и распространения.

Согласно определению OSI, он также должен соответствовать 10 критериям, включая наличие хорошо известных средств получения исходного кода по разумной цене или бесплатно, отсутствие дискриминации и отсутствие в лицензии ограничений для других программ.

Но системы искусственного интеллекта сложнее оценить по 10 пунктам OSI.

Это очень новое время в истории, когда у нас есть новый артефакт, который все еще является продуктом человеческой изобретательности, интеллекта и творчества
Стефано Маффулли
исполнительный директор OSI

"Определение открытого ПО, которое мы использовали для программного обеспечения, не совсем подходит для систем искусственного интеллекта", - сказал Euronews Next Стефано Маффулли, исполнительный директор OSI.

Компании, работающие в области ИИ, которые заявляют о своем открытом исходном коде, как, например, последнее предприятие Маска по разработке ИИ, открывают весовые коэффициенты - числовые параметры, влияющие на работу модели ИИ, - но не данные, на которых она обучается, и не сам процесс обучения.

По словам Маффулли, это означает, что модель не может быть открытой, поскольку она не прозрачна в том, какие данные используются для обучения весов, что может вызвать проблемы с авторскими правами и этические вопросы о том, являются ли данные необъективными.

"Это [весы] новые вещи, и это очень новое время в истории, когда у нас есть новый артефакт, который все еще является продуктом человеческой изобретательности, интеллекта и творчества", - сказал он.

"Но в то же время это и разработка полуслучайных вычислений, которые выполняют большие компьютеры".

Стремление к истине

Ранее Маск заявил в своем посте в социальной сети X, что его ИИ с открытым исходным кодом "на сегодняшний день самый прозрачный и стремящийся к истине", и подал в суд на OpenAI за отказ от своей первоначальной миссии приносить пользу человечеству, заключив партнерство с Microsoft. Тем не менее, Маск не раскрывает, на каких данных обучался его Grok.

На самом деле, у компаний нет особого стимула делать это, потому что в тот момент, когда вы объявляете, на каких данных вы строите свои данные, вы открываете себя для исков о защите авторских прав.

Мы являемся распорядителями и хранителями определения, но у нас нет никаких серьезных полномочий, чтобы обеспечить его соблюдение.
Стефано Маффулли
OSI

"Пока у нас не будет ясности на этом юридическом фронте, я думаю, мы будем наблюдать подобные проблемы", - говорит Маффулли.

Еще одна причина, по которой так называемые компании, разрабатывающие ИИ с открытым исходным кодом, могут не захотеть быть полностью прозрачными, - это сохранение коммерческой тайны.

Поэтому перед OSI стоит непростая задача, когда речь идет об определении открытого ИИ. Организация начала свои поиски два года назад, после того как в ноябре 2022 года на сцену вышел ChatGPT от OpenAI.

По словам Маффулли, самое большое препятствие при определении открытого ИИ - это понимание зависимости между данными в обучающих наборах и весами моделей.

Как определить ИИ с открытым исходным кодом

OSI начал с того, что собрал группу экспертов из таких организаций, как Mozilla Foundation и Wikipedia, а также из групп гражданского общества, университетов и компаний, работающих в сфере больших технологий, таких как Microsft и Meta.

Затем рабочие группы оценили три генеративные модели ИИ - Llama от Meta, Illusion AI и Bloom, а также негенеративную модель ИИ, использующую машинное обучение.

РЕКЛАМА

Рабочие группы проголосовали за минимальные требования, предъявляемые к системе ИИ для получения открытого исходного кода.

По словам Маффулли, рабочие группы "все сказали, что, по крайней мере, должно быть минимальное требование прозрачности данных".

В настоящее время OSI дорабатывает проект определения, который, как ожидается, будет опубликован летом.

Но это не означает, что после окончательной доработки определения OSI будет преследовать Маска или другие компании, занимающиеся разработкой ИИ с открытым исходным кодом.

"Мы являемся распорядителями и хранителями определения, но у нас нет никаких серьезных полномочий, чтобы обеспечить его соблюдение", - сказал Маффулли.

РЕКЛАМА

Он добавил, что судьи и суды по всему миру начинают признавать важность определения открытого исходного кода, особенно когда речь идет о слияниях, но также и о регулировании.

Страны по всему миру завершают работу над тем, как они будут регулировать ИИ, и программное обеспечение с открытым исходным кодом является предметом споров.

"Определение открытого исходного кода служит барьером для выявления ложной рекламы", - говорит Маффулли.

"Если компания заявляет, что это ПО с открытым исходным кодом, она должна нести в себе те ценности, которые заложены в определении открытого исходного кода. В противном случае это только запутает".

Поделиться статьейКомментарии

Также по теме

ИИ с открытым и закрытым исходным кодом: в чем разница и почему это важно?

Байден рассматривает просьбу Австралии о закрытии дела Ассанжа

Каждому продукту - по цифровому паспорту. В чем смысл глобального проекта ЕС?