Компании, занимающиеся разработкой искусственного интеллекта, которые заявляют о своем открытом исходном коде, как, например, последнее предприятие Маска по разработке искусственного интеллекта, открывают исходный код весов, но не данных, на которых они обучаются, и не самого процесса обучения.
РЕКЛАМАЧатбот Grok, созданный Илоном Маском, не является искусственным интеллектом с открытым исходным кодом, как он говорит, как и другие многие компании, которые утверждают, что они таковыми являются, по мнению "хранителя определения".
Основанная в 1998 году Open Source Initiative (OSI) - это некоммерческая организация, защищающая термин "открытый исходный код". В настоящее время она работает над обновлением своего определения, чтобы включить в него ИИ с открытым исходным кодом.
Открытый исходный код обычно означает, что исходный код программного обеспечения доступен всем желающим для использования, изменения и распространения.
Согласно определению OSI, он также должен соответствовать 10 критериям, включая наличие хорошо известных средств получения исходного кода по разумной цене или бесплатно, отсутствие дискриминации и отсутствие в лицензии ограничений для других программ.
Но системы искусственного интеллекта сложнее оценить по 10 пунктам OSI.
"Определение открытого ПО, которое мы использовали для программного обеспечения, не совсем подходит для систем искусственного интеллекта", - сказал Euronews Next Стефано Маффулли, исполнительный директор OSI.
Компании, работающие в области ИИ, которые заявляют о своем открытом исходном коде, как, например, последнее предприятие Маска по разработке ИИ, открывают весовые коэффициенты - числовые параметры, влияющие на работу модели ИИ, - но не данные, на которых она обучается, и не сам процесс обучения.
По словам Маффулли, это означает, что модель не может быть открытой, поскольку она не прозрачна в том, какие данные используются для обучения весов, что может вызвать проблемы с авторскими правами и этические вопросы о том, являются ли данные необъективными.
"Это [весы] новые вещи, и это очень новое время в истории, когда у нас есть новый артефакт, который все еще является продуктом человеческой изобретательности, интеллекта и творчества", - сказал он.
"Но в то же время это и разработка полуслучайных вычислений, которые выполняют большие компьютеры".
Стремление к истине
Ранее Маск заявил в своем посте в социальной сети X, что его ИИ с открытым исходным кодом "на сегодняшний день самый прозрачный и стремящийся к истине", и подал в суд на OpenAI за отказ от своей первоначальной миссии приносить пользу человечеству, заключив партнерство с Microsoft. Тем не менее, Маск не раскрывает, на каких данных обучался его Grok.
На самом деле, у компаний нет особого стимула делать это, потому что в тот момент, когда вы объявляете, на каких данных вы строите свои данные, вы открываете себя для исков о защите авторских прав.
"Пока у нас не будет ясности на этом юридическом фронте, я думаю, мы будем наблюдать подобные проблемы", - говорит Маффулли.
Еще одна причина, по которой так называемые компании, разрабатывающие ИИ с открытым исходным кодом, могут не захотеть быть полностью прозрачными, - это сохранение коммерческой тайны.
Поэтому перед OSI стоит непростая задача, когда речь идет об определении открытого ИИ. Организация начала свои поиски два года назад, после того как в ноябре 2022 года на сцену вышел ChatGPT от OpenAI.
По словам Маффулли, самое большое препятствие при определении открытого ИИ - это понимание зависимости между данными в обучающих наборах и весами моделей.
Как определить ИИ с открытым исходным кодом
OSI начал с того, что собрал группу экспертов из таких организаций, как Mozilla Foundation и Wikipedia, а также из групп гражданского общества, университетов и компаний, работающих в сфере больших технологий, таких как Microsft и Meta.
Затем рабочие группы оценили три генеративные модели ИИ - Llama от Meta, Illusion AI и Bloom, а также негенеративную модель ИИ, использующую машинное обучение.
РЕКЛАМАРабочие группы проголосовали за минимальные требования, предъявляемые к системе ИИ для получения открытого исходного кода.
По словам Маффулли, рабочие группы "все сказали, что, по крайней мере, должно быть минимальное требование прозрачности данных".
В настоящее время OSI дорабатывает проект определения, который, как ожидается, будет опубликован летом.
Но это не означает, что после окончательной доработки определения OSI будет преследовать Маска или другие компании, занимающиеся разработкой ИИ с открытым исходным кодом.
"Мы являемся распорядителями и хранителями определения, но у нас нет никаких серьезных полномочий, чтобы обеспечить его соблюдение", - сказал Маффулли.
РЕКЛАМАОн добавил, что судьи и суды по всему миру начинают признавать важность определения открытого исходного кода, особенно когда речь идет о слияниях, но также и о регулировании.
Страны по всему миру завершают работу над тем, как они будут регулировать ИИ, и программное обеспечение с открытым исходным кодом является предметом споров.
"Определение открытого исходного кода служит барьером для выявления ложной рекламы", - говорит Маффулли.
"Если компания заявляет, что это ПО с открытым исходным кодом, она должна нести в себе те ценности, которые заложены в определении открытого исходного кода. В противном случае это только запутает".