Фонд Linux в соавторстве с Cloudera и Intel намерен исследовать, насколько генеративный ИИ, разработанный для бизнеса, может быть способен к взаимодействию. Фонд Linux объявил о запуске Open Platform for Enterprise AI (OPEA), проекта, призванного способствовать развитию открытых, многопровайдерских и композитных (модульных) систем генеративного ИИ.
Целью OPEA, руководимого организацией Linux Foundation AI and Data (специализирующейся на инициативах по платформам, связанным с ИИ и данными), является создание «защищенных» и «масштабируемых» генеративных систем ИИ, «воплощающих лучшие инновации с открытым исходным кодом во всей экосистеме», по словам исполнительного директора LF AI and Data Ибрагима Хаддада.
«OPEA откроет новые возможности в области искусственного интеллекта, создавая детальную, композитную структуру, которая находится впереди технологических стеков», — отмечает Хаддад. «Эта инициатива подтверждает нашу миссию по стимулированию инноваций с открытым исходным кодом и сотрудничества в сообществах ИИ и данных на базе нейтральной и открытой модели управления».
К ОPEA присоединились такие крупные корпорации, как Intel, Cloudera, Red Hat (входящий в состав IBM), Hugging Face, Domino Data Lab, MariaDB и VMware. Хаддад указывает на несколько возможностей совместной работы этих компаний: «оптимизированную» поддержку инструментальных цепочек и компиляторов ИИ, позволяющих рабочим нагрузкам ИИ функционировать на различных аппаратных платформах, а также «гетерогенные» конвейеры для генерации с расширением поиска (RAG).
RAG становится все более популярным в корпоративных приложениях генеративного ИИ. Ответы и действия большинства моделей генеративного ИИ ограничены данными, на которых они обучались. Однако в RAG база знаний может быть расширена за счет информации за пределами исходных обучающих данных. Модели RAG используют внешнюю информацию, которая может включать в себя данные компании, общедоступные базы данных или их комбинации, для генерации ответа или выполнения задачи.
В пресс-релизе Intel предоставлены дополнительные детали: компании сталкиваются с проблемой подхода «сделай сам», поскольку отсутствуют стандарты на компоненты, позволяющие предприятиям выбирать и внедрять открытые и взаимодействующие решения RAG, помогающие им быстрее выходить на рынок. OPEA намерен решить эти проблемы, сотрудничая с отраслью для стандартизации компонентов, включая фреймворки, образцы архитектуры и эталонные решения.
В своем репозитории на GitHub OPEA предлагает рубрику для оценки систем генеративного ИИ по четырем основным аспектам: производительность, возможности, надежность, готовность к корпоративному уровню. Производительность, по определению OPEA, оценивается через тесты «черного ящика» на реальных сценариях использования. Возможности — это оценка совместимости системы, вариантов внедрения и простоты использования. Надежность подразумевает способность модели ИИ обеспечивать «надежность» и качество. Готовность предприятия сосредотачивается на требованиях, необходимых для запуска системы без серьезных проблем.
Рейчел Румелиотис, директор по стратегии открытого кода в Intel, говорит, что OPEA будет сотрудничать с сообществом открытого кода, предлагая тесты, основанные на данной системе, а также предоставляя оценки и рейтинги внедрения генеративного ИИ по запросу. Другие инициативы OPEA на данный момент малоизвестны, однако Хаддад отмечает возможность разработки открытых моделей, аналогичных расширяющемуся семейству Llama от Meta* и DBRX от Databricks.
Для этой цели компания Intel уже предоставила эталонные реализации чат-бота на базе генеративного искусственного интеллекта, обобщающего документы и генераторы кода, оптимизированные для оборудования Xeon 6 и Gaudi 2. Теперь члены OPEA явно заинтересованы в создании инструментов для корпоративного генеративного ИИ.
Компания Cloudera недавно начала развивать партнерские отношения для создания «экосистемы ИИ» в облаке. Domino предлагает набор приложений для создания и аудита бизнес-ориентированного генеративного ИИ. А компания VMware, специализирующаяся на инфраструктурной стороне корпоративного ИИ, в прошлом году выпустила новые продукты для «частного ИИ».
Вопрос заключается в том, будут ли они работать вместе над созданием кросс-совместимых инструментов ИИ в рамках OPEA. В этом есть очевидная выгода. Клиенты с радостью будут пользоваться услугами нескольких поставщиков в зависимости от своих потребностей, ресурсов и бюджета.
Nvidia достигла рыночной капитализации в $2,2 трлн, производя чипы для искусственного интеллекта, которые необходимы разработчикам генеративного ИИ, от стартапов до Microsoft, OpenAI и Google. Однако не менее важную роль играет компьютерный код компании, который развивался почти 20 лет и делает конкуренцию с ней практически невозможной. Однако Qualcomm, Google и Intel планируют ослабить влияние Nvidia в области искусственного интеллекта.