На днях компания Илона Маска, Grok, представила новую функцию генерации изображений на основе ИИ. Эта функция, как и сам чат-бот компании, имеет минимальные средства защиты, что позволяет создавать фальшивые изображения, например, Дональда Трампа, курящего марихуану, и загружать их на социальную платформу X. Однако за этим инструментом стоит не Grok, а новый стартап — Black Forest Labs.
Сотрудничество между xAI и Black Forest Labs стало известно, когда xAI объявила о работе над генератором изображений Grok, используя модель FLUX.1 от Black Forest Labs. Запущенный 1 августа, стартап Black Forest Labs, похоже, разделяет видение Маска о Grok как о «анти-активистском чат-боте», поскольку его генератор изображений не имеет таких ограничений, как DALL-E от OpenAI или Imagen от Google. Как и ожидалось, социальные сети уже заполнились изображениями, созданными этим новым инструментом.
Black Forest Labs базируется в Германии и недавно привлекло инвестиции на сумму 31 миллион долларов. Инвестиционный раунд возглавила компания Andreessen Horowitz, а среди других известных инвесторов — генеральный директор Y Combinator Гэрри Тан и бывший генеральный директор Oculus Брендан Айриб. Основатели стартапа — Робин Ромбах, Патрик Эссер и Андреас Блаттманн, которые ранее помогали разрабатывать ИИ-модели Stable Diffusion для Stability AI.
Согласно данным Artificial Analysis, модели FLUX.1 от Black Forest Labs превосходят по качеству такие модели, как Midjourney и OpenAI, по крайней мере по мнению пользователей. Стартап утверждает, что его ИИ-модели доступны широкой аудитории и публикует открытый исходный код на платформах Hugging Face и GitHub. В ближайших планах компании — создание модели, которая сможет преобразовывать текст в видео.
Black Forest Labs заявляет, что их цель — «повысить доверие к безопасности этих моделей». Тем не менее, многие изображения, такие как Пикачу с автоматом, не удавалось воссоздать с помощью генераторов изображений от Google или OpenAI. Есть основания полагать, что для обучения модели использовались защищенные авторским правом изображения.
Председатель совета директоров Black Forest Labs Анджни Мидха опубликовал на X серию сравнений между изображениями, созданными в первый день запуска Google Gemini и коллаборацией Flux от Grok. Он отметил известные проблемы Google Gemini с созданием исторически точных изображений людей, в частности, неуместное внесение расового разнообразия. «Я рад, что @ibab и команда отнеслись к этому серьезно и сделали правильный выбор», — написал Мидха в твите, упомянув ведущего исследователя xAI Игоря Бабушкина. В феврале Google извинилась за ошибку и отключила возможность Gemini генерировать изображения людей.
Отсутствие гарантий безопасности нового инструмента может создать проблемы для Маска. Платформа X уже подверглась критике из-за распространения сгенерированных ИИ откровенных изображений Тейлор Свифт. Grok также генерирует фейковые новости. На прошлой неделе пять государственных секретарей призвали X прекратить распространение дезинформации о Камале Харрис. Ранее Маск делился видео, в котором голос политика, сгенерированный ИИ, утверждает, что она «нанята для поддержания разнообразия».
Похоже, Маск намерен позволить дезинформации проникать на платформу. Разрешив пользователям размещать изображения, созданные Grok, без водяных знаков, он фактически открыл путь для дезинформации в новостную ленту X.