Mira Murati выпустила свою первую open-weights модель — вот что она умеет

Thinking Machines Lab — компания Миры Мурати, бывшего CTO OpenAI — выложила первую модель с открытыми весами. Inkling — это 975 миллиардов параметров (41 млрд активных), мультимодальность из коробки и Apache-2.0 лицензия. Не самая сильная модель на рынке, но интересная база для файнтюна — особенно для тех, кто работает с изображениями, аудио и видео одновременно.

Что внутри: архитектура и обучающие данные

Inkling построен на архитектуре Mixture-of-Experts (MoE) — при общем размере 975B параметров на каждый запрос активируются только 41B. Модель обучена на 45 триллионах токенов: текст, изображения, аудио, видео. Лицензия Apache-2.0 позволяет использовать её коммерчески без ограничений.

Thinking Machines Lab обещает также Inkling-Small — 276B параметров, 12B активных. Веса выложат после завершения тестирования, точной даты пока нет.

По данным о тренировочных датасетах информации минимум. В документации два абзаца: контент взят из публичного домена, открытого интернета и "некоторых сторонних источников". Никаких деталей про пропорции, фильтрацию или конкретные корпуса.

Сами авторы называют Inkling не frontier-моделью, а крепкой базой под кастомизацию. Конкурирует с китайскими open-weights моделями и такими релизами как NVIDIA Nemotron, Gemma 4.

Как подключиться к API Thinking Machines

Модель доступна через API платформы Tinker. Эндпоинт совместим с OpenAI Chat Completions — можно использовать привычные библиотеки.

Пример запроса на генерацию SVG-изображения:

``bash curl "https://tinker.thinkingmachines.dev/services/tinker-prod/oai/api/v1/chat/completions" \ -H "Authorization: Bearer $TINKER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "thinkingmachines/Inkling", "messages": [ {"role": "user", "content": "Generate an SVG of a pelican riding a bicycle"} ], "stream": false }' ``

API-ключ получается после регистрации на платформе Tinker. Модель возвращает стандартный JSON с полем choices[0].message.content.

Мультимодальность: как передать изображение на вход

Inkling поддерживает нативную работу с изображениями. Чтобы отправить картинку, закодируйте её в base64 и передайте через image_url:

``json { "model": "thinkingmachines/Inkling", "messages": [{ "role": "user", "content": [ { "type": "image_url", "image_url": { "url": "data:image/jpeg;base64,/9j/4AAQSkZJRg..." } }, { "type": "text", "text": "Describe this image in detail" } ] }], "stream": false } ``

Формат аналогичен GPT-4 Vision API. Поддерживаются JPEG, PNG, GIF. Максимальный размер изображения не указан в документации — тестировать нужно экспериментально.

В тестах модель описала сгенерированную ею же SVG-картинку пеликана на велосипеде. Правда, перепутала птицу — назвала её аистом или чайкой. Описание получилось детальным, но визуальная идентификация страдает.

Где это ломается: слабые места модели

Визуальное распознавание. Inkling не всегда точно определяет объекты. В примере с пеликаном модель не узнала собственный рисунок. Для задач, где важна точная классификация, лучше использовать специализированные vision-модели.

Непрозрачность данных. Документация по тренировочным датасетам почти пустая. Для компаний с требованиями к compliance это проблема — невозможно проверить, откуда взяты данные и нет ли в них конфиденциальной информации.

Размер модели. 975B параметров — это сотни гигабайт весов. Запустить локально без серьёзного железа не получится. Thinking Machines предлагает свою платформу Tinker для файнтюна, но стоимость пока не раскрыта.

Не frontier. Авторы честно говорят: это не самая сильная модель. По бенчмаркам она уступает Claude 3.7, GPT-4.5, Gemini 2.0 Pro. Подходит как стартовая точка для кастомизации, но не как замена топовым закрытым моделям.

Что попробовать дальше

Веса модели доступны на Hugging Face под лицензией Apache-2.0. Можно скачать и запустить локально через transformers, если есть мощность (потребуется минимум 8×A100 или аналог).

Thinking Machines Lab обещает выпустить Inkling-Small — 276B/12B активных параметров. Эта версия будет легче для экспериментов и файнтюна на меньшем железе.

Платформа Tinker позволяет делать файнтюн без управления инфраструктурой. Если планируете адаптировать модель под узкую задачу (медицинские изображения, техническая документация, специфичный домен) — имеет смысл попробовать их инструменты.

Для практических задач стоит сравнить Inkling с китайскими open-weights моделями (Qwen, DeepSeek) и NVIDIA Nemotron. В зависимости от сценария они могут дать лучшее соотношение качества и ресурсов.

Источники

• Simon Willison: Inkling: Our open-weights model