Liquid AI d1 API или локальный запуск?

Liquid AI d1 стоит оценить, если приложению нужна категория, ответ «да/нет» или оценка по шкале. Облачный API d1 стоит 0,04 доллара США за миллион входных токенов и не генерирует выходные токены. Для локального запуска d1-3B обрабатывает текст и изображения, а меньшая экспериментальная модель d1-omni-600M также принимает речь. Принадлежность к одному семейству не доказывает одинаковое качество.

API позволяет проверить сценарий без собственного сервера моделей. Открытые веса интересны для автономной работы, контроля передачи данных или низкой задержки на устройстве. При такой облачной цене одной экономии на токенах может быть недостаточно, чтобы оправдать самостоятельную эксплуатацию.

Какие задачи решает d1

Liquid представила облачную модель 5 октября, а открытые веса — 7 октября 2026 года. Модели возвращают типизированное решение за один прямой проход, без последовательной генерации текста:

• noul — вероятность ответа «да», например наличия запроса на возврат денег.
• choice — выбор из заданных категорий с вероятностями вариантов.
• score — взвешенная по вероятностям позиция на заранее определённой упорядоченной шкале.

Это подходит для маршрутизации обращений, переранжирования поиска и проверок текста или изображений. Написание кода, резюме документа и свободных объяснений остаётся задачей генеративной модели. Границу объясняет руководство по миграции. Другой API принятия решений и его отдельный контракт описаны в нашем руководстве по Jev.

Сравнение трёх вариантов

Карточка 600M уточняет ограничения: в запросе допустимы изображения или аудио, но не оба типа сразу. При изображениях текст состояния и вопросов обрезается до 896 токенов. Аудио — моно, 16 кГц, до 30 секунд; обучение использовало англоязычные обращения к ассистенту. Это не подтверждает качество русскоязычной речи и не означает наличие сервиса транскрипции.

Liquid сообщает 48,57 для d1-3B и 15,95 для d1-omni-600M на Decision Index 0.2.1. Использован официальный оценщик, но результаты не подавались в таблицу лидеров. Данные поставщика дают повод сначала проверить большую модель, если важнее качество. Они не доказывают преимущество во всех задачах или равенство с облачным d1.

Что входит в цену 0,04 доллара

Методика в анонсе использует эту ставку за миллион входных токенов. Согласно документации API, каждый вопрос оплачивается вместе со своим текстом и всеми переданными изображениями. Несколько вопросов в одном HTTP-запросе не означают однократную оплату общего входа.

Предположим, есть 100 000 запросов по 1 000 оплачиваемых токенов на вопрос:

• Один вопрос на запрос: 100 000 × 1 000 ÷ 1 000 000 × 0,04 доллара = 4 доллара США.
• Три вопроса по 1 000 токенов каждый: 12 долларов США.

Это только плата за токены, без налогов и прочих расходов. Длина вопросов и повторы меняют итог; ориентируйтесь на usage.input_tokens. Значение usage.output_tokens остаётся нулевым, хотя ответ содержит JSON.

Изображение добавляет на каждый вопрос ceil(ceil(width / 32) × ceil(height / 32) × 1.5) токенов. Для 1024 × 1024 это 1 536 токенов, или 0,00006144 доллара США, без текста. Три вопроса дают 4 608 токенов изображений. Речь о понимании изображений, а не их генерации или тарифе OmniaKey.

Выгоднее ли запускать локально?

Учитывайте амортизацию или аренду оборудования, электричество, инженерное время, мониторинг, применимые лицензионные платежи и обработку неверных решений. Бесплатная загрузка весов не отменяет эксплуатационные расходы.

Условные 50 долларов США в месяц локальных расходов равны 1,25 млрд облачных входных токенов: 50 ÷ 0,04 × 1 000 000. При 1 000 токенов на запрос это 1,25 млн запросов. Это арифметическое сравнение, не цена оборудования и не доказательство равного качества.

Автономность, контроль данных или задержка могут оправдать локальную работу и при меньшем объёме. Сравнивайте общую стоимость на принятое решение, отдельно сохраняя число ошибок и ручных проверок.

Лицензия и требования к оборудованию

Оба репозитория используют LFM Open License v1.0. Руководство по лицензии описывает бесплатное коммерческое использование при годовой выручке ниже 10 млн долларов США и отдельную коммерческую лицензию выше порога. При точном попадании на границу уточните право использования у Liquid по тексту лицензии. При распространении нужны лицензия, атрибуция, NOTICE при его наличии и отметки об изменённых файлах. Последующие коммерческие пользователи проверяют собственное право использования. Изучите лицензии d1-3B и 600M: открытые веса не означают неограниченную Apache-2.0.

Число параметров × два байта даёт примерно 6,24 ГБ и 1,174 ГБ только для 16-битных весов, в десятичных единицах. Это не минимальные требования к RAM или VRAM: буферы, активации, обработка медиа и пакеты требуют дополнительной памяти. Квантование может менять и размер, и качество.

Карточка 3B сообщает 8 мс на RTX 4090 и 30 мс на Apple M5 Pro для одного вопроса после прогрева. Для состояния длиной 3,4K токенов — 102 и 640 мс. Результат RTX использует компиляцию. Это измерения поставщика на конкретных входах, не холодный старт и не гарантия задержки API. Для экспериментального 600M время инференса не опубликовано.

Вызов API и локальный запуск

Облачный адрес — POST /decisions/v1/systemone; схема отличается от Chat Completions. Поместите ключ из консоли Liquid в LIQUID_API_KEY. В общем примере сохранено англоязычное обращение; выполнение создаёт оплачиваемый запрос:

curl --fail-with-body https://api.liquid.ai/decisions/v1/systemone \
  -H "Authorization: Bearer $LIQUID_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "d1",
    "state": "Please refund the duplicate charge.",
    "questions": {
      "refund": {"type": "noul", "instructions": "Is a refund requested?"}
    }
  }'

Вероятность находится в answers.refund.noul. Порог выбирайте на размеченных примерах своего приложения. Изображения передаются данными Base64, а не внешними URL.

Для локального запуска нужен свежий llama.cpp с поддержкой d1. Используйте официальный рецепт GGUF:

llama-server -hf LiquidAI/d1-3B-GGUF:Q8_0

Во втором терминале отправьте запрос:

curl --fail-with-body http://127.0.0.1:8080/v1/systemone \
  -H "Content-Type: application/json" \
  -d '{
    "state": "Please refund the duplicate charge.",
    "questions": {
      "refund": {"type": "noul", "instructions": "Is a refund requested?"}
    }
  }'

Для меньшей модели остановите этот сервер и примените рецепт 600M:

llama-server -hf LiquidAI/d1-omni-600M-GGUF:Q8_0 -b 4096 -ub 4096

Размеры пакетов должны вмещать вопрос целиком; для длинных состояний карточка рекомендует увеличение до 16 384. Команды сверены с документацией, но инференс нами не запускался. Фиксируйте модель, квантование и версию среды исполнения.

С чего начать оценку

Облачный d1 удобен для подключённого сервиса с небольшим или неопределённым объёмом. d1-3B — первый локальный кандидат для текста и изображений по опубликованным сравнениям. d1-omni-600M стоит проверять отдельно, если важны речь или малый размер и допустимы ограничения экспериментальной версии.

Используйте одинаковые размеченные задачи, категории и критерии приёмки. Измеряйте неверную маршрутизацию, пропуски, p95 задержки, пиковую память и частоту передачи человеку либо другой модели. Калибровку вероятностей нужно проверять на своём языке и данных, а не считать гарантированной форматом ответа.

В каталоге OmniaKey указаны текущие модели и цены шлюза. Эта статья подтверждает варианты Liquid и локального запуска, но не доступность d1 через OmniaKey. Для сопутствующей генерации сравните модели каталога отдельно.