Gemini Decision 1: 1 000 вопросов и цена API

Gemini Decision 1: до 1 000 вопросов за один запрос

Для распределения писем и выбора следующего действия бывает достаточно выбрать из нескольких ответов. Gemini Decision 1 возвращает вероятности вариантов и помогает отправлять спорные случаи человеку.

Коротко

Общий вход может содержать текст, изображения, звук, видео и PDF; предел — 256 тысяч токенов.
Заявленная цена — $0,10 за миллион входных токенов, плата за выходные токены — $0.

Google 11 ноября представила Gemini Decisions API с моделью Gemini Decision 1: за один запрос можно оценить до 1 000 независимых вопросов к общим данным. В анонсе указана задержка полного запроса 150–250 миллисекунд. Модель оценивает заданные варианты ответа за один проход вместо последовательного написания текста.

Для разработчика рабочего помощника это отдельный инструмент выбора. Например, входящее обращение можно направить в продажи, поддержку или бухгалтерию. Список направлений задаёт команда, а результатом становится выбранный вариант с вероятностями.

Какие решения принимает Gemini Decision 1?

Gemini Decision 1 поддерживает три типа решения: проверку «да или нет», выбор одного ответа из списка и оценку по упорядоченной шкале. Для выбора разрешено от 2 до 255 вариантов. В ответе есть оценка уверенности, которую приложение может использовать для передачи неоднозначного случая человеку.

В официальном анонсе Google среди задач названы выбор инструмента, распределение запросов между моделями и оценка контекста. Один общий вход оплачивается один раз; вопросы добавляют собственные инструкции и критерии.

Для условного почтового помощника список из трёх отделов удобен, пока любое письмо действительно относится к одному из них. Если пришло резюме кандидата или сообщение с двумя задачами, нужен путь «другой вопрос» либо передача человеку. Иначе приложение заставит модель выбрать неверный отдел из слишком узкого списка.

Как использовать результат в рабочем приложении?

Приложение получает выбранный ответ, вероятности вариантов и оценку уверенности. Команда задаёт, какие случаи проходят автоматически, а какие требуют дополнительного разбора. Порог полезно выбирать на своих примерах с известным правильным решением, учитывая последствия ошибки.

Начать можно с одного действия: распределения разрешённого набора обращений по отделам. Для каждого примера сохраните ожидаемое направление и объяснение спорных случаев. Затем сравните решение модели и то, куда приложение фактически отправило обращение. Уверенность модели и правильность действия — разные вещи, поэтому границу полномочий стоит заранее записать в задании для помощника.

Доступ к новому интерфейсу Google предлагает через Gemini API в Google AI Studio. Поддержка Gemini в Google Cloud в анонсе обозначена как предстоящая.