Activat VC Academy · Newgate Team
01 / 07
10

Не «лучшая модель», а лучшая под вашу задачу

Как понять, какие AI-модели использовать и для каких задач

Что вы сможете: выбрать модель за час — по данным
Таир Султанов · Newgate Team
Урок 10 · Какую AI-модель выбрать
Activat VC Academy · Newgate Team
02 / 07

Три оси выбора и рамка ограничений

КачествоЦенаСкорость
Ограничения
  • Можно ли отправлять данные в облако
  • Как модель работает с русским и казахским
  • Нужен ответ за секунду или можно подождать
Урок 10 · Какую AI-модель выбрать
Activat VC Academy · Newgate Team
03 / 07

Три класса моделей

КлассДля чегоЦена и скорость
ФлагманскиеСложные рассужденияДороже и медленнее
Средние и быстрыеБольшинство бизнес-задач: классификация, пересказ, ответы по базеЗолотая середина
Малые и open-sourceПростые задачи, можно развернуть у себяДёшево, но слабее на сложном

Названия и цены меняются каждый квартал — метод остаётся.

Урок 10 · Какую AI-модель выбрать
Activat VC Academy · Newgate Team
04 / 07

Метод из четырёх шагов

  1. 1
    10–20 реальных примеров вашей задачи
  2. 2
    Прогон на 2–3 моделях с одним промптом
  3. 3
    Оценка по понятному критерию: верно или нет
  4. 4
    Цена за 1000 таких задач
Урок 10 · Какую AI-модель выбрать
Activat VC Academy · Newgate Team
05 / 07

Демо: три модели × 10 примеров

МодельВерноСкоростьЦена за 1000
Дорогая10 из 10Самая медленнаяСамая высокая
Средняя9 из 10БыстраяВ разы ниже
Малая7 из 10Самая быстраяСамая низкая

Условный пример: сортировка обращений по трём категориям. Свои цифры — из своего прогона.

Урок 10 · Какую AI-модель выбрать
Activat VC Academy · Newgate Team
06 / 07

Каскад: дорогая модель — только на сложное

Запрос

Любой входящий

Дешёвая модель

Берёт простые случаи — большая часть трафика

Не уверена?

Сложный или спорный случай

Дорогая модель

Только для сложных

Расходы падают, а качество на сложном сохраняется.

Урок 10 · Какую AI-модель выбрать
Activat VC Academy · Newgate Team
07 / 07

Соберите 10 своих примеров и прогоните на двух моделях

Через неделю
Обновите тест на новых моделях — это 20 минут
Вопросы и примеры из ваших проектов — @martelliad