Activat VC Academy · Newgate Team
01 / 08
05

ИИ в вашем продукте: с чего начать

Как интегрировать ИИ-модели в существующий продукт?

Что вы сможете: выбрать задачу и схему интеграции
Таир Султанов · Newgate Team
Урок 5 · ИИ в вашем продукте
Activat VC Academy · Newgate Team
02 / 08

Не «добавим ИИ», а узкая задача

Суммаризация

Сократить длинный текст

Классификация

Разложить обращения по категориям

Ответ по базе знаний

На вопрос — по вашим документам

Черновик письма

Человек правит и отправляет

Извлечение полей

Из документа — в таблицу

Часто повторяется, ошибка не катастрофична, результат легко проверить.

Урок 5 · ИИ в вашем продукте
Activat VC Academy · Newgate Team
03 / 08

Схема интеграции: проще, чем кажется

Приложение

Пользователь работает здесь

ключ здесь

Ваш бэкенд

Формирует запрос, проверяет ответ

API модели

Обрабатывает запрос

Ответ в приложение

Уже проверенный

База знаний

Документы, цены, инструкции

Урок 5 · ИИ в вашем продукте
Activat VC Academy · Newgate Team
04 / 08

Три правила надёжности

  1. 1
    Ключ — только на бэкендеВо фронтенде или приложении его украдут
  2. 2
    Структурированный ответ (JSON) и проверкаСвободный текст ломает интерфейс
  3. 3
    Запасной вариант при ошибке и таймаутеОбычная форма, очередь или результат позже
Урок 5 · ИИ в вашем продукте
Activat VC Academy · Newgate Team
05 / 08

RAG в три шага: модель отвечает по вашим данным

1. Нарезать документы

На небольшие куски

2. Найти релевантные

Куски, подходящие к вопросу

3. Подложить в запрос

«Отвечай только по этим материалам»

Модель опирается на ваши данные, а не на догадки.

Урок 5 · ИИ в вашем продукте
Activat VC Academy · Newgate Team
06 / 08

Экономика: сколько стоит одна ИИ-функция

Цена запроса×Запросов на пользователя в месяц
=Расход на пользователя

Сравните со средним доходом с пользователя. Если ИИ съедает заметную часть — снижайте стоимость:

Короткий контекстКеш повторных запросовМаленькая модель на простое
Урок 5 · ИИ в вашем продукте
Activat VC Academy · Newgate Team
07 / 08

Качество: набор из 20–50 примеров

ВопросОжидаемый ответРезультат
Как вернуть товар?Инструкция из раздела «Возврат»Верно
Есть ли доставка в другой город?Да, сроки — по таблице тарифовВерно
Можно ли оплатить частями?Данных нет — передать человекуПроверить

Прогоняйте набор при каждом изменении промпта или модели. Пример: условные вопросы.

Урок 5 · ИИ в вашем продукте
Activat VC Academy · Newgate Team
08 / 08

Выберите одну задачу и запишите, как поймёте, что ИИ справился

Метрика успеха
Например: 8 из 10 ответов принимаются без правок
Вопросы и примеры из ваших проектов — @martelliad