Внедрение ChatGPT в бизнес: сценарии, RAG и стоимость

Запрос «внедрить ChatGPT» сам по себе не описывает задачу. Обычно бизнесу нужно быстрее отвечать на повторяющиеся вопросы, разбирать входящие обращения или находить информацию в документах. Начинать стоит с одного ограниченного сценария, где результат можно проверить, а ошибочный ответ — безопасно передать человеку.

Важно различать ChatGPT как готовый продукт и OpenAI API, который разработчик встраивает в собственное приложение. В примерах ниже используется API; доступность моделей, SDK и цены меняются, поэтому перед запуском сверяйтесь с каталогом моделей и актуальным прайсом.

Как компании попадать в ответы ChatGPT Search

Короткий ответ: сделайте полезные страницы доступными для поискового обхода и понятными по теме, автору и источникам. Это даёт ChatGPT Search возможность рассмотреть сайт, но не гарантирует показ или рекомендацию: выбор источников зависит от конкретного запроса и других сигналов поиска.

Проверьте базовые условия:

1. Страницы открываются без входа, отдают 200, имеют собственный canonical и не закрыты noindex.
2. robots.txt разрешает обход OAI-SearchBot; если перед сайтом стоит WAF или CDN, убедитесь, что они не блокируют поискового робота. OpenAI отдельно описывает требования к доступу сайта в ChatGPT Search.
3. На странице прямо названы компания, услуга, аудитория и область работы; кейсы отделяют проверяемые факты от обещаний.
4. Материалы отвечают на конкретный вопрос, ссылаются на первичные источники и показывают автора или дату реального обновления.
5. После публикации проверьте индексирование в обычных поисковиках и отслеживайте переходы из ChatGPT по источнику chatgpt.com. Разрешённый обход не означает, что страницу обязательно процитируют.

Не существует специальной разметки или формулировки, которая гарантированно помещает компанию в ответ нейросети. Не выдавайте доступ к сайту за обещание рекомендации; измеряйте реальные переходы и обращения.

Чтобы отслеживать, какие продукты появляются в ответах на вопросы покупателей и какие источники цитируют AI-системы, можно использовать BuyerPrompt — аудит видимости SaaS в AI-поиске. Такой мониторинг помогает находить пробелы в публичных материалах, но не гарантирует рекомендации или продажи.

Если задача именно в том, чтобы компания появлялась как источник в ответах ChatGPT Search, а не внедрить модель в продукт, смотрите отдельный чеклист видимости компании в ChatGPT.

Какие задачи подходят для ИИ

ИИ полезен там, где входные данные не всегда одинаковы, но результат можно проверить:

• классифицировать обращения и направлять их нужному сотруднику;
• подготовить черновик ответа оператору, не отправляя его автоматически;
• извлечь поля из письма или заявки и попросить пользователя подтвердить их;
• найти ответ в утверждённых инструкциях и указать источник;
• суммировать длинное обращение перед передачей специалисту.

Не начинайте с полностью автономного агента, который сам меняет заказы, выдаёт возвраты или принимает юридически значимые решения. Для таких действий нужны обычные серверные проверки, ограниченные права и подтверждение человека.

Перед разработкой зафиксируйте четыре вещи: кто пользуется функцией, какие данные ей доступны, что считается правильным результатом и куда уйдёт запрос, если система не уверена.

Архитектура Telegram-бота

Минимальный поток выглядит так:

сообщение → проверка доступа и лимитов → модель → проверка результата → ответ или оператор

Ключи API хранятся только на сервере. Не отправляйте модели весь профиль клиента «на всякий случай»: передавайте только данные, необходимые для конкретного вопроса. Для персональных, финансовых и медицинских данных отдельно проверьте правовое основание, условия провайдера и требования к хранению.

Ниже — небольшой пример для Aiogram 3 и официального Python SDK. Установите aiogram, openai и python-dotenv; задайте TELEGRAM_BOT_TOKEN, OPENAI_API_KEY и OPENAI_MODEL в локальном .env или переменных окружения. Не добавляйте .env в Git.

import asyncio
import os

from aiogram import Bot, Dispatcher, F
from aiogram.filters import CommandStart
from aiogram.types import Message
from dotenv import load_dotenv
from openai import AsyncOpenAI, OpenAIError

load_dotenv()

dp = Dispatcher()


@dp.message(CommandStart())
async def start(message: Message) -> None:
    await message.answer("Опишите вопрос. Если потребуется специалист, я передам обращение команде.")


@dp.message(F.text)
async def answer(message: Message, openai: AsyncOpenAI) -> None:
    thinking = await message.answer("Готовлю ответ…")

    try:
        result = await openai.responses.create(
            model=os.environ["OPENAI_MODEL"],
            instructions=(
                "Ты помощник компании. Отвечай кратко и только в рамках переданных правил. "
                "Не выдумывай цены и условия. Если данных недостаточно, предложи оператора."
            ),
            input=message.text or "",
            max_output_tokens=400,
        )
    except OpenAIError:
        await thinking.edit_text("Не удалось подготовить ответ. Попробуйте позже или свяжитесь с оператором.")
        return

    text = result.output_text.strip()
    await thinking.edit_text(text or "Не нашёл надёжного ответа. Передам вопрос специалисту.")


async def main() -> None:
    client = AsyncOpenAI(api_key=os.environ["OPENAI_API_KEY"])
    dp["openai"] = client

    try:
        async with Bot(token=os.environ["TELEGRAM_BOT_TOKEN"]) as bot:
            await dp.start_polling(bot)
    finally:
        await client.close()


if __name__ == "__main__":
    asyncio.run(main())

Этот пример демонстрирует только вызов модели. Для реального сервиса добавьте rate limit, ограничение длины входа, журналирование без секретов и персонального текста, обработку отмены запроса и понятную передачу оператору. Не считайте ответ модели проверенным только потому, что API вернул HTTP 200.

Ответы по внутренним документам: RAG

Если помощник должен искать в инструкциях или базе знаний, ему нужен retrieval — поиск подходящих фрагментов. RAG (Retrieval-Augmented Generation) обычно состоит из подготовки документов, поиска по запросу, передачи найденного контекста модели и проверки ответа.

Для небольшого корпуса можно использовать OpenAI File Search с заранее созданным Vector Store. Создание хранилища и загрузка файлов выполняются отдельно; в рабочем продукте добавьте обновление и удаление устаревших документов.

import os

from openai import AsyncOpenAI


async def answer_from_docs(client: AsyncOpenAI, question: str) -> str:
    result = await client.responses.create(
        model=os.environ["OPENAI_MODEL"],
        instructions=(
            "Отвечай только на основании найденных документов. "
            "Если подтверждения нет, прямо скажи об этом и предложи обратиться к сотруднику."
        ),
        input=question,
        tools=[
            {
                "type": "file_search",
                "vector_store_ids": [os.environ["OPENAI_VECTOR_STORE_ID"]],
            }
        ],
        max_output_tokens=500,
    )
    return result.output_text

File Search упрощает retrieval, но не заменяет контроль доступа: пользователь не должен получить документ, который ему запрещено читать. Для разных ролей и клиентов разделяйте хранилища или выполняйте проверку прав до поиска. Проверяйте качество на наборе реальных вопросов, фиксируйте источники ответа и регулярно убирайте устаревшие документы.

Если нужен собственный векторный поиск, Qdrant или другая база должны быть настроены заранее: создать коллекцию, выбрать размерность и метрику, загрузить embeddings с payload и реализовать фильтры доступа. Вызов поиска по несуществующей коллекции не является готовым RAG-примером.

Как оценить расходы на API

Нельзя честно обещать фиксированную сумму «за тысячу сообщений», не зная модели, длины истории, системных инструкций, числа повторных запросов и подключённых инструментов. Измеряйте токены по фактическому usage API и считайте отдельно каждый тип операций.

Для текстовой модели базовая оценка такая:

расходы = входные токены / 1 000 000 × тариф за вход
        + выходные токены / 1 000 000 × тариф за выход
        + инструменты и дополнительные сервисы

Затем добавьте инфраструктуру, мониторинг и время на сопровождение. В длинном диалоге история может повторно отправляться в каждом запросе, поэтому её нужно ограничивать или суммировать. Актуальные ставки и отдельные тарифы инструментов смотрите на странице цен OpenAI API; не переносите старую цену из статьи в бюджет проекта.

Стоимость разработки тоже зависит от объёма: простой FAQ-бот и интеграция с CRM, ролями доступа, аудитом и базой документов — разные проекты. До оценки нужно описать источники данных, сценарии, ограничения, интеграции и критерии приёмки.

Проверки перед запуском

1. Соберите 30–100 типовых и сложных вопросов, включая случаи, когда правильный ответ — «не знаю».
2. Проверьте точность, корректность передачи оператору, время ответа и среднюю стоимость на запрос.
3. Ограничьте частоту обращений, максимальный размер входа и доступные действия.
4. Проверьте, что инструкции в документах и сообщениях пользователя не могут расширить права бота.
5. Запустите пилот на ограниченной группе; сравните качество с текущим процессом и исправьте причины ошибок.

Для сценариев с документами отдельно тестируйте права доступа, устаревшие версии и ответы без подтверждённого источника. Для заявок и заказов оставляйте пользователю возможность проверить извлечённые данные до отправки.

Типичные ошибки

• Автоматизировать процесс до его описания. Сначала зафиксируйте текущий маршрут обращения и исключения.
• Разрешить модели принимать решения без проверок. Критичные действия выполняет серверная бизнес-логика, а не текстовая инструкция.
• Считать RAG гарантией точности. Поиск может вернуть нерелевантный или устаревший документ; нужны тесты и ссылки на источники.
• Отправлять лишние данные. Минимизируйте и по возможности обезличивайте контекст.
• Не считать полную стоимость. Кроме токенов учитывайте инструменты, инфраструктуру, поддержку и ручную проверку.
• Обещать окупаемость заранее. Сравнивайте измеренные затраты и время до/после пилота; результат зависит от процесса и качества внедрения.

С чего начать

Выберите один повторяемый сценарий, подготовьте тестовые примеры и сначала сделайте помощника для сотрудника, а не полностью автономную замену процесса. После проверки качества подключайте клиентов и автоматические действия постепенно.

Если нужно оценить интеграцию ИИ, Telegram-бота или внутреннего помощника, опишите задачу — разберём данные, риски и подходящий объём первой версии.