Генеративный ИИ в клиентском сервисе для ВКР: от подписки targetai к защищаемой архитектуре
Поддомен: AI/ML + Backend-интеграция. Роль эксперта: Data/ML-инженер и архитектор прикладных LLM-сервисов.
27 марта 2026 года компания targetai анонсировала подписной сервис сопровождения проектов внедрения генеративного ИИ «под ключ». Суть новости важнее, чем кажется на первый взгляд: рынок переходит от пилотных чат-ботов к регулярной эксплуатации LLM-ассистентов в клиентском сервисе, где нужны SLA, наблюдаемость, контроль стоимости токенов и защита персональных данных. Для выпускника это прямое указание, куда смотреть при выборе темы: не «сделаю чат на GPT», а «спроектирую и оценю GenAI-контур с измеримым качеством и TCO». Ниже — как превратить этот тренд в защищаемую ВКР: с метриками, схемами, кодом и нормативкой.
Основная часть: четыре темы, которые реально защищаются
Тема 1. LLM-ассистент первой линии поддержки на базе RAG
Актуальность. targetai продаёт именно сопровождение внедрения — значит, ценность не в модели, а в интеграции с базой знаний клиента. RAG (Retrieval-Augmented Generation) здесь становится ядром архитектуры, а не модным словом.
Цель: спроектировать сервис, который по запросу клиента достаёт релевантные фрагменты из корпоративной базы знаний и формирует ответ со ссылками на источник.
Задачи: 1) сравнить стратегии чанкинга и эмбеддинг-модели; 2) собрать векторный индекс; 3) реализовать API-слой с guardrails; 4) измерить faithfulness, answer relevancy и containment rate.
Структура: Глава 1 — обзор LLM, RAG, векторных хранилищ (pgvector, Qdrant), обзор ISO/IEC 25010 для оценки качества. Глава 2 — проектирование C4-диаграммы, реализация пайплайна, промпт-инжиниринг. Глава 3 — тестирование на отложенной выборке, расчёт метрик и стоимости за 1000 запросов.
Тема 2. LLMOps и экономика GenAI-сервиса: TCO и наблюдаемость
Актуальность. Подписная модель targetai живёт ровно тогда, когда стоимость инференса предсказуема. Это отличный кейс для главы про экономику ИТ-решения.
Цель: построить контур мониторинга LLM-приложения и модель расчёта совокупной стоимости владения.
Задачи: 1) разметить трассировку запросов через OpenTelemetry; 2) собрать дашборд по p95-latency и токенам; 3) рассчитать TCO на 12 месяцев; 4) обосновать выбор между self-hosted и API-моделью.
Структура: Глава 1 — метрики надёжности и наблюдаемости. Глава 2 — внедрение трейсинга и семплирования. Глава 3 — сценарное моделирование TCO.
Тема 3. Защита от галлюцинаций и утечек PII в клиентском ассистенте
Актуальность. В клиентском сервисе ошибка генерации — это репутационный и юридический риск. Тема напрямую пересекается с OWASP Top 10 for LLM Applications.
Цель: разработать слой guardrails: маскирование персональных данных, детекция prompt injection, цитирование источников.
Задачи: 1) определить поверхности атаки; 2) реализовать пре- и постфильтры; 3) построить набор тест-кейсов на jailbreak; 4) оценить ложноположительные срабатывания.
Структура: Глава 1 — модель угроз и нормативные ограничения. Глава 2 — архитектура прокси-слоя. Глава 3 — пентест-сценарии и отчёт.
Тема 4. Сервисная модель внедрения: SLA, регламенты и ГОСТ 34
Актуальность. Именно подписка targetai показывает, что внедрение — это процесс с этапами, ролями и метриками приёмки, а не один релиз.
Цель: описать жизненный цикл внедрения GenAI-ассистента и систему SLA.
Задачи: 1) построить BPMN-модель процесса; 2) согласовать состав технического задания по ГОСТ 34.602; 3) определить метрики приёмки; 4) описать регламент сопровождения.
Структура: Глава 1 — анализ методологий (PMBOK 7, ГОСТ 34). Глава 2 — проектирование процесса и документации. Глава 3 — пилот и оценка достижения SLA.
| Метрика | Что показывает | Ориентир для защиты |
|---|---|---|
| Faithfulness (верность контексту) | Доля ответов без выдумок относительно источников | ≥ 0,90 на тест-наборе |
| Containment rate | Доля диалогов, закрытых без оператора | 40–65% |
| p95 latency | Хвостовая задержка ответа | < 3 с |
| Cost per 1k requests | Стоимость токенов и инфраструктуры | Считается, а не угадывается |
| CSAT | Удовлетворённость клиента | ≥ 4,2 из 5 |
Ниже — минимальный скелет RAG-сервиса с трассировкой и маскированием PII. Такой листинг аккуратно ложится в приложение к главе 2 и снимает вопрос «а где у вас код?».
# rag_service.py — упрощённый контур для дипломного прототипа
from fastapi import FastAPI
from opentelemetry import trace
from pydantic import BaseModel
import re
app = FastAPI()
tracer = trace.get_tracer("rag.service")
PII = re.compile(r"\b(\+7\d{10}|\d{3}-\d{2}-\d{2})\b")
class Query(BaseModel):
user_id: str
text: str
def mask_pii(text: str) -> str:
return PII.sub("[REDACTED]", text)
def retrieve(query: str, k: int = 5) -> list[dict]:
# здесь вызов векторного хранилища: pgvector / Qdrant
...
def generate(query: str, docs: list[dict]) -> str:
# вызов LLM с системным промптом + цитированием источников
...
@app.post("/ask")
def ask(q: Query):
with tracer.start_as_current_span("ask") as span:
safe_text = mask_pii(q.text)
span.set_attribute("query.len", len(safe_text))
docs = retrieve(safe_text)
span.set_attribute("retrieved.docs", len(docs))
answer = generate(safe_text, docs)
span.set_attribute("answer.len", len(answer))
return {"answer": answer, "sources": [d["id"] for d in docs]}
Обратите внимание: в коде нет ничего «из будущего». Метрики считаются офлайн на размеченном наборе, трассировка идёт в стандартный коллектор, а маскирование — это буквально регулярка плюс политика. Такой прототип защищается лучше, чем красивая, но неизмеримая демка.
Диаграммы, которые ждёт комиссия
Первое — контекстная и контейнерная схема по C4: клиент, канал (чат/почта), API-шлюз, сервис оркестрации, векторное хранилище, LLM-провайдер, система учёта обращений. Второе — диаграмма последовательности в UML для сценария «запрос → поиск → генерация → ответ → эскалация на оператора». Третье — BPMN для процесса сопровождения, если вы выбрали сервисную тему. Четвёртое — таблица трассировки требований: требование → проектный элемент → тест-кейс. Именно эта таблица по ГОСТ 34 спасает на защите, когда спрашивают «а как вы проверяли?».
FAQ: вопросы, которые задают на консультациях
Нужен ли мне GPU-кластер для такой ВКР?
Нет. Для прототипа достаточно API-модели, а расчёт TCO для self-hosted варианта делается аналитически. В главе про экономику сравнение «API vs собственный инференс» — сильный аргумент.
Где брать данные для оценки качества?
Три источника: открытые диалоговые датасеты, внутренняя база знаний вуза или вымышленной компании, синтетические вопросы, сгенерированные LLM. Главное — разметить 100–200 пар «вопрос → эталонный ответ» и зафиксировать это в приложении.
Как оформить код и схемы, чтобы прошли нормоконтроль?
Листинги — в приложения, в тексте — только ключевые фрагменты с нумерацией. Схемы по ГОСТ 19/34 либо в нотации C4 с расшифровкой обозначений в подписи. Единый стиль подписей и ссылок на рисунки в тексте обязателен.
Как считать эффективность, если метрики «мягкие»?
Разделите метрики на технические (latency, cost, containment) и продуктовые (CSAT, доля эскалаций). Для технических приводите замеры, для продуктовых — методику и допущения.
Чек-лист «Что проверить перед сдачей»
- Заголовок и цель работы согласованы с задачами и выводами по каждой главе.
- Каждая метрика в главе 3 имеет источник данных и методику расчёта.
- Схемы пронумерованы, подписаны, есть перечень обозначений.
- Список литературы и источников оформлен единообразно, ссылка на публикацию 2026 года присутствует.
- Листинги кода вынесены в приложения, в тексте — только вызовы.
- Раздел про ограничения работы написан честно: где прототип, где — модель.
- Проверка на заимствования пройдена, цитаты оформлены.
Типичные ошибки студентов
1. Тема звучит как «разработка чат-бота с ИИ». Это не тема, а инструмент. Как в кейсе targetai, ценность в процессе внедрения и измеримом результате — переформулируйте через качество, стоимость или покрытие обращений.
2. Нет разграничения прототипа и продукта. Комиссия любит вопрос «а что вы реально сделали?». Прототип, тест-набор и методика оценки — это честный результат ВКР.
3. Экономика «на глаз». Если пишете про снижение расходов, покажите формулу, ставки токенов и сценарии нагрузки. Иначе цифра TCO рассыпается на первом же вопросе.
Чему вы научитесь
- Проектировать RAG-контур и обосновывать выбор векторного хранилища.
- Считать метрики качества LLM и стоимость инференса на тысячу запросов.
- Настраивать наблюдаемость через OpenTelemetry и читать трейсы.
- Оформлять ТЗ и схемы по ГОСТ 34 и UML/C4 без переделок.
- Строить модель угроз для LLM-приложения по OWASP.
Если тема уже выбрана, но непонятно, как свести метрики, схемы и текст в единую логику — можно взять бесплатную консультацию: разберём структуру, подскажем источники и поможем спланировать 120 часов работы над ВКР. Поддержка возможна по любой теме — от LLM-ассистентов до сервисных моделей внедрения.
Источник: targetai запустила подписку для внедрения генеративного ИИ в клиентский сервис «под ключ» (опубликовано 2026-03-27)