Человек в контуре ИИ: где подтверждение обязательно

После пилота «пусть агент сам» обычно всплывает одно и то же: скидка ушла без согласования, клиенту пообещали срок, которого нет в договоре, или в CRM сменился статус заказа без следа. Ниже — где в контуре человек обязателен, а где подтверждение можно сужать. Стартовая рамка пилота — в статье с чего начать внедрение ИИ.

Автономность — не KPI

Цель контура — стабильный процесс с понятной ценой ошибки. Доля шагов без человека — следствие, когда качество на выборке уже не прыгает. Если KPI звучит как «агент всё делает сам», вы оптимизируете театр, а не экономику.

• Есть журнал: кто (модель или человек) сделал шаг, на каких данных, чем закончилось.
• Есть канал эскалации: спорный кейс не «зависает в чате», а уходит сменщику.
• Деньги, юридические обещания и удаление данных — только после человека.
• Лимиты на инструменты: нельзя «вызвать любой API», пока сценарий не закрыт тестами.

ПрактикаСнимать подтверждение с ветки можно, когда на 50–100 свежих диалогах ошибка редкая и цена ошибки терпимая. Иначе вы экономите клик и покупаете разбор инцидента.

Где человек остаётся в контуре

У ИИ-агента с вызовом инструментов риск выше, чем у ассистента «только поиск». Разница уровней — в материале про агентов для бизнеса: сначала чтение, потом запись, и то по белому списку.

Как сужать подтверждения, а не выключать их разом

1. Зафиксировать пилот: один сценарий, исходная метрика, дата решения.
2. Собрать набор «спорных» кейсов — не идеальных демо.
3. Держать человека на всём, что меняет деньги или обязательства.
4. Снимать HITL только с веток, где регрессия зелёная две-три недели подряд.

Нужен контур с журналом и политикой доступа, а не «подключить модель» — это внедрение ИИ как услуга: пилот, рамка, эскалация.