Кога AI трябва да поиска одобрение от човек: матрица за бизнес действия
Матрица за човешко одобрение на AI действия: четене, CRM промени, оферти, плащания, валидност на разрешението и проверка преди изпълнение.
Одобрението зависи от действието и последиците.
AI трябва да поиска човешко одобрение, когато действието създава значим ангажимент, променя критични данни, засяга плащане или излиза извън предварително разрешената политика. Полезният контрол описва точно какво се одобрява, от кого, с какви основания и за коя версия. Едно общо „Продължи“ не е достатъчно.
Един и същ агент може да чете информация, да предлага решение и да изпълнява промяна. Тези права трябва да са различни. AI агентите за бизнес стават по-предвидими, когато границите са наложени и от инструментите, не само от текстова инструкция.
Разделете четенето, предложението и изпълнението.
Четенето също има ограничения: агентът не получава достъп до всеки документ само защото не променя нищо. Предложението трябва да остане видимо като чернова. Изпълнението е отделна стъпка с проверени параметри и разрешение.
Например извличане на сума от фактура, предложение за плащане и самото плащане са три различни действия. Точно извлечената сума не доказва, че фактурата е валидна или че агентът има право да я плати.
Матрица за разрешени бизнес действия.
Това е предложен образец. Компанията определя праговете и ролите според своя процес. Не е универсална правна или регулаторна класификация.
| Действие | Възможен режим | Преди изпълнение |
|---|---|---|
| Търсене в разрешена база знания | Автоматично в рамките на достъпа | Удостоверен потребител и разрешен източник |
| Вътрешно резюме | Чернова | Ясни източници и означени неизвестни |
| Категоризиране на заявка | Автоматично за проверени категории | Маршрут за неясни и рискови случаи |
| Добавяне на некритичен CRM таг | Възможно ограничено автоматично право | Списък с разрешени стойности и история |
| Промяна на основни клиентски данни | Одобрение или надежден потвърден процес | Самоличност, източник и точна промяна |
| Изпращане на индивидуална оферта | Одобрение на версията | Цена, спецификация, срок и получател |
| Отстъпка извън разрешеното | Одобрение от упълномощена роля | Размер, основание и изключение |
| Възстановяване на сума | Контролирано финансово одобрение | Случай, сума, платежна референция и защита от повторение |
| Изтриване на множество записи | Засилен контрол или забрана за агента | Обхват, възстановимост и компетентен одобряващ |
| Промяна на права за достъп | Отделен административен процес | Проверена заявка и оторизирана роля |
Не задавайте само паричен праг. Масова промяна за малки суми, достъп до чувствителни данни или публично съобщение може да носи значим риск. Отчитайте обхват, обратимост, засегнати лица, надеждност на източника и външния ангажимент.
Какво трябва да види одобряващият.
Пакетът за одобрение съдържа конкретното действие, обекта и неговата версия, стойностите преди и след промяната, източниците, установените изключения, получателя и последствията. Добавете причина защо случаят се връща към човек.
Илюстративен пример: „Оферта Q-42, версия 3. Предложение: 7% отстъпка при стандартен лимит 5%. Основание: искане на клиента, приложено в заявката. Получател: потвърденият търговски контакт. Действие след одобрение: изпращане на точно този документ.“
Тук одобрението не разрешава на агента да увеличи отстъпката още веднъж или да смени получателя. То важи за ясно описаното действие. Разгледайте подготовката на самата чернова в процеса от PDF спецификация до B2B оферта.
Проверете отново данните след одобрението.
Между прегледа и изпълнението може да се промени цената, наличността, банковата сметка или версията на документа. Свържете одобрението с отпечатък или версия на параметрите. При промяна върнете действието за нов преглед.
Определете срок на валидност, право за отказ и заместник при отсъствие. Изтекло одобрение не се подновява от агента. Ако няма отговор в срока, действието остава блокирано или преминава към предварително одобрен резервен процес.
Инструментът за изпълнение трябва сам да проверява правата и валидността. Запис „мениджърът одобри“ в разговор не е надежден токен за разрешение. Не допускайте текст от входящ имейл или документ да се тълкува като административна команда.
Оставете проследима история.
Записвайте кой е поискал действието, кой го е одобрил, кога, върху коя версия и какво действително е изпълнено. Не смесвайте „одобрено“ с „успешно приключено“. При отказ на API одобрението може да съществува, но действието да не е извършено.
Логовете съдържат само необходимите данни и имат собствен контрол на достъпа. Историята трябва да позволява разследване на конкретен случай, без да превръща всички разговори и приложения в неограничен архив.
Тествайте матрицата, а не само бутона.
Проверете отказ, липса на одобряващ, изтекъл срок, променен получател, по-голяма сума, едновременно одобрение и отмяна, повторно изпълнение и потребител без права. Всеки тест трябва да показва какво е блокирано и какво остава разрешено.
Матрицата е част от управлението на AI в организацията, а техническото налагане - от сигурността на AI системата. NIST AI Risk Management Framework дава обща рамка за управление на риска; таблицата тук е наше практическо приложение към бизнес действия.
Въпроси за човешкото одобрение.
Трябва ли човек да одобрява всичко?
Не. Предварително разрешени действия с ограничен обхват могат да се изпълняват автоматично. Условията, правата и поведението при изключение трябва да са проверени.
Достатъчна ли е висока увереност на модела?
Не. Увереността не дава право за действие и не премахва бизнес риска. Одобрението зависи от политиката и последствията.
Какво става, ако условията се променят след одобрение?
Проверявате версията и параметрите отново. Ако одобреното действие вече е различно, изисквате ново одобрение.
Обсъдете матрица за вашия AI агент с конкретен списък от действия и отговорни роли.