01
Минимизация
Подава се само полето, нужно за стъпката. Не целият запис, защото така е по-лесно.
СИГУРНОСТ
Въпросът не е дали AI е сигурен. Въпросът е какво може да достигне.
Преди всеки проект идва един и същ въпрос: къде отиват нашите данни. Той има точен отговор за всяка стъпка от процеса — а ако няма, процесът не е готов за пускане.
ОТГОВОР
Как се защитава фирмената информация при AI автоматизация?
Защитата стъпва на пет неща: подава се само полето, което стъпката изисква, а не целият запис; чувствителните стойности се маскират преди да напуснат средата; автоматизацията работи с отделен акаунт и минимални права, не с достъп на администратор; тестовата и работната среда са разделени; и всяко изпълнение оставя запис кой какво е направил. Кои категории данни изобщо излизат навън е ваше решение, не на доставчика.
Изречението „нашите данни не могат да излизат навън“ почти винаги е вярно за част от данните и почти никога за всички. Разликата определя архитектурата.
СЛОЕВЕ
Кои пет мерки вършат основната работа?
Подредени по това колко често се пропускат, а не по сложност.
02
Маскиране
Чувствителните стойности се заменят, преди да напуснат средата. Кой може да види оригинала се определя поименно.
03
Отделни акаунти
Всяка автоматизация има собствен акаунт с изброени права — не наследява достъпа на човек.
04
Разделени среди
Тестовете работят с маскирани или изкуствени данни, не с реални клиентски записи.
05
Записи
Вход, решение, изход и кой е одобрил. Без запис няма нито разследване, нито подобрение.
ПЪТЯТ НА ЕДИН ЗАПИС
Какво точно напуска средата ви?
За всяка стъпка има конкретен отговор. Ако няма, процесът не е готов за пускане.
Фактура с данни за контрагент
Документът съдържа име, адрес, идентификатор, суми и позиции. Не всичко от това е нужно за стъпката.
- Документ в средата ви
- Излизат само полетата, нужни за разчитане — маскирани, където е възможно
- Проверките срещу вашите записи се правят локално
- Човек одобрява разкриване на оригинална стойност, когато е нужно
- Резултатът се записва при вас, със следа кой какво е направил
Бихме измервали: полета, напускащи средата, дял маскирани стойности, разкрития с одобрение от човек
ПРОВЕРКА
Кои въпроси да зададете на всеки доставчик?
Включително на нас. Ако някой не може да отговори конкретно, това е отговор само по себе си.
- Кои точно полета напускат нашата среда?
- Към кой доставчик отиват и при какви условия?
- Какво се маскира преди изпращане?
- Колко дълго се съхраняват записите и къде?
- С какви права работи автоматизацията?
- Кой може да разшири тези права и как се проследява?
- Какво се записва при всяко изпълнение?
- Кой се уведомява при инцидент и в какъв срок?
- Може ли системата да бъде спряна веднага и от кого?
- Какво се случва с данните ни при прекратяване?
Същите въпроси стоят и пред организацията — виж управление на AI.
ОГРАНИЧЕНИЯ
Какви рискове остават?
Всяка от тези четири остава дори при добре построена система. Затова се управлява, а не се пренебрегва.
- Системата има правата, които ѝ дадете най-честият реален проблем не е пробив, а прекалено широк достъп, даден заради удобство.
- Външно съдържание може да съдържа инструкция текст от имейл или документ се третира като данни, не като команда. Действията идват от изброен списък.
- Тайните изтичат през логовете ключове и лични данни се маскират, преди да стигнат до запис или до доставчик на модел.
- Условията на доставчиците се променят какво прави доставчикът с подадените данни се проверява при избора и се преглежда периодично.
Когато данните изобщо не могат да излизат — виж кога има смисъл частен AI.
ЧЗВ
Често задавани въпроси
Могат ли наши данни да се ползват за обучение на модел?
Това зависи от доставчика и от избрания план. Проверява се при избора и се записва изрично. При чувствителни категории избираме доставчик и режим, при които не се ползват.
Може ли служител да подава фирмена информация към публичен инструмент?
Това е въпрос на вътрешно правило, не на технология. Част от работата ни е да помогнем то да бъде написано разбираемо и да бъде спазвано.
Трябва ли ни собствен сървър?
Рядко. Повечето изисквания се покриват с минимизация, маскиране и подбор на доставчик. Частен модел има смисъл при конкретни категории данни, а не като общо правило.
Какво става, ако AI доставчикът спре да работи?
Критичните стъпки имат резервен модел или ръчен път. Това се проектира предварително, а не се измисля по време на инцидент.
ПРОЗРАЧНОСТ
Кой стои зад този материал?
Материалът се поддържа актуален. Ако нещо в него се разминава с това, което виждате при нас на практика, пишете ни — ще го поправим.
СВЪРЗАНИ
Какво да прочетете след това?
ИЗТОЧНИЦИ И АКТУАЛНОСТ
Публични security рамки за проверка.
Страницата описва нашия практически подход. За общите AI security рискове сверяваме с NIST и OWASP.
- NIST AI Risk Management FrameworkРамка за идентифициране, измерване и управление на AI риск.
- OWASP Top 10 for LLM ApplicationsРискове като подмяна на инструкции, разкриване на чувствителна информация, прекомерни права на агентите и небезопасна обработка на резултатите.
Имате конкретно изискване към данните?
Кажете ни го в началото — то определя архитектурата, а не се добавя накрая.