01
Контрол на достъпа
Всяка интеграция получава само правата, нужни за конкретната задача.
- Достъп според ролята
- Без универсални ключове
- Периодичен преглед на права
КОРПОРАТИВЕН AI / СИГУРНОСТ
Достъп само до нужното, нищо повече.
AI система, свързана с реални бизнес системи, е нова повърхност за риск, ако не е проектирана внимателно. Прилагаме принципа на минимален необходим достъп и изолация на средите още от архитектурата, не като добавка накрая.
01 / ДОСТЪППрава само до нужните данни и действия
02 / ИЗОЛАЦИЯТестова среда, отделена от работната
03 / МОНИТОРИНГЗаписи за всяко извикване на модел
04 / ГОТОВНОСТПлан за реакция при инцидент
ОПРЕДЕЛЕНИЕ
Какво означава сигурност при AI автоматизация?
Сигурността при AI автоматизация означава, че системата достига само до данните и действията, които са ѝ изрично разрешени. На практика това е отделен акаунт с минимални права, управление на ключовете, маскиране на чувствителните данни преди запис, разделени среди за тест и работа, и запис на всяко изпълнение. Автоматизацията не получава достъпа на администратор, защото така е по-лесно. Действията с реален ефект минават през човек, който ги одобрява поименно.
Въпросът не е дали AI е сигурен сам по себе си. Въпросът е какво може да достигне системата,
която сте пуснали, и какво остава след нея като следа.
Къде остава човекът. Правата се одобряват от човек, а не се наследяват от
съществуващ акаунт. Всяко разширяване на достъпа минава през преглед, а критичните действия
изискват потвърждение от човек, независимо колко уверена е системата.
ПРИНЦИПИ
Какво прилагаме на практика.
Всеки принцип е практика, вградена в архитектурата — не документ, който се пише веднъж и се забравя.
02
Сигурна интеграция
API ключове, токени и достъпи, съхранявани и ротирани по добра практика.
- Съхранение извън кода
- Периодична ротация
- Отделни ключове по среда
03
Изолация на среди
Тестовата и работната среда са разделени, за да не се смесват данни и грешки.
- Отделни бази и достъпи
- Тестови данни без реални клиенти
- Контролиран преход към реална среда
04
Защита срещу злоупотреба
Проверки срещу подменена инструкция и опити за извличане на неоторизирана информация.
- Валидация на входа
- Ограничен обхват на действие
- Преглед на чувствителни операции
05
Мониторинг и записи
Всяко извикване на AI модел се записва за проследимост и последващ анализ.
- Лог по заявка
- Открояване на аномалии
- Готовност за одит
06
Оценка на доставчици
Преглед на условията и практиките на AI доставчиците, преди да им поверите данни.
- Преглед на условия за ползване
- Алтернативни доставчици
- Съгласуване според чувствителността
КАК РАБОТИ
Общата логика зад архитектурата.
Долният поток е илюстративен пример за структура, а не описание на конкретна вече изградена система.
ЗАЯВКАДействие, изискващо AI обработка
ПРОВЕРКАПрава и обхват на достъп
AIИзпълнение в изолирана среда
ЛОГЗапис на действието
ОТГОВОРРезултат, готов за употреба
Примерът показва общата логика на проверка преди изпълнение — конкретната архитектура зависи от системите, с които AI ще се свързва.
КОНТРОЛ
Какво гарантира на практика подхода.
Минимален достъп
Всяка интеграция вижда само нужните данни и нищо извън тях.
Разделени среди
Тестовете не докосват реални данни или достъпи.
Криптиране в движение
Комуникацията между системите е защитена при пренос на данни.
План при инцидент
Ясна следваща стъпка какво се прави при съмнение за нередност.
ОБХВАТ
С какво работим на практика.
Конкретните инструменти и процеси се адаптират според съществуващите ви системи и изисквания.
Достъп според ролятаAPI ключове и ротацияИзолирани средиОграничаване на честотатаЗаписи и мониторингРиск от доставчика прегледКриптиране в движениеРеакция при произшествие
Свързано: AI управление и контрол, поверителност на данните и AI интеграции.
ОГРАНИЧЕНИЯ
Какви рискове остават?
Сигурността при AI системи добавя няколко неща към обичайната картина. Тези четири се подценяват най-често.
- AI системата има правата, които ѝ дадете затова получава отделен акаунт с минимално необходимите права, а не достъпа на администратор.
- Промптът може да съдържа инструкция съдържание от външен източник се третира като данни, не като команда. Действията идват от изброен списък.
- Тайните изтичат през логовете ключове и лични данни се маскират, преди да стигнат до запис или до доставчик на модел.
- Тестовата среда често е с реални данни средите се разделят и тестовете работят с маскирани или изкуствени данни.
Какво се случва със самите данни при обработка — в обработка на данни при AI системи.
РЕЗУЛТАТ
Как измерваме дали контролът работи — и какво остава при вас?
Сигурността се проверява по това какво би видял външен човек, ако получи достъп до един акаунт.
01
Достъп
Кой и какво може да достигне.
- Системи с отделен акаунт
- Права над необходимото
- Акаунти без активност
02
Проследимост
Какво остава записано.
- Действия със запис
- Пълнота на записа
- Срок на съхранение
03
Устойчивост
Какво става, когато нещо се счупи.
- Време до откриване на проблем
- Системи с резервен път
- Проведени тестове на спиране
Какво получавате
- Отделни акаунти за всяка автоматизация
- Права по принципа на минималната необходимост
- Управление на ключове и тайни
- Маскиране на чувствителни данни преди запис
- Разделени среди за тест и работа
- Списък на разрешените действия
- Записи на изпълненията със срок на съхранение
- Наблюдение и сигнали при отклонение
- Процедура за спиране на система
- Документация на настройките
От тази задача към работещо решение.
Изберете допълващия обхват според състоянието на данните, използваните системи и отговорностите на екипа. Всяко направление описва отделен резултат и условия за внедряване.
ЧЗВ
Често задавани въпроси.
Използвате ли нашите данни за обучение на модели?
Не изпращаме бизнес данни за обучение на трети страни без изричното ви съгласие; конкретните условия зависят от избрания AI доставчик и се преглеждат заедно с вас преди внедряване.
Как предпазвате от подменена инструкция?
Чрез валидация на входа, ограничен обхват на действие на всеки AI компонент и преглед от човек на операциите с реален риск.
Достъпен ли е AI слоят директно отвън?
Не по подразбиране — комуникацията минава през контролирани интеграции с ограничени права, не през директен публичен достъп.
Какво се записва?
Извикванията към AI модели, критичните автоматични действия и промените в конфигурацията — конкретният обхват се дефинира заедно с вас според чувствителността на процеса.
Правите ли преглед на сигурността преди внедряване?
Да, като част от одита разглеждаме архитектурата на интеграцията и достъпа, преди да предложим решение за реална среда.
ПРОЗРАЧНОСТ
Кой отговаря за тази страница?
Описаните мерки са тези, които прилагаме. Не заместват вашата политика по информационна сигурност.
ИЗТОЧНИЦИ И АКТУАЛНОСТ
Рамки, с които сверяваме подхода си към сигурността.
Това не е сертификат за конкретно решение. Използваме публични рамки за сигурност като контролен списък при проектиране и преглед.
- NIST AI Risk Management FrameworkУправление на риск, измерване, наблюдение и отчетност при AI системи.
- OWASP Top 10 for LLM ApplicationsПрактически рискове като prompt injection, изтичане на чувствителна информация, прекомерни права и неправилна обработка на изхода.
СЛЕДВАЩА СТЪПКА
Кажете ни какво трябва да издържи вашата AI система.
В одита разглеждаме конкретните изисквания за контрол, достъп и данни, преди да предложим архитектура.