Сигурност на данните при внедряване на ИИ: какво може да се споделя с моделите и какво не

„А накъде ще отидат нашите данни?“ Това е въпросът, който чуваме на всяка първа среща. И с право. Защото най-лошото, което може да се направи, е да копирате договор с клиент в публичен чат-бот „само за да направи кратко резюме“.

Нека да видим как се прави това нормално.

1. Започнете с класификация на данните

Не всички данни са еднакви. Преди да автоматизирате каквото и да е, подредете ги по категории:

• Публични: каталог, цени на сайта, отворени статии. Тук рисковете почти липсват.
• Вътрешни: регламенти, инструкции, кореспонденция. Неприятно е, ако изтекат, но не е катастрофа.
• Лични данни: имена, телефони, адреси на клиенти и служители. Тук действа законът и с тях трябва да се работи съответно.
• Търговска тайна: цени за ключови клиенти, финансови отчети, условия по договори. Това е най-чувствителната категория.

За всяка категория има отделни правила. И тези правила трябва да се фиксират преди старта, а не след това.

2. Три варианта за разполагане

Облачни API на големи доставчици. Най-мощните модели, минимум инфраструктура. Има един важен нюанс: условията за използване на данни в бизнес API и в безплатен публичен чат са различни. Преди да изпращате нещо чувствително, трябва внимателно да прочетете условията на конкретния доставчик и да изберете подходящия план.

Локални модели на вашия сървър. Данните изобщо не излизат извън вашия контур. Отворените модели днес са напълно подходящи за много задачи: класификация, извличане на полета, търсене в документи. Плащате за това с хардуер и поддръжка.

Хибриден вариант. Най-често това е най-разумното решение. Чувствителното се обработва локално или се анонимизира, а сложните задачи с нечувствителни данни отиват към по-мощен облачен модел.

3. Практични правила, които работят

• Анонимизиране. Преди да изпратите текст към външен модел, заменете имената, телефоните и номерата на сметки с маркери. Моделът ще получи смисъла, а не личните данни.
• Права за достъп. Корпоративният помощник показва на служителя само документите, до които и без това има достъп.
• RAG вместо допълнително обучение. Вашите документи стоят във вашата база, а моделът получава само нужния фрагмент за конкретния отговор. Подробно — в статията какво е RAG.
• Журнал на действията. Всяка заявка, отговор и извикване на инструмент се записват. Ако нещо се обърка, ясно се вижда какво точно и кога е станало.
• Ключовете само на сървъра. API ключовете никога не попадат в браузъра или в мобилното приложение.
• NDA. Преди да навлезем по-дълбоко във вашите бази, подписваме споразумение за неразкриване, а тестваме със синтетични или анонимизирани данни.

4. Какво със сигурност да не правите

• Не копирайте чувствителни документи в безплатни публични чатове.
• Не давайте на AI агент права, по-широки от тези, които реално са нужни за задачата.
• Не свързвайте модела директно към продукционна база без междинен слой за проверки.

Сигурността не е отделна опция, която се добавя накрая. Тя се залага в архитектурата още от първия ден. Ще разгледаме вашите данни и ще подберем вариант за разполагане по време на одит на бизнес процесите. А как е устроено всичко това в корпоративната база знания, прочетете на страницата Корпоративна база знания и RAG.