Бизнес ·
Данные нельзя защищать после того, как они уже ушли в модель
Защита данных при работе с ИИ начинается до отправки запроса. Нужно понять, какие сведения попадают в модель, на каком основании, где они хранятся, кто видит результат и что произойдёт после ошибки. Запрет «не загружать секретное» без инструментов и правил не создаёт рабочей границы.
Сначала классифицируют данные
Публичные материалы, внутренние инструкции, коммерческие условия, персональные данные и секреты требуют разных режимов. Простая шкала помогает сотруднику понять, что допустимо в открытом сервисе, что — только в корпоративном контуре, а что нельзя передавать модели.
Классификация должна сопровождаться примерами из реальной работы: договор, переписка, резюме, код, финансовый отчёт. Абстрактный регламент трудно применить к ежедневному запросу.
Нужно знать путь запроса
Компания фиксирует поставщика, регион обработки, срок хранения, использование данных для обучения, субподрядчиков и возможность удаления. Эти условия проверяют в договоре и настройках, а не предполагают по рекламному описанию.
Отдельно рассматривают расширения браузера, интеграции и агенты: они могут получать больше контекста, чем видит пользователь в поле сообщения.
Минимизация уменьшает последствия
Модели часто достаточно структуры документа, нескольких полей или обезличенного фрагмента. Имена, контакты, номера договоров и коммерческие показатели удаляют или заменяют до передачи, если они не нужны задаче.
Лучшее правило реализуется технически: фильтр предупреждает о чувствительных данных, корпоративный интерфейс ограничивает разрешённые модели, а шаблон запроса подставляет только необходимые поля.
Доступ к знаниям проверяется при поиске
Подключение ИИ к базе компании не означает общий доступ ко всем файлам. Поиск должен учитывать права конкретного пользователя и сохранять происхождение каждого фрагмента.
Иначе сотрудник может получить через ответ документ, который не открывается ему напрямую. Такой обход опаснее обычной ошибки генерации, потому что скрывает нарушение за удобным интерфейсом.
Действия агента требуют отдельной защиты
Если система отправляет письма, меняет CRM или создаёт документы, ей назначают отдельную учётную запись и минимальные права. Необратимые и финансовые операции требуют подтверждения.
Журнал хранит вход, найденные источники, вызванный инструмент, результат и человека, одобрившего действие. Секреты при этом маскируются и не попадают в открытые логи.
Контроль проверяют сценариями
Тестируют попытки запросить чужие данные, обойти инструкцию через документ, вывести системный контекст и заставить агента выполнить запрещённую операцию. Инцидент должен обнаруживаться, останавливаться и разбираться.
В рамках Метода я соединяю защиту с архитектурой рабочего процесса. Удобный ИИ-сервис заранее знает допустимые источники, объём данных и границы действия, поэтому безопасность не зависит только от внимательности человека.
ИИ для конкретного процесса
Если вы рассматриваете внедрение ИИ, начнём с процесса, доступных данных, границ автоматизации и способа проверить результат.