Исходите из простого правила: всё, что вы отправили, уже вышло за ваш периметр. Остаётся понять, насколько это опасно в каждом случае.
Чего нельзя отправлять никогда
Секреты и ключи. Токены, пароли, приватные ключи, строки подключения к базе. Чаще всего утечка происходит так: человек копирует файл конфигурации целиком, чтобы спросить про одну строчку.
Персональные данные. Настоящие имена, телефоны, адреса, паспортные данные, медицинские сведения. Российским компаниям здесь добавляется вопрос по 152-ФЗ.
Чужой код под NDA. Подрядчику код заказчика обычно нельзя выносить никуда, и языковые модели не исключение. Сначала прочитайте договор, потом отправляйте.
Данные платёжных карт. У них своё регулирование и свои последствия.
Что можно отправлять, но с оглядкой
Схема базы данных. Сама по себе редко бывает секретом, но вместе с адресом сервера превращается в карту для атаки.
Логи. В них почти всегда больше, чем видно с первого взгляда: токены сессий, идентификаторы пользователей, внутренние адреса. Перед отправкой почистите.
Трассировки ошибок. В них нередко попадают куски окружения и пути на диске.
Как не зависеть от дисциплины
Под давлением сроков люди ошибаются. Поэтому нужен процесс, а не памятка на стене.
Выносите секреты из кода. Если в файле лежат имена переменных окружения, а не значения, копировать физически нечего.
Поставьте сканер в пре-коммит. Он ловит секреты до того, как они доберутся до репозитория, а значит, и до промпта.
Разделяйте окружения. Для опытов с моделью берите тестовые данные, а не выгрузку из прода.
Обезличивайте на входе. Задача связана с обработкой персональных данных? Подставьте синтетические значения до отправки.
Что происходит с вашими данными у нас
Мы не храним содержимое запросов и ответов. В базу попадает только метаинформация для счёта: какая модель, сколько токенов и сколько это стоило.
Понимайте это буквально. Восстановить ваш промпт из нашей базы нельзя, потому что его там просто нет.
Что делать, если секрет всё-таки ушёл
Порядок тот же, что при любой утечке:
- Отзовите и перевыпустите ключ сразу, а не к концу рабочего дня.
- Просмотрите логи доступа за период, пока ключ действовал.
- Выясните, как он оказался в промпте, и перекройте этот путь.
Первый пункт важнее остальных. Всё прочее подождёт.
Коротко
Секреты, персональные данные и чужой код под NDA не отправляйте никуда. Остальное сначала чистите. Процесс надёжнее памятки: секреты вне кода, сканер в пре-коммите, тестовые данные для экспериментов.