Коммерческая тайна, пароли и личная переписка. Какие данные сотрудники не должны загружать в нейросети?
Только за прошлый год объем утечек корпоративных данных в публичные нейросети вырос в 30 раз. MIR24.TV поговорил с независимым экспертом по управлению ИТ, техническому due diligence и эффективности ИТ-функции Дианой Распоповой о том, что происходит с данными, когда сотрудник отправляет их в публичную нейросеть.
«Прежде чем составлять списки запретов, стоит ответить на другой вопрос: куда вообще уезжает то, что сотрудник отправил в нейросеть. От этого зависит все остальное, потому что ответ бывает принципиально разный».
Вариант первый: модель развернута внутри вашего контура, на ваших серверах или в вашем приватном облаке. Запрос никуда не уходит, он обрабатывается там же, где лежат все остальные ваши данные.
Вариант второй, и он гораздо более распространенный: сотрудник пользуется чужой моделью через веб-интерфейс или по API. В этом случае текст запроса физически покидает периметр компании и оказывается на серверах поставщика.
Что происходит с данными на той стороне?
Когда запрос уходит по API или через чат в стороннюю модель, с данными случаются две вещи. Первая: они где-то хранятся, на серверах поставщика, в технических логах, в истории переписки. Вторая: они обрабатываются. Их могут использовать для дообучения модели, они могут выборочно уходить в системы модерации, а значит, их может увидеть живой человек на той стороне. Это не открытый доступ, но и не наедине с собой.
Отключить обучение на ваших данных в большинстве сервисов можно, такая настройка предусмотрена, говорит Диана Распопова. Но это не гарантия, что дальше они никуда не уйдут: хранение, логи и модерацию этой галочкой не выключить.
Поэтому исходить стоит из простого: если данные до отправки были приватными, то после нее приватными быть перестали.
Что обычно загружают и почему это плохо?
«Типичный набор выглядит так. Договор целиком, чтобы получить краткое содержание. Выгрузка из CRM с именами, телефонами и суммами сделок. Резюме кандидатов и данные сотрудников. Кусок кода, в котором остался пароль к базе или ключ доступа. Финансовая отчетность до публикации. Переписка с клиентом, чтобы нейросеть помогла составить ответ», — уточняет в разговоре эксперт.
Логика сотрудника понятна и даже похвальна: он хочет работать быстрее. Проблема в том, что он не видит разницы между «показал файл коллеге» и «отправил файл во внешнюю систему, условия работы которой не читал».
Это не атака и не злой умысел, навредить он не хотел. Но своими руками он с высокой вероятностью создал утечку персональных или конфиденциальных данных. Именно поэтому такие утечки массовые: за 2025 год объем конфиденциальной информации, утекшей в публичные нейросети, вырос в 30 раз.
«А теперь давайте разбираться, что в нейросеть отправлять можно, а что нельзя. Ответ, как я и говорила в начале, зависит от того, чья это нейросеть», — продолжает Диана Распопова.
Если модель внутри компании
Ограничений по содержанию запросов здесь практически нет. Данные контур компании не покидают, а значит, не могут сформировать утечку ни персональных, ни конфиденциальных данных вовне.
Но помнить стоит об одном.
«Если модель одна на всех и права доступа никак не разграничены, а вы скормили ей, скажем, базу знаний компании или зарплаты сотрудников, все это становится достоянием общественности внутри компании: при желании любой сможет это достать. Делать так не надо, за это вас никто не похвалит».
Если модель чужая
Теперь рассмотрим внешние нейросети. Здесь список получается такой.
«Категорически нельзя загружать персональные данные: имена вместе с контактами, паспортные данные, адреса, сведения о здоровье, биометрию. Для российской компании — это прямое нарушение закона о персональных данных, в том числе требования хранить их на территории страны», — подчеркивает в интервью с MIR24.TV Диана Распопова.
Нельзя загружать коммерческую тайну и все, что закрыто соглашением о неразглашении, включая чужую: данные контрагентов и клиентов вы обязаны защищать не хуже своих.
Нельзя загружать пароли, ключи доступа и токены. Это самая частая находка в кусках кода, которые отправляют на проверку.
Нельзя загружать финансовую отчетность до официального раскрытия и исходный код критичных для бизнеса систем.
Что можно: обезличенные и обобщенные данные, публичную информацию, абстрактно сформулированные задачи.
«Практическое правило простое. Прежде чем нажать отправить, уберите из текста все, по чему можно опознать конкретного человека, конкретную компанию или конкретную систему. Если после этого запрос все еще имеет смысл, отправляйте спокойно. А если смысл потерялся, значит, отправлять такой запрос и не следовало. Например, вместо «вот договор компании «Ромашка» на 12 млн, проверь пункт про пени» отправьте «вот формулировка про пени из договора подряда, посмотри, нет ли в ней подвоха». Задача решается та же, а контрагент и сумма сделки остаются у вас».
Что делать компании?
Запрещать нейросети целиком бессмысленно, считает эксперт, пользоваться ими все равно будут, просто мимо вас и мимо безопасности.
Работает другое. Дать людям один разрешенный сервис на корпоративных условиях, чтобы не было зоопарка из десяти личных аккаунтов. Поставить обезличивание и шлюз, который на подходе к модели блокирует отправку того, чего отправлять нельзя. И разобрать на обучении конкретные примеры: вот этот запрос нормальный, а вот этот уже нет.
«Цена вопроса считается просто. С 30 мая 2025 года за утечку персональных данных юридическое лицо платит от 3 до 15 миллионов рублей в зависимости от числа пострадавших, за утечку биометрии до 20 миллионов, а повторная утечка считается уже процентом от годовой выручки и может дойти до 500 миллионов. На этом фоне шлюз и час обучения сотрудников выглядят недорого», — резюмировала Диана Распопова.
