Краткое содержание анализа
Инструмент для работы в офисе от ByteDance под названием “Доубао Гунзо” вызвал споры из-за того, что после установки автоматически сканировал и копировал файлы с навыками (Skill) других AI-агентов (таких как Codex, Claude) на компьютере пользователя, включая пользовательские неопубликованные собственные разработки. После инцидента команда быстро принесла извинения и отключила автоматическую сканирование, пообещав перейти на ручной способ загрузки файлов по выбору пользователя. В данном анализе рассматриваются такие аспекты, как техническая осуществимость, отраслевые стандарты, соблюдение правил конфиденциальности и логика разработки продукта. Указывается, что, хотя автоматическое сканирование и не привело к прямому утечке конфиденциальной информации, действия без согласия пользователя считаются нарушением их прав. Особое внимание уделяется важности права пользователя на выбор и прозрачности обработки данных.
1. Что именно делает “Доубао Гунзо”? — Не пугайтесь заголовков, нужно разобраться в фактах
Заголовок оригинального поста звучит слишком эмоционально, но суть проблемы ясна: после установки инструмента он сканировал предустановленные каталоги с навыками AI-агентов (например, скрытые папки Codex и Claude) и копировал их содержимое (включая неопубликованные пользовательские версии) в свои папки.
Однако следует уточнить несколько моментов:
- Это не было “полным сканированием всего хранилища данных”: инструмент сканировал только определенные каталоги;
- Файлы не передавались в облако автоматически: по словам команды разработчиков, они сохранялись локально и передавались в облако только при запросе пользователя.
Тем не менее, отсутствие предварительного уведомления пользователя считается серьезным нарушением, особенно в отношении неопубликованных пользовательских разработок, поскольку это равносильно несанкционированному доступу к личным данным.
2. Почему приложения для работы с документами могут сканировать файлы в фоновом режиме? — Различия в правах доступа на компьютере и смартфоне
Многие задаются вопросом: почему приложения для смартфонов всегда запрашивают разрешение на доступ к файлам, а приложения для компьютера — нет? Ответ кроется в различиях в системах управления правами доступа:
- Windows: приложения, запущенные под учетной записью пользователя, получают права на доступ к файлам этой учетной записи; они могут работать с любыми доступными файлами без дополнительных запросов системы;
- macOS: система Apple предусматривает дополнительную защиту конфиденциальных данных (папки рабочего стола, фотографии, контакты), но скрытые каталоги, такие как Codex/skills, могут быть сканированы приложениями без дополнительного подтверждения.
Таким образом, технически сканирование каталогов возможно, но это не оправдывает отсутствия согласия пользователя.
3. Является ли перенос навыков между AI-агентами обычной практикой в отрасли? — Стандартом является предварительное запрос разрешения
В отрасли AI-агентов перенос навыков пользователей с одного инструмента на другой является распространенной практикой: новые инструменты могут автоматически переносить данные с предыдущих (навыки, настройки, данные из памяти). Однако обычно это происходит после получения согласия пользователя:
- Браузеры запрашивают разрешение на перенос закладок;
- Открытые AI-агенты предлагают пользователю возможность переноса данных при инициализации;
- Коммерческие инструменты предусматривают специальные страницы для загрузки данных.
В данном случае автоматический перенос данных считается нарушением пользовательских прав, поскольку пользователь не давал на это согласия.
4. Считается ли это нарушением конфиденциальности? — Существует серьезный юридический риск
С юридической точки зрения, хотя действия “Доубао Гунзо” и не являются прямым нарушением закона, они создают значительный риск:
- GDPR (Европейский закон о защите персональных данных): доступ к информации на устройстве пользователя должен сопровождаться явным уведомлением и получением согласия;
- CCPA (Закон о защите персональных данных США): перед сбором персональных данных необходимо указать их назначение;
- Специфика пользовательских разработок: неопубликованные навыки могут содержать конфиденциальную информацию; даже локальное копирование таких данных может привести к их передаче в облако.
Таким образом, действия “Доубао Гунзо” считаются нарушением прав пользователей на конфиденциальность.
5. Почему сначала не был предусмотрен ручный способ выбора пользователем? — Доверие важнее функциональности
То, что команда разработчиков смогла быстро отключить автоматическую функцию, свидетельствует о наличии соответствующих настроек в системе (так называемых “флагов функций” — Feature Flags). Однако почему сначала не был предусмотрен вопрос пользователя о желании копировать данные? Создание простого окна с вопросом “Хотите ли вы скопировать данные других AI-агентов?” не представляло бы большой сложности.
Офисные инструменты, работающие с конфиденциальной информацией (контракты, код, данные клиентов), требуют особого подхода: предоставление пользователю права на выбор не только предотвращает споры, но и способствует укреплению доверия. В конце концов, пользователи доверяют инструментам только тогда, когда уверены, что их данные не будут использоваться без их ведома.
Заключение
Инновации в области AI-инструментов должны основываться на доверии пользователей. Технически возможные действия не всегда являются желательными с точки зрения пользовательских интересов. Приоритет должен отдаваться праву пользователя на информацию и возможности самостоятельного выбора.