Публикация The Verge о персональном агенте Muse описывает проблему, которая выходит за пределы настроек одного приложения: пользователь может разрешить доступ к своим данным, но в этих данных почти всегда присутствуют сообщения, фотографии, адреса и другие сведения о собеседниках. Значение этой дискуссии в том, что AI-агенты меняют саму границу персонального согласия: действие одного человека затрагивает цифровой след многих других.
Агенту нужен не один запрос, а контекст.
Обычный чат с LLM обычно начинается с конкретного сообщения, которое пользователь вручную передаёт сервису. Агентский продукт устроен иначе: он должен выполнять поручения, помнить предпочтения, находить нужную информацию и действовать в подключённых сервисах. Поэтому в его рабочий контекст могут попадать почта, переписка, контакты, календарь, фотографии и документы. Чем шире набор задач, тем больше данных требуется для персонализации.
В материале The Verge президент Signal Foundation Мередит Уиттакер указывает, что автономные действия таких систем строятся не только на сведениях владельца устройства, но и на информации обо всех людях, с которыми он общается. Для агента переписка — источник контекста, а для участников диалога — данные, переданные третьей стороне без отдельного выбора с их стороны. Это не обязательно означает утечку, но создаёт новый канал сбора и обработки чувствительной информации.
Разрешение на доступ не раскрывает весь путь данных.
Технически доступ приложения к данным, хранение истории, создание долговременной памяти, обучение модели и проверка качества — разные процессы. Пользователь может увидеть запрос на разрешение к почте или контактам, но не всегда понимает, как долго сведения будут храниться, попадут ли они в персональный профиль и будут ли доступны людям, оценивающим работу системы. Как отмечает разбор Forbes о защите данных в AI-сервисах, правила хранения и использования пользовательских вводов различаются у поставщиков, а диалоги не стоит автоматически считать конфиденциальными.
Для разработчиков это означает, что формулировки вроде «подключите данные для лучшего опыта» недостаточны. Они не объясняют, какие именно источники подключаются, что агент может читать, какие действия может выполнять и применяется ли информация к обучению или оценке моделей. Согласие на доступ к сервису также не отвечает на отдельный вопрос о данных третьих лиц, которые оказались внутри этого сервиса.
Почему люди соглашаются на широкий доступ.
Обещание удобства остаётся сильным стимулом. Агент, который готовит письма, ищет сведения в документах или заполняет повторяющиеся формы, снимает часть повседневной нагрузки. Но в обзоре исследований отношений человека и AI доверие и принятие системы названы одними из ключевых факторов таких отношений. Авторы также рассматривают логику, при которой человек сопоставляет пользу раскрытия информации с возможными рисками. Дружелюбный интерфейс и образ «помощника» могут смещать это сопоставление в сторону удобства.
Особенно заметен риск у сервисов, которые предлагают эмоциональную поддержку или постоянное общение. Vox со ссылкой на научную работу 2025 года пишет, что к чат-ботам обращаются из-за одиночества, для обсуждения личных и психических проблем, а также за эмоциональной поддержкой. В таких диалогах пользователи могут раскрывать не только собственные переживания, но и подробности о родственниках, партнёрах, коллегах и друзьях.
Jed Foundation в рекомендациях по AI-компаньонам отдельно советует не передавать ботам реальные имена, фотографии, геолокацию, сведения о здоровье и информацию о других людях. Организация подчёркивает, что такие сервисы не обязаны соблюдать те же правила конфиденциальности, что психологи или консультанты. Для агентских продуктов этот принцип применим и вне эмоциональных сценариев: рабочая переписка, журналы поддержки и личные архивы часто содержат данные сразу нескольких сторон.
Что меняется для рынка и продуктовых команд.
Конкуренция между агентами будет идти не только за качество модели, но и за доступ к контексту. Чем полнее картина жизни пользователя, тем точнее могут быть рекомендации и автоматизация. Одновременно растёт цена ошибки в проектировании разрешений: чрезмерный доступ способен создать риски для самого пользователя, его окружения и компаний, чьи данные попали в подключённые аккаунты.
Практический ответ для продуктов — разделять доступ по источникам и задачам, не смешивать память агента с использованием данных для обучения, давать понятные инструменты отзыва разрешений и удаления сохранённого контекста. Отдельная политика требуется для данных собеседников: загрузка переписки или синхронизация контактов не должны маскироваться под безобидную персонализацию.
Если Вы подключаете AI-агента к личным или рабочим сервисам, полезно рассматривать это как делегирование доступа, а не как отправку одного запроса. Следует проверять набор разрешений, избегать передачи паролей, финансовых реквизитов и чужой чувствительной информации, а также отделять тестовые данные от реальных. Удобство агента зависит от контекста, но именно поэтому вопрос согласия становится частью его базовой архитектуры, а не второстепенной настройкой.
