Новая возможность в приложении ChatGPT для macOS скрупулёзно фиксирует, что пользователь делал на своём компьютере, и сохраняет эти сведения в обычном текстовом файле, который можно свободно прочитать
Вообразите, что ваш компьютер сам начинает вести дневник — вроде тех, что раньше заполняли школьники в тетрадях, а ещё раньше, на протяжении нескольких столетий, — путешественники, аристократы и торговцы.
Это не преувеличение: новый дневник вашего Mac выглядит именно так. Это совокупность текстовых файлов, к которым может обратиться любое приложение на компьютере и, разумеется, человек, сидящий за клавиатурой. Ведением этого дневника занимается функция Computer History, выпущенная OpenAI в середине августа. На сегодняшний день она доступна только в приложении ChatGPT для Mac при подписке Pro и выше, и лишь после того, как пользователь сам её активирует. По замыслу создателей, «История» даёт ИИ-помощнику возможность быстро погружаться в рабочий контекст и отвечать даже на размытые запросы вроде «напомни тому, с кем я переписывался насчёт поставок на прошлой неделе». Естественно, у такого удобства есть своя цена — от обработки данных на серверах OpenAI до утечки к киберпреступникам.
Если приведённое описание напомнило вам аналогичную по смыслу функцию Recall от Microsoft и ранее анонсированную Chronicle от самой OpenAI, это не совпадение. Цель разработки была ровно та же, но на этот раз для её достижения выбрали иные средства. Умудрённые PR-катастрофой с Recall, разработчики Computer History отказались от регулярного снятия и распознавания скриншотов. Вместо этого приложение ChatGPT задействует специальные возможности (Accessibility Services), чтобы «считывать» текстовые строки на экране, а также фиксировать действия пользователя: клики мышью, ввод в текстовые поля, переключение между приложениями и тому подобное. Информация в виде набора «сырых событий» хранится в контейнере приложения ChatGPT (app group), где она доступна только самому приложению ChatGPT или другим процессам с явного разрешения пользователя. В экспериментах специалистов по компьютерным расследованиям за два часа «обычной» работы было создано около 3,5 тысяч таких событий.
События хранятся на компьютере до 48 часов. Приложение ChatGPT периодически само запускает невидимые сессии чата, где просит ИИ создать краткое резюме из набора связанных между собой событий. Получившиеся «дневниковые записи» далее сохраняются в обычных текстовых файлах уже доступных всем приложениям в системе. Эти записи по запросу пользователя или в рамках автоматических сценариев работы могут подгружаться в контекст разговора с чатботом, чтобы он помогал в делах более осмысленно. OpenAI очень упирает на тот факт, что ассистент подмечает повторяющиеся рабочие процессы и сам предлагает автоматизировать рутину, создавая навыки, точно повторяющие действия пользователя.
После создания выжимки «сырые события» уничтожаются. OpenAI обещает также не сохранять невидимые чаты и не использовать их для тренировки ИИ, но делает исключение для «случаев, предусмотренных законом». А вот текстовые «дневниковые» записи, которые подгружаются в контекст, сохраняются на серверах OpenAI ровно на тех же правах, что обычные чаты пользователя и память ИИ-агента, то есть подчиняются общим настройкам пользователя.
Вся работа сервиса основана на функциях для слабовидящих и слабослышащих людей, поэтому ChatGPT регистрирует те данные, которые отдаёт ему операционная система. Это названия окон, блоки текста, подписи к картинкам в браузере, содержимое полей ввода по мере набора пользователем, названия элементов, по которым человек кликнул мышкой. Если вы смотрите видео, ИИ не видит сам ролик, но может прочитать название окна, название сайта, описание видео. Если вы смотрите картинки в галерее, ИИ видит названия изображений и папки, но не сами картинки. Аудио не записывается и не сохраняется ни в каком сценарии. От созвонов остаётся только название окна (тема встречи), если, конечно, в самом приложении для видеоконференций не была включена текстовая расшифровка. Поля с паролями, если они замаскированы (отображаются точками), не считываются. Согласно документации OpenAI, окна браузера в приватном режиме исключаются из сканирования всегда.
Принципиальным отличием от Microsoft Recall является явная и детализированная процедура включения: Computer History не будет включаться самостоятельно. Нужно пройти в меню настроек, далее Integrations → Computer history. Функцию нужно запустить, прочитав все предупреждения и объяснения; также требуется, чтобы был включён доступ к памяти агента (Memories). Затем нужно указать, какие приложения на компьютере и какие веб-сайты должны быть подключены к функции Computer History, а также утвердительно ответить на ряд запросов macOS, выдав нужные разрешения. Для организаций, использующих корпоративную подписку, разрешение нужно включать на двух уровнях: сначала администратор компании должен в целом одобрить применение Computer History, а затем каждый желающий сотрудник включает её самостоятельно.
Даже если вы полностью доверяете OpenAI и их заявлениям о том, как хранится и используется информация, данные могут быть украдены прямо с вашего компьютера при помощи инфостилера. В последние два года разразилась настоящая эпидемия инфостилеров для Mac, поэтому угроза не гипотетическая. А авторы инфостилеров очень быстро дорабатывают свои изделия для кражи новых «перспективных» видов информации. Файлы OpenAI для них — настоящий подарок. Ведь они содержат всё, что делал человек, уже обработанное нейросетями, в удобном для чтения виде. Здесь нет паролей и номеров кредитных карт, зато наверняка есть убедительные подсказки для целевых мошеннических атак («письмо от начальника»)
Рекомендуется минимизировать или вовсе отключить Computer History тем, чья работа за компьютером связана с обработкой конфиденциальных данных. В первую очередь это врачи, юристы и другие специалисты, работающие с профессиональной тайной, персональными данными, медицинской информацией. Также в группе повышенного риска состоят люди, живущие с ревнивыми родственниками или работающие в офисе с любопытными коллегами.
Если же вы не делаете ничего из перечисленного и хотите попробовать, насколько полезны вам результаты ИИ-поиска и автоматически генерируемые навыки, можно выбрать безопасные настройки.
Настройте безопасный вход в macOS. Обязательно отключите автоматический вход в систему, установите запрос пароля сразу после запуска заставки или перехода в режим сна. Используйте только надёжный пароль и биометрическую аутентификацию. Дополнительно убедитесь, что у вас включено шифрование диска. Самостоятельно добавьте в список исключений Computer History все мессенджеры, в которых вы ведёте конфиденциальную переписку, приложения и сайты для учёта финансов и любые другие площадки, где у вас есть секретная информация. Периодически, хотя бы пару раз в неделю, заходите в настройки Computer History, чтобы посмотреть, какие приложения и сайты были им недавно проанализированы и сохранены. Это поможет обнаружить и вручную удалить или отфильтровать те источники приватной информации, которые вы забыли исключить ранее. Вне зависимости от настроек Computer History, два самых распространённых варианта утечки данных посторонним (в том числе на компьютерах Apple) — это кража прямо с компьютера macOS-инфостилером и ввод информации на фальшивом сайте. Чтобы избежать этих проблем, обязательно используйте на своём Маке полноценную систему кибербезопасности.
По материалам Касперский