Google разрабатывает AISeal для защиты личных данных на устройствах Android

Google разрабатывает изолированную аппаратную среду безопасности для устройств Android, предназначенную для защиты конфиденциальной личной информации, используемой помощниками на базе искусственного интеллекта и автономными агентами ИИ. Технология, известная как AISeal, нацелена на то, чтобы сохранять личные данные в безопасности, даже если злоумышленник сможет скомпрометировать основную операционную систему телефона.

Поскольку помощники ИИ становятся все более способными справляться с личными задачами, они могут требовать доступ к сообщениям, календарным записям и другой конфиденциальной информации, чтобы предоставлять актуальные ответы. Подход Google направлен на то, чтобы позволить этим системам использовать такие данные в защищенной среде, ограничивая то, что может быть передано на остальную часть устройства.

Вместо того чтобы помещать модели ИИ непосредственно в защищенную среду с самого начала, текущая фаза разработки сосредоточена на изоляции и защите личного контекста. Google планирует расширить возможности системы в будущем, потенциально позволяя моделям ИИ и автономным агентам работать в самой защищенной области.

AISeal полагается на виртуализационную платформу Android для создания аппаратно обеспеченной среды, отделенной от основной операционной системы. Конфиденциальная информация может храниться в зашифрованном и изолированном пространстве, что снижает ее подверженность программным уязвимостям, затрагивающим более широкое устройство.

Концепция предназначена для того, чтобы дать помощникам ИИ доступ к информации, не подвергая ненужному риску оригинальные данные. Например, помощник может обратиться к календарю пользователя и составить сводку предстоящих встреч, сохраняя при этом исходный график в защищенной среде.

Контроль над информацией, покидающей защищенное пространство, определит, что может быть поделено с остальной системой. В принципе, это может позволить помощнику вернуть запрашиваемую сводку, не предоставляя неограниченный доступ к личной информации, использованной для ее создания.

Тем не менее, технология не устраняет автоматически все риски конфиденциальности. Безопасность всего процесса будет зависеть от того, как реализована защищенная среда, какая информация разрешена покидать ее и как приложения обрабатывают полученные ответы. Изоляция конфиденциальных данных может снизить подверженность, но не гарантирует, что каждый ответ, сгенерированный ИИ, будет свободен от потенциальных утечек информации.

Google начала внедрение хранения личного контекста с аппаратной изоляцией на устройствах Android, хотя еще не объявила публично о всех совместимых моделях телефонов или предоставила всеобъемлющий график развертывания на различных рынках.

Производители чипов также готовят поддержку технологии. MediaTek объявила о совместимости с платформой Dimensity 9600 Pro, в то время как Qualcomm ожидается, что поддержит архитектуру на чипах Snapdragon. Google еще не уточнила, какие модели Snapdragon будут включать необходимые возможности.

Тем не менее, аппаратная совместимость сама по себе не означает, что помощник ИИ уже работает в защищенной среде. Производители должны реализовать соответствующие функции, и поддержка может варьироваться между устройствами в зависимости от их программного и аппаратного обеспечения.

Долгосрочные планы Google включают запуск моделей ИИ и автономных агентов в защищенной среде, сохраняя конфиденциальную информацию изолированной от основной операционной системы во время обработки. Компания также работает над тем, чтобы предоставить прямой доступ к ИИ-ускорителю устройства, что может помочь моделям, работающим в защищенном пространстве, выполнять задачи более эффективно.

Точная дата выпуска этих расширенных возможностей еще не объявлена. Для потребителей, рассматривающих возможность покупки нового смартфона, наличие совместимого оборудования может быть лишь одной частью картины. Практическая польза будет зависеть от того, действительно ли устройство запускает свои функции ИИ в защищенной среде и насколько строго контролирует информацию, которая может покинуть ее.

Эта разработка отражает более широкую проблему, с которой сталкивается технологическая индустрия: сделать помощников ИИ более полезными, не требуя от пользователей отказываться от ненужного контроля над своими личными данными. Поскольку эти системы получают доступ к все более конфиденциальной информации, аппаратная изоляция может стать важной частью усилий по укреплению конфиденциальности и безопасности на мобильных устройствах.