Искусственный интеллект Apple подчеркивает конфиденциальность данных пользователей

Apple применяет новый подход к обучению своих моделей искусственного интеллекта, который позволяет избежать сбора или копирования пользовательского контента с iPhone или Mac.

Согласно недавней записи в блоге, компания планирует и дальше полагаться на синтетические данные (сконструированные данные, используемые для имитации поведения пользователя) и дифференциальную конфиденциальность для улучшения таких функций, как дайджесты электронной почты, без доступа к личным электронным письмам или сообщениям.

Для пользователей, которые зарегистрировались в программе Apple Device Analytics, модели искусственного интеллекта компании сравнивают синтетические сообщения, похожие на электронные письма, с небольшой выборкой реального пользовательского контента, хранящегося локально на устройстве. Затем устройство идентифицирует синтетические сообщения, наиболее близкие к выборке пользователей, и отправляет информацию о выбранном совпадении обратно в Apple. Фактические данные пользователя не покидают устройство, и Apple утверждает, что получает только обобщенную информацию.

Эта технология позволит Apple улучшить свои модели для задач генерации более длинных текстов без сбора фактического пользовательского контента. Это расширение давней практики компании по использованию дифференциальной конфиденциальности, которая вводит случайные данные в более крупные наборы данных для защиты индивидуальных личностей. Apple использует этот метод с 2016 года для изучения привычек пользователей в соответствии со своей политикой защиты данных.

Компания уже использует дифференциальную конфиденциальность для улучшения таких функций, как Genmoji, который собирает общие тенденции о самых популярных сообщениях, не привязывая их к конкретному пользователю или устройству. В будущих версиях Apple планирует применить аналогичные методы к другим функциям Apple Intelligence, включая Image Playground, Image Wand, Memories Creation и Writing Tools.