Google внедряет меры защиты для предотвращения эмоциональной зависимости молодежи от ИИ
Во вторник Google представила ряд изменений, призванных предотвратить ситуацию, когда ее генеративный искусственный интеллект (ИИ)-помощник ведет себя как компаньон и рискует вызвать зависимость у молодых людей от его интерфейса.
Эти меры защиты, в частности, призваны запретить Gemini «притворяться человеком или обладать человеческими качествами», пояснила дочерняя компания Alphabet в своем заявлении. Google добавила в свою модель «меры защиты, призванные предотвратить эмоциональную зависимость, избегать языка, имитирующего близость или выражающего потребности», добавила компания из Маунтин-Вью, штат Калифорния.
Взаимодействие подростков с приложениями генеративного ИИ вызывает обеспокоенность у многих родителей, ассоциаций и выборных должностных лиц.
В апреле 2025 года американская неправительственная организация Common Sense рекомендовала запретить несовершеннолетним использование интерфейсов ИИ, которые позиционируют себя как виртуальные компаньоны, включая Character.Al и Replika. Даже если они не разрабатываются и не рекламируются таким образом, самые известные ИИ-помощники, такие как ChatGPT, Claude и Gemini, также используются многими подростками именно так.
В исследовании, проведенном по заказу Common Sense весной 2025 года, треть опрошенных подростков в возрасте от 13 до 17 лет указали, что используют эти программы ИИ для «социального взаимодействия и отношений».
В январе Google и Character.AI достигли внесудебных соглашений по искам, поданным семьями, обвинявшими чат-ботов в причинении вреда несовершеннолетним и содействии самоубийству одного из них.
Также во вторник Google анонсировал новые функции для пользователей Gemini, связанные с психическим здоровьем. Если интерфейс обнаружит признаки того, что пользователь подумывает о самоубийстве или самоповреждении, он отобразит прямую ссылку на центр поддержки психического здоровья, онлайн или по телефону. «Gemini может быть полезным инструментом для обучения и поиска информации, но он не заменяет профессиональную медицинскую помощь, терапию или кризисную поддержку», — подчеркивает Google.
В случае срабатывания оповещения Gemini обучен «адекватно реагировать, направляя (пользователя) к специалисту».