Срочно

Google внедряет меры защиты для предотвращения эмоциональной зависимости молодежи от ИИ

Wednesday 08 April 2026 - 18:00
Google внедряет меры защиты для предотвращения эмоциональной зависимости молодежи от ИИ
Zoom

Во вторник Google представила ряд изменений, призванных предотвратить ситуацию, когда ее генеративный искусственный интеллект (ИИ)-помощник ведет себя как компаньон и рискует вызвать зависимость у молодых людей от его интерфейса.

Эти меры защиты, в частности, призваны запретить Gemini «притворяться человеком или обладать человеческими качествами», пояснила дочерняя компания Alphabet в своем заявлении. Google добавила в свою модель «меры защиты, призванные предотвратить эмоциональную зависимость, избегать языка, имитирующего близость или выражающего потребности», добавила компания из Маунтин-Вью, штат Калифорния.

Взаимодействие подростков с приложениями генеративного ИИ вызывает обеспокоенность у многих родителей, ассоциаций и выборных должностных лиц.

В апреле 2025 года американская неправительственная организация Common Sense рекомендовала запретить несовершеннолетним использование интерфейсов ИИ, которые позиционируют себя как виртуальные компаньоны, включая Character.Al и Replika. Даже если они не разрабатываются и не рекламируются таким образом, самые известные ИИ-помощники, такие как ChatGPT, Claude и Gemini, также используются многими подростками именно так.

В исследовании, проведенном по заказу Common Sense весной 2025 года, треть опрошенных подростков в возрасте от 13 до 17 лет указали, что используют эти программы ИИ для «социального взаимодействия и отношений».

В январе Google и Character.AI достигли внесудебных соглашений по искам, поданным семьями, обвинявшими чат-ботов в причинении вреда несовершеннолетним и содействии самоубийству одного из них.

Также во вторник Google анонсировал новые функции для пользователей Gemini, связанные с психическим здоровьем. Если интерфейс обнаружит признаки того, что пользователь подумывает о самоубийстве или самоповреждении, он отобразит прямую ссылку на центр поддержки психического здоровья, онлайн или по телефону. «Gemini может быть полезным инструментом для обучения и поиска информации, но он не заменяет профессиональную медицинскую помощь, терапию или кризисную поддержку», — подчеркивает Google.

В случае срабатывания оповещения Gemini обучен «адекватно реагировать, направляя (пользователя) к специалисту».

 



Читать далее