Амина Буаях призывает сделать права человека центральными в управлении ИИ
Амина Буаях, президент Национального совета по правам человека Марокко (CNDH) и председатель Глобального альянса национальных учреждений по правам человека (GANHRI), призвала к тому, чтобы защита прав человека была в центре управления искусственным интеллектом. Выступая на высокоуровневой международной конференции в Афинах в среду, она предупредила, что новые цифровые технологии могут угрожать основным свободам, если их развитие и использование не будут подвержены эффективным мерам предосторожности.
Буаях признала, что искусственный интеллект предоставляет значительные возможности для улучшения государственных услуг, расширения доступа к правам и поддержки социальной инклюзии. Тем не менее, она предостерегла, что эти преимущества должны быть взвешены против рисков, таких как онлайн-дезинформация, контент с глубокими фейками и предвзятые алгоритмы, которые могут усугубить существующие неравенства и создать новые формы дискриминации.
Она подчеркнула, что права человека универсальны и должны уважаться в любом контексте, включая цифровую среду. По ее мнению, задача выходит за рамки самого технологического прогресса и касается правовых рамок и политических решений, которые определяют, как цифровые системы проектируются, разворачиваются и используются.
Особую озабоченность вызывает растущее использование технологий распознавания лиц, особенно когда они применяются без надлежащего контроля. Такие системы могут представлять угрозу для конфиденциальности, равенства и защиты от дискриминации, что делает прозрачность, подотчетность и значимый человеческий контроль необходимыми.
Буаях призвала к регулярным оценкам воздействия на права человека для систем искусственного интеллекта на протяжении всего их жизненного цикла, начиная с начального проектирования и разработки до развертывания и повседневного использования. Она также подчеркнула необходимость уточнения ответственности организаций и лиц, участвующих в создании и эксплуатации этих технологий.
Национальные учреждения по правам человека, по ее мнению, играют важную роль в мониторинге влияния ИИ на основные свободы. Их обязанности могут включать рассмотрение индивидуальных жалоб, расследование предполагаемых нарушений, выявление более широких паттернов вреда и рекомендации эффективных средств защиты для людей, пострадавших от цифровых систем.
Эти учреждения также могут способствовать разработке законодательства и государственной политики, консультируя правительства и парламенты до введения систем ИИ в государственные услуги. Ранний контроль, по ее словам, может помочь выявить потенциальные риски и установить меры предосторожности до того, как вредные практики станут широко распространенными.
Марокканский правозащитник также подчеркнула важность консультаций и сотрудничества между разработчиками технологий, организациями гражданского общества, государственными органами и сообществами, которые могут быть затронуты автоматизированным принятием решений. Включение этих групп в обсуждение политики может помочь обеспечить учет забот и потребностей граждан перед внедрением новых систем.
Буаях также подчеркнула необходимость предоставления национальным учреждениям по правам человека экспертизы, ресурсов и практической поддержки, необходимых для реагирования на быстрое цифровое преобразование. Без достаточной мощности эти органы могут столкнуться с трудностями в оценке сложных технологий или обеспечении эффективного контроля.
Она упомянула инициативы, связанные с Марокко, Южной Кореей и международными организациями, направленные на укрепление институциональной готовности. Эти усилия включают сотрудничество с GANHRI, Программой развития ООН и Управлением Верховного комиссара ООН по правам человека, а также совместные инициативы с ЮНЕСКО.
Ее замечания отражают более широкую международную дискуссию о том, как способствовать инновациям, защищая людей от потенциального вреда, связанного с искусственным интеллектом. Для Буаях внедрение мер защиты прав человека в управление ИИ является необходимым условием для обеспечения того, чтобы технологические достижения служили людям, защищали их достоинство и сохраняли их основные свободы.