Хенна Вирккунен призывает компании ИИ усилить тестирование и человеческий контроль
Европейский Союз предупредил, что усиливающаяся глобальная конкуренция в области искусственного интеллекта может подрывать усилия по обеспечению безопасности и надежности современных систем ИИ, призывая разработчиков поддерживать эффективный контроль над своими технологиями по мере их роста.
Хенна Вирккунен, исполнительный вице-президент Европейской комиссии по технологическому суверенитету, безопасности и демократии и руководитель цифровой политики, выразила эту озабоченность в среду на международном саммите по ИИ в Дублине. Она утверждала, что давление конкуренции может оставить компаниям недостаточно времени и ресурсов для тестирования своих моделей перед внедрением.
Предупреждение поступает в то время, как все более сложные системы ИИ представляют новые вызовы для разработчиков и регуляторов, особенно когда автономные агенты могут выполнять действия, которые трудно предсказать или контролировать их операторам.
Увеличение возможностей вызывает новые проблемы безопасности
Вирккунен отметила, что сообщения о случаях, связанных с агентами ИИ, подчеркнули ситуации, в которых компании не полностью осознавали, что делают их системы. Она подчеркнула, что разработчики должны сохранять возможность понимать и контролировать поведение своих технологий.
Поскольку модели ИИ становятся более мощными, оценка их производительности и выявление потенциальных рисков также становятся более сложными. По словам представителя Европейской комиссии, это делает комплексное тестирование и независимую экспертную оценку необходимыми компонентами ответственной разработки.
Ее замечания указывают на растущую регуляторную озабоченность: скорость, с которой разрабатываются и внедряются продукты ИИ, может опережать время, необходимое для установления того, безопасно ли они работают в широком диапазоне условий.
Для регуляторов задача заключается не только в том, чтобы поощрять инновации, но и в том, чтобы обеспечить, чтобы компании могли продемонстрировать адекватное понимание своих систем до того, как эти технологии будут широко использованы.
Брюссель усиливает контроль за разработчиками ИИ
Европейская комиссия уже начала запрашивать дополнительную информацию у крупных компаний ИИ о мерах предосторожности, которые они внедрили. По словам Вирккунен, запросы касаются мер безопасности, организационных мероприятий и процедур внешней оценки.
Эта инициатива является частью более широких усилий ЕС сделать разработчиков ИИ более ответственными за системы, которые они создают и внедряют.
В соответствии с Законом о искусственном интеллекте Европейского Союза блок установил нормативную основу, предназначенную для решения рисков, связанных с приложениями ИИ. Законодательство также предоставляет основу для проверки вопросов, выходящих за рамки технической безопасности, включая соблюдение авторских прав.
Вирккунен подчеркнула, что поддержание контроля над системами ИИ является явным требованием в соответствии с законодательством, укрепляя позицию комиссии о том, что технологический прогресс должен сопровождаться эффективными мерами предосторожности.
Сбалансировать инновации с ответственностью
Озабоченность ЕС отражает сложный баланс, с которым сталкиваются политики и технологическая индустрия. Компании конкурируют на международной арене, чтобы разработать все более мощные модели, в то время как правительства стремятся получить гарантии, что эти системы останутся управляемыми, надежными и соответствующими применимым правилам.
Недостаточное тестирование может затруднить выявление уязвимостей до внедрения, особенно в системах, предназначенных для выполнения задач с ограниченным непосредственным человеческим вмешательством. Независимые оценки могут помочь выявить слабые места, которые могут быть упущены внутренним тестированием, хотя их эффективность зависит от доступа к системам и качества процесса оценки.
Запросы комиссии о предоставлении информации сигнализируют о большем внимании к тому, как компании ИИ оценивают и управляют этими рисками на практике, а не полагаются исключительно на свои заявленные обязательства по безопасности.
По мере развития возможностей ИИ центральный вопрос для европейских регуляторов заключается в том, смогут ли разработчики поддерживать значимый человеческий контроль, продолжая инновации с тем темпом, который требует глобальная конкуренция.
Брюссель ясно дает понять, что в рамках своего регуляторного подхода конкурентоспособность не может заменить ответственность за понимание, тестирование и контроль за все более мощными системами ИИ.