- 17:00Американский конгрессмен назвал Марокко образцом стабильности и реформ под руководством короля Мухаммеда VI
- 16:15Марокко, новый двигатель культурных и креативных индустрий, отмечено Францией
- 15:30Бен Коулман: Марокко добивается прогресса и укрепляет связи с Соединенным Королевством
- 14:45В Найроби прошла 20-я сессия Африканского совета министров по окружающей среде при активном участии Марокко
- 14:00Вашингтон официально запустил процесс выбора будущего председателя Федеральной резервной системы США
- 13:15Король Малайзии посетит Россию в августе следующего года
- 11:15Бразильская пресса освещает перспективный стратегический альянс с Марокко
- 10:32Марокко прокладывает свой путь в экономике критически важных металлов благодаря сурьме
- 09:54Кения отменяет визовый режим для граждан стран Африки и Карибского бассейна
Следите за нами в Facebook
Илон Маск предупреждает об опасностях ИИ: риск «галлюцинаций» с искусственными данными
Илон Маск выразил серьезную обеспокоенность по поводу потенциальной опасности моделей искусственного интеллекта, таких как GPT-4 и ChatGPT, которые для обучения и генерации ответов используют большие объемы данных из Интернета. По словам Маска, эти модели потребляют огромные объемы данных, и вполне возможно, что мы достигнем точки, когда онлайн-данные закончатся, вынудив разработчиков прибегнуть к «искусственным» данным, созданным самими моделями.
Это явление может привести к тому, что Маск называет «галлюцинаторностью» нейронных сетей. Конкретно это означает, что когда ИИ полагается на собственные генераторы данных для обучения, он рискует выдавать ошибочные или непоследовательные результаты, другими словами, «галлюцинации». Действительно, модель ИИ может дать ответ, который на первый взгляд кажется правильным, но на самом деле является неверным или бессмысленным.
Маск предупреждает о возможных последствиях этой «галлюцинаторности», когда искусственный интеллект может выдавать ложно убедительные ответы, не имеющие под собой никакой основы в реальности. Это поднимает фундаментальный вопрос: как мы узнаем, является ли ответ ИИ обоснованным или это всего лишь бесполезная галлюцинация?
Растущая зависимость ИИ от искусственно созданных данных может со временем привести к снижению качества информации, поскольку эти системы рискуют воспроизводить или усиливать ошибки и предубеждения, присутствующие в исходных данных. Маск подчеркивает необходимость ограничить зависимость от искусственных данных, подчеркивая важность обеспечения разнообразия и качества информации, используемой моделями ИИ.
Чтобы избежать этого явления, можно разработать автоматизированные системы проверки, которые будут оценивать достоверность ответов ИИ. Например, можно было бы использовать надежные источники для проверки фактов или сравнения результатов с другими базами данных. Более того, в чувствительных областях вмешательство человека может сыграть решающую роль в проверке и подтверждении ответов, сгенерированных ИИ, чтобы свести к минимуму ошибки и галлюцинации.