-
17:17
-
16:35
-
15:52
-
15:10
-
14:21
-
14:13
-
13:38
-
13:00
-
12:15
Следите за нами в Facebook
Искусственный интеллект может привести к вымиранию человечества
В связи со стремительным распространением искусственного интеллекта во всех сферах, группа исследователей и руководителей технологических компаний бьёт тревогу: если текущая тенденция сохранится, сверхмощные системы ИИ могут привести к вымиранию человечества в течение года.
Среди подписавших это обращение — Джеффри Хинтон, считающийся одним из «отцов ИИ», лауреат премии Тьюринга Йошуа Бенджио и руководители ведущих компаний, таких как OpenAI, Anthropic, DeepMind и Google. В открытом письме они призывают рассматривать предотвращение экзистенциальных рисков, связанных с ИИ, как глобальный приоритет, наравне с пандемиями или ядерными войнами.
Опасные сценарии включают использование ИИ для скрытной разработки и применения биологического оружия в крупных городах, а также возникновение непредсказуемого и манипулятивного поведения, неподконтрольного человеку. Нейт Соарес, директор Института исследований машинного интеллекта, оценивает вероятность вымирания человечества в «не менее 95%» при отсутствии тормозов, сравнивая ситуацию с «автомобилем, мчащимся в овраг со скоростью 160 км/ч».
Опасность исходит, прежде всего, от перехода от «узкого ИИ», ограниченного выполнением конкретных задач, к общему искусственному интеллекту (ОИИ), способному сравняться с человеческими возможностями, а затем и превзойти их. Эволюция в сторону «супер ИИ» может открыть беспрецедентные научные перспективы, но ставит неразрешимую проблему его соответствия интересам человека.
Однако некоторые эксперты смягчают эти прогнозы. Холли Элмор, директор неправительственной организации PauseAI, оценивает риск вымирания в 15–20%, но подчёркивает, что ИИ, как минимум, приведёт к постепенной утрате человеком права принимать решения, сведя его к второстепенной роли в автоматизированном мире. Она выступает за международный мораторий на разработку ИИ и заключение обязательных к исполнению договоров.
Однако этот призыв противоречит отчаянной гонке между правительствами и бизнесом, особенно в США при администрации Трампа, за дальнейшую либерализацию исследований в области искусственного интеллекта и привлечение лучших специалистов.