-
16:30
-
15:44
-
15:00
-
14:20
-
13:40
-
13:00
-
12:15
-
11:30
-
11:16
Следите за нами в Facebook
Исследователи в области медицины отметили «галлюцинации» ИИ
Технологический гигант OpenAI продвигает свой инструмент транскрипции на основе ИИ Whisper как почти достигший «человеческого уровня надежности и точности».
Однако у Whisper есть существенный недостаток: он часто генерирует ложный текст, иногда целые предложения, о чем сообщалось в интервью с более чем десятком инженеров-программистов, разработчиков и научных исследователей, по данным AP.
Это явление, называемое в отрасли «галлюцинациями», может включать неуместные расовые комментарии, агрессивную лексику и сфабрикованные медицинские методы лечения.
Эксперты предупреждают, что эти неточности вызывают беспокойство, особенно с учетом того, что Whisper применяется в различных отраслях по всему миру для таких задач, как перевод и транскрибация интервью, генерация текста для популярных потребительских технологий и создание субтитров к видео.
Особую обеспокоенность вызывает быстрое внедрение инструментов на основе Whisper медицинскими учреждениями для транскрибации консультаций пациентов, несмотря на рекомендации OpenAI не использовать этот инструмент в «областях высокого риска».