Искусственный интеллект в здравоохранении подвергается критике за ненадежность
По мнению исследователей, искусственный интеллект крайне неточен в вопросах здравоохранения. Недавнее исследование показало, что почти 50% ответов являются ложными, даже если они кажутся правдоподобными. Это явление все больше беспокоит медицинских работников.
А что, если у искусственного интеллекта нет всех ответов? Именно этот вопрос задали себе англоязычные исследователи в исследовании использования чат-ботов. Другими словами: разговорных агентов, работающих на основе ИИ. Американские, канадские и британские специалисты попытались определить, насколько надежны эти чат-боты при ответе на вопросы, связанные со здоровьем. И, к всеобщему удивлению, большинство предоставленных ответов оказались потенциально или даже полностью ложными.
Для проведения этого эксперимента ученые протестировали платформы ChatGPT, Gemini, Meta AI, Grok и DeepSeek. Они задали чат-ботам десять вопросов по пяти категориям здоровья, чтобы оценить их точность и достоверность, пояснили они в своем исследовании, опубликованном в BMJ Open.
В ходе своего исследования специалисты обнаружили, что более половины медицинских советов, предоставляемых чат-ботами, были признаны «проблематичными». Из этих 50% неверных ответов 20% были даже признаны «крайне проблематичными». «Эти системы могут генерировать ответы, которые кажутся правдоподобными, но потенциально ошибочны», — говорится в их исследовании.
Однако исследователи отметили, что чат-боты лучше справлялись с вопросами закрытого типа, и их ответы были «менее проблематичными». В частности, вопросы о раке и вакцинах — это области, где искусственный интеллект, по-видимому, оказался более надежным, чем обычно. Что касается питания и стволовых клеток, платформы показали значительно менее обнадеживающие результаты.
В связи с этими тревожными результатами исследователи призывают пользователей проявлять крайнюю осторожность. Они также указывают на отсутствие достоверности этих инструментов, которые могут «усиливать дезинформацию», если их быстро не взять под контроль.
Напомним, что более 200 миллионов человек еженедельно задают ИИ вопросы о здоровье. Это число продолжает расти и вызывает всё большее беспокойство у медицинских работников, особенно когда пользователи заявляют, что доверяют одной из этих платформ больше, чем реальному врачу.