Можно ли доверять ИИ в вопросах здоровья? Эксперты провели масштабное исследование
www.rbc.ua
Tue, 06 May 2025 20:00:00 +0300
Изза высоких цен и других факторов все больше людей обращаются к ИИчатботам вроде ChatGPT за медицинскими советами.
Но новое исследование предупреждает полностью доверять ИИ рискованно.
Об этом сообщает РБКУкраина проект Styler со ссылкой на сайт новостей в сфере технологий TechCrunch.
По словам одного из авторов исследования, директора магистратуры Оксфордского интернетинститута Адама Махди, между людьми и ИИ происходит двусторонний сбой коммуникации. Те, кто использовал чатботов, не принимали решений лучше, чем те, кто опирался на традиционные методы например, поиск в интернете или собственный опыт, заявил Махди. Что показало исследование В исследовании участвовали около 1300 жителей Великобритании.
Им предлагали смоделированные врачами медицинские сценарии, где нужно было определить возможное заболевание и выбрать, что делать идти к терапевту, срочно ехать в больницу или просто наблюдать. Участники использовали несколько ИИмоделей ChatGPT на GPT4o, Command R от Cohere и Llama 3 от Meta.
Но вопреки ожиданиям, ИИ чаще мешал правильно определить проблему и занижал серьезность состояний, даже если диагноз был близок к точному. По словам Махди, пользователи часто упускали важные детали при общении с ИИ, а сами ответы ботов были трудны для интерпретации.
Некоторые рекомендации содержали как полезную, так и откровенно неверную информацию. Методы оценки чатботов сегодня не учитывают сложности взаимодействия с реальными людьми, отмечают исследователи. Что делают техногиганты Тем не менее, крупнейшие ИТкомпании продолжают активно продвигать ИИ в медицине.
Так, Apple разрабатывает цифрового ассистента, который будет советовать по вопросам сна, питания и спорта.
Amazon работает над инструментом анализа соцфакторов, влияющих на здоровье, а Microsoft обучает ИИ обрабатывать медицинские обращения от пациентов. Впрочем, среди врачей и пациентов нет единого мнения, готов ли ИИ к задачам с высокой степенью риска.
Американская медицинская ассоциация рекомендует врачам не использовать ChatGPT для клинических решений, а сами разработчики, включая OpenAI, предостерегают от использования ИИ для постановки диагнозов. Вас может заинтересовать Искусственный интеллект предсказал имя следующего Папы Римского Как ИИ сегодня меняет правила игры в искусстве Ученые провели исследования, как ИИ может помочь вам бросить курить
Последние новости
больше новостей