打开网易新闻 查看更多图片
很多人使用AI驱动的健康App帮助诊断疾病或判断病症，只需点击一下屏幕，就可以提供医疗级诊断结果。最新研究揭示了AI技术和数据偏见问题以及监管缺陷。不准确和不安全的建议和疾病诊断，对患者和医疗质量都有严重后果。值得关注。
阅读文摘
最新研究揭示，部分AI驱动的健康小程序App帮助医生和患者辅助疾病诊断和提供健康建议，存在着严重的设计缺陷和监管不足，可能导致不准确甚至有害健康的建议。
研究人员对比测试了两个最流行的数字健康App，输入已知病例症状数据，以评估其诊断效果。 尽管这些App偶尔提供正确诊断，但它们无法识别严重病情，可能导致延误治疗。
研究人员认为，这些AI驱动的数字健康App主要问题在于数据偏见和监管缺失。
首先，App仍是“垃圾进，垃圾出”，而且客观存在着偏差数据，通常无法准确代表不同人群和个体。例如，在某些地区，低收入人群和某些种族的疾病和健康样本数据严重不足，形成数据“黑箱”，AI驱动的App可能得出结论出现偏差。数据缺乏透明性可能导致数字健康App的开发者和用户并不清楚诊断的依据或偏差。
研究人员认为，为提升AI驱动的数字健康App的准确性，应当优先考虑在多样化数据集上训练App，并定期审核以降低偏见，以确保数字健康App能够为医疗保健服务有价值的辅助功用，而不是误导性建议（疾病诊断或保健建议）。
诚邀参加【数字疗法国际论坛】
11月9-10日在杭州(浙江科协大楼会议厅)即将举办数字疗法国际论坛活动，这是国际数字疗法业界与国内数字健康和数字疗法业界同行首次合作探讨数字疗法软件临床验证和应用案例，诚邀业界人士参加活动
数字疗法国际资讯群
群规：实名+机构
打开网易新闻 查看更多图片
关注我们，获取生物医学前沿最新资讯