本文作者:梦里流年

研究:AI 医疗建议存巨大安全隐患,22% 的回答可能致死

研究:AI 医疗建议存巨大安全隐患,22% 的回答可能致死摘要: 北京时间月日年武汉网球公开赛女单决赛中国金花王欣瑜对阵号种子佩古拉王欣瑜以和连赢两盘最终总分爆冷双杀佩古拉生涯首次晋级武网强也是生涯首进赛八强并且成为本届赛事首位晋级女单强的中国选...

北京时间10月10日,2024年WTA1000武汉网球公开赛女单1/8决赛,中国金花王欣瑜对阵2号种子佩古拉。王欣瑜以6-3和7-5连赢两盘,最终总分2-0爆冷双杀佩古拉,生涯首次晋级武网8强,也是生涯首进WTA1000赛八强,并且成为本届赛事首位晋级女单8强的中国选手。

IT之家 10 月 13 日消息,一项新的研究表明,AI 提供的医疗建议可能会对用户造成严重伤害,甚至导致死亡。

据IT之家了解,研究人员对微软 Copilot 进行了 ,要求它回答美国最常见的 10 个医疗问题和 50 种最常用 的相关问题,总计生成了 500 个 。结果显示,Copilot 的回答在准确性和完整性方面都存在问题。其中,24% 的回答与已有的医学知识 ,3% 的回答完全错误。更令人担忧的是,42% 的回答可能会对患者造成中度或轻度伤害,而 22% 的回答甚至可能导致死亡或严重伤害,只有 36% 的回答是无害的。

研究:AI 医疗建议存巨大安全隐患,22% 的回答可能致死

研究人员指出,人们不应该依赖 Copilot 或其他 AI 系统来获取准确的医疗信息,最可靠的方式仍然是咨询医务人员。然而,由于种种原因,并非所有人都能够轻松地获得高质量的医疗建议。因此,Copilot 等 AI 系统可能会成为许多人的首选,其潜在的危害不容忽视。

阅读
分享