根据最近的民意调查，大多数美国人对医生在医疗中依赖人工智能感到“不舒服”，但尽管存在这些疑虑，你很可能已经在医生的办公室或当地药房遇到了人工智能的结果。

斯坦福大学医学院(Stanford University School of Medicine)院长劳埃德·b·麦纳(Lloyd B. Minor)表示，人工智能的真正应用范围“有点取决于人们如何定义人工智能”，但他表示，有些用途已经存在多年。

大多数大型医疗机构已经使用自动化系统来验证药物的剂量，并为医生、护士和药剂师标记可能的药物相互作用。

“毫无疑问，这减少了用药错误，因为通过人工智能和机器学习的应用程序在后台进行检查，”迈纳说。

近年来，美国食品和药物管理局(FDA)批准了数百种采用人工智能技术的设备，主要用于放射学和心脏病学领域，在这些领域，这些奇特的配方有望在x射线和诊断扫描中检测异常和疾病的早期迹象。但是，尽管人工智能的新应用每天都在被吹捧，科幻小说中的机器人医生为你测量生命体征并为你诊断的未来不会很快来到你的医生办公室。

随着最近像ChatGPT这样的大型语言模型聊天机器人的公开发布，关于医疗行业如何能够道德和安全地使用人工智能的讨论正在达到高潮，就像公众开始熟悉这项技术是如何工作的一样。

斯坦福大学以人为本的人工智能研究所(HAI)联合主任李飞飞表示:“很明显，健康和医学是人工智能可以做出巨大贡献的关键领域之一。”她的团队与斯坦福大学医学院合作推出了RAISE-Health(负责任的人工智能安全与公平健康)，这是一项新举措，旨在指导在生物医学研究、教育和患者护理中负责任地使用人工智能。

但这些担忧也摆在我们的面前。麦纳说，人工智能和算法“可能会复制和放大差距……除非它们得到承认和负责任的解决。”例如，他引用了从FDA用于批准药物的临床试验中收集的数据，这些试验的参与者“通常是欧洲血统的白人”。

“如果你在一个狭窄的人口群体中训练人工智能，你会得到只适用于这个狭窄群体的结果，”Minor说。

斯坦福大学是应对医疗保健行业人工智能挑战和前景的众多机构之一，该校的许多研究人员和专家多年来一直处于这些讨论的前沿。

Sonoo Thadaney Israni是美国国家医学院(NAM)医疗保健人工智能工作组的联合主席，该工作组于2019年发布了一份题为《医疗保健中的人工智能:希望、炒作、承诺和危险》的报告。

伊斯拉尼和她的同事写道:“对人工智能来说，最明智的指导是从医疗保健领域的实际问题开始，”比如穷人和没有保险的人无法获得医疗服务，或者医疗成本不断膨胀。

使用人工智能是否能提供更好的健康、降低成本、改善患者体验和临床医生的福祉，并促进医疗保健的公平性?伊斯拉尼说，这些都是关键问题。

但目前还没有一个中央监管机构来监管人工智能的蓬勃发展，而且正如世界卫生组织(World Health Organization)的一份报告所指出的那样，有关人工智能用于健康的法律和政策“支离破碎且有限”。

伊斯拉尼认为，“真正的问题不在于监管应该是什么，而在于这些监管背后的价值观应该是什么。”政客们已经把目光投向了这个话题。拜登政府表示，解决人工智能的影响和未来是“重中之重”。

检测和预防错误的系统——检查药物剂量中小数点的错位，或自动检查可能的不良药物相互作用——“显然使健康和医疗保健更安全，”Minor说。

其他的例子已经在当地医院使用，并显示出良好的效果。

“我们的团队开发了一种算法，以识别住院期间临床恶化风险较高的患者，”凯撒医疗机构北加州研究部的高级研究科学家文森特·刘博士说。Liu和他的同事在2020年发表在《新英格兰医学杂志》(New England Journal of Medicine)上的一篇论文中估计，该系统每年可以在北加州的21家凯撒医院防止500多人死亡。

刘说，他们开发的风险评分是“早期预警系统的黄金标准，也是人工智能或机器学习工具严格显示患者受益的少数案例之一。”

尽管他拥抱新技术并将其应用于提供更好的医疗保健，但他也持怀疑态度。

“我不是一个ai恐惧症患者，”他说，“但是……我也有一些相当广泛的担忧。”他说，这些主要集中在隐私和安全、数据质量以及数据中代表了谁。

许多专家和报告都警告说，如果不经过仔细考虑就使用算法，就会反映和放大偏见和差距。

例如，2019年发表在《科学》杂志上的一篇论文发现，一种常用的识别医院中病情最严重的患者的算法低估了黑人患者的护理需求，即使他们比白人患者病情更重。

“这种偏见之所以产生，是因为算法预测的是医疗成本，而不是疾病，”作者写道，“但获得医疗服务的机会不平等意味着，我们在照顾黑人病人上花的钱比照顾白人病人少。”

随着人工智能应用在整个医疗保健领域的普及，以色列和她的同事们希望避免的是，那些已经拥有最好医疗保健服务的人的狭隘利益。

她说:“我们创造的任何东西都必须为那些最没有特权的人提供良好的服务。”“我们不应该开发加剧不平等的技术。”

©#YR@ MediaNews Group, Inc访问mercurynews.com。由论坛内容代理有限责任公司分发。