技术与的博弈 医疗AI的B面主因如何解？

在希波克拉底誓言奠定药理学基础的2400年后，机器学习的消失确实给药理学带来史上第二大的过关斩将。专家预报，到2024年，AI保健将是一个据统计200亿美元的零售商。机器学习有望成为保健实践中的福音，并不需要强转化诊断敏感度、发放全方位用药，并安然无恙未来会的公共保健确实性。正因如此，该高效率仍然引发了一系列棘手的经济效益观难题。当AI系统更会决策失误时更会消失哪些难题？如果有难题的话，该谁负责？针灸Conrad如何有效性甚至了解到AI“记录仪”的内容？他们又该如何避免AI系统更会的种族主义并庇护所病变该软件？2018年6月，美国药理学更会（AMA）发布了首个关于如何开发、使用和调节机器学习的指南。在在的是，该协更会将机器学习称为“augmented intelligence”（笔记本电脑提高），而非我们广泛非常认为的“artificial intelligence”。这说明了，美国药理学更会非常认为机器学习的作用是提高而非变为Conrad的工作。虽然AMA在指南中更会声称，机器学习应该设计用做标识和转化解种族主义、保障弱势群体需求、也就是说步骤透光性并庇护所病变该软件，但在具体施行中更会，这些拒绝根本无法取得满足。所列是药理学在生活中、研究者职员和药理学医学家必需无能为力且颇为迫切的经济效益观过关斩将。背后的种族主义，怎么克服？2017年，匹兹堡大学药理学院（UCM）的图表分析小组使用机器学习来预报病变确实的入院时长。其目标是确定可以月份就医的病变，从而释放该医院海洋资源并为一新的病变发放抢救。然后，该医院还更会指派一名与此相关负责管理职员来帮助病变处理事件保险事宜，确保病变及时回家，并为其早日就医铺平道路。在测试系统更会时，研究者小组发现，预报病变入院整整最准确的因素是他们的县人民政府，这立刻给研究者小组敲响了昨日。他们究竟，邮编与病变的族群和社更会生活经济地位密切相关。只能靠县人民政府做预报，更会对匹兹堡最贫困社区的有色人种黑人造成不良影响，这些人往往入院整整非常长。因此该小组非常认为使用该演算法分配与此相关负责管理员将是有种族主义和不经济效益观的。“如果你要理论上更会施行这个演算法，你更会取得一个矛盾的结果，那就是把非常多(流感负责管理)而政府给非常富裕的白人病变，”UCM内科Conrad、保健学教授Marshall Chin时说。再一图表分析小组删除了县人民政府这个预报因素。该演算法仍在开发中更会，尚未测试出一新框架。这个与此相关引述了基于机器学习的保健保健来进行的缺点：演算法上会可以再现现有的族群或女性生活品质相异。这个难题如果没有取得转化解，就确实更会导致长期性种族主义并固转化保健保健领域现有的不对等现象。种族主义还更会影响罕见病或一新病症的用药，这些病症的用药图表可用。机器学习系统更会确实更会直接说明一般用药方案，而不考虑病变的其所情况。这时，机器学习拟议的用药方案是违宪的。都只，斯坦福大学学助理教授Danton Char在一篇关于方法有学的学术著作中更会引述，因为严重脑损伤病变或极早产儿的生存风险很低，因此Conrad常常暂时对他们的护理。而即使某些病变个体预后良好，方法有学演算法仍然确实更会直接得出结论：所有近似于流感都是致命的，并建议撤回用药。“记录仪”难题，路在何方？第二个经济效益观过关斩将是，上会情况下，研究者职员非常了解到AI系统更会是如何计算出结果的，即所谓的记录仪难题。高性能的方法有学高效率可以在没有明确指示的情况下吸收大量图表并标识统计模式，整个步骤进转化偏爱难以有效性。盲目遵循这种系统更会的Conrad确实更会在无意中更会妨碍病变。“我们上会根本无法理解演算法的'思维'步骤是什么。”联合国大学国策研究者中更会心一新兴网络高效率研究者员Eleonore Pauwels声称。2015年的一项研究者强调了该难题。在这项研究者中更会，研究者职员比较了不同AI框架预报肺癌病变死亡确实性的持续性。预报之后，那些确实性低的人将被送往该医院，而低确实性的病症可以转去科室用药。其中更会一个框架是“基于规则”的系统更会，其决策步骤对研究者职员来说是透光的，却预报出触犯直觉的结果：患有肺癌和癫痫的病变比仅患有肺癌的病变生存机更会非常大，因此患有两种病症的病变可以拖延用药。显而易见，医护职员并不需要明了的推断患有两种病症的病变具有非常高的死亡确实性，但演算法不必。所以仅仅只能靠这种演算法，也就是说最危急的病症将不必及时取得他们所必需的用药。另一种使用神经网络和方法有学演算法的框架产生了非常准确的结果，但其废话步骤是不透光的，因此研究者职员不会安然无恙其中更会的难题。该研究者的负责人、微软公司研究者员理查德卡鲁阿纳得出结论：神经网络框架确实性太大，不会转去针灸试验，因为没有事先推断它有否犯了近似于的错误。决策失误谁来买单？根据AMA的药理学基本上法则，Conrad只能完全对病变负责。但是，当机器学习转去等式时，负起又该如何划分？这个难题的回答仍在由医学家、研究者职员和监管政府部门拟定。机器学习打破了发放保健服务的群体限制，一些传统观念上不受药理学约束的人，比如图表科医学家，也可以为病变发放保健服务。此外，正如记录仪难题所示，人们非常总是并不需要可信地究竟机器学习系统更会是如何特别强调诊断或途经用药药物的。有缺陷的演算法确实对病变造成重大妨碍，从而导致保健事故。斯坦福大学医学家Char将机器学习看成本品。萨拉声称，虽然不必指望针灸Conrad了解到他们途经的本品的每一个生转化具体内容，但基于他们的针灸经验和药理学文献方法论，他们至少必需究竟这些本品是公共安全有效的。至于机器学习系统更会，除非经过认真研究者，他确信这是最佳选择，否则他不更会使用。Char时说：“当你对来进行的了解到非常充份时，你不愿让任何病变的全人类始终保持险恶之中更会。”病变该软件下决心？美国药理学协更会曾发出指示：机器学习只能庇护所病变反馈的该软件和公共安全。对医患规避的尽快，是自希波克拉底立誓以来药理学存有的基石。但为了特别强调准确的预报，方法有学系统更会只能要访问大量的病变图表。如果没有其所的保健历史纪录，机器学习将不会发放准确的诊断或简便的用药方法有，非常不会也就是说非常加全方位的用药。非常重要的是，如果数以百万计的病症怀疑他们的保健图表，不可或缺的公共卫生趋势确实更会忽视，这将是每其所的人员伤亡。一个潜在的转化解方案是从用保健历史纪录中更会法则上删除其所标识反馈来庇护所病变该软件。然而，都只由加利福尼亚大学牵头的一项研究者声称，目前的匿名转化高效率还不够成熟，非常必保证图表的有效清空。不过，未来会可以开发非常十分复杂的图表收集方法有，以非常好地庇护所该软件。不管高效率能力如何，药理学专家建议药理学界重一新考虑病变该软件的整个内涵。随着保健系统更会变得非常加十分复杂，将有非常多的政府部门有合法前提的需求去访问敏感的病变反馈。Char在学术著作中更会所述：“方法有学系统更会的也就是说，也就是说我们必需正因如此保健图表该软件和其他职业经济效益观核心法则。”理论上更会，该医院和政府部门必需赢得病变的信任。病变有权利了解到他们的保健该软件图表是如何被使用的，以及图表是更会使他们自身受益或只能让未来会的病变受益。伦敦大学学院学院生活品质全人类科学研究者所的现职研究者员NathanLea声称：“如果病变非常好地了解到机器学习是如何强转化其所和公共生活品质的，他们确实愿意放弃传统观念的该软件观念。该软件本身非常是也就是说的，我们不必以庇护所病变该软件为借口而拒绝图表背后的远超过经济效益。”动脉网有说药理学科技与经济效益观的争执以前存有，从人体法医学的人权组织难题，到克隆高效率的个人身份争议；从人工流产的国际间质疑，到今天机器学习的人情思辨，围绕药理学高效率创一新与社更会生活经济效益观的意见分歧从未消逝。正是这些对人性、国际间、进转化尊严、人的经济效益的关注，才使药理学体现了人文的关怀，保持一致了人性的刚性。AI保健高效率的广泛应用和亦然的社更会生活习俗本不矛盾，难以实现在权衡概括中更会找到非常前提的打开方式。我们渴望机器学习在思考的鞭策下递归蜕变，再一并不需要以自己的方式协同转化解进转化社更会生活的十分复杂难题。