在10月,一名炸弹学术研究中广泛使用的软件质疑种族偏见在可能导致美国的医疗保健。它发现了一些供应商使用的算法,优先获得额外的帮助与条件:如糖尿病系统化 favors white patients’ needs over those of black patients. Democratic presidential candidate and senator Cory Booker (D-New Jersey) and Senate colleague Ron Wyden (D-Oregon) are now demanding answers.

On Tuesday, Booker and Wyden released letters to the Federal Trade Commission and Centers for Medicare and Medicaid Services 要求各机构自己的外表在卫生保健算法和防止偏见。他们要求FTC调查的决策算法,对被边缘化的群体是否歧视。另外,国会议员 wrote to five of the largest health care companies asking about their internal safeguards against bias in their technology.

“在使用的算法,试图经常清除组织人类的缺陷和偏见,”布克和维登写道。 “不幸的是,无论是人设计这些复杂的系统和数据的大规模集合所使用的,有建于历史的许多和人类的偏见。”这些信件被送往医疗公司蓝十字蓝盾,信诺公司,人,安泰和联合健康保险。

Keep Reading
The latest on artificial intelligence, from machine learning to computer vision and more

The study that prompted Booker and Wyden’s letters found racial bias 在病人管理软件从美国联合子公司Optum输出。它被用来预测有70万名患者在美国的医疗保健需求,但是从某大医院的数据表明,低估黑人患者疾病的严重程度,给它们分配较低的分数比白人患者在相同的医疗条件。

歪斜可能产生严重,甚至是致命的,后果,因为一些保健系统使用的分数来决定谁获取访问与复杂的慢性疾病,如糖尿病或肾脏疾病如人们特别节目。在大型学术医院传导凡研究,计算,算法的偏见有效降低了黑色患者接受额外的帮助了一半以上,从近50%至低于20%的比例作者。

布克和维登不是第一次挑起推荐这些结果应政府的行动。上个月,纽约州的卫生和金融服务监管机构写信给 joint letter 这警告美国联合“这些歧视性的结果,不管是有意还是无意的,是不可接受的,在纽约是非法的。”当被问及该公司不使用任何的数据分析算法或本机构,除非能证明他们是来自不同种族的影响自由。在经过该文章最初发表提供的一份声明,美国联合Optum说,研究只关注分数ITS软件可以计算出一个,这应该保健服务提供者使用所有的分数确定和解决差距在获得照顾。

In April, Booker and Wyden introduced a Senate bill called the Algorithmic Accountability Act 这就需要在决策,以评估他们的技术歧视使用自动化的组织。美国代表维特·克拉克(d-纽约) introduced a version in the House.

Advertisement

齐亚德欧博迈亚,加州大学伯克利分校研究员和研究解剖Optum算法的主要作者表示,其结果引发的技术是如何在这样的医疗保健使用的广义是否应重新评估。 “经鉴定是偏见,我们大于一个公司或一个算法,它在我们的保健品行业一直在思考风险预测,方式的系统误差”我说。该算法的距离的方式歪斜窜出它使用的医疗费用,作为一个人的护理要求的代理,从而它的预测反映了经济不平等尽可能健康的需求。

Obermeyer published 500 Internal Server Error

Internal Server Error

The server encountered an internal error and was unable to complete your request. Either the server is overloaded or there is an error in the application.

offered to work pro bono with health systems and others who want to detect and remove bias from health care algorithms.

“我们已经从卫生系统,医院协会,保险公司和国家委员会巨大的反应,说:”欧博迈亚暗示医疗行业醒来普遍,可能是一个问题。

Updated, 12-3-19, 5pm ET: This article has been updated to include a statement from UnitedHealth Optum.


More Great WIRED Stories