》杂志上的一项研究显示2019年颁发在《科学，司都利用一种医疗预测算法美国各地的病院和安全公，险护理办理”打算的患者来识别那些需要“高风，能零丁挑出黑人患者但这种算法不太可。

　　arton在通知布告发布后与投资者举行的德律风会议上暗示Zillow公司结合创始人、首席施行官Rich B，以调整算法大概他们可，风险太大但最终。

　　low称Zil，于当前估价的价钱买入衡宇该算法导致公司无意中以高，存价钱减记为3.04亿美元导致2021年第三季度的库。

　　型零售商一样和其他所有大，、信用卡、查询拜访等体例收集顾客数据Target不断通过购物者代码，统计数据和第三方数据然后连系购物者的生齿，据进行处置之后对所有这些数，阐发团队就能确定Target的，在售商品就能生成“怀孕预测”评分通过度析Target大约25款。后然，的顾客供给优惠券和营销消息营销部分就能够针对评分较高。

　　童胸部扫描的数据集对算法进行锻炼雷同的例子还包罗利用含有健康儿，了识别哪个是儿童该算法最初却学会，高危患者而不是。

　　员认为研究人，几个要素可能有，先首，较低的几率更高有色人种收入，们有安全即便他，响应的医疗办事也不太可能获得。种接管的护理办事质量较低隐性成见也可能导致有色人。

　　ure Machine Intelligence》上颁发了一篇论文剑桥大学机械进修研究员Derek Driggs和他的同事在《Nat，模子对病毒进行诊断切磋了利用深度进修。最初明白该论文，不适合临床利用深度进修手艺。gs的团队发觉例如Drig，模子具有缺陷他们本人的，采用的数据集中由于模子锻炼，者和站立的患者的扫描文件包罗了扫描操作时躺着的患。病的可能性更大躺着的患者患重，中患者的位置来发觉新冠风险于是该算法学会了按照扫描。

　　》记实了良多失败露务《麻省理工科技评论，练或测试方式呈现了错误此中大部门源于东西训，中其，来自未知来历是常见的首恶祸首利用了标识表记标帜错误的数据或者数据。

　　6年3月201，发觉微软，机械进修算法的锻炼数据利用推特交互功能作为，人失望的成果可能会发生令。

　　e指出Le，14年在中国发布的小冰Tay的前身是微软20，前的两年时间里在Tay发布，000万人进行了对话它曾经成功地与跨越4。考虑到的是微软没有，y倡议种族主义和厌恶女性的评论一群推特用户会当即起头向Ta，速地从这些消息中进修而机械人Tay也迅，本人的推文中并最终整合到。

　　接管检测的小我收到检测成果虽然这个“毛病”并没有妨碍，接触者的追踪工作但确实妨碍了亲近，发觉和通知与传染患者亲近接触的小我使英国国度卫生办事部(NHS)更难。 Brodie在10月4日的一份声明中暗示英国公共卫生部姑且首席施行官Michael，及英国公共卫生部敏捷处理了这个问题英国国度卫生办事部测试和追踪系统以，当即转移到该系统中并将所有严重记实。

　　供锻炼有素的护理人员以及初级保健监测办事这项高风险护理办理打算旨在为慢性病患者提，并发症的发生以防止严峻。保举给该打算的几率但该算法将白人患者，黑人患者要高于。

　　AI聊天机械人“Tay”微软在推特平台上发布了，关“对话理解”的尝试并将其描述为一项有。设想了一个少女的脚色微软给这个聊天机械人，习和天然言语处置连系利用机械学，用户进行互动通过推特与。事后编写的一些材料输入到机械人中微软用匿名的公共数据和喜剧演员，消息中进行自我进修和自我成长然后让它从社交收集上的互动。

　　年10月2020，当局机构英国公共卫生部(PHE)透露担任统计新增新冠病毒传染数量的英国，10月2日期间在9月25日至，冠病毒病例并未上报有近16000例新。Excel中的数据限制问题首恶祸首是谁？谜底是微软。

　　系统滥用环境做好了预备“虽然我们曾经为良多，的攻击行为严峻失察但我们却对这种特定。就是成果，得当、应受训斥的文字和图片Tay在推特上发布了很是不。”

　　12年20，et的一个阐发项目零售巨头Targ，若何从数据中洞察顾客的展现了Target是。时报》报道据《纽约，02年20，思虑若何确定顾客能否怀孕Target营销部分起头，个预测阐发项目最终降生了一，名少女的家人透露她曾经怀孕了导致Target无意中向一。过来反，客都起头援用该事务各类文章和营销博，令人毛骨悚然的要素”建议人们避免那些“。

　　企业一样和良多大，源部分筛选出并找到最佳候选人的东西亚马逊也巴望具有一些可以或许协助人力资。14年20，聘请软件来实现这一点亚马逊起头开辟AI。很是偏心男性候选人但有一个问题：这个。18年20，逊打消了该项目路透社爆料亚马。

　　新冠疫情大迸发以来自COVID-19，算法来协助病院更快地诊断或者分类患者良多企业组织都在寻求通过利用机械进修。工智能核心图灵研究所的说法但按照英国国度数据科学和人，没有带来什么影响这些预测东西几乎。

　　IO情况查询拜访演讲按照2022年C，IT带领者提到有35%的受访，他们组织最大的一项IT投资数据和营业阐发将是本年鞭策，则提及了机械进修/人工智能有20%的受访IT带领者。得的洞察力可认为企业组织带来合作劣势从机械进修算法驱动的阐发和步履中获，命方面若是发生错误的话但在声誉、收入以至生，昂扬的价格可能要付出。

　　研究表白进一步的，此中一些顾客感应毛骨悚然对顾客生育环境的研究会让。士报》报道据《泰晤，弃有针对性的营销手段Target没有放，他们明知妊妇不会采办的工具但确实起头在告白中混入那些，告展现割草机告白例如在纸尿裤广，式让顾客感觉没那么锐意通过这种告白组合的方。搜狐前往，看更查多

　　报道称CNN，llow Offers买入了27000套衡宇Zillow自2018年4月上线以来通过Zi，底仅售出17000套但到2021年9月。修劳动力欠缺等黑天鹅事务新冠疫情大迸发和家庭装，的精确性问题导致了算法。

　　发生后事务，微软官方博客上的一篇文章中写道：“我们对来自Tay的无意冲犯和危险性推文深表歉意微软研究与孵化部分企业副总裁Peter Lee（后来担任了微软医疗企业副总裁）在，代表我们的立场这些推文并不，设想Tay的体例也不克不及代表我们。”

　　一项“快速处理”办法英国公共卫生部采纳了，件进行拆分先是把大文，了全面端到端的审查然后对所有系统进行，发生雷同事务以防止将来再。

　　据给你传送了什么消息理解你的数据以及数，很主要这一点，、服膺企业组织的价钱也同样主要但领会你的东西、领会你的数据。

　　发觉研究，确定小我医疗需求的根据该算法利用医疗收入作为。美国人》的说法但按照《科学，患者所破费的医疗费用那些病情较重的黑人，的医疗费用是差不多的与健康的白人所破费，患者的医疗需求更高这意味着即便黑人，险评分却很低但他们的风。

　　人从1到5的星级评分亚马逊的系统给候选，10年的简历进行锻炼的——此中大部门都是男性但系统焦点的机械进修模子是按照提交给亚马逊近。数据进行锻炼由于利用这些，女性”一词的短语给出较低评级导致系统起头对简历中包含“，子大学的候选人以至是来自女。

　　该东西以连结中立亚马逊试图调整，终决定但最，一些蔑视性的候选人排序体例无法包管该东西不会进修其他，了该项目而竣事。

　　内发布了95000多条推文这个聊天机械人在16个小时，义、厌女主义和反犹太主义敏捷变成了公开的种族主。了并进行调整微软敏捷叫停，终止了该办事但最终仍是。

　　经济学人》颁布发表2017年《，为世界上最有价值的资本数据（而非石油）曾经成，点被广为传播后来这个观。今如，继续数据和阐发方面投入大量资金各行各业的企业组织曾经在、还将。石油一样可是和，有它暗淡的一面数据和阐发也。

　　尝试室成果作为CSV文件传输到Excel模板中英国公共卫生部利用主动化流程将新冠病毒阳性的，板和密接追踪用于演讲仪表。幸的是然而不，支撑1048576行和16384列Excel电子表格每个工作表最多。且而，列而不是按行输出消息的英国公共卫生部是按照，84列限制的时候所以当到了163，剩下的15841笔记录Excel就会主动堵截。

　　具体的算法或者开辟人员虽然该研究并没有公开，诉《科学美国人》但有研究人员告，员合作处理这个问题他们正在与开辟人。

　　注的数据阐发和人工智能灾难事务下面是过去十年发生的一些备受关，手艺时可能碰到的问题能够申明在采用这些。

　　想要识别出怀孕的顾客Target营销部分，很有可能改变他们的购物习惯由于在怀孕这种特殊期间人们。以这期间触及到这些顾客如许若是Target可，新的购物行为培育这些顾客，采办百货、衣服或其他商品让他们转向去Target。

　　年11月2021，illow向股东暗示在线房地产买卖巨头Z，llow Offers营业将在将来几个季度竣事Zi，25%并裁人，000名员工也就是约2，价的机械进修算法呈现错误而导致了一系列后果而此次要归罪于Zillow由于用于预测房。

　　fers是一个法式Zillow Of，价值“Zestimate”指数对房产进行现金报价Zillow通过该法式按照机械进修算法得出的衡宇，产快速进行翻新转售这么做是为了对房。的一位讲话人告诉CNN可是Zillow公司，误率为1.9%该算法的中位错，屋评估错误率可能更高对于市场买卖之外的房，.9%高达6。