能的核默算法之一作为当前人工智,此刻理论和使用两个层面深度进修的不成注释性体。

　　论上和使用上的成长示状、具有的问题本书全面引见了可注释人工智能在理,成长的标的目的以及此后,业的研究者、开辟者、决策者和利用者来讲对于想领会人工智能和成心献身人工智能事,好的参考书都是一部很。

　　助理传授、博士生导师罗格斯大学计较机系,经济尝试室主任互联网智能与。科学学士和博士学位在清华大学获计较机,斯特分校任博士后研究员曾于马萨诸塞大学阿默,州大学圣克鲁兹分校访学并于新加坡国立大学、加。互联网经济、人工智能的可注释性与公允性、人工智能伦理等研究乐趣包罗机械进修、数据挖掘、消息检索、保举系统、。SDM、AAAI、IJCAI、TOIS等范畴内的次要会议或期刊研究功效颁发于SIGIR、、ACL、NAACL、CIKM、W。ctions on Recommender Systems、Frontiersin Big Data副主编担任期刊ACM Transactionson Information Systems、ACM Transa。精采编纂奖、罗格斯大学计较机系最佳讲授奖、美国天然科学基金精采青年奖(NSF CAREER Award)曾获得中国人工智能学会优良博士学位论文奖、AIRS最佳论文奖、RecSys最佳论文提名、ACM TOIS。

　　术层面除了技,发利用流程必需在监管合规的前提下运转现行的条例律例同样要求AI系统的开。如比,合适隐私庇护及数据管理条例数据收集及模子进修过程能否,误的注释及认证必必要有精确无。求的智能体行为而对违反监管要,确的变乱阐发也需要有明,制供给手艺申明为严酷的问责机,1所示如表。

　　大皇家科学院两院院士加拿大工程院及加拿,学讲席传授香港科技大,021大会主席AAAI 2,AAI)荣誉副理事长中国人工智能学会(C,理事长以及智能投研手艺联盟(ITL)主席香港人工智能与机械人学会(HKSAIR)。EE/IAPR/AAAS Fellow他是AAAI/ACM/CAAI/IE,ons on Intelligent Systems and Technology创始主编也是IEEE Transactions on Big Data和ACM Transacti,和数据挖掘范畴杂志编委以及多个国际人工智能。工智能科学手艺奖”精采贡献奖曾获2019年度“吴文俊人,IGKDD精采办事奖2017年ACM S。于北京大学杨强结业,大学获得计较机博士学位于1989年在马里兰,mon Fraser大学任教之后在加拿大滑铁卢大学和Si,能、数据挖掘和机械进修等他的研究范畴包罗人工智。方舟尝试室主任他曾任华为诺亚,司结合创始人第四范式公,际人工智能结合会(IJCAI)理事会主席香港科技大学计较机与工程系系主任以及国。联邦进修研究及使用领衔全球迁徙进修和,习》《联邦进修实战》《隐私计较》等比来的著作有《迁徙进修》《联邦学。

　　智能首席科学家微众银行人工,算机视觉和模式识别、图像和视频处置等研究范畴包罗机械进修和深度进修、计。和欧洲施乐研究核心工作他曾在诺基亚研究核心,刊和会议文章的作者是70多篇国际期。R、ICCV、ECCV、IJCAI等顶级人工智能会议他持久加入NIPS/NeurIPS、ICML、CVP,手艺范畴的研讨会并掌管举办了各个。提交的百余项专利的发现人他仍是在美国、欧洲和中国,工智能尺度制定组主席以及IEEE可注释人。

　　、计较机视觉、天然言语处置、保举系统等范畴的使用案例第6~10章别离引见可注释人工智能在生物医疗、金融,安防和制造等现实使用中阐扬的积极感化细致申明可注释性在司法、城市办理、。

　　I利用者对于A,专业布景的通俗人群他们往往是没有相关。若何影响本身及客户的好处他们更关怀AI系统的成果,问题时当呈现,统做出决策的缘由需要向他们注释系。

　　翔实丰硕使用案例。AI的现实需求出发本书从阐发对可注释,引见前沿方式深切及时地。5个使用案例全书共有1,辑和医学影像处置别离包罗:基因编,和信用违约预测金融量化投资,问答和学问发觉模子平安、视觉,、感情阐发和主动文摘对话系统、智能问答,于位置的办事和多媒系统统电子商务、社交网站、基。财产从业者分歧业业的,注释AI的落处所式都能够从中领会可。

　　智源人工智能研究院和瑞莱聪慧首席科学家清华大学计较机系传授、人智所所长、北京,隆大学兼职传授曾任卡内基梅。器进修研究次要处置机,刊颁发论文百余篇在国际顶级会议期;的副主编(大陆初次)、AI编委受邀担任IEEE TPAMI,IPS等范畴主席20余次担任ICML、Neur。F天然科学一等奖等获科学摸索奖、CC,E“AI’s 10 to Watch”MIT TR35中国前锋者以及IEE,”强化进修库和RealSafe匹敌攻防平台率领团队研制“珠算”深度概率编程库、“天授,冠军和最佳论文奖获多项国际竞赛。

　　后最,决策机制来看最主要的是从,析还处于欠亨明的试探阶段当前对深度进修算法的分。超大规模预锻炼神经收集特别是具有亿万个参数的,、GPT3等如BERT,仍然没有清晰的申明其决策过程在学术上。时无法获得人类的充实理解与信赖这种“黑盒”似的深度神经收集暂,模子的潜在风险不容轻忽大规模使用此类预锻炼。

　　全书进行总结第11章对,面对的挑战和将来成长趋向并阐述可注释人工智能研究。

　　的人工智能系统决策机制第1章揭示基于数据驱动,场景的可注释人工智能范式提出一种基于人机沟通交互。

　　扛鼎之作范畴名家。能范畴的出名学者本书汇集了人工智,果卓著研究成,年研究功效的扛鼎之作本书恰是诸位专家数。

　　系统开辟者对于AI,学问的系统开辟人员及测试人员他们往往是具备专业AI布景,入的专业注释需要精确和深,的开辟调试及测试使命以便完成对AI系统。个大模子来说例如:对于一,?系统的哪一部门被启动?若是发生错误是哪一部门的数据对结论起了环节感化,自哪里?若何修补最大的可能性来?

　　董事总司理华夏基金,兼首席手艺官首席数据官。大学少年班本科中国科学手艺,槟分校计较机博士美国伊利诺大学香,机系正传授、终身传授美国华盛顿大学计较,核心创始主任大数据科学,参谋、机械进修、优化算法、人工智能和云计较等研究范畴为金融科技、金融数据挖掘、智能投资。型研发团队、开辟贸易产物的丰硕经验具有15年以上的前沿性研究、办理大。

　　机系长聘副传授清华大学计较,生导师博士。理和不变预测、大规模收集表征进修等研究乐趣聚焦于大数据驱动的因果推。级国际会议颁发论文100余篇在数据挖掘及人工智能范畴顶,际会议或期刊论文奖先后五次获得顶级国,级国际会议KDD最佳论文专刊并先后两次入选数据挖掘范畴顶。M TIST、IEEE TBD等国际顶级期刊编委担任IEEE TKDE、ACM TOMM、AC。CF-IEEE CS青年科学家奖、ACM精采科学家曾获得国度天然科学二等奖、教育部天然科学一等奖、C。

　　如例,AI医疗诊断系统某家病院引入一套。明病人的癌症检测为阳性若是该系统给出判断表,90%概率为,往是不被接管的那么这个结论往。么特征和经验?……对于大夫等专业人士来说病人会问:你是若何做出这个判断的?按照什,统做出这种预测可能会问:系,?有多大的风险?这个系统在几多个案例里面被测试过?是不是不变、靠得住、全面、科学的能否合适病院和医管单元的要求?有没有按照正轨的医疗法式来做揣度?这种推论能否靠得住?

　　个颇受关心的主要论题可注释人工智能是一,良多方面还缺乏共识但其内涵和外延的。注释人工智能进行了活泼的切磋杨强传授领衔撰写的这本书对可,个使用范畴案例特别是给出了多。专业学问的读者即即是缺乏相关,能有所收成阅读后也。

　　布景下在此,机视觉、天然言语处来由来自机械进修、计较,统等使用范畴的12位出名专家以及在生物医疗、金融、保举系,人工智能导论》一书结合创作了《可注释,磅上市现已重!

　　学院生物消息系长聘传授同济大学生命科学与手艺,生导师博士。生物组学交叉融合的研究范式持久努力于成长人工智能和,及基因编纂范畴开辟新的计较方式学和计较平台面向肿瘤精准用药、药物发觉、肿瘤免疫医治,据阐发的连系及临床使用推进人工智能和组学数。 Advances、Genome Biology等颁发学术论文在Nature Communications、Science,系列杂志等颁发综述和评述论文受邀在Cell Trends。及国度天然科学基金掌管国度863基金,T&IT专项子课题国度重点研发打算B,精准医学及慢病专项等参与国度重点研发打算。 Intelligence in the Life Sciences编委任ELSEVIER出书社人工智能生命科学交叉范畴杂志Artificial。O公司及互联网公司开展合作无懈其研究团队和国际制药企业、CR,在生物医学范畴的使用鞭策了人工智能手艺。2019年、2020年中国生物消息学研究十猛进展其在人工智能和生物组学交叉范畴的研究工作先后入选,学奖、华夏医学奖三等奖、中国发现协会发现立异奖二等奖等曾获吴文俊人工智能天然科学手艺奖三等奖、药明康德生命化。、启明星人才、曙光人才先后入选上海市浦江人才,青年长江学者”入选教育部“。

　　丰硕齐备配套资本。富的进修材料本书配备丰,源、中英术语对照、索引和全书的参考文献包罗配套PPT、可注释AI相关的开源资,步查阅进修供读者进一。

　　用层面在应,I系统具有一系列隐患通过数据驱动获得的A,重的社会问题并可能激发严。先首,集的局限和成见因为数据样本收,I系统也是有成见的导致数据驱动的A,于人类社会中的成见这种成见以至无异。如比,AS被证明对黑人犯罪嫌疑人形成了系统性蔑视芝加哥法院利用的犯罪风险评估算法COMP,估为具有低犯罪风险白人更多被错误地评,估为具有高犯罪风险而黑人被错误地评,比白人超出跨越一倍且黑人的概率。

　　此因,要的理论意义与现实意义成长可注释AI具有重,方面一,对AI系统的信赖可协助用户成立,特征做出有成见的结论防止由于算法的黑盒,的公允性推进算法;方面另一,机构的合规要求能够满足监管,鲁棒性、平安性成长推进AI向公允性、。

　　注释人工智能手艺方式第2~5章引见各类可,、基于与或图模子的人机协作注释、对深度神经收集的注释包罗贝叶斯方式、基于因果开导的不变进修和反现实推理。

　　中国科学手艺大学1991年结业于,佛大学计较机博士学位1996年获美国哈,大卫·曼福德传授师从国际数学大师,上颁发论文300余篇在国际顶级期刊和会议,国际最高奖项——马尔奖三次染指计较机视觉范畴,觉与模式识别大会主席两次担任国际计较机视。与随机计较方式引入计较机视觉研究在1990年代率先将概率统计建模,解译的框架、数理模子和统计较法提出了一系列图像与视频的布局化,l Pattern Theory)成长了广义模式理论(Genera,认知科学范畴做出了主要贡献在视觉常识推理、场景理解等。0年以来自201,I担任人[Principal Investigator]两次担任美国视觉、认知科学、AI范畴跨学科合作项目MUR。有很强的前瞻性在科研方面具,法独树一帜选题和方,算机视觉、认知科学持久努力于建立计,学的同一数理框架甚至人工智能科。

　　京东摸索研究院院长京东集团副总裁、,中国科学手艺大学大师讲席传授兼任清华大学杰出拜候传授、。京东前插手,l Russell讲习传授、悉尼大学人工智能核心主任在悉尼大学担任澳大利亚桂冠传授、Peter Nico。工智能范畴的研究次要处置可托人,上颁发了200余篇论文在权势巨子杂志和主要会议;用近6万次论文被引,ex为126h-ind,最佳论文奖、时间查验奖并多次荣获顶级国际会议。卡奖和悉尼科技大学校长奖章2015年获得澳大利亚尤里,E ICDM研究贡献奖2018年获得IEE,里卡奖和悉尼大学校长研究贡献奖2020年再度荣获澳大利亚尤,ard J McCluskey手艺成绩奖2021年荣获IEEE计较机协会Edw。学院外籍院士、新南威尔士皇家学院院士及澳大利亚科学院院士先后被选IEEE/AAAS/ACM Fellow、欧洲科。

　　士博,究立异及其使用落地努力于医学影像的研。医学与生物工程院)、NAI(美国国度学术发现院)Fellow of IEEE、AIMBE(美国。研究核心(筹)主任、中科院计较所客座研究员、香港中文大学(深圳)客座传授现任中国科学手艺大学讲席传授、生物医学工程学院施行院长、影像智能与机械人,任职首席影像AI专家曾在西门子医疗研究院。5本学术专著他曾经编撰了,学术期刊及会论说文颁发了240余篇,余项授权专利并具有140。就和立异贡献而获奖他多次因其学术成,CE精采校友、MICCAI年轻科学家奖提名文章等包罗发现奥斯卡奖、西门子年度发现家、马里兰大学E。于专业社区他热心奉献,Machine Intelligence(TPAMI)、ical Imaging(TMI)等编委、顶级会议AAAI、CVPR、ICCV、MICCAI和NeurIPS等范畴主席、MICCAI2020的法式联席主席、“视觉求索”公家号联席主编是行业顶级协会MICCAI财长兼理事、Medical Open Network for AI(MONAI)征询参谋、顶级期刊Medical Image Analysis、IEEE Trans. Pattern Analysis and 。

　　术学院传授、博士生导师复旦大学计较机科学技。获计较机理学博士学位1998年于复旦大学,处置、消息检索和社会媒体阐发研究范畴为人工智能、天然言语。事、社会媒体专委会副主任兼任中国中文消息学会理,、学术工作委员会委员、AACL施行委员中国计较机学会天然言语处置专委会副主任。会议上颁发了百余篇论文在高程度国际学术期刊和,金、科技部、教育部、上海市科委的支撑担任的多个科研项目获得国度天然科学基。处置大会法式委员会副主席担任2015年社会媒体,算言语学会议法式委员会副主席2016年、2019年全国计,与中文计较会议法式委员会主席2017年国际天然言语处置,理与中文计较会议大会主席2020年国际天然言语处,方式国际会议法式委员会主席等学术职务2021年EMNLP天然言语处置实证。上海市育才奖获2021年,全球女性”“2020年度AI 2000人工智能全球最具影响力提论理学者”“福布斯中国2020科技女性榜”并入选由清华—中国工程院学问智能结合研究核心和清华大学人工智能研究院结合发布的“2020年度人工智能。

　　循序渐进学问完整。性质的引见图书作为一本导论,深切浅出本书内容,注释性概念层面展开会商从根本的人工智能的可,AI的直观、抽象的理解先协助读者成立对可注释,AI的前沿方式再引见可注释,富的行业使用案例最初通过一系列丰,的可注释AI手艺的理解巩固读者对书中所引见,I范畴循序渐进的引见从而完成对可注释A。

　　平安的严重范畴中在涉及人身财富,、主动驾驶等如金融、医疗,用户可否信赖模子的环节模子的可注释性成了决定。注释受众针对分歧,同人群的信赖模子要获得不,场布景、教育程度等要素必必要考虑每小我的立,与形式的注释供给分歧内容。

　　时同,细化落实为可实现的手艺方案若何将轨制层面的法则具体,待研究和处理的挑战仍是可注释AI亟。

　　价值兼备理论实践。释AI的理论成长示状本书系统地阐述了可解,引见领会释性方式并按照五种分类,可注释模子、基于可注释性的交换进修、对神经收集的注释即可注释图模子、贝叶斯深度进修模子、基于学问图谱的。时同,、天然言语处置、保举系统等方面的使用角度出发本书从引见了可注释性方式在医疗、金融、视觉,注释所要达到的具体方针明白指出在各类场景下。

　　础学问、理论方式和行业使用本书全面引见可注释AI的基。为三部门全书分,1章共1。

　　甚者更有,一副特制的眼镜人们只需戴上,深度神经收集的人脸识别系统在现实情况中就可以或许骗过利用;融领取等场景中的普遍使用考虑到人脸识别系统在金,会风险令人毛骨悚然这种潜在的金融和社。

　　好比再,平台中在电商,要向用户做出注释系统设想者也需,向他们保举了某些特定的商品协助人们理解“为什么”算法,服力、无效性、可相信性和对劲度以此来提高保举系统的通明度、说。

　　本可注释人工智能专著杨强传授领衔撰写的这,进修素质的深度理解和摸索系统性地总结了对于机械,交互式可注释人工智能范式提出了一种面向人机协作的。言处置、保举系统等手艺范畴本书通过计较机视觉、天然语,融等使用范畴的现实案例以及生物医疗和电商金,众信赖及满足监管需求的积极感化展现了可注释人工智能对提拔公。人工智能成长的读者我相信各行各业关怀,智能专业的教员和同窗等包罗高校计较机及人工,种无益的阐述和风趣的概念都能够从这本专著中发觉各。

　　笼盖面广内容适用。人群普遍本书笼盖,门读者对于入,沿手艺及时归纳梳理本书对可注释AI前,出地引见并深切浅;的研究者对于资深,进阶的研究路径本书也给出了;业使用者对于行,同处理方案的根据本书提出了选择不。时同,使用及具有社会影响力的人士本书也照应到关心人工智能,作者和社会科学研究人士包罗政策制定者、法令工。

　　世纪以来进入21,l Intelligence人工智能(Artificia,了长足成长AI)取得,觉、语音识别、主动驾驶等范畴落地曾经逐渐在天然言语处置、计较机视。慎密的连系AI与人类,协同成为大势所趋使得智能化的人机。使用AI的同时人类在全方位,信赖、办理AI更但愿能理解、。此因,全靠得住的AI显得至关主要成长可注释、可扩展、安。

　　特计较机科学核心长聘教轨副传授上海交通大学约翰·霍普克罗夫,生导师博士,条理人才引进打算入选国度级海外高,hina新星奖获ACM C。日本东京大学博士学位他于2014年获得,杉矶分校(UCLA)处置博士后研究于2014–2018年在加州大学洛,器进修和计较机视觉次要研究标的目的包罗机。能、机械进修等分歧范畴的顶级期刊和会议上其研究工作次要颁发在计较机视觉、人工智,CVPR、ICCV、AAAI、KDD、ICRA等包罗IEEE T-PAMI、ICML、ICLR、。年来近,多项具有国际影响力的立异性功效他在神经收集可注释性标的目的取得了。2020的范畴主席他承担了ICPR ,AI 2021的可注释性标的目的的TutorialCCF-A类会议IJCAI 2020和IJC,9、ICML 2021大会可注释性标的目的的分论坛主席并先后担任了AAAI 2019、CVPR 201。

　　次其,一些十分初级的、人类不成能犯的错误“黑盒”似的深度神经收集还常常犯,上的潜在风险表示出平安性。如例,准确识别图片中有一辆校车一个深度神经收集本来可以或许,些人眼不克不及察觉的改动之后但在对少量图片像素做一,识别为鸵鸟图片就被。

　　展也面对诸多坚苦与挑战而人工智能手艺的高速发。中其,术的根基道理若何把AI技,决策机制其主动,及防备办法潜在风险,体例向人类申明以通俗易懂的,展可相信成为发,智能的首要使命平安靠得住人工。常糊口傍边触目皆是可注释性在我们的日,如比,释诊断成果和医治办法时一位大夫在向一位病人解,的病因和医治注释要给病人一个好,人安心让病。环境是而现实,AI算法因为焦点,度进修算法特别是深,黑盒”中的工作模式下凡是运转在雷同于“,统的运转成果导致AI系,式被人类所理解和认同并不克不及以合乎情理的方。

　　加州大学(UCLA)任教2002年加盟美国洛杉矶,计较机系传授任统计系与,习与自主机械人核心主任计较机视觉、认知、学。te for General Artificial Intelligence)2020年9月回国筹建北京通用人工智能研究院(Beijing Institu,与北京大学讲席传授同时担任清华大学,华大学通用人工智能研究院(筹)院长并任北京大学人工智能研究院院长、清。1年4月202,成立通用人工智能尝试班北京大学与清华大学联手,松纯领衔均由朱。

　　论层面在理,验证明有实,样本图片给出若干,络连系逻辑回归的识别模子被用于锻炼一个深度神经网;部门的准确图片分类该模子可以或许将绝大,中的哈士奇误判为狼但却会将雪地布景。的大面积白色布景(雪地)作为识别狼的根据”由于该识别器从锻炼数据中学到“能够将图片中。成立(概率)联系关系是一种虚假关系因为在输入数据和预期成果之间,本不分歧的环境时当面临与锻炼样,就会大失水准模子的表示。

　　自成一系统统全面。、范围、面对的挑战及将来成长标的目的本书会商了可注释AI的目标、定义,述了可注释AI的不足出格是本书多角度论,沟通的可注释AI范式并提出了基于人机交互。