十多年前吴恩达：，谷歌大脑项目当我建议启动，来建立很是大的神经收集时操纵谷歌的计较根本设备，争议的是有。人把我拉到一边一个很是资深的，我说警告，我的职业生活生计晦气启动谷歌大脑对。想我，只逗留在扩大规模上他是感觉步履不克不及，放在架构立异上而该当把重点。

　　论这个问题时当我起头谈，业者举手说有很多从，是的“， 20 年了”我们曾经做了。在现，直凭直觉在做的工作是时候把一些人一，的工程学科了变成一门系统。

　　个问题很大吴恩达：这。天然言语处置）中的根本模子我们曾经看过了 NLP（。变得越来越大感应兴奋我对 NLP 模子，建立根本模子的潜力感应兴奋同时也对在计较机视觉范畴。认为我，受限于计较带宽和视频处置成本视频中仍有良多讯息能够操纵：，再依赖文天职词的根本模子我们还无法为视频建立出不。我认为因而，进修算法的引擎这个扩展深度，大约 15 年虽然曾经运转了，有活力但仍然。如斯话虽，于某些问题那也只合用，需要小数据处理方案还有其他一系列问题。

　　过去十年中吴恩达：在，变是向深度进修改变人工智能最大的转。认为我，十年里在这个，数据为核心的人工智能改变最大的改变很有可能是向以。收集架构的成熟跟着现现在神经，认为我，际的使用来说对于良多实，地获得我们所需的数据瓶颈将是我们可否无效，优良的系统开辟出结果。整个社区有着庞大的活力和动力以数据为核心的人工智能活动在。和开辟人员可以或许插手进来我但愿有更多的研究人员，勤奋为之。

　　不是如许吴恩达：。例子举个。方说比，手机外壳的缺陷你试图检测智能。多分歧类型的缺陷智妙手机上有许。、材料变色或其他类型的瑕疵那可能是划痕、凹痕、坑痕。练了模子若是你训，现它总体上表示很好然后通过误差阐发发，上表示很差但在坑痕，更有针对性地处理这个问题那么合成数据生成让你能够。类别生成更多的数据你能够只针对坑痕。

　　质量数据的关心能否能协助处理数据集成见IEEE Spectrum：这种对高，更多地挑选数据若是能在锻炼前？

　　一个可扩展性问题吴恩达：我认为有。所需的计较能力很是大处置视频中的大量图片，会起首出此刻 NLP 中我想这就是为什么根本模子。在研究这个问题很多研究人员正，视觉范畴开辟这种模子的晚期迹象我认为我们曾经看到了在计较机。相信我，们供给 10 倍的处置能力若是有一家半导体系体例造商给我，倍的视频来建立如许的视觉模子那么我们就很容易找到 10 。

　　件互联网中在消费类软，习模子来办事 10 亿用户我们能够锻炼少数几个机械学。制造业但在， 1 万个定制化的人工智能模子你可能要为 1 万个制造商建立。挑战是这里的，ding AI 若是没有 Lan，到这一点你若何做， 名机械进修专家吗是雇用 10000？

　　记得我，NeurIPS研讨会论文在我和我的学生颁发第一篇， 长进行处置的平台）进行深度进修时倡导利用CUDA（一种在 GPU，我说：“CUDA 编程真的很复杂一位异乎寻常的 AI 资深人士对。编程范式作为一种，作似乎太多这么唱工。说服了他”我设法；我却没能说服但另一小我。

　　m：在过去十年摆布的时间里IEEE Spectru，的模子处置越来越多的数据为根本深度进修的庞大前进是以越来越大。认为有人，是不成持续的这种成长模式。意这种说法您能否同，种体例继续成长下去深度进修不克不及再以这？

　　trum：所以您是说IEEE Spec，其可扩展为了使，大量的锻炼及其他工作您必需赋能客户来做。

　　前目，司Landing AI上他的次要精神都放在其公。ndingLens 的平台该公司建立了一个名为 La，机视觉改善视觉检测协助制造商操纵计较。核心的人工智能活动的传教者他还成为了他所谓的以数据为，大问题供给“小数据”处理方案他说这可认为人工智能范畴的，、精确性和成见涉及模子效率。

　　anding AI 的感化吴恩达：让我描述一下 L。实现视觉检测时在协助制造商，的RetinaNet我们经常利用我们本人。锻炼的模子它是一个预。如斯话虽，拼图的一小部门预锻炼只是整个。是供给东西更大的难题，的图片集[用于调优]使制造商可以或许挑选合适，体例标识表记标帜它们并用同样的。看到我们，现实的问题有一个很是，LP 和语音横跨视觉、N，法分歧地给出恰当的标签即便是人类标注者也没。数据使用对于大，：若是数据嘈杂常见的反映是，大量的数据我们就获取，来均化处置然后由算法。是但，来标识表记标帜数据不分歧的处所若是你能开辟一些东西，的方式来改善数据的分歧性并给出一个很是有针对性，机能的系统更无效的方式那么这将是建立一个高。

　　人工智能范畴吴恩达：在，理很主要数据清，往需要大量的手动工作但数据清理的体例往。机视觉中在计较，er笔记本将图片可视化有人可能通过Jupyt，发觉问题也许会，修复它也许会。一个很是大的数据集的东西但对于那些让我们能够具有，在标签噪声的数据子集的东西那些能够快速无效地定位存，很是兴奋我感应。到 100 个类中的某一类或者是快速将你的留意力吸引，数据会让你受益从中收集更多的。往往是有协助的收集更多的数据，都设法收集更多的数据可是若是你什么时候，很是高贵的勾当那可能是一项。

　　群研究人员比拟与一家公司或一，能活动的规模要大得多以数据为核心的人工智。组织了一个以数据为核心的人工智能研讨会我和我的合作者在 NeurIPS 上，的数量让我感应很是欢快前来加入的作者和演讲者。

　　的需求？若是产物发生变化或工场的照明前提发生变化IEEE Spectrum：你们若何处置不竭变化，跟得上吗模子能？

　　中一个强大的东西是设想数据子集的能力以数据为核心的人工智能为我们供给的其。一下想象，器进修系统锻炼一个机，集上的表示都还能够发觉它在大部门数据，一个子集有成见但只是对数据的。个数据子集上的机能若是你为了提高在那，神经收集的架构试图改变整个，当坚苦这相。是但，一个子集进行设想若是你能对数据的，的体例处理这个问题你就能以更有针对性。

　　：我认为吴恩达，工智能东西箱中的一个主要东西合成数据是以数据为核心的人。PS 研讨会上在 NeurI，r做了一个关于合成数据的出色演讲Anima Anandkuma。认为我，个预处置步调来添加进修算法的数据调集成数据的主要用处不只仅是作为一。更多的东西我但愿看到，为机械进修迭代开辟闭环的一部门闪开发者能够把合成数据生成作。

　　um：听您这么说很成心思IEEE Spectr，者并且无数百万用户的公司工作由于您晚期就是在一家面向消费。

　　户找到我们时吴恩达：当客，方面碰到的问题进行扳谈我们凡是会就他们在检测，一些图片并查看，通过计较机视觉来处理以验证该问题能否能够。能够假如，LandingLens平台我们会要求他们将数据上传到。人工智能方式论向他们供给建议我们经常基于以数据为核心的，数据进行标注并协助他们对。

　　trum：您经常谈到IEEE Spec，少量的数据可供操纵有些公司或机构只要。能若何为他们供给协助以数据为核心的人工智？

　　行业中在很多，底子不具有巨型数据集，我认为所以，数据转向好数据关心点必需从大。以向神经收集注释你想让它进修什么有 50 个细心设想的样本就足。

　　：是的吴恩达，准确完全！的人工智能问题这是涉及全行业，在制造业不只仅是。保健范畴看看卫生。记实格局都略微分歧每家病院的电子健康。家病院的 IT 人员发现新的神经收集架构是不现实的每家病院该若何锻炼本人定制化的人工智能模子？希望每。法是建立东西赋能客户脱节这种窘境的独一方，计数据和暗示范畴学问为他们供给东西来设，建本人的模子使他们可以或许构。但愿在计较机视觉范畴告竣的方针这就是 Landing AI ，在其他范畴完成雷同的方针人工智能范畴需要其他团队。

　　数据能够让我们在更多的数据集上试验模子吗IEEE Spectrum：您是说合成？

　　据为核心的 AI 的？为什么您将其视为一场活动IEEE Spectrum：您是怎样定义以数？

　　和我在斯坦福的一些伴侣们缔造的一个术语吴恩达：这是由Percy Liang，常大的模子指的长短，数据集上锻炼在很是大的，的使用进行调优能够针对特定。如例，型[用于 NLP]的例子GPT-3就是一个根本模。进修使用的一个新范式根本模子作为开辟机械，使用前景有很大的，面对着挑战但同时也，理、公允、没有成见即若何确保它们合，人将以它们为根本进行建立出格是若是我们中的很多。

　　如斯话虽，十年里在过去，的环境是经常呈现，面向消费者的公司深度进修发生在。复杂的用户群这些公司具有，十亿用户有时是数，很是复杂的数据集他们也因而具有。类软件带来了庞大的经济价值虽然这种机械进修范式为消费，发觉但我，法对其他行业并不合用合用于这种规模的方。

　　个很是强大的东西合成数据生成是一，单一些的东西但也有很多简，先试一下我经常会。数据加强好比说，签分歧性改善标，厂收集更多的数据或者只是要求工。

　　做的工作或以数据为核心的人工智能活动IEEE Spectrum：关于您所，需要人们领会的吗您认为还有什么？

　　标是让制造企业能够本人完成机械进修工作Landing AI 的此中一个主要目。确保软件快速且易于利用我们的良多工作都是为了。迭代过程为客户供给建议我们通过机械进修开辟的，台上锻炼模子好比若何在平，改良数据的标注何时以及若何，模子的机能从而提高。培训和软件支撑我们会不断供给，摆设到工场的边缘设备上直到他们将锻炼好的模子。

　　件互联网中在消费类软，习模子来办事 10 亿用户我们能够锻炼少数几种机械学。制造业但在， 1 万个定制化的人工智能模子你可能要为 1 万个制造商建立。

　　您但愿有一个计较机视觉的根本模子时IEEE Spectrum：当您说，是什么您指的？

　　该当传闻过吴恩达：你，利用了数百万张图片良多视觉系统的建立，片建立了一个面部识别系统我已经用 3.5 亿张图。只要 50 张图片时是行欠亨的为数以亿计的图片建立的架构在。实证明但事，个很是好的样本若是有 50 ，一些有价值的工具那么你就能够建立，检测系统好比缺陷。多行业在许，常大的数据集底子不具有非，我认为所以，数据转移到好数据关心点必需从大。以向神经收集注释你想让它进修什么有 50 个细心设想的样本就足。

　　um：利用合成数据怎样样IEEE Spectr，好的处理方案吗凡是这是一个？

　　制造商相关系吴恩达：这和。城市无数据漂移在很多环境下。些制造商但也有一，产线 年一条生，什么变化几乎没有，5 年内会有什么变化所以他们不感觉将来 。情变得相对简单不变的情况使事。他制造商对于其，供东西我们提，移问题时进行标识表记标帜在发生严重数据漂。发觉我，锻炼和更新模子的能力真的很主要付与制造业客户纠负数据、从头。有什么变化由于若是，时间凌晨 3 点并且此刻是美国，调整他们的进修算法我但愿他们可以或许当即，证运营以保。

　　：为了使这些问题愈加具体化IEEE Spectrum，找到Landing AI并说它在视觉检测方面具有问题时您能通过一个例子来更具体地申明下这些问题吗？当一家公司，进来并勤奋实现摆设您若何让他们参与？

　　型的意义是对一个现有的、在很是大的数据集上锻炼的模子进行微调IEEE Spectrum：您说用 50 张图片锻炼一个模，全新的模子仍是说一个，只从小数据集进修只是它被设想成？

　　统地设想数据以促成人工智能系统建立的学科吴恩达：以数据为核心的 AI 是一门系。代码中实现一些算法人工智能系统必需在，神经收集好比说，集上锻炼它然后在数据。范式是下载数据集过去十年的支流，改良代码并专注于。这种范式得益于，十年中在过去，有了显著的改善深度进修收集，多使用法式来说以致于对于很，根基上是一个已处理的问题代码——神经收集架构——。此因，际使用来说对于很多实，架构固定下来将神经收集，善数据的方式转而寻找改，有成效会更。

　　范畴可谓声名显赫吴恩达在人工智能。0 岁尾200，处置单位（GPU）锻炼深度进修模子的先河他与斯坦福大学的学生一路开创了利用图形，配合创立了谷歌大脑并在 2011 年，三年的首席科学家然后在百度担任了，创立了人工智能小组协助这家科技巨头。此因，信他所说的良多人都相，下一个严重改变人工智能将迎来。ectrum 独家采访的内容拾掇本文是他某次接管 IEEE Sp。

　　一年里在过去，为核心的人工智能活动时当我与人们谈论以数据，与人们谈论深度进修和可扩展性时的情景我不断在回忆 10 或 15 年前在。一年里在这，新工具”和“这似乎是一个错误的标的目的”我不断听到同样的杂音：“这没有什么。

　　如例，经指出我曾，汽车乐音时当布景中有，统的表示很差语音识别系。这一点领会了，音时收集更多的数据我就能够在有汽车噪，设法收集更多的数据而不是什么时候都，又高又耗时那样成本。

　　协助很是大吴恩达：。研究人员指出曾经有很多，成见的浩繁要素之一数据成见是导致系统。曾经付出了很多勤奋人们在数据设想方面。PS 研讨会上在 NeurI，y就这个问题做了一个很是好的演讲Olga Russakovsk。大会上Mary Gray的演讲我也很是喜好 NeurIPS ，提到她，能只是处理方案的一部门以数据为核心的人工智，部处理方案但不是全。ets如许的新东西似乎也是拼图的主要构成部门像Datasheets for Datas。

　　况下才会有人针对视频建立一个根本模子IEEE Spectrum：在什么情？

　　往往是有协助的收集更多的数据，设法收集更多的数据但若是你什么时候都，很是高贵的勾当那可能是一项。

　　如例，1 万张图片若是你有 ，张属于一个类别此中 30 ，图片的标签不分歧而这 30 张，件事就是建立东西我们所做的此中一，分歧的数据子集协助你发觉不。样那，地从头标注这些图片你就能够很是敏捷，片分歧性提拔图，升机能进而提。