答 AI 系统中的主要信赖问题仅此 AI 使用模子并不克不及回。质而言就其本，道人工智能做出决定的缘由的环境下发生成果人工智能会在用户（以至设想师）完全不知。严重的道德和信赖差距这个“黑匣子”留下了。个缘由出于这，定性的手艺研究获得了推进供给风险节制和暗示不确。恰当的人机交互使用 AI 的好处所21虽然图 1 中的模子指出了通过，业者会信赖 AI 成果但这并不料味着军事从。所述如前，确保数据卫生和完整性获得信赖的首要使命是。之外除此，的机能充满决心人们必需对系统。并不老是一个静态系统22军事人工智能实施。或新传感器上线时当敌手调整其设备，要接触扩展的当前数据人工智能系统将不竭需，精确并以准确的缘由发生以确保其分类决策连结。

　　社会考虑和步履后果在双轴阐发中连系，评估东西的示例供给了一个初步，受益以及该当保留几多人工监视（图 1）用于评估军事勾当能否会从人工智能使用中。

　　的夹杂模子表白图 1 所示，置在于步履后果较低的非社交使用最后的军事 AI 使用的最佳位。OTL) 模子的初始实施供给了机遇同样的左下象限也为人类在环 (H。法则（法令框架）的战役办理选项这意味着人工智能将供给合适交战，人工智能建议合适道德要求并有可强人工否决以确保。然而20，干涉的环境下在没有报酬，系统将施行这些动作HOTL AI 。在环模子构成对比HOTL 与人工，模子中在该，决策过程供给自动输入操作员将为 AI 。会化或步履高度后果的范畴使用法式越是落在高度社，决定之前在做出，地留在轮回中人必需越多。后最，上象限间接使用人工智强人们会避免在该模子的右，动后果的高度社交勾当那里会发生具有高度行。

　　组织和可消化的数据之外除了为锻炼建立大量有，和计较能力以施行 ML 算法的处所ML 系统必需驻留在能够拜候新数据。证明现实，理单位能够供给所需的处置能力驱动现代游戏计较机的图形处。而然，能会使将 ML 系统推向战术使用法式具有挑战性挪动和处置 ML 数据所需的存储空间和带宽可。航和传感器对弓手的火力等使用推向战术边缘认可这些限制意味着人们可能很快就会将导。现的使用法式10其他可实，的飞机维护例如复杂，收集、开辟和测试需要大量的数据，行较轻的锻炼实施然后在战术边缘进。潜在地11，系统并向前实施锻炼好的算法来降服这些妨碍人们能够通过在超等计较机上锻炼 ML ，用云架构的协助这可能会获得专。方式将有助于降服这一挑战也许网状收集和分布式计较。而然，这些处理方案即便要实施，据通信进行大规模鼎新也需要对当前的战法术。工智能使用法式在疆场上的位置拜候和处置数据的能力将决定人。送和拉取及时数据的能力若是没有在战术边缘推，施将仍然遭到限制机械进修疆场的实。

　　次要的方式来倾覆 ML 系统这种对数据的依赖引入了两种。进修之前毒化数据攻击者能够在系统，现给颠末锻炼的系统也能够将病理数据呈。锻炼阶段（即预操作）供给攻击手段15像素操作和图像修补能够在模子。可能会攻击锻炼有素的机械进修系统将贴纸贴在泊车标记或房间的海报上。机械进修系统锻炼之前和之后窜改数据军事从业者能够很容易地假设在敌手的。致的伪装手段以确保锻炼中的签名与操作中利用的签名不婚配这些可能性的范畴从对数据库进行收集攻击到使用简单且一。外此，能会影响 ML 系统的分类成果偏离利用兵器系统的一般体例可。保数据不受把持的主要性来防止此类攻击ML 的任何军事使用都必需通过强调确，靠的来历它来自可，恰当的标签而且贴有。以来不断，必需有一个维持打算军用 AI 系统，利用新的相关数据源更新它们以便在锻炼有素的模子可用时。压缩时间范畴内在疆场步履的，能很难实现这种维护可。

　　锻炼 ML 系统之外除了需要大量数据来，有优良的质量数据还必需具。环境下从分歧来历获取的质量意味着数据是在分歧，摄取的体例进行标识表记标帜和呈现然后以 ML 系统能够。要的是更重，的完整性和标注的精确性ML 实现必需确保数据。言“垃圾进陈旧的格，L 来说是准确的垃圾出”对于 M，的精选锻炼数据若是没有高质量，成果可能会激增误报或其他不良。 图像处置算法证了然这一点一些研究示例曾经针对 ML。和亮度的轻细变化可能会导致错误分类简单地为照片中的像素添加噪点或色调，人眼看来不异即便图像在。同样12，象已迫使 ML 系统对标记进行错误分类通过在泊车标记上贴上贴纸来物理改变对。另一方面13（，车标记并忽略贴纸人类仍然会感知停。似地）类，经证明谷歌已，”会阻遏准确的 ML 分类放置在图像角落的简单“补丁。于 ML 的图像使用14虽然这些示例偏重，在任何 ML 系统中利用的数据完整性的主要性但它们申明了 ML 系统在锻炼中的懦弱性以及。业使用来说对于很多商，能够容忍的这些问题是，它们会愈加凸起但在军事情况中。

　　肯尝试室都强调数据的主要性因为李开复和麻省理工学院林，办理大量高质量的标识表记标帜数据因而组合模子的第一步需要。理解仅意味着人工智能可能会起感化需要数据的具有和对现有系统的完整。术考虑触目皆是其他主要的技，性描述的切确性以及进修模子的合用性包罗但不限于计较的易处置性、最优，法式化的处理方案而不是划定性或。面的考虑之外除了手艺方，否该当利用人工智能其他尺度也表白是。析来评估一小我该当若何利用人工智能利用步履的成果和社会方面使用两轴分，们能否能够而不是他。

　　见结合定位勾当中的示例使用图 2 展现了此方式在常。程度上是手艺性的和非社会性的方针开辟和优先级排序在很大，的高度后果会导致步履，人参与需要。反相，步履的影响较小战役损害评估对，时具有较高的人类社会脚色但在确定火力对敌手的影响。本身属于非社交范畴兵器配对和能力阐发，果相对较低步履的后，人类参与只需要。的社会影响和步履后果批示官的决定具有很高，人工智能相关而且该当只与。明并供给示例之间的相对评估这个简单的使用法式用作说。供了一个示例虽然此模子提，在何处使用 AI申明人们若何摸索，多其他模子但也具有许。此类模子利用任何，手艺合用性以及数据质量进行全面阐发必需起首对 AI 对任何使用法式的。

　　工智能以及系统该当具有几多自主权风险还将决定戎行该当在哪里实施人。出了一个模子来描述人工智能“影响范畴”麻省理工学院 (MIT) 林肯尝试室提，能的现有贸易和军事使用该模子试图定义人工智。模子中在这个，工智能用于机械人真空吸尘器步履使用的低后果包罗将人，则将生命置于危险之中而步履使用的高后果，疗诊断例如医。级此外可用数据和步履后果的类别中17该模子将人工智能投资置于分歧。如例，个模子基于这，步履后果比利用人工智能间接接触方针要低最后投资人工智能来阐发 ISR 图像的。 探测和兵器交战供给消息不异的数据可认为 ISR，会跟着交战而添加但明显步履的后果。

　　来疆场时在描述未，工智能（AI）的影响很多军事从业者猜测人，要求利用它以至有人。采用的手艺的根基领会本文供给了对他们但愿。先首，据为人工智能系统供给消息质量、标识表记标帜和有组织的数。外此，受污染的数据时当表露于太少或，构被证明是懦弱的很多人工智能结，被敌手预测而且有可能。全的使用模子使用一个健，智能实施的交互考虑人类与人工，不会变成纯粹的数据驱动可能有助于确保军事交战。

　　和李开复研究的人工智能军事使用评估模图 1.来自麻省理工学院林肯尝试室型

　　智能可能代替什么时在试图注释将来人工，地依赖于报酬要素另一个模子更多。能够代替的潜在人类脚色李开复阐发了人工智能。理人工智能使用法式他从分歧的角度处，能否代替了社会或非社会脚色通过审查人工智能的潜在用处，对证量数据的要求同时仍然认识到。域的一个例子作为医学领，色是高度社交的精力科大夫的角，脚色长短社交的而放射科大夫的。复认为李开，和可消化的数据时当供给大量标识表记标帜，易代替非社会脚色人工智能投资最容。所主动化代替“常规手动和认知技术”的预测分歧18这一概念与经济学家曾经预测的关于工作场，造性思维或小我互动后者不需要超卓的创。军事目标19出于，色与和平中的人类要素相关人工智能所饰演的社会角，治目标和抵当意志例如部队士气、政。用人工智能取代某些人类脚色来确定方针和火力的优先级仅将基于社交的模子用于军事应意图味着人们可能会考虑。而然，对峙人类留在轮回中火力步履的后果将。

　　来疆场时在描述未，工智能（AI）的影响很多军事从业者猜测人，要求利用它以至有人，了部门经济并指导原型主动驾驶汽车他们如许做是由于人工智能曾经驱动。而然，到这些贸易示例代表了工程师利用 AI 的选择很多对这项手艺的根本学问没有灌输的人没无意识，供了准确的处理方案由于它为特定问题提。机械进修 (ML)这些示例凡是利用，行特定的数据表征使命它能够很是超卓地执，通用人工智能但并不代表。生令人印象深刻的成果1ML 算法能够产，们领受到的锻炼数据但证明高度依赖于它，容易遭到攻击这使得它们很。如斯虽然，实施以及若何投资 AI 和 ML 的决策军事规划者和带领人目前仍面对着关于在哪里，决策速度方面的潜在疆场劣势其后果可能会得到在半自治和。实上事，工智能和数字手艺在国防部平台、流程和作战中的潜在使用”《2022 财年国防授权法》第 226 条要求审查“人，器进修使用愈加紧迫以领会人工智能和机。此外2，萨诸塞理工学院人工智能加快器等组织进行有前景的投资和研究通过结合人工智能核心、美国海军研究尝试室和美国空军-马，必需决定若何利用的能力可能很快就会供给批示官。的缝隙揭示了潜在军事使用的根基风险和局限性对机械进修的根基领会、它对数据的依赖以及它。了一个根基模子这些消息供给，里以及若何操纵基于人工智能的系统军事规划者能够通过该模子决定在哪。跟踪 AI 系统锻炼货泉该模子以及确保数据卫生和，AI 做出不精确或错误决策的圈套能够协助确保军事使用不会陷入让 。3

　　有资历利用他们的兵器系同一样就像军事飞翔员和其他专家必需，持续的培训和评估打算人工智能的实施需要。涉及利用更新的数据集进行从头锻炼在机能中雷同的 AI 反复验证将。都必需从头验证机能任何人工智能系统，型无法实现通用智能由于当前利用的模。的或新鲜的数据输入要容易得多从头锻炼人类操作员来注释新，新鲜的数据时可能完全无法工作而人工智能算法在引入新的或。如例，图像分类为伴侣或仇敌若是 AI 系统要将，系统利用的是当前且颠末严酷测试的模子则轮回中或轮回中的人会想晓得 AI 。外此，将当前机能与过去的机能目标进行比力任何从头锻炼 AI 系统的人也但愿，能否有所改良以领会系统。数据下降以至妥协机能下降可能表白，之前从头锻炼系统而且需要在利用。要在兵器平台上连结当前资历一样就像锻炼有素的军事手艺人员需，务熟练程度该当连结跟踪人工智能系统的货泉和任。

　　伦理准绳：负义务、公允、可追溯、靠得住和可办理这些和其他挑战导致成立了五项国防部人工智能。比来23，研究院制定办法和“对人工智能有足够决心的东西”国度人工智能平安委员会呼吁美国国度尺度与手艺。当前的人工智能培训都有助于成立对军事人工智能系统的信赖24在恰当的范畴实施人工智能系统、准确办理数据以及确保。