激情五月天 算法厌恶？公众对致命性自主火器系统的气派分析 | 国政学东谈主

图片激情五月天激情五月天

算法厌恶？公众对致命性自主火器系统的气派分析

图片

作家：Ondřej Rosendorf，查尔斯大学社会科学学院博士生，汉堡大学和平与安全计谋研究所研究员；Michal Smetana，查尔斯大学社会科学学院副解释，布拉格和平研究中心主任；Marek Vranka，查尔斯大学社会科学学院助领路释，布拉格和平研究中心研究员。

来源：Ondřej Rosendorf， Michal Smetana and Marek Vranka， “Algorithmic Aversion? Experimental Evidence on the Elasticity of Public Attitudes to 'Killer Robots’，” Security Studies， Vol. 33， No. 1， 2024， pp. 115-145.

导读

致命性自主火器系统（Lethal autonomous weapon system）是一项挫折但存在争议的军事创新。尽管先前的研究标明，部署此类“杀手机器东谈主”将靠近巨额公众反对，但对公众气派在不同要素影响下的弹性变化仍然富厚有限。基于此，本文旨在探讨公众气派对以下三个特定要素的明锐性：对时候本人事故频发性的留情、对不良效果包袱包摄的留情，以及对自动化夷戮本色上有失东谈主类尊容的留情。通过对巨额好意思国样本进行访问实验，研究者发现，公众对部署自主火器的气派与他们对自主火器相对于东谈主工操作火器系统的攻击虚伪率富厚权贵联系。然则，关心东谈主类尊容被侵略并不一定径直导向反对“杀手机器东谈主”。上述发现对于刻下对于自主火器海外监管的计谋辩说具有挫折兴味兴味。

国度将时候卓绝行使于军事办法才智是海外关系中组成国度权力的要道要素之一。刻下，东谈主工智能、机器学习与自动化在全球军事创新中均处于率先地位。这些时候在军事范围中最隆起且最具争议的应用之一是“致命性自主火器系统”，平日也被称为“杀手机器东谈主”。这些火器系统要是被部署在战场后，不错在莫得径直东谈主工监督的情况下快速准确地定位并攻击谋划。然则，致命性自主火器系统的出现伴跟着严重的法律与伦理问题，海外社会仍是就对致命性自主火器系统进行可能拘谨或者将其全面防碍伸开了辩说。

与早期的东谈主谈主义裁军倡议近似，防碍致命性自主火器系统的倡导者以为将公众对此类火器系统的反对气派四肢应当将其防碍的论据之一。但也有研究显现，当得知“杀手机器东谈主”比其他火器类型具有更强的军事才智时，公众对致命性自主火器系统的反对气派会有所松懈。举座来看，刻下计谋制定者与联系研究者仍不明晰何种要素会影响环球对该系统的气派。

自主火器的出现

新兴时候如东谈主工智能和自主机器对军事火器和现代干戈的性质具有要紧影响。固然对于这些时候“立异性”影响的争论仍在不息，但对自主军事时候的日益增长的投资仍是成为现实。

致命性自主火器系统的发展是刻下军事创新范围中一个引东谈主扎眼且敷裕争议的地方。通俗来说，它不错界说为一朝运行后无需进一步东谈主类滋扰即可选定并攻击谋划的火器系统。也恰是其在谋划选定与攻击上的自主性，使其区别于东谈主类保留对谋划选定与攻击决策权的火器系统。

致命性自主火器系统的发展兼备收益与风险。一方面，东谈主们以为自主火器大概有助于在干戈中赢得速率上风，减少东谈主员需求，而且裁减对通讯链路的依赖。同期，如而已限度无东谈主机一样，自主火器还大概裁减东谈主类士兵靠近的风险。另一方面，机器的决策速率与自主攻击确立，意味着军事东谈主员会较少介入期运作历程，这可能导致事故或突破升级。同期，自主决策系统的不行预测性与非东谈主性将组成对海外东谈主谈法挑战，因为致命性自主火器系统无法领路东谈主类生命的价值与打劫一个东谈主生命的真实兴味兴味。

自2013年以来，对于自主火器以过头他军事挑战的海外筹商就一直在齐集国《对于某些惯例火器的契约》（CCW）上进行。2016年，CCW缔约国诞生了政府大家组（GGE）以制定对于若何措置致命性自主火器系统问题的提倡。但由于国度对此问题的关注点不同（一些国度关注利好，一些国度关注东谈主谈主义影响），GGE并未在此问题上取得实质性阐扬，但海外社会永久莫得住手对自主火器的关注，许多非政府组织也正围绕这一问题伸开责任。

致命性自主火器系统在政事和军事办法上的效用，在某种进度上将取决于它们的公众接管度。主张防碍致命性自主火器系统的东谈主征引1977年《〈日内瓦契约〉附加议定书》马顿斯条件，以为其属于违犯“公众良心”的干戈技能和模式。尽管咫尺海外社会对该条件的解释存在相反，但回溯过往海外谈判案例，如实有过将公众良心这一要素纳入考量以防碍火器系统参加使用的前例。

算法厌恶

从会诊复杂疾病到法律征询，算法在许多范围中试验上仍是优于东谈主类决策者。然则，即使后者的决策在客不雅上是较差的，公众仍经常阻隔算法决策而偏疼东谈主类大家。举例，在医疗会诊范围，患者更倾向于尊从东谈主类大夫的提倡，因为他们以为算法无法研究到他们的“专多情况”。现存研究也真实标明，东谈主类倾向于阻挡致命性自主火器系统。据统计，约莫55%的好意思国成年东谈主反对使用致命性自主火器系统。民调公司Ipsos代表东谈主权不雅察组织进行了几次跨国访问，斥逐显现全球约61%的参与者对“杀手机器东谈主”握反对气派。近期对好意思国的东谈主工智能和机器学习研究东谈主员及父母官员的访问斥逐也体现出了对致命性自主火器系统的潜在厌恶。

尽管悉数这些发现皆标明公众对致命性自主火器系统有历害的反感，但这一论断仍不解确。参与者可能反应仅仅和平主义气派，而非对自主火器本人的真实厌恶。咫尺已有研究诠释，当公众了解到“杀手机器东谈主”在军事效用上显著优于其他选项时，其反对意见会权贵缩小。

基于此，本研究将筹商海外上对于轨范致命性自主火器系统辩说中的三个潜在中枢要素：斥逐主义——对自主时候发滋事故的担忧；法律空缺——机器无法为误伤承担包袱；伦理风险——让机器决定东谈主类死活有违东谈主类尊容。同期，本文也对“有时性担忧”与“固有性担忧”作念出了折柳，前者主要基于刻下自主火器时候的局限性（如该系统无法正确折柳正当谋划与作歹谋划）。后者则是基于某些孤独于时候卓绝的原因，如自动化夷戮的固有不谈德性。包袱包摄类担忧则处于两者之间。

要是公众气派主要受“有时性担忧”驱动，那么跟着时候发展，公众对致命性自主火器系统的气派可能变化。要是受“固有性担忧”驱动，不管时候若何卓绝，公众对该系统的气派皆不太可能变化。

（一）易出事故

根据保罗·沙尔（Paul Scharre）的不雅点，东谈主类对自主机器有两种基本直观。一种是乌托邦式的直观，以为自主系统是一种可靠、安全且精确的东谈主类操作系统的替代决策。另一种是末日式的直观，以为自主系统容易失控并犯下苍凉性的虚伪。事实上，后一种信念的广宽存在。基于对自主系统可预测性和可靠性的怀疑，以及在流行文化中宣战到“机器东谈主末日”思象，公众会因此形成对使用致命性自主火器系统的厌恶。

这部分摊忧并非毫无根据。宇宙列国的队列仍是在应付高度自动化系统方面靠近诸多挑战，如几起爱国者导弹注意系统的盟军误伤事件。在这些事件中，系统虚伪地将盟军飞机识别为敌方导弹。

这些时候放手对于在战场上选藏基本的伦理圭臬可能具有长远影响。从海外东谈主谈法的角度来看，能否确保投降折柳原则可能是致命性自主火器系统靠近的最具挑战性的问题。但到咫尺为止，科学家尚未迷惑出大概像东谈主类判断那样折柳正当与作歹谋划的时候。在现代战场环境中，这种时候局限尤其令东谈主担忧，因为环境中平日同期存在着战斗东谈主员和苍生，且存在交战方贪图污染其法律身份的可能。

关联词，此类挑战在时候上具有有时性。原则上，时候卓绝最终可能使致命性自主火器系统大概像东谈主类操作系调和样折柳正当和作歹谋划。将来，自主火器致使可能比东谈主类更具有折柳才智，因为它们不错配备庸碌的传感器进行战场不雅察，而且以远超东谈主类的速率进行数据处理，在战场高压情况下也不会东谈主为要素（如厚谊）的影响。

不管致命性自主火器系统最终是否大概诠释其在谋划折柳方面更可靠，公众对其剖析仍可能相对于事实发展存在“滞后性”，即受到之前该系统相对于东谈主类易出错的信念的影响。同期，实验激情学范围的凭证进一步标明，东谈主们对机器所犯虚伪的容忍度要远远低于对东谈主类所犯虚伪的容忍度。因此，假定公众对“杀手机器东谈主”的气派受到对时候易出错性的现存信念的影响，本研究瞻望，向公众呈现自主系统使用比东谈主类操作系统具有较低的谋划误识别风险状况，将增多对致命性自主火器系统的守旧：

假定1: 相对于东谈主类操作系统，要是致命性自主火器系统的谋划误识别风险较低，公众对该系统的守旧将增多。

（二）包袱缝隙

对致命性自主火器系统的另一个反对意见是将导致显著的“包袱缝隙”。此不雅点以为，将该系统应用于战场可能会使对不良斥逐（如致命事故或显著的干戈时弊）追责变得极其艰苦。让处于决策链中的东谈主对他们无法限度或意想的斥逐适宜是不自制的，但同期咱们也无法要求机器本人适宜，因为它缺少这种包袱的谈德代理才智。因此，包袱缝隙的出现试验上对海外东谈主谈法组成了潜在挑战。一些学者致使以为，要是致命性自主火器系统的性质酿成对其不良效果的追责艰苦，那么在干戈中使用该系统就无法得到谈德上的允许。

现存的访问标明，包袱可能是弘大公众关注的问题。2020年Ipsos访问斥逐显现，约莫有53%反对迷惑和使用致命性自主火器系统的东谈主以为这些系统将导致包袱缝隙。基于此，本研究但愿通过向参与者提供一个明确由军方携带层承担这种包袱的状况，探究在明确将潜在包袱归于军方携带层时，公众气派会若何变化。基于现存访问数据，本研究假定，当公众了解到军方携带层将为致命性自主火器系统导致的不良效果承担包袱后，对部署致命性自主火器系统的守旧会增多：

假定 2：要是公众知谈军事决策链中存在对致命性自主火器系统不良效果适宜的军官，他们对该系统的守旧将增多。

（三）东谈主类尊容

一个无法通逾期候卓绝措置的固有性问题是，使用自主机器杀死东谈主类将对东谈主类尊容组成侮辱。致命性自主火器系统将东谈主类视为通俗的谋划或数据点并对其实行打击，违犯了基本的东谈主类尊容权益，即防碍将东谈主类视为通俗物体。

但将“东谈主类尊容”论点引入对是否本心许部署该系统的筹商仍存在争议，许多大家以为“东谈主类尊容”是一个具有争议且浑沌的观点。品评者平日用斥逐主义论据来反驳，即对尊容的担忧最终将被进步军事服从和裁减谋划误识别风险的利好所对消。

尽管东谈主类尊容论的逻辑连贯性存在争议，但它仍强调谈德本能亦然驱动公众厌恶“杀手机器东谈主”的潜在要素之一。2020年Ipsos访问显现，在反对致命性自主火器系统的参与者中，约有66%的东谈主以为将致命决策托付给机器会“越过谈德红线”。基于此，本研究以为，要是谈德本能在塑造公众对“杀手机器东谈主”的气派中有所作用，那么个东谈主对侵略东谈主类尊容的明锐进度与他们对致命性自主火器系统的守旧进度之间就将存在负联系性：

假定 3：更关注侵略东谈主类尊容问题的个东谈主更不行能守旧致命性自主火器系统。

实验联想与发现

为了测试这些要素是否以及若何影响公众对致命性自主火器系统的守旧度，本研究进行了一项针对999名好意思国公民的访问实验。研究者将参与者当场分派到五个存在相反的假定状况中。该假定状况描写一个齐集国授权的反叛乱举止，在这个状况中，指点官决定是否部署东谈主工遥控或自主无东谈主机来撤废叛乱恐吓。在实验联想中，在每种无东谈主机选项的谋划误识别风险和对潜在苍生吃亏的包袱归因方面有所不同。为了计算对参与者对该系统的守旧进度，研究者要求参与者标明他们更偏好东谈主工遥控如故自主无东谈主机。此外，研究还包括了一个灵通式问题，以访问参与者选定偏好背后的原因。在对团结批参与者进行的后续访问中，研究者还西宾了他们对侵略东谈主类尊容的明锐度。

通过在线访问平台Prolific，研究员对999名好意思国成年公民进行了访问，访问时候为2022年6月7日至6月9日。访问好意思国公众具有显著的计谋联系性，因为好意思国咫尺在迷惑此类时候方面的处于携带低位。为了增多样本的代表性，本研究对性别和党派招供（共和党、民主党和孤独派）进行了配额处理，因为Prolific平台倾向于眩惑男性、年青的、态度更倾向于解放派的且受栽种进度较高的参与者。

（一）易出事故

色人阁

数据处理斥逐显现，向公众呈现自主无东谈主机相对于东谈主工操作系统更防碍易虚伪地将苍生误以为谋划的状况，权贵增多了他们对致命性自主火器系统使用的守旧。因此，公众对该系统的气派似乎取决于相对谋划误识别风险的剖析。此外，根据参与者在灵通式问题修起中对对于时候和算法在折柳苍生与谋划方面才智不及的担忧标明，对时候的怀疑可能是导致公众对“杀东谈主机器东谈主”厌恶的主要驱动要素之一。访问斥逐进一步阐发了这小数，即公众广宽以为自主无东谈主机的风险更高，而这些信念影响了他们的偏好。

（二）包袱缝隙

总体来看，研究者莫得发现守旧假定2的实考据据，见告参与者指点链中有适宜的军官并莫得增多参与者对致命性自主火器系统的守旧。此外，在对灵通式问题的回答中，很少有参与者提到包袱方面的担忧，这标明对由自主无东谈主机酿成苍生吃亏的包袱问题并不会自动出当今普通公民的脑海中。零斥逐不应被解释为公众对包袱问题十足不关注。当被问及对遥控或自主无东谈主机酿成的苍生吃亏是否更难以对某东谈主进行法律与谈德上的追责时，大多数东谈主皆意志到“杀东谈主机器东谈主”可能给此问题带来更大的挑战。然则，即使个东谈主握有“致命性自主火器系统将导致对不良效果追责艰苦”的信念，仍然不会使其更可能或更不行能守旧对该系统的假定使用。

（三）东谈主类尊容

访问显现，尽管一些参与者操心将杀东谈主决定交给算法是不谈德的，但他们并不一定以为此类担忧与侵略东谈主类尊容商量。固然有相称数目的受访者（41%）暗示，被自主无东谈主机的狡计神秘领杀死比被控制遥控无东谈主机的东谈主杀死更分歧伦理，但绝大多数受访者（71%）在波及东谈主类尊容时，以为这两种无东谈主机莫得区别。这标明参与者以为致命性自主火器系统的使用与东谈主类尊容问题无关或仅有相称小的关联。固然研究发现，对东谈主类尊容侵略更明锐的个体平均来看更反对使用该系统，但这些气派仍然在很猛进度上取决于其他要素，荒谬是谋划误识别的风险。当受访者意志到自主无东谈主机比使用遥控无东谈主机有更低的击中虚伪谋划的风险时，他们对该系统的厌恶进度较低。此外，对照组中的灵通式回答标明，固然对“杀东谈主机器东谈主”的广宽厌恶可能部分受到对自动化夷戮不谈德性的富厚的影响，但参与者并莫得将此类担忧领路为对东谈主类尊容的侵略，且绝大多数东谈主以为被东谈主工遥控或自主无东谈主机杀死是相同不体面的。

结语

本文祈望通过查考公众对“斥逐主义——自主火器的易错性”、“法律留情——误伤追责”与“伦理留情——机器杀东谈主”这三种咫尺海外上针对此问题伸开辩说时明确的中枢留情的明锐性，对刻下海外上对于致命性自主火器系统的计谋辩说具有挫折兴味兴味。

源流，本研究发现，尽管公众对致命性自主火器系统的基准厌恶进度相称高，但公众气派也具有相称的弹性。公众对这些火器系统的反对气派在很猛进度上取决于它们相对于东谈主操作系统的出错概率。在灵通性问答中参与者往往提到的对时候水平不及的担忧，以及对风险猜度的补充访问斥逐，皆标明以为时候易错的信念可能是导致公众对该系统基准厌恶的主要驱动要素之一。此外，本研究莫得发现守旧明确说起指点包袱不错减轻对致命性自主火器系统反对的凭证。临了，对于自动化夷戮不体面性的固有性担忧会增多公众对这些系统的反对这一假定，本研究只发现了十分有限的凭证。平均而言，对东谈主类尊容更关注的参与者更不偏好使用该系统。关联词，罕见分析显现，当遥控无东谈主机相对于自主无东谈主机的误判风险较高（即使是略高）时，对东谈主类尊容明锐的参与者也倾向于选定后者。

综上，本研究对刻下海外社会在放手或防碍致命性自主火器系统的问题上具有显著兴味兴味。研究显现自致命性自主火器系统要是大概通逾期候改良进步该系统识别谋划的精确度，致使最终超越东谈主工操作火器系统，那么对于该系统的放手与禁令可能就无法耐久握续。因为要是最终诠释致命性自主火器系统在谋划识别方面比东谈主工系统更可靠，公众对该系统的气派会出现较大更正。

但这一发现并不虞味着刻下海外监管莫得价值。源流，咫尺莫得任何东谈主能保证时候将发展到足以胜过东谈主类决策者的进度。其次，本研究在公众对侵略东谈主类尊容明锐性问题上的发现标明，至少仍有部分对致命性自主火器系统的厌恶受到固有性担忧的影响。因此，基于该系统易错性以论证海外社会应付其加以拘谨与放手在短期内是灵验的，不错动员公众守旧联系监管举止落实，但这么的框架策略仍然容易受到时候变革引起的公众公论变化影响。将该系统固有不谈德性与易出错性相联接以动员公众守旧的监管举止最有益。

词汇累积

Lethal Autonomous Weapon Systems

致命性自主火器系统

International humanitarian law（IHL）

海外东谈主谈主义法

The Convention on Certain Conventional Weapons （CCW）

《特定惯例火器契约》

译者：张学玉，国政学东谈主编舌人，南开大学番邦语学院。

校对 | 王京 张倍祯

审核 | 李源

排版 | 张嘉益

本文为公益共享，处事于科研教训，不代表本平台不雅点。如有轻视，接待指正。

图片

本站仅提供存储处事，悉数内容均由用户发布，如发现存害或侵权内容，请点击举报。