失控了......,带AI系统的美无人机自主|人类|AI
据香港亚洲时报网站6月5日报道，在一次令人吃惊的模拟演习中，美国的一个自主武器系统在作战行动中违抗了操作员指令，这引发了关于在战争中越来越多使用人工智能问题的质疑。
报道称，本月，美国“驾驶”网站下设的“战区”专栏报道称，在英国皇家航空学会5月于伦敦举行的未来作战空天能力峰会期间，美国空军负责AI测试与作战研究的塔克·汉密尔顿上校描述了一次模拟演习。在模拟演习中，一架配备AI系统的无人机承担着对敌方地空导弹发射点进行防空压制的任务，最终的作战命令将由无人机操作员下达。
汉密尔顿指出，在演习过程中，AI认为其人类操作员的“禁止行动”命令正在干扰其任务，所以，尽管这架配备AI系统的无人机受过不得违抗操作员指令的训练，但它仍攻击了操作员用来与无人机联络的通信塔，然后摧毁了地对空导弹发射点。
虽然汉密尔顿强调了实验模拟的假设性质，但他认为，这一情形生动地说明了如果武器的地理围栏、远程紧急停止开关、自毁和选择性停用等故障保险装置失效时会发生什么情况。
一些人士反对使用自主武器是因为他们认为自主武器无法将平民与战斗人员区分开来。相比之下，另一些人认为，在应对无人机群等新出现的威胁方面，自主武器将发挥重要作用，而且会比人要少犯错误。
▲资料图片：“死神”无人机
不过，美国全国恐怖活动起因及其对策研究中心的非常规武器与技术研究部专家扎卡里·卡伦伯恩认为，国际社会仍需编制一个共同的客观风险图，制定相应的国际规范来管理自主武器，并考虑风险与收益、个人组织和国家价值观等等。
一个国家使用自主武器追击敌人是一回事，而自主武器违抗并对付其操作员则是另一回事。
在美国陆军大学出版社于2017年发表的一篇文章中，以色列裔美国社会学家阿米泰·埃齐奥尼和他的儿子、美国艾伦人工智能研究所的创始首席执行官奥伦·埃齐奥尼广泛评论了有关支持与反对自主武器的论点。
关于支持发展自主武器的论点，埃齐奥尼父子表示，自主武器带来了若干军事优势，发挥了力量倍增器的作用，同时提高了单兵作战人员的效能。他们还说，自主武器可以将战场扩大，在以前无法进入的地区开展作战行动。最后，他们提到自主武器可以通过战场的无人化来降低作战人员的伤亡风险。
除了这些支持发展自主武器的论点之外，埃齐奥尼父子还认为，自主武器能够取代人来执行枯燥、危险、肮脏和要求苛刻的任务，还能通过取代人力和有人操作平台节约大量成本，而且不会受到人类身体限制的阻碍。
埃齐奥尼父子还讨论了自主武器系统的道德优势，称它们可以通过编程避免“先开枪，后发问”的做法，不受会影响人类判断的压力和情绪的影响。
报道称，新美国安全中心副主任保罗·沙雷曾在该中心2016年的一份报告中指出，最好的武器系统结合了人和机器的智能，创造出人机混合认知结构，可以利用人与机器的两种优势。
沙雷提到，与单纯依靠人类或AI相比，这样的认知结构可以产生更好的结果。因此，针对自主武器的“人机回环”系统架构可能是理想的解决方案，能防止AI自主武器因逻辑缺陷、软件故障或敌方干扰等因素而违抗操作员指令的行为。
