AI进入战场 人类培育“战斗怪物”？

电影中的场景是否会变成现实 图GJ

乌克兰军人施放无人机

今年上半年以来，乌克兰军队加大了在俄乌战场上无人机袭击的力度。俄罗斯国防部15日通报称，在过去一夜以及15日早间，俄罗斯防空系统共摧毁了28架乌克兰无人机。

而在乌克兰的后方，一些初创企业正在试图将低成本的无人机、机器人与人工智能（AI）技术更多结合，试图为6月刚刚成为独立军种的乌克兰无人作战系统部队“加把火”。与此同时，加沙战场上，以色列军队对人工智能技术的利用也引发舆论担忧。

随着越来越多人工智能技术投入到武器研发中，下一个“奥本海默时刻”（即科学家们在面对重大科技进步与伦理挑战时，会呼吁社会对科技的使用深思熟虑，并提出必要的规范和控制措施）与人类越来越近。

催化剂和试验场

世界各地不断升级的冲突，既是人工智能战争的催化剂，也是试验场。

俄乌冲突进入第三个年头，乌克兰成立了无人作战系统部队。按照乌克兰政府网站上的说法，无人机、机器人将承担包括排雷、布雷等后勤工作，自毁式无人机也将出现在战场。“我们将尽一切努力让无人技术发展得更快。”乌克兰副总理费多罗夫说。有媒体将俄乌冲突称作人类历史上“第一场人工智能战争”。

但面对越来越多低成本无人机甚至是武器得到人工智能技术的“加持”，联合国方面表示，这只会降低杀戮门槛、加剧冲突。

去年，以色列被曝在针对加沙地带的空袭中使用人工智能技术标记哈马斯武装人员和可疑目标。据央视新闻报道，在冲突初期的某一阶段，这款“薰衣草”的人工智能系统识别出约3.7万名与巴勒斯坦伊斯兰抵抗运动（哈马斯）或巴勒斯坦伊斯兰圣战组织（杰哈德）有关的巴勒斯坦男性。

比核武器难监管

以色列武器公司Elbit Systems在广告中称，人工智能无人机将“最大限度地提高杀伤力和战斗节奏”。

有报道称，美国五角大楼计划在2025年前投入10亿美元开发使用人工智能来寻找潜在威胁的无人机，甚至打算扩大人工智能的自主权，让人工智能代替人类指挥官和操作人员作决定。

然而，人类利用人工智能究竟是让战斗变得更“高效”，还是在培育“战斗怪物”？

华中科技大学教授、教育部一体化科技创新战略研究基地执行主任房超表示，目前活跃在世界各地冲突现场的自主无人武器以无人机为主，而无人机也是目前走出实验室，在战场上使用最多、最成熟的一类。

不过，获得人工智能技术“加持”的武器存在诸多安全隐患。有消息指出，以色列军方用以确定空袭目标的人工智能系统的差错率高达10%。

“能否确保这一类武器在使用过程中足够可靠？能否听从人类的指令？”在房超看来，一切行动无人化、以消灭敌方为目标的自主致命性武器危险系数极高。“它不同于核武器，只要管控了核材料就能监管核武器的生产和传播。自主致命性武器出现的时间短，无论从技术还是管理上，人类对它的认识还远远不够。因此，目前国际社会尚未对监管自主致命性武器的抓手达成共识。”

让谁来写“生死簿”？

然而，当人工智能武器冷酷地将无辜民众写上“生死簿”，责任又该如何追究？

房超表示，即便人工智能武器决策和执行命令的过程是自主的，下达初始命令的依然是人类。“应该说，如何追责是一个十分复杂的问题，涵盖了法学、社会学、伦理学等诸多领域。”

在今年4月底维也纳举行的会议上，各个国际组织和各国外交官就如何规范人工智能自主武器在冲突中的使用展开了讨论。制止机器人杀手组织的凯瑟琳·康诺利担忧地说：“很多时候，在战场上使用的技术最终会流回到各国国内。”

奥地利外交部长亚历山大·沙伦贝格表示：“至少让我们确保，影响最深刻、最深远的决定权，即谁生谁死，仍然掌握在人类手中，而不是机器手中。” 本报记者 齐旭