自主决策——“智慧大脑”是把双刃剑
与其他武器系统相比,巡飞弹的过人之处在于其具有较强的自主决策能力。
一是自主机动能力。通过安装自主导航系统,巡飞弹“无需人类操作员的直接参与,便可对其自身运动进行管理和指挥”。它不仅可以根据预先编程的路线实现自主飞行,还可以根据操作员输入的航点地理坐标,自主规划前往指定位置的飞行路线。在飞行过程中,巡飞弹可以自动避障,甚至可以在没有找到合适目标的情况下自动“归位”返回基地,从而大大减轻人类操作员的负担。
二是自主识别能力。借助一系列先进传感器以及电光、红外和雷达系统,巡飞弹可以高度自主地探测、跟踪潜在目标,并通过基于人工智能和图像识别算法的自动目标识别系统,对坦克、飞机、导弹、雷达等多种目标进行实时区分,甚至可以从一群人中甄选出高价值目标。
三是自主攻击能力。在实施攻击时,巡飞弹可以自主选择最佳攻击方向、冲击角度和时机。目前,巡飞弹被视为遵循“人在回路”的原则,即人类可以通过双向数据连接随时介入或接管,从而保留最后“拔插销”的权力。不过,土耳其国防技术工程与贸易公司等巡飞弹制造商曾暗示,其产品具备“在没有人工干预的情况下自主且精确打击目标”的潜在能力。2021年,联合国专家小组的一份调查报告也得出结论称,“卡古-2”巡飞弹“无需与操作员建立数据连通便可自主攻击目标”。
近年来,巡飞弹与自动化和人工智能技术紧密结合的趋势愈发明显。正如GlobalData公司一名国防分析师所述,在自动化、人工智能等先进技术的加持下,巡飞弹的“大脑”会变得越来越“聪明”,未来或将朝着自主武器系统的方向发展。
然而,“智慧大脑”是把双刃剑。这种“自主性”在提升作战效能的同时,也会在道德、法律层面带来不容忽视的“伦理困境”。在授权实施攻击前,人类操作员并非总是能通过目视或其他方式对目标加以核验,而且还可能由于战场条件瞬息万变等多种因素出现“自动化偏见”,即过度依赖巡飞弹所做出的目标选择。这很容易产生“目标区分困境”,致使巡飞弹在攻击时无法准确区分军事目标与民用目标。一旦因此导致无辜平民伤亡,“责任归属困境”便随之而来。不同于传统作战模式中人类是唯一责任主体,巡飞弹的使用实际上是武器系统与人类共同扮演主体角色。因此,很难厘清究竟该由谁负责,是后方的操作员还是武器系统本身,抑或武器系统的设计者或制造商?毕竟,人为失误、程序故障、设计缺陷、质量瑕疵都有可能是“罪魁祸首”。对此,目前世界上尚无明确的伦理准则或法律规定。
此外,巡飞弹降低了战争的门槛和道德约束。相较而言,巡飞弹使用成本低、作战效能高,且易于操作。特别是巡飞弹的操作者以非直接交战方式参战,几乎是“零伤亡风险”,大大降低了“动武”给决策者造成的各种顾虑和压力。因此,一些国家和组织选择武力而非和平手段解决争端的可能性会随之增加,这显然与追求和平、避免战争的基本伦理价值相悖。
初审:孙世奇
复审:成自来
终审:陈光中