查看原文
其他

更多无人机现身俄乌冲突,AI武器提醒:人类的“奥本海默时刻”到了

深海游 深海区
2024-09-03

人类利用人工智能究竟是让战斗变得更“高效”,还是在培育“战斗怪物”?是在“拯救”文明,还是“毁灭”文明?

今年上半年以来,乌克兰军队加大了在俄乌战场上无人机袭击的力度。据中新社报道,俄罗斯国防部15日通报称,在过去一夜以及15日早间,俄罗斯防空系统共摧毁了28架乌克兰无人机。

而在乌克兰的后方,一些初创企业正在试图将低成本的无人机、机器人与人工智能技术更多结合,试图为6月刚刚成为独立军种的乌克兰无人作战系统部队“加把火”。

与此同时,加沙战场上,以色列军队对人工智能技术的利用也在引发舆论越来越多的担忧。

随着越来越多人工智能技术投入到武器研发中,又一个“奥本海默时刻”(即科学家们在面对重大科技进步或伦理挑战时,会呼吁社会对科技的使用进行深思熟虑,并提出必要的规范和控制措施)离人类越来越近。

催化剂和试验场

世界各地不断升级的冲突,既是人工智能战争的催化剂,也是试验场。

有媒体将俄乌冲突称作人类历史上“第一场人工智能战争”。俄乌冲突的第三个年头,乌克兰成立无人作战系统部队。按照乌克兰政府网站上的说法,“机器人小队将成为物流设备、拖车、矿工和排雷人员,以及自毁机器人。乌克兰无人系统部队启动后, 第一批机器人已经在战场上证明了它们的有效性”。“我们将尽一切努力让无人技术发展得更快。”乌克兰副总理费多罗夫说道。

乌克兰军人施放无人机。图源:GJ

但面对越来越多低成本无人机甚至是武器得到人工智能技术的“加持”,联合国方面表示,这只会降低杀戮门槛、加剧冲突。

去年,以色列被曝在针对加沙地带的空袭中使用人工智能技术标记哈马斯武装人员和可疑目标。据央视新闻报道,在冲突初期的某一阶段,这款“薰衣草”的人工智能系统识别出约3.7万名与巴勒斯坦伊斯兰抵抗运动(哈马斯),或巴勒斯坦伊斯兰圣战组织(杰哈德)有关的巴勒斯坦男性。与此同时,人工智能技术基础之上以军方的精确打击屡屡伤及无辜。

比核武器难监管

以色列武器公司Elbit Systems在一则广告中称,人工智能无人机将“最大限度地提高杀伤力和战斗节奏”。而专注于研发自主致命性武器、无人机的武器公司Anduril,其宣传材料声称公司所做的一切是在“拯救西方文明”。今年早些时候,Anduril公司拿下了美国五角大楼的无人机合同。有报道称,五角大楼计划在2025年前投入10亿美元开发使用人工智能来寻找潜在威胁的无人机,甚至打算扩大人工智能的自主权,让人工智能代替人类指挥官和操作人员作决定。

然而,人类利用人工智能究竟是让战斗变得更“高效”,还是在培育“战斗怪物”?是在“拯救”文明,还是“毁灭”文明?

在加沙南部,救援人员在被以军轰炸的建筑物废墟中寻找幸存者,一名巴勒斯坦男子焦急地等待女儿的消息。图源:GJ

华中科技大学教授、教育部一体化科技创新战略研究基地执行主任房超表示,目前活跃在世界各地冲突现场的自主无人武器以无人机为主,而无人机也是目前走出实验室、在战场上使用最多、最成熟的一类。

不过,获得人工智能技术加持的武器存在诸多安全隐患。有消息就指出,以色列军方用以确定空袭目标的人工智能系统的差错率就高达10%。“能否确保这一类武器在使用过程中足够可靠?能否听从人类的指令?”在房超看来,一切行动无人化、以消灭敌方为目标的自主致命性武器更是危险系数极高。“但它不同于核武器,只要管控了核材料就能监管核武器的生产和传播。并且,自主致命性武器出现的时间短,无论从技术还是管理上,人类对它的认识还远远不够。因此,目前国际社会尚未对监管自主致命性武器的抓手达成共识。”

谁来决定生死簿?

然而,当人工智能武器冷酷地将无辜民众写上生死簿,责任又该如何追究?房超表示,即便人工智能武器决策和执行命令的过程是自主的,下达初始命令的依然是人类。“应该说,如何追责是一个十分复杂的问题,涵盖了法学、社会学、伦理学等诸多领域。

监管人工智能武器迫在眉睫。图源:GJ

在今年4月底维也纳举行的一场会议上,各个国际组织和来自各国的外交官就如何规范人工智能自主武器在冲突中的使用展开了讨论。

“很多时候,在战场上使用的技术最终都会流回到国内。”非政府组织“杀手机器人禁令运动”组织的凯瑟琳·康诺利担忧地说。“至少让我们确保,影响最深刻、最深远的决定权,即谁生谁死,仍然掌握在人类手中,而不是机器手中。”奥地利外交部长亚历山大·沙伦贝格表示。


出品 深海区工作室
撰稿 齐旭
编辑 深海盐


往期精彩推荐


长按二维码关注深海区




继续滑动看下一个
深海区
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存