|
|
|
|
||||||
|
|
2024/05/10 | |||||
|
AI的“奥本海默时刻” 未来,人类生死
|
|
的步伐 |
5月8日,在以色列南部凯雷姆沙洛姆口岸附近,一名以军士兵准备放飞无人机。 新华社发 
未来,人类生死掌握在机器手中? 4月29日至5月1日,自主武器国际会议在奥地利首都维也纳召开,会议的主题为“站在十字路口的人类”。来自100多个国家和地区的官员讨论人工智能与军事技术结合的相关话题。美联社评论指出,随着AI驱动的致命性自主武器系统(LAWS)投入实战,继火药和核武器之后的“第三次军事革命”将可能发生。 在加沙地带,以色列非法、缺乏道德地训练“薰衣草”AI作战系统,在俄乌战场,梅文智能系统正在得到快速训练和完善。 奥地利外长沙伦贝格对此发出警告称,“谁生谁死的决定权,必须掌握在人类而不是机器手中。但事实是,科技正在飞速发展,政策却落后了。人类正面临奥本海默时刻。” ■ 声音 奥地利外长沙伦贝格: 人类正站在一个十字路口,自主武器系统很快将布满世界战场。我们已经通过AI(控制的)无人机和基于AI的打击目标筛选,见识到了这一点。 入选《时代》杂志的人工智能领域最具影响力100人的美国前军官保罗·沙尔警告称: 如不对自主武器系统加以严格管控,未来人类的角色将沦为打开机器并坐在场边,且几乎没有能力控制甚至结束战争。 加州大学伯克利分校计算机科学家拉塞尔: 允许机器选择性地杀死人类,将对我们的安全和自由造成毁灭性打击。我的数千名同行认为我们有机会阻止您刚刚看到的未来,但采取行动的时机窗口正在快速关闭。 电影《奥本海默》的导演克里斯托弗·诺兰: 很多顶级的人工智能研究者,将当下视为他们的“奥本海默时刻”。这是一种往日经验永久失效、未知浩劫须臾降临的不祥预感。这一刻,人类及地球的命运,仿佛缩进一只盲盒中。 可怕的实验 以军在加沙实地测试AI作战系统 4月3日,据以色列媒体《+972》杂志率先爆料,以色列军方正在加沙实地测试一款名为“薰衣草”的AI作战系统。该系统能快速判断猎杀目标的时间、地点及方式。 据半岛电视台报道,“薰衣草”系统已将多达37000名巴勒斯坦人列为猎杀目标。以色列陆军内部人士透露,“薰衣草”系统目前正在实战中快速学习、自我完善。而以军的理想目标是,成功猎杀一名哈马斯高级官员时,在袭击中附带杀死的平民人数最好被控制在100人以内。 对事件进行披露的以色列调查记者尤瓦尔·亚伯拉罕对媒体表示,“薰衣草”系统在本轮对巴勒斯坦人的轰炸中发挥了核心作用,“在(2023年)10月7日之后,以色列军方作出了一个决定,这数万人现在都可能在房屋内遭到轰炸。这意味着不仅他们会被杀死,大楼里的每个人,包括孩子、家人(都要被杀死)。以军为了达到目的,依靠了这款名为“薰衣草”的AI机器,但对它的人为监督却非常少。” 美国有线电视新闻网去年12月报道称,在冲突爆发的前两个月,以色列在加沙投放的弹药中有近一半是缺乏精确性的非制导炸弹。炸弹往往会摧毁整幢建筑,对平民造成的伤害巨大。 而在《巴勒斯坦试验场》一书的作者、《悉尼先驱晨报》记者安东尼看来,以色列如此大胆、非法、缺乏道德地训练AI武器系统,背后很可能少不了大量的数据情报支持,“我怀疑情报来源可能是美国或澳大利亚。松峡是美国在澳中部的一个主要军事基地,美国通过该基地向以色列提供信息。所有这些数据信息都汇入(‘薰衣草’)系统中,从而生成了大量目标。以色列目前试图将这些(AI)工具出售给外国实体和政府。这些政府对以色列在加沙的所作所为不但不质疑,反而带着赞许。” 乌克兰战场成为美军“AI武器实验室” 而在曾负责乌克兰战场AI作战测试的美国第18空降军中将多纳休眼中,乌克兰战场已成美军的“AI武器实验室”。 4月23日,由五角大楼主导的“梅文计划”的最新进展被曝光。 据《纽约时报》披露,梅文智能系统正在乌克兰战场得到快速训练和完善。简单来说,该AI系统能够将卫星、雷达、红外设备甚至社交媒体上的影像处理后汇总到一块屏幕上,帮助接入该系统的人员快速识别出打击目标。通过接入战斗机或无人机等武器系统,人类指挥官只需做出确认打击的最终决定。 举个例子,只需让AI系统浏览一辆坦克的照片,系统便会定位出它的位置,无人机便可对坦克进行打击。 据英国《每日邮报》报道,在任何时间,俄乌前线上空都飞行着至少10000架无人机,这些无人机的单个成本大都不超过2000美元,但却可以摧毁一台价值数百万美元的主战坦克。 去年10月,据福布斯新闻网报道,乌克兰无人机公司萨克尔声称,它已经部署了一款全自主无人机——“猎隼侦察兵”。在AI的驱动下,它能够自行决定在战场上杀死谁。萨克尔官员宣称,这架无人机已经进行了小规模的自主攻击。 灾难性后果 智能系统加快机器成为战场决策者的步伐 据英国第四新闻台报道,梅文智能系统的平台由五角大楼的承包商——美国帕兰泰尔科技公司打造。这家科技公司公然声称,其AI系统是乌克兰武器的数字大脑,乌军的大多数打击目标都是借助该平台锁定并打击的。 去年年末,帕兰泰尔发布了最新一代AI平台的详细信息。该平台为军方设计推出了大型语言模型和尖端AI技术。据帕兰泰尔介绍,该工具就像军事领域的聊天机器人,通过简单的语音指令输入便可为指挥官提供实时战略决策建议。原本可能需要花上几个小时的关键军事决策,现在只需几分钟。 尽管帕兰泰尔公司表示,他们的系统遵循道德和法律准则,运行时有人工监督,无法独立发起攻击。但有分析指出,制造完全自主武器的技术早已存在,速度又是战场上的决定性因素,像梅文系统这样的平台,无疑加速了“使机器成为战场决策者”的步伐。 “杀人机器人时代已经到来” 这不禁让人想起2017年美国加州大学伯克利分校计算机科学系教授斯图尔特·拉塞尔制作的“杀戮机器人”视频。该视频被业内认为预言了AI武器的未来。 视频展示了在不久的将来,配备面部识别系统的微型无人机装配炸药,成为恐怖的“AI杀手”。无人机有了自主思考的能力,它们首先附着在建筑物上,在墙壁上炸出洞,以便其他无人机可以进入并追捕特定的学生。十几所大学发生无人机袭击事件,数千名大学生丧生。而美国国会也出现了同样的惨剧,被AI选中的参议员被杀害。 5月1日,在自主武器国际会议上,美国著名信息物理学家阿吉雷发出警告,当年拉塞尔博士预言的“杀人机器人时代已经到来。” 奥地利外长沙伦贝格指出:实际上,在某种程度上,它(AI自主武器)比奥本海默时刻更糟糕。这是自火药发明以来战场上最大的革命,而这种技术更廉价,发展更快。 如何在人工智能时代迎接“奥本海默时刻”的到来,需要全球智慧。 一个争议人物 “硅谷的奥本海默”帕尔默·拉基 31岁的帕尔默·拉基,美国国防技术和武器制造商安杜里尔工业公司的创始人兼CEO,被美国媒体称为“硅谷的奥本海默”。 4月24日,安杜里尔公司被美国空军选中,为下一阶段的AI协同作战飞机项目建造和测试无人机原型。《华尔街日报》指出,在美国五大军火制造商几乎垄断行业的背景下,安杜里尔是唯一一家赢得五角大楼多份合同的国防初创企业。 2012年,20岁的拉基创立了虚拟现实公司Oculus VR,两年后,他以20亿美元的价格将其卖给了Meta。2017年,25岁的拉基创立安杜里尔,全心投入AI自主武器研发,几个月后便与特朗普政府签订了国防大单,为墨西哥边境提供AI监视塔。 如今,其自主武器系统已被美国军方多个部门采购。截至目前,已为加沙和乌克兰战场提供了上千架Altius-600M攻击无人机。去年年末,该公司的估值约为84.8亿美元,虽然仅为美国传统军工巨头的约十分之一,但《华尔街日报》总结安杜里尔的发家秘诀便是,低成本、易操作、产品研发效率高。 更让人惊艳的是,与传统军工巨头复杂的硬件平台不同,安杜里尔的操作平台Lattice如同一个总指挥中心,允许一名操作员控制和协调多个AI自主武器,无论是无人机、潜艇还是移动监视塔。 《华尔街日报》直言,帕尔默·拉基的商业模式有望重塑美国国防工业。 据新华社、央视新闻、《成都商报》
|
|
|||
| 相关文章： |