美国科技巨头所提供的人工智能和计算服务急剧增长,正悄然助力以色列军方更迅速地追踪并打击加沙和黎巴嫩地区被指控的武装分子。然而,这一过程中平民死亡人数也大幅攀升,引发了外界对于这些科技工具导致无辜民众丧生的担忧。
长久以来,军队常雇佣私营公司打造定制化的自主武器。而以色列近期的战争则成为了一个典型案例,美国制造的商业人工智能模型被用于实战当中,尽管这些模型最初并非为决定生死而开发。以色列军方借助人工智能筛选海量情报、拦截通信、实施监视,以此察觉可疑言论或行为,掌握敌人动向。美联社调查发现,自 2023 年 10 月 7 日哈马斯武装分子发动突然袭击后,以色列军方对微软(Microsoft)和开放人工智能研究中心(OpenAI)技术的使用量激增。
此项调查还基于内部文件、数据,以及对现任和前任以色列官员、公司员工的独家采访,揭示了人工智能系统选择目标的方式以及可能出现错误的细节,比如数据错误或算法缺陷等问题。以色列在遭遇造成约 1200 人死亡、250 多名人质被劫持的袭击后,目标是根除哈马斯。以军方称人工智能是更快生成目标的 “游戏规则改变者”。但据加沙和黎巴嫩卫生部数据,自战争爆发以来,加沙和黎巴嫩已有超 50000 人死亡,加沙近 70% 的建筑物被摧毁。
AI Now Institute 首席 AI 科学家、OpenAI 前高级安全工程师海蒂・克拉夫(Heidy Khlaaf)表示:“这是我们首次确认商业 AI 模型被直接用于战争,这对于技术在未来推动此类不道德和非法战争方面的作用影响巨大。”
在众多美国科技公司中,微软与以色列军方有着长达数十年的紧密关系,且在哈马斯袭击后,这种关系进一步强化。以色列军方最高信息技术军官拉切利・登宾斯基(Racheli Dembinsky)上校曾在演讲中提到,以色列的战争应对措施使其自身服务器承压,对外部第三方供应商的依赖增加。演讲时,微软 Azure、谷歌云(Google Cloud)和亚马逊网络服务(Amazon Web Services)的标志出现在大屏幕上。
美联社审查公司内部信息发现,2023 年 3 月,以色列军方对微软和 OpenAI 人工智能的使用量相比 10 月 7 日袭击前一周飙升近 200 倍。从那时到 2024 年 7 月,其在微软服务器上存储的数据量翻倍,超 13.6PB,约为美国国会图书馆存储所有书籍所需数字内存的 350 倍。仅战争前两个月,军方对微软计算机服务器的使用量就增加了近三分之二。
对于相关问题,微软拒绝发表评论,也未回应有关其向以色列军方提供的云和 AI 服务的详细书面问题。微软在网站声明中称 “尊重人权是核心价值观”,在 2024 年负责任 AI 透明度报告中承诺管理生成式 AI 风险,但未提及军事合同。
文件和数据显示,高级人工智能模型由 OpenAI 通过微软的 Azure 云平台提供,以色列军方在该平台购买使用,而微软是 OpenAI 的最大投资者。OpenAI 表示未与以色列军方建立合作关系,其使用政策禁止客户用产品开发武器等,但约一年前,其使用条款从禁止军事用途改为允许 “符合使命的国家安全用例”。
以色列军方拒绝回答美联社关于使用美国科技公司商业人工智能产品的详细问题,但称分析师借助人工智能系统识别目标,且会与高级军官独立检查,以符合国际法,平衡军事优势和附带损害,并表示这些工具使情报过程更准确有效,虽能更快产生更多目标,但未牺牲准确性,还多次减少了平民伤亡。然而,实际平民死亡人数的激增,让外界对其说法存疑,美科技助力以军作战中的 AI 应用,在带来军事效率提升的同时,也引发了深刻的人道争议。


