战争与AI

摘要:推荐算法近期也成为了众矢之的,快手的未成年人怀孕,抖音的小哥哥小姐姐…..技术应该如何符合全人类的公共利益,本身中立的技术要怎么树立价值观,各国的学界、工业界都需要在加速狂奔中停下来思索。

因涉嫌泄露数据操纵美国总统大选,扎克伯格昨日来了一次可能是史上最真诚的道歉。“Facebook 对世界事务影响越来越大,错误地估计了平台的负面影响,将做一系列改进。”

暂且无法断定扎克伯格的道歉是否会足额履行,但可以确定的是,不光是 Facebook,互联网技术对全球政治的影响力正在与日俱增,不光是选举,更深入的甚至是在军事领域。

一个月前,纽约时报报道,google 员工要求 google 退出美国国防部军事项目Maven 计划,在这个项目中,google 的 AI 技术将对无人机拍摄视频进行图像识别,提取出需要注意的对象,这也意味着,AI可以在作战时精准锁定目标。

在联合信中,google 员工声称:“世界上已经有很多人对AI存有偏见,也有着高度的戒心,特别是如果AI技术被拿来用于武器开发上,这无疑会让AI受到更严重的质疑。”

Google高层在考虑这些计划时,更多是着眼于商业利益。无论在哪个国家,军方都站在最优质客户行列,需求多且钱袋子满,何况就在3月,特朗普签署的1.3万亿美国支出法案中,过半为国防预算,创下近年国防预算新高,而且现代军事武器开发是这笔预算的重中之重。

尽管国防部称AI 的应用将有利于保护平民,避免非必要的伤亡。但近50年的和平,除去中东局部不稳定,已经使得战争对于现代人成了遥远而恐怖的词汇。AI本可在医疗等多领域提升人类生活水平,但与无人机的合作,AI也可以在战场成为高明的杀人机器,造成更可怕的伤亡,这违背了科技伦理。在AI的应用边界尚不明确的情况下,Google公司从企业社会责任的角度,更应该去考虑项目风险。

冷战期间,伴随着核技术的发展,美国在外交上开启了威慑战略——我不需要真刀实枪上战场干你,我只要通过核武器让你知道我的实力足以毁灭你,并且我有足够毁灭你的决心。而感受到威慑的其他国家,譬如苏联、朝鲜都加码军事,形成军备竞赛。如今,AI等互联网技术也让政府意识到,这些新技术将决定未来的军事实力,如果地缘政治紧张,各国对AI的投入,对现代军事武器的看重,可能引发新的争霸战。

这些后果也正是Google抗议者所担忧的,但他们的抗议是否能阻止美国在AI的军事应用?在项目中,Google投入研究的深度学习计算机视觉技术,其核心在于算法和代码,不像是核技术需要研究核反应堆,并要找到原料才能实现那么复杂,算法和代码一旦构想好了,这非常容易复制,也很容易大规模应用,可以说,即使没有Google的参与,美国国防部还是有办法达成它的小目标。

尽管AI技术本身是中立的,但在特朗普更为激进的国防政策下,潘多拉的盒子再一次被打开,AI将释放它邪恶的一面。一直以来有不少人是技术恐惧论者,无论是广岛原子弹还是切尔诺贝利核泄漏事件,人类都曾用自己研发的技术制造了小范围的世界末日。

上个世纪,一大批学者呼吁禁核和禁核条约的逐渐推动,让核武器这一危险因子不断降权,而朝鲜的不按常理出牌依然在给大家敲警钟。事实上,更有效的不是员工的反对信,而是一个在全球范围内得到认同并且行之有效的约束机制,这需要相关学者、政界人士一起坐下来商讨拟定公约。

在几乎相同的时间,全球有50个 AI学者联名反对参与韩国KASIT大学的杀手机器人开发计划,他们在公开信中称如果开发出来,自主武器将使战争更快速地蔓延,规模比以往更大。据媒体报道,下周他们将在联合国讨论自主武器的伦理问题——从联合抵制到坐而论道,这批学者将忧虑付诸了更有效的行动。

而在国内,推荐算法近期也成为了众矢之的,快手的未成年人怀孕,抖音的小哥哥小姐姐…..技术应该如何符合全人类的公共利益,本身中立的技术要怎么树立价值观,各国的学界、工业界都需要在加速狂奔中停下来思索。

文 | 杨小萍

本文为 品途商业评论(https://www.pintu360.com)投稿作者:刘不住杂谈 的原创作品,责编:王通。欢迎转载,转载请注明原文出处:。本文仅代表作者观点,不代表品途商业评论观点。

发表评论

您的操作太快喽,请输入验证码

您输入的验证码不正确。

看不清? 点击更换
确定