今年 2 月，韩国科学技术院 和参与制造反人道的集束炸弹的防卫相关企业“韩华 Systems”共同设置了研究中心，被怀疑用于研发 AI 自主武器，一经报道，立刻引起国际社会的关注。
现在这事儿貌似闹大了，好像引起了公愤，世界 30 个国家和地区的人工智能及机器人工学的专家对设置了利用人工智能的军事技术研究中心的韩国科学技术院提出了批判。
专家们说韩国科学技术院这是在错误诱导，加速了机器人武器开发竞争的动向。
干这事儿的领头羊是人工智能研究领域著名的澳大利亚学者 Toby Walsh，随后 60 位世界知名 AI 领域专家表示赞同。
什么是AI自主武器？
自主武器（Autonomous Weapons）不需要人力介入便可自主攻击目标物，例如：武装四轴飞行器能根据预定规则搜索并伤害人类。
自主武器并不包括寻航导弹、或是能让人类对攻击目标拥有所有决策权的远程飞行器。
科学家们预测，由于 AI 的飞速发展，自主武器会成为人类的威胁，很可能引发继火药和核武之后的第三次武器革命。
AI自主武器到底有多可怕
去年，Stop Autonomous Weapons（停止自主武器）组织在 youtubee 上发布了一个短片，告诉了人们自主武器到底有多危险。
视频短片讲述了一个虚构的故事，一家军事公司推出了一种自动追捕和杀死敌人的小型无人机。这种无人机仿佛长了透视眼，即使犯罪分子挡头蒙面，它也能认出来，并自动打击犯罪。
但是千万别以为只是抓坏人这么简单，一旦这种无人机被恐怖分子控制，后果不堪设想。
他们会用它去杀政客，去学校大肆屠杀无辜学生，关键是只需要动动手指，便可以帮助他们为非作歹。
这个小东西蕴含可怕的黑科技：广角摄像头、传感器、面部识别，且在其中部，还有 3 克炸药。来看看它的攻击效果，一击而中，极端致命。
对这个视频，加州大学伯克利分校的 AI 领导者 Stuart Russell 评论道，如果不采取行动抵制，此类情景很肯能在现实生活里上演。因为技术已经可以支撑自主武器研发了。
类似的黑科技在《三体》中也曾出现过，《三体》里一种终极形态的武器——“水滴”，它形状与普通水滴相似，由被强互作用力紧密锁死的质子与中子构成，密度巨大，无坚不摧，仅一个水滴就能接连摧毁人类的一千多艘飞船，打击方式也是直接、精准穿透关键部位，和这段视频里一样。
韩国研发AI自主武器遭批判
根据此前报道，韩国韩国科学技术院成立利用人工智能的军事技术研究中心目的是开发作战指挥、目标追踪、海上无人运送系统。
为了这项研究，韩国政府投了很多钱，3 日韩国国防部表示，明年以前将投入 29 亿韩元（约合人民币 1,724 万元）开发智能型信息化情报监视侦察系统，即结合 AI 和大数据技术分析侦察间谍卫星、侦察机、无人机搜集的影像情报。
韩国的长远打算是，最终可以利用 AI 技术研发出指挥控制系统，实时研判传递战况。
在 2017-2020 年，韩军将斥资 75 亿韩元开发应用虚拟现实技术的训练、培训及实习系统，涵盖特种作战演习、潜艇成员训练、基地作战、武器装备维护、军车驾驶、护理实习等领域，有望取得贴近实战、节省开支、预防事故等效果。
其实不光是韩国，世界上很多大国都在研发基于 AI 的自主武器，比如上图俄罗斯研发的这款Uran-9 多功能无人战车。以及下图这款美国海军的无人战斗机器人。
所以，美国前空军少将 Robert H. Latiff 表示，联合国对杀人机器人的禁令将不会奏效，自主武器终将到来。
所以，对于这条新闻也有人评论，这不过是一场“作秀”而已，为什么新南威尔士大学不敢抵制麻省理工，以及所有和洛克希德马丁或者雷神公司有关的学校呢？
自26个国家的116名专家发布公开信
当然抵制还是需要的，万一奏效了呢？澳大利亚墨尔本举办的 2017 年国际人工智能联合会议的开幕致辞上，就有重要人物公开抵制AI自主武器研发。
他们是以伊隆·马斯克（Elon Musk）与 DeepMind 联合创始人 Mustafa Suleyman 所牵头的来自 26 个国家的 116 名专家。
他们发表公开信，以机器恳切的言辞呼吁国际社会抵制自主武器，并希望将这类武器纳入联合国的特定常规武器公约（CCW）的武器禁用名单。
公开信是这么写的，关于自主武器的争论已经颇多，例如通过机器取代军人可以减少伤亡，但这也降低了战争的门坎。
对人类而言，核心的问题是，在今日，我们是否要让全球加入人工智能的武力竞赛，还是该防止它的发生。
如果任何主要的军事武力都借由人工智能持续发展与进行，全球武力竞赛将是必然发生，结局亦相当明显：自主武器将成为明日的AK步枪。
因为人工智能不像核武需要庞大成本，它几乎零成本，更不需担心原料难以获取，不仅廉价，而且处处可以复制。
这些武器出现在黑市甚至恐怖份子的手中，只是时间的问题。自主武器很可能用于暗杀、颠覆政权、镇压、种族屠杀，我们相信将 AI 用于武力竞赛绝不利于人类。
如同大部分的生物学家与化学家对于生物武器不抱兴趣，大部分的人工智能研究者，也对将人工智能用于武器不感兴趣，而且更不希望因为其他人这样做而玷污了人工智能的领域。
甚至可能造成大众舆论对人工智能的强烈反对，而扼杀了它未来能带来的社会贡献。其实，化学家和生物学家大体上支持国际共识，已成功地禁止了化学和生物武器，如同大多数物理学家对禁止太空核武和激光致盲武器条款的支持。
总而言之，我们相信人工智在很多方面能对人类利益有极大的潜力，而这个领域的目标应该就是要如此。展开军事上的人工智能竞赛是个糟糕的想法，应该要在法律上禁止自主武器超越人类意志的控制。
国际机器人武装控制委员会的 Noel Sharkey 称，杀手机器人禁令运动并非要限制人工智能和机器人的相关创新，或者军用民用的自动系统，相反，我们希望确保人类对于每次攻击的控制权。
德国宣布放弃研发自主武器
虽说AI自主武器研发势头正猛，此时德国站出来当了一回清流。2 月 16 日，在慕尼黑召开的安全会议上，德国联邦国防军网络与信息空间（简称 CIR）司令负责人路德维希-莱诺斯（Ludwig Leinhos）中将宣布，德国将放弃使用自主武器。
德国宣布正式加入“杀手机器人禁令运动”（Campaign to Stop Killer Robots）组织，承诺不将人工智能驱动的武器用于战。
目前已有 22 个国家加入此组织，但是还有 170 多个国家并未表决，或者对禁止使用自主武器不感兴趣。
