不能赋予机器人杀人的权力
想象一下这样的未来场景:以美国为首的联军正在逼近叙利亚的拉卡(Raqqa),决心消灭“伊斯兰国”(ISIS)。多国部队出动一批致命的自主机器人,围着城市四处飞行,追踪敌人。
利用面部识别技术,这些机器人识别和杀死ISIS的指挥官,斩落了这个组织的头目。在联军和平民伤亡最少的情况下,瓦解了不知所措、士气低落的ISIS部队。
有谁不认为这是很好地运用了技术呢?
事实上,有很多人不这么认为,包括人工智能领域的很多专家,他们最了解研发这种武器所需要的技术。
去年7月,众多人工智能研究人员发表了一封公开信,警告称这种技术已经发展到一定程度,几年以后——而无需几十年——就有可能部署“致命自主武器系统”(Lethal Autonomous Weapons Systems,它还有一个不相称的简称,Laws,意为“法律”)。不像核武器,这类系统可以以低廉成本大规模生产,成为“明天的卡拉什尼科夫步枪(Kalashnikov,即AK-47)”。
“它们早晚会出现在黑市上,落入恐怖分子、希望更好地控制民众的独裁者和想要进行种族清洗的军阀的手中,”他们表示,“在军用人工智能领域开启一场军备竞赛是一个坏主意,应该对超出人类有效控制的攻击性自主武器施加禁令,以防止这样的军备竞赛。”
美国大体上已承诺放弃使用攻击性自主武器。本月早些时候,联合国(UN)在日内瓦举行了有94个军事强国参加的新一轮谈判,旨在拟定一项限制此类武器使用的国际协定。
主要论据是道德层面上的:赋予机器人杀人的代理权,将越过一条永远不应被越过的红线。
因为开展反对地雷的运动而获得诺贝尔和平奖的乔迪•威廉斯(Jody Williams)是“阻止杀手机器人运动”(Campaign To Stop Killer Robots)的发言人,他表示自主武器比核武器更可怕。“如果一些人认为把人类的生杀大权交给一台机器是可以的,人性又何以处之?”
除了纯粹的道德问题以外,还有其他令人担忧的问题。杀手机器人会降低战争中的人员成本,爆发冲突的可能性是否会因此提高?如何阻止这类系统的扩散?当它们出问题的时候谁来负责?
在一个哲学研讨会上,反对杀手机器人的道德理由已是足够明显。问题在于,你越是近距离地观察它们在战争硝烟中可能的用处,就越难分辨出道德的界限。(有限自主的)机器人已经被用于战场上,应用在拆弹、排雷和反导系统等。它们的应用范围还将大为扩大。
据新美国安全中心(Center for a New American Security)估测,到2018年,全球范围内在军用机器人方面的支出将达到每年75亿美元。相比之下,该机构预测用于商业和工业机器人的支出将为430亿美元。这家位于华盛顿的智库支持进一步利用这类系统,主张它们能够显著提高“作战人员取得凌驾对手的绝对性优势的能力”。
军工界用其最爱使用的置身事外的论调,对机器人不同的自主等级进行了区分。第一类被称为“人在环中”(humans-in-the-loop),包括被美军和其他军队广泛使用的“捕食者”无人机。即使一架无人机或许能够识别目标,还是需要一个人类来按下攻击按钮。就像电影《天空之眼》(Eye in the Sky)生动地体现出来的,这类决策可能会给人带来道德上的痛苦,你需要在打击关键目标和造成平民伤亡的风险之间进行权衡。
好的文章,需要您的鼓励
16
- 最新资讯
- 最新问答
-
倒计时4天!这份工博会逛展攻略,一定要收藏!
关键字: 工博会 逛展攻略 2024-09-20 -
SGTP方案:边拣边理“双剑合璧”,重塑商业仓配库容、效率、智能新高度!
关键字: 海康 机器人 2024-09-13 -
喜讯 | 因时机器人荣膺「最具投资潜力机器人公司TOP20」
关键字: 因时机器人 灵巧手 2024-09-09 -
为全球E-Bike发展注入更多动能 MOTINOVA顺德工厂正式启用 !
关键字: motinova 2024-09-11 -
2024年浦江创新论坛开幕,陈吉宁致辞,万钢阴和俊作主旨演讲,龚正启动上海未来产业基金
关键字: 浦江创新论坛 上海未来产业基金 2024-09-09
-
amr机器人是什么意思
标签: amr机器人,什么意思 提问:HYN 2024-09-18 11:16:05 -
上海视觉设备厂家有哪些?
标签: 视觉设备,视觉设备厂家 提问:GIGI 2024-09-13 10:16:02 -
搬运机器人多少钱一台?
标签: 搬运机器人,多少钱 提问:小仙 2024-09-10 11:28:02 -
配天机器人价格怎么样?
标签: 配天,机器人,价格 提问:SOSO 2024-09-09 10:48:02 -
场景感知技术包括哪些
标签: 场景感知,技术 提问:YUMI 2024-09-03 10:30:05
- 2019-12-10 15:56:01
- 2019-02-25 14:09:23
- 2018-11-01 08:55:18
- 2016-05-24 08:00:00
- 2021-05-20 13:31:10
- 2021-06-10 11:10:21
- 2022-11-14 16:16:05
- 2022-09-15 10:03:04
- 2022-09-02 12:17:08
- 2023-03-12 10:30:47
- 2022-11-21 15:57:36
- 2022-09-13 16:28:57
- 2024-09-13
- 2024-09-09
- 2024-09-11
- 2024-09-09
- 2024-09-09
- 2024-09-09
- 2024-09-09
- 2024-08-22
- 2024-08-22
- 2024-07-31