情况有多惨都不知道。
如果是比较小规模,假设空中有两架无人机正在交战。其中架需要先接收到远方地堡内操作人员命令才能开火,另架则能完全自主开火。你觉得哪架胜算大?假设到2093年,已经老旧迂腐欧盟决定派出无人机和机器人来对抗新时期法国大g,m,新巴黎公社可能会招募所有黑客、计算机和智能手机参战,但大多数人大概已经都派不上用场,顶多只能当人肉盾牌。这是事实:在今天许多不对称冲突中,大多数公民只能作为各式先进武器人肉盾牌。
图43左图:1916年,索姆河战役(BattleoftheSomme)中作战士兵;右图:无人机
此外,就算不管胜败问题,单单为正义,也该支持用机器人和无人机取代士兵和飞行员。人类士兵可能犯下谋杀、强*、劫掠等罪行,而且就算他们守规矩,误杀平民仍然在所难免。相较之下,如果是搭载伦理算法计算机士兵,遵守国际刑事法院最新规约可能性就高多。
经济领域也有相同情形,能够举起锤子或按下按钮能力已经不如以往有价值。这也就危害自由主义和资本主义之间重要合作关系。在20世纪,自由主义认为伦理和经济能够兼得,保护人权和自由既是伦理道德必要之举,也是经济发展关键因素。自由主义认为,英美法等国正是因为开放经济和社会而繁荣,而如果土耳其、巴西或中国也想达到同样程度繁荣,就该起而效法。许多甚至是绝大多数专制君主或军人z.府,也是出于经济而非道德因素,才最终愿意走向开放。
到21世纪,自由主义影响力将会大不如前。随着大众在经济上不再重要,仅靠伦理道德,是否足以保护人权和自由?无法从中获得经济利益后,精英阶层和z.府还会认定每个人都有价值吗?过去有许多事情只有人类才能做得到,但现在机器人与计算机正迎头赶上,可能很快就会在多数任务上超越人类。确实,计算机运作方式与人类行为方式非常不同,而且看来短期内计算机也不会变得更像人类,特别是应该并不会获得意识或是具备情绪和感觉。过去半个世纪,计算机智能(computerintelligence)已经有巨大进展,但在计算机意识(computerconsciousness)方面却仍在原地踏步。据们所知,2016年计算机并未比20世纪50年代计算机原型意识更强。然而,场重大g,m触即发。“智能”即将开始与“意识”脱钩,人类因此面临失去经济价值危险。
高度智能与发达意识向是两个形影不离
请关闭浏览器阅读模式后查看本章节,否则可能部分章节内容会丢失。