人工智能与伦理:未来的机器能否有自己的道德观?

  虽然我们离在战场上部署自主武器还有一些时日,但专家认为,各国研制出的机器人并不会具备道德观念。并且自主武器的系统自动化程度越高,受黑客入侵的风险也就越大。但有些国家已经开始在战场上使用无人运输机了,如图中所示的“收割者”无人机。

  为了让机器人具有“道德观念”,研究人员可以在编程时写入一些特定指令,防止它们成为害群之马。图为福斯特?米勒“魔爪”机器人,上面配备了多种武器。但专家认为,一旦它具备了一定的自动化程度,就有可能反叛人类的指令,攻击错误的目标。

  新浪科技讯 北京时间4月7日消息,在战场上使用自主武器能够大大减轻军人的负担,但有专家警告称,自主武器会对我们的安全造成一定的威胁。

  研究人员在今年1月于瑞士达沃斯举办的世界经济论坛上表示,他们很担心这些战争机器会被用于不道德的军事行动中,成为黑客操纵的工具。

  与完全受人类控制的无人机不同,未来的自主武器或许可以自己选择并攻击目标。

  “这是我们去年提出的一系列新问题之一。”新南威尔士大学计算机科学与工程学院的人工智能教授托比?沃尔士(Toby Walsh)说道,“我们中的大多数人都认为,我们还没有能力制造有道德意识的机器人。最令人担忧的是,很多国家在最近这几年内就会将机器人用于实战当中,而我相信这些机器人都是没有道德观念的。”

  为了让机器人具有“道德观念”,研究人员可以在编程时写入一些特定指令,防止它们成为害群之马。

  例如,科幻小说作家艾萨克?阿西莫夫(Isaac Asimov)就曾写过一则名为《环舞》(Runaround)的短篇小说,其中提出了主宰机器人行为的三大定律。

  “第一,机器人不得伤害人类,或因其不作为而使人类受到伤害。”

  “第二,机器人必须遵守人类发出的指令,除非该指令违反了机器人第一定律。”

  “第三,只要保护措施不违背第一或第二定律,机器人就必须尽可能地保护自己。”

  虽然专家们认为这几条定律能帮助我们研发具有道德意识的机器人,但要在设计中运用这几条定律,最终还是要依靠机器人的创造者。

  还有些人认为,我们的担心纯属多余。

  《钢铁侠2》中的机器人(如图所示)也许和现实的差距并不大,但专家担心,一旦它们落入黑客手中,势必会在战场上引起严重的骚乱。专家们担心的不只是机器人设备本身,他们更担心黑客会侵入整个无人武器系统。

  不管自主武器是否受人类控制,自主武器的系统自动化程度越高,受黑客入侵的风险也就越大。图为MQ-9“死神”无人机,一旦受到黑客入侵,就可能对错误的目标发起攻击。

  “首先,这样的武器目前还不存在,”新美国安全中心伦理自治项目的首席研究员和主管保罗?斯加瑞(Paul Scharre)说道,“大多数武器系统还没有达到这样的智能水平,即使是最先进的系统也只能通过纠正来帮助我们击中目标,而无法自行选择目标。”

  斯加瑞还指出,即使我们可以在战争中使用自主武器,要生产出符合交战规定的武器,也不是件容易的事情。

  “就算它们的操作是合法的,自主武器还会带来严重的道德和伦理问题。让一台机器掌握生死大权,这样做真的正确吗?”斯加瑞说道。

  “另外,就算自主武器是合法的、且符合道德的,它们也可能非常危险。万一出现机器故障,或是敌军黑进了自主武器系统,都会造成非常严重的后果。”

  目前还没有任何国家使用自主武器,但有些国家已经开始在战区部署无人运输工具了。

  如果黑客侵入了自主武器的防御系统,就可能在战场上引发可怕的骚乱。

  “研究人员正在努力加强数据链接的编码,让自主武器与控制者之间的连接更加安全。” 《简氏国际防务评论》(Jane's International Defence Review)的编辑休?威廉姆斯(Huw Williams)说道,“但无论这些编码完善与否,担心都仍然存在,而且数据链接还是有被破坏的危险。”

  不管自主武器是否受人类控制,自主武器的系统自动化程度越高,受黑客入侵的风险也就越大。

  责任编辑:翟帅

  来源:新浪科技

本文来自作者[yuange]投稿,不代表盈余云朵立场,如若转载,请注明出处:https://hruber.com/wiki/202411-598.html

(80)

文章推荐

  • 三年级教师节手工贺卡 教师节立体贺卡大全

    三年级教师节手工贺卡用卡纸剪出一个花盆造型黏到另一张纸上,修饰花盆底部。2.重新取一张卡纸,对折,在一侧剪出若干细条。3.再将花杆卷入彩纸,作为花朵造型。4.将花朵造型粘在贺卡上,再将两片叶子分别粘在花杆的两侧,即可完成贺卡。尊敬的老师,百花沐浴阳光齐盛开,草儿喝水绿油油!您是一盏明灯,为我指明

    2024年10月22日
    94
  • 400分左右包分配的大学 400分左右能上什么好的大学

    400分左右包分配的大学空军雷达学院。空军雷达学院是一所军校,坐落在湖北省武汉。高考生的高考成绩在400分左右就会被空军雷达学院录取。该军校的毕业生包分配工作。200-400分的大学有哪些200~400分的大学包括以下这些。北京农业职业学院,北京电子科技职业学院,湖州职业技术学院,广西职业技术

    2024年10月22日
    105
  • 亳州哈罗单车怎么计费 哈罗单车怎么收费

    亳州哈罗单车怎么计费1.哈罗单车收费标准是1元/30分钟,不足30分钟,按30分钟计算。2.开锁时开始计费,用车至少收费1元。3.哈罗电单车的收费标准是2元/30分钟,贵一点。4.没有1小时内免费的标准,有促销活动,有免费骑车的活动。5.用车次数多,在APP钱包里,按照2元的价格,购买30天的月卡。

    2024年10月22日
    95
  • 做家装3D效果图重要吗 家装设计效果图大全

    做家装3D效果图重要吗  3D效果图就是立体的模拟图像,好的3D效果图接近于相片,像家具定制在根据客户描述,出来家具放在家中的效果图就属于3D效果图的运用。简单的来说3D效果图的在家具中的作用就是可以让你一目了然的了解这套家具放在你的家中是否符合你的爱好。  3D效果图与2D效果图既有关联又有本质上

    2024年10月22日
    99
  • 初中毕业能上中专吗 初中毕业考中专的学校

    初中毕业能上中专吗初中毕业是可以上中专的,中专是属于国家统招计划范围内的,只要你填报志愿的时候选择中专学校,且中考成绩符合中专学校的招生标准就会被录取。中专学生在校主要学习中等专业知识,同时也进行文化课的学习。毕业由省人事厅大中专毕业生就业指导办公室开具的就业报到证(以前称派遣证),有整套人事干

    2024年10月23日
    135
  • 岳云鹏孙越相声2024春晚怎么样 2024天津卫视相声春晚

    岳云鹏孙越相声2024春晚怎么样关于岳云鹏和孙越在2024年央视春晚的相声表演,目前没有具体的信息表明他们的表演被暂停或有任何中断。从网络上的报道来看,岳云鹏和孙越在2024年央视春晚上成功表演了相声节目,这已经是他们连续第六次登上春晚的舞台。他们的相声风格一如既往地幽默风趣,给观众带来了欢笑和温馨

    2024年10月23日
    107
  • 魔女30岁漫画去哪里看 到了30岁还是c男漫画

    魔女30岁漫画去哪里看快看漫画魔女三十岁漫画在快看漫画看。《魔女三十岁》原名是《魔女幼熙》,是漫画作家PMN所画的一部漫画,在快看漫画有版权,可以在快看漫画观看。魔女30岁类似漫画《魔女30岁》是一部日本漫画作品,讲述了一个30岁的女性在经历了一系列生活挑战后,突然发现自己拥有魔法能力的故事。这类

    2024年10月29日
    166
  • 虚拟现实技术在教育领域的应用取得新成果

    强化教师教学技能虚拟技术为丰富课堂提供了技术支持,同时也为丰富教师教学技能创造环境,不仅学生的学习成果更优化,而且教师的教学技能也能够在这一过程中得到提升04突破时间和空间的限制虚拟技术创造的沉浸式体验,不受时间限制,从过去到现在,都可以创造同时,也不受空间的限制,利用虚拟现实技。虚拟现实技术在

    2024年11月26日
    71
  • [国家]实施新的能源政策,促进绿色发展

    电力设备(powersystem)主要包括发电设备和供电设备两大类,发电设备主要是电站锅炉、蒸汽轮机、燃气轮机、水轮机、发电机、变压器等等,供电设备主要是各种电压等级的输电线路、互感器、接触器等等。我国电力设备行业相关政策近些年来,为促进电力设备行业的发展,我国陆续发布了许多政策,如2023年5月

    2024年11月28日
    78
  • [公司]收购[竞争对手],市场反应积极

    展开全文第一节重要提示1本年度报告摘要来自年度报告全文,为全面了解本公司的经营成果、财务状况及未来发展规划,投资者应当到http://www.sse.com.cn/网站仔细阅读年度报告全文。2本公司董事会、监事会及董事、监事、高级管理人员保证年度

    2024年11月28日
    93

发表回复

本站作者后才能评论

评论列表(4条)

  • yuange
    yuange 2024年11月23日

    我是盈余云朵的签约作者“yuange”!

  • yuange
    yuange 2024年11月23日

    希望本篇文章《人工智能与伦理:未来的机器能否有自己的道德观?》能对你有所帮助!

  • yuange
    yuange 2024年11月23日

    本站[盈余云朵]内容主要涵盖:生活百科,小常识,生活小窍门,知识分享

  • yuange
    yuange 2024年11月23日

    本文概览:  虽然我们离在战场上部署自主武器还有一些时日,但专家认为,各国研制出的机器人并不会具备道德观念。并且自主武器的系统自动化程度越高,受黑客入侵的风险也就越大。但有些国家已经开始...

    联系我们

    邮件:盈余云朵@sina.com

    工作时间:周一至周五,9:30-18:30,节假日休息

    关注我们