人工智能与伦理:未来的机器能否有自己的道德观?

  虽然我们离在战场上部署自主武器还有一些时日,但专家认为,各国研制出的机器人并不会具备道德观念。并且自主武器的系统自动化程度越高,受黑客入侵的风险也就越大。但有些国家已经开始在战场上使用无人运输机了,如图中所示的“收割者”无人机。

  为了让机器人具有“道德观念”,研究人员可以在编程时写入一些特定指令,防止它们成为害群之马。图为福斯特?米勒“魔爪”机器人,上面配备了多种武器。但专家认为,一旦它具备了一定的自动化程度,就有可能反叛人类的指令,攻击错误的目标。

  新浪科技讯 北京时间4月7日消息,在战场上使用自主武器能够大大减轻军人的负担,但有专家警告称,自主武器会对我们的安全造成一定的威胁。

  研究人员在今年1月于瑞士达沃斯举办的世界经济论坛上表示,他们很担心这些战争机器会被用于不道德的军事行动中,成为黑客操纵的工具。

  与完全受人类控制的无人机不同,未来的自主武器或许可以自己选择并攻击目标。

  “这是我们去年提出的一系列新问题之一。”新南威尔士大学计算机科学与工程学院的人工智能教授托比?沃尔士(Toby Walsh)说道,“我们中的大多数人都认为,我们还没有能力制造有道德意识的机器人。最令人担忧的是,很多国家在最近这几年内就会将机器人用于实战当中,而我相信这些机器人都是没有道德观念的。”

  为了让机器人具有“道德观念”,研究人员可以在编程时写入一些特定指令,防止它们成为害群之马。

  例如,科幻小说作家艾萨克?阿西莫夫(Isaac Asimov)就曾写过一则名为《环舞》(Runaround)的短篇小说,其中提出了主宰机器人行为的三大定律。

  “第一,机器人不得伤害人类,或因其不作为而使人类受到伤害。”

  “第二,机器人必须遵守人类发出的指令,除非该指令违反了机器人第一定律。”

  “第三,只要保护措施不违背第一或第二定律,机器人就必须尽可能地保护自己。”

  虽然专家们认为这几条定律能帮助我们研发具有道德意识的机器人,但要在设计中运用这几条定律,最终还是要依靠机器人的创造者。

  还有些人认为,我们的担心纯属多余。

  《钢铁侠2》中的机器人(如图所示)也许和现实的差距并不大,但专家担心,一旦它们落入黑客手中,势必会在战场上引起严重的骚乱。专家们担心的不只是机器人设备本身,他们更担心黑客会侵入整个无人武器系统。

  不管自主武器是否受人类控制,自主武器的系统自动化程度越高,受黑客入侵的风险也就越大。图为MQ-9“死神”无人机,一旦受到黑客入侵,就可能对错误的目标发起攻击。

  “首先,这样的武器目前还不存在,”新美国安全中心伦理自治项目的首席研究员和主管保罗?斯加瑞(Paul Scharre)说道,“大多数武器系统还没有达到这样的智能水平,即使是最先进的系统也只能通过纠正来帮助我们击中目标,而无法自行选择目标。”

  斯加瑞还指出,即使我们可以在战争中使用自主武器,要生产出符合交战规定的武器,也不是件容易的事情。

  “就算它们的操作是合法的,自主武器还会带来严重的道德和伦理问题。让一台机器掌握生死大权,这样做真的正确吗?”斯加瑞说道。

  “另外,就算自主武器是合法的、且符合道德的,它们也可能非常危险。万一出现机器故障,或是敌军黑进了自主武器系统,都会造成非常严重的后果。”

  目前还没有任何国家使用自主武器,但有些国家已经开始在战区部署无人运输工具了。

  如果黑客侵入了自主武器的防御系统,就可能在战场上引发可怕的骚乱。

  “研究人员正在努力加强数据链接的编码,让自主武器与控制者之间的连接更加安全。” 《简氏国际防务评论》(Jane's International Defence Review)的编辑休?威廉姆斯(Huw Williams)说道,“但无论这些编码完善与否,担心都仍然存在,而且数据链接还是有被破坏的危险。”

  不管自主武器是否受人类控制,自主武器的系统自动化程度越高,受黑客入侵的风险也就越大。

  责任编辑:翟帅

  来源:新浪科技

本文来自作者[yuange]投稿,不代表盈余云朵立场,如若转载,请注明出处:https://hruber.com/wiki/202411-598.html

(79)

文章推荐

  • 吉尼斯纪录中指甲最长的人指甲有多长 全球最长指甲被剪掉

    吉尼斯纪录中指甲最长的人指甲有多长指甲最长的吉尼斯纪录保持者是史立达尔基亚。指甲最长的吉尼斯纪录是9.09米,持续62年没有剪过。2015年10月4日,78岁的印度男子史立达尔基亚的指甲,被吉尼斯世界记录认证为世界上最长的指甲,其左手五指指甲长度总和为9.09米。一年不剪指甲能长多长小童至青年阶段

    2024年10月24日
    113
  • 广州康大职业技术学院和广州科技贸易职业学院哪个好一点 广州康大职业技术学院怎么样

    广州康大职业技术学院和广州科技贸易职业学院哪个好一点康大还一般不过科贸收费是8000/年比较合理去年的投档线是454录取平均分是463.至于华夏。个人觉得是三者中最差的。广东康大职业学院就业去向广东康大职业学院就业方向有很多,比如医疗机构、互联网企业、旅游机构、房地产公司、金融机构等。广

    2024年10月25日
    96
  • 三角形面积是小学几年级学的 三角形的面积教学设计

    三角形面积是小学几年级学的在小学的数学课堂上,三角形是最基础、最常见的图形之一。从二年级开始,学生就要开始认识三角形,并能够辨认它们的不同种类。而在四年级左右,他们则会开启关于三角形面积的学习之旅。孩子们需要了解什么是三角形,以及不同种类的三角形有哪些特点。这些知识将为后续的面积计算打下基础。如何计

    2024年10月30日
    113
  • 入党申请书标题正文分别用什么字体格式吗 入党申请书格式图片

    入党申请书标题正文分别用什么字体格式吗1.标题和正文分别使用不同的字体格式2.入党申请书的标题通常使用加粗的字体格式,以突出标题的重要性;而正文部分则使用普通的字体格式,以保持整体文档的统一性和易读性。3.此外,入党申请书还需要按照规定的格式进行排版,包括行距、字号、页边距等要求,以确保申请书

    2024年11月01日
    136
  • 我是吉大的怎么考研保研到清华或西交大管理学院 西安交通大学管理学院

    我是吉大的怎么考研保研到清华或西交大管理学院吉林大学想要保研到清华或者是西安交通大学的话,需要考到班级的前三名,西安交通大学城市学院哪些专业是二本西安交通大学城市学院的二本专业有行政管理、财务管理、金融学、工商管理、人力资源管理、英语、自动化、机械设计制造及其自动化、国际经济与贸易、土木工程、会计学

    2024年11月07日
    84
  • 社会服务体系完善计划启动,优化服务结构的简单介绍

    答案ABDE社会服务机构的项目组织实施体系可能与机构的原组织结构是一致的,也可能会因为实施全新项目而建立新的结构项目在组织结构层次与分工方面一般可分为决策层管理层执行层社会服务机构的项目实施过程包括设定目标制订计划采取行动检讨结果四个步骤项目的具体。提高生殖健康妇幼保健托幼等公共服务水平帮扶

    2024年11月26日
    74
  • 社会服务需求调查结果发布,反映民众需求

    公众诉求类主要涉及到民众日常生活中遇到的各类问题公众可以通过府听语渠道反映自己的诉求,如民生问题公共服务设施建议等政府通过收集和分析这些诉求,可以更好地了解民众需求,进而优化公共服务社会服务类是政府提供的各类服务信息,如教育医疗社保等府听语作为连接政府与公众的桥梁,会及时发。1了解社会动态通过社情

    2024年11月27日
    79
  • 社会发展战略论坛召开,探讨未来发展方向

    2023世界工业互联网产业大会在青开幕,院士、专家、行业代表齐聚共话发展大势文/半岛全媒体首席记者娄花半岛全媒体记者姚绍毅图/半岛全媒体记者吴璟9月14日,由青岛市人民政府、山东省工业和信息化厅主办的2023世界工业互联网产业大会在青岛国际会议中心开幕。大会以“数字赋能·工赋引领”为主

    2024年11月27日
    83
  • 社会发展创新政策实施,推动社会进步

    本文来源:犀塔数据作者:马清泉律师青岛市律师协会企业合规专委会副主任原标题:《提供新质法律服务,服务新质生产力》编者按今年两会以来,“新质生产力”成为各领域发展热词,不仅首次被写在工作报告中,还被列为2024年政府工作十大任务之首,其特点是“创新”。法律人在新质生产力发展中则可以发挥多种作用,包括法

    2024年11月28日
    89
  • 关于谷歌I/O时隔3年回归线下!发布新安卓新手机,还立下AR眼镜等一堆的信息

    2016年5月19日  北京时间5月19日凌晨1点,2016年谷歌IO大会如期举行,在此次开发者大会上,除了众人瞩简单总结下,谷歌今年在IO大会上更新了Android和AndroidWear。

    2025年02月20日
    78

发表回复

本站作者后才能评论

评论列表(4条)

  • yuange
    yuange 2024年11月23日

    我是盈余云朵的签约作者“yuange”!

  • yuange
    yuange 2024年11月23日

    希望本篇文章《人工智能与伦理:未来的机器能否有自己的道德观?》能对你有所帮助!

  • yuange
    yuange 2024年11月23日

    本站[盈余云朵]内容主要涵盖:生活百科,小常识,生活小窍门,知识分享

  • yuange
    yuange 2024年11月23日

    本文概览:  虽然我们离在战场上部署自主武器还有一些时日,但专家认为,各国研制出的机器人并不会具备道德观念。并且自主武器的系统自动化程度越高,受黑客入侵的风险也就越大。但有些国家已经开始...

    联系我们

    邮件:盈余云朵@sina.com

    工作时间:周一至周五,9:30-18:30,节假日休息

    关注我们