人工智能与伦理:未来的机器能否有自己的道德观?

  虽然我们离在战场上部署自主武器还有一些时日,但专家认为,各国研制出的机器人并不会具备道德观念。并且自主武器的系统自动化程度越高,受黑客入侵的风险也就越大。但有些国家已经开始在战场上使用无人运输机了,如图中所示的“收割者”无人机。

  为了让机器人具有“道德观念”,研究人员可以在编程时写入一些特定指令,防止它们成为害群之马。图为福斯特?米勒“魔爪”机器人,上面配备了多种武器。但专家认为,一旦它具备了一定的自动化程度,就有可能反叛人类的指令,攻击错误的目标。

  新浪科技讯 北京时间4月7日消息,在战场上使用自主武器能够大大减轻军人的负担,但有专家警告称,自主武器会对我们的安全造成一定的威胁。

  研究人员在今年1月于瑞士达沃斯举办的世界经济论坛上表示,他们很担心这些战争机器会被用于不道德的军事行动中,成为黑客操纵的工具。

  与完全受人类控制的无人机不同,未来的自主武器或许可以自己选择并攻击目标。

  “这是我们去年提出的一系列新问题之一。”新南威尔士大学计算机科学与工程学院的人工智能教授托比?沃尔士(Toby Walsh)说道,“我们中的大多数人都认为,我们还没有能力制造有道德意识的机器人。最令人担忧的是,很多国家在最近这几年内就会将机器人用于实战当中,而我相信这些机器人都是没有道德观念的。”

  为了让机器人具有“道德观念”,研究人员可以在编程时写入一些特定指令,防止它们成为害群之马。

  例如,科幻小说作家艾萨克?阿西莫夫(Isaac Asimov)就曾写过一则名为《环舞》(Runaround)的短篇小说,其中提出了主宰机器人行为的三大定律。

  “第一,机器人不得伤害人类,或因其不作为而使人类受到伤害。”

  “第二,机器人必须遵守人类发出的指令,除非该指令违反了机器人第一定律。”

  “第三,只要保护措施不违背第一或第二定律,机器人就必须尽可能地保护自己。”

  虽然专家们认为这几条定律能帮助我们研发具有道德意识的机器人,但要在设计中运用这几条定律,最终还是要依靠机器人的创造者。

  还有些人认为,我们的担心纯属多余。

  《钢铁侠2》中的机器人(如图所示)也许和现实的差距并不大,但专家担心,一旦它们落入黑客手中,势必会在战场上引起严重的骚乱。专家们担心的不只是机器人设备本身,他们更担心黑客会侵入整个无人武器系统。

  不管自主武器是否受人类控制,自主武器的系统自动化程度越高,受黑客入侵的风险也就越大。图为MQ-9“死神”无人机,一旦受到黑客入侵,就可能对错误的目标发起攻击。

  “首先,这样的武器目前还不存在,”新美国安全中心伦理自治项目的首席研究员和主管保罗?斯加瑞(Paul Scharre)说道,“大多数武器系统还没有达到这样的智能水平,即使是最先进的系统也只能通过纠正来帮助我们击中目标,而无法自行选择目标。”

  斯加瑞还指出,即使我们可以在战争中使用自主武器,要生产出符合交战规定的武器,也不是件容易的事情。

  “就算它们的操作是合法的,自主武器还会带来严重的道德和伦理问题。让一台机器掌握生死大权,这样做真的正确吗?”斯加瑞说道。

  “另外,就算自主武器是合法的、且符合道德的,它们也可能非常危险。万一出现机器故障,或是敌军黑进了自主武器系统,都会造成非常严重的后果。”

  目前还没有任何国家使用自主武器,但有些国家已经开始在战区部署无人运输工具了。

  如果黑客侵入了自主武器的防御系统,就可能在战场上引发可怕的骚乱。

  “研究人员正在努力加强数据链接的编码,让自主武器与控制者之间的连接更加安全。” 《简氏国际防务评论》(Jane's International Defence Review)的编辑休?威廉姆斯(Huw Williams)说道,“但无论这些编码完善与否,担心都仍然存在,而且数据链接还是有被破坏的危险。”

  不管自主武器是否受人类控制,自主武器的系统自动化程度越高,受黑客入侵的风险也就越大。

  责任编辑:翟帅

  来源:新浪科技

本文来自作者[yuange]投稿,不代表秦娱网立场,如若转载,请注明出处:https://jinridb.com/wiki/202411-598.html

(24)

文章推荐

  • 12年汉兰达27l油耗高吗 汉兰达2012款报价

    12年汉兰达27l油耗高吗高,汉兰达27排量真实油耗应该在10公升左右。汉兰达作为一汽丰田旗下的一款大型suv,质量非常好,这台二0一二款的汉兰达搭载的是2.7L自然吸气发动机,排量比较大,车身自身重量较大,所以油耗也相对较高,正常行驶百公里油耗约10公升左右。12年汉兰达一年贬值多少2012年的

    2024年10月22日
    114
  • 想要开一家火锅店,多少平米比较合适呢 开一家火锅店多少钱

    想要开一家火锅店,多少平米比较合适呢我建议是300平米火锅店比较合适!火锅店加盟投资主要分为五大基本费用成本,品牌合作费、店面租金、设计装修费、设备设施费用、运营成本。根据不同的城市部分费用有所出入。通过这五项成本的估算就可以大致计算出加盟一个火锅店多少钱,以开一家300㎡火锅店为例,为大家实际分

    2024年10月25日
    46
  • 世界历史的10个重大转折点

        志愿填报中的“专业”,是个比较笼统的概念。广义上的专业可以是“学科门类”,比如“经济学类”;狭义上的专业则更为具体,比如经济学类里面的“金融工程”。实际上,本科专业包括法学、工学、管理学、教育学、经济学、理学、历史学等12个专业大类,每个大类下面还细分了很多学科和专业。小编以学科为线索,盘点

    2024年11月23日
    25
  • 大脑的奥秘:神经科学的最新进展

      图片来源:百度图片  ATEINSTEIN'sautopsyin1955,hisbrainwassomethingofadisappointment:itturnedouttobeatadsmallerthantheaverageJoe's.Indee

    2024年11月23日
    29
  • 关于世界历史上的文化变革的信息

    2亚洲的东方文化中国日本韩国等东方文化在历史上也有着自己独特的发展历程从封建社会到现代化进程中,东方文化经历了许多变革,包括思想观念艺术风格等方面3美洲文化美洲文化包括北美中美和南美的文化,主要由印第安人欧洲殖民者和非洲奴隶的文化影响构成在这个文化体系中,音乐舞蹈;同时刘裕改革在我国古代经济重心南移

    2024年11月23日
    27
  • 化学反应的类型与过程

    1、一化合反应由两种或两种以上的物质生成另一种物质的反应,叫化合反应初中常见化合反应主要有1非金属单质与氧气生成非金属氧化物如2H2+O2=H2O其它非金属如硫磷碳等都可以与氧气反应生成非金属氧化物2金属与氧气反应生成金属氧化物如3Fe+2O2=Fe3O4其它金属。2、2分解反

    2024年11月23日
    20
  • 包含非洲国家加强公共卫生合作,解决卫生资源分配不均问题的词条

    索马里长期政局不稳,缺乏中央政府领导,导致经济无法有效运转,甚至陷入瘫痪状态,此政治不稳定直接影响了经济运作,导致失业率上升,内战引发的大量难民流离失所,为海盗活动提供了人力资源,进一步恶化了失业问题8纳米比亚失业率2037纳米比亚失业率高企的根本原因在于经济增长缓慢资源分配不均教育;3人为原

    2024年11月25日
    21
  • 中国成功发射新一代卫星,提升全球通信能力

    2017年4月12日,中国在西昌卫星发射中心采用长征三号乙运载火箭成功发射实践十三号卫星,卫星完成在轨试验后被命名为中星16号这是我国首颗高通量通信卫星,通信总容量超过20G,真正意义上实现了自主通信卫星的宽带应用这项技术的突破,意味着未来通过通信卫星可以随时随地实现宽带上网现在飞机上大家都;中国航

    2024年11月26日
    27
  • 关于美国宣布制裁伊朗多个高官,指责其干涉内政的信息

    在美国看来,伊朗央行行长是支持恐怖主义的,伊朗政府应该制裁这个人,这是伊朗政府对国际社会的义务但是,既然伊朗政府没有制裁他,美国就要代为制裁从这个逻辑上看,如果美国关于伊朗央行行长涉恐的情报属实,美国的制裁是不存在问题的但是另一方面,联合国大会出台了多个决议反对单边制裁,如关于排。美国对伊朗实施制

    2024年11月26日
    27
  • 京ICP证030367号-1

    号是增值电信业务经营许可证,简称icp许可证,是指经营性网站需要办理的从业证书,办理icp许可证,根据企业地理位置的不同,办理费用也是不同的,比如广州,深圳,上海等地,主管部门对于网站内容审核较严,审批也比较难,大致费用在2万元左右相比以上地区,如河南,河北北京等地,申请只。这个当然了,还用问,中

    2024年12月15日
    38

发表回复

本站作者后才能评论

评论列表(4条)

  • yuange
    yuange 2024年11月23日

    我是秦娱网的签约作者“yuange”!

  • yuange
    yuange 2024年11月23日

    希望本篇文章《人工智能与伦理:未来的机器能否有自己的道德观?》能对你有所帮助!

  • yuange
    yuange 2024年11月23日

    本站[秦娱网]内容主要涵盖:生活百科,小常识,生活小窍门,知识分享

  • yuange
    yuange 2024年11月23日

    本文概览:  虽然我们离在战场上部署自主武器还有一些时日,但专家认为,各国研制出的机器人并不会具备道德观念。并且自主武器的系统自动化程度越高,受黑客入侵的风险也就越大。但有些国家已经开始...

    联系我们

    邮件:秦娱网@sina.com

    工作时间:周一至周五,9:30-18:30,节假日休息

    关注我们