400-993-9779
展开搜索 确认搜索

当前位置: 首页 > 新闻 > 行业动态

世界电信日为何强调人工智能“正当使用”

责任编辑:来源新华网 点击:167 发表时间:2018-05-18

无人超市、自动驾驶、机器诗人”……近年来,人工智能在全球多个领域掀起智慧革命517日是世界电信和信息社会日,国际电信联盟将今年的主题确定为推动人工智能的正当使用,造福全人类


为何要如此强调人工智能正当使用”?因为,人工智能的突破犹如双刃剑正当使用可以为社会发展提供新动能、造福人类,而滥用则可能带来无穷隐患。

今年4月,联合国《特定常规武器公约》政府专家小组在瑞士日内瓦召开会议,讨论致命自主武器系统研发,即杀手机器人可能带来的影响。人工智能界的专家学者及防务分析人士一致认为,军事机器人革命带来的伦理、法律及政策等问题,尤其是自主武器能否自行判断杀敌,是令人担忧和亟需讨论的现实问题。

实际上,警惕杀手机器人的呼声早已形成。在2017年人工智能国际会议上,有硅谷钢铁侠之称的马斯克、苹果联合创始人沃兹尼亚克、研发阿尔法围棋的深度思维公司创始人哈萨比斯等科技界名人曾签署公开信,呼吁联合国应像禁止生化武器一样,禁止在战争中使用致命的自主武器和杀手机器人

大多数专家学者认为,人工智能迅速发展给社会各领域带来深远影响,对军事作战系统研发也带来全新理念,但就使用致命武器而言,人应当是负责启动的关键要素。什么样的人工控制才是最适宜的,相关讨论仍在持续进行。

通常一种新技术的适用范围越广,被滥用的风险越高。人工智能在一个个领域攻城略地,推动产业变革,但也令人对其高速发展所带来的未知性心存忧虑。

被美国《麻省理工学院技术评论》评为全球十大突破性技术之一的对抗性神经网络,旨在突破人工智能想象力、创造力的瓶颈。但在展现巨大潜力的同时,这项技术发展的负面影响也不容忽视。

在相关试验中,美国芯片企业英伟达的研究人员用明星照片训练出一套系统,进而生成了数百张根本不存在、但看起来很真实的人脸照片。还有研究团队让系统生成看起来十分逼真的梵高油画。

专家提醒,不法分子可能利用此类系统制造出图片甚至视频来混淆视听,给监管、安全带来新挑战。这一领域的技术先驱、美国科学家伊恩·古德费洛就表示,他当前的研究重心已经转向如何避免这类技术的滥用问题,希望它不至误入歧途

任何一种新技术的出现,人们在充分享受其带来福祉的同时,也必须及时防范相关风险。如何进行适当引导和管理,同样考验人类智慧。

科学家一直希望以最简单的办法,保证以机器人为代表的人工智能不给人类带来任何威胁。人们最熟悉的莫过于科幻作家阿西莫夫设计的机器人三定律。美国机器智能研究院奠基人尤德科夫斯基也提出了友好人工智能的概念,认为友善从设计伊始就应当被注入机器的智能系统中。

不少专家建议,除了设计和建造要遵循技术规范,还可由政府有关部门牵头,成立由技术专家、社会科学研究人员、政府管理人员为核心的人工智能管理委员会,对涉及人工智能的研究和开发项目进行审核评估。

与生物技术、核技术相比,目前对人工智能领域的监管依然薄弱。如何对可能形成的负面影响未雨绸缪、为技术发展划出法律和伦理道德的边界,已经迫在眉睫。如何让人工智能更好地服务人类社会,也是世界范围内的一项共识。

去年7月,中国国务院发布的《新一代人工智能发展规划》就提出,建立人工智能法律法规、伦理规范和政策体系,形成人工智能安全评估和管控能力

中国科学技术大学机器人实验室主任陈小平教授认为,要规范人工智能发展,首先要把基础技术研究好,未雨绸缪,需要我们走到前列,才能有发言权,有具体的思考和对这一领域的深刻知识,才能具备治理的能力,进而提出我们自己的意见和规则

售前咨询 建站在线咨询 售后咨询 QQ : 97494357 电话沟通 热线 :400-993-9779 站内搜索

咨询热线

400-993-9779

[email protected]

北京市海淀区光耀东方广场N座7层

时代创信公众号

扫一扫