日前,2017世界机器人大会在京闭幕。其中最吸引观众眼球的是为期5天的机器人博览会,各类智能机器人让人大开眼界。“长了”53根手指的钢琴机器人,可以精准地演奏任何通过软件输入系统的曲谱,弹奏能力超越人类极限;身形小巧圆润、会走路能交谈的NAO机器人一亮相,让人不禁想到电影《机器管家》里智慧深情的机器人安德鲁;还有可“走”进人体、为人类做手术的达芬奇机器人……

　　然而,就在2017世界机器人大会开幕前两天,埃隆·马斯克等116名全球人工智能和机器人公司创始人发布联名公开信,呼吁联合国采取行动禁止“杀手机器人”扩散。公开信指出:“人工智能武器一旦发展起来,会令武装冲突的激烈程度跃升到前所未有的层级,而且会以人类难以想象的速度进化。”

　　从前后两则新闻的内容不难看出,人工智能具有双面性。新一代人工智能的崛起,在给人类带来惊喜和更高生产力的同时,也引发了不少担忧。什么样的人工智能是人类需要的?如何避免人工智能挑战人类安全或社会伦理道德?记者就此进行了采访。

　　人工智能怎么区分“对”与“错”

　　人工智能早已在金融、医疗、广告、军事等领域被广泛应用,引发人们对人工智能讨论与担忧的导火索,是自动驾驶汽车的面世。

　　当一辆自动驾驶汽车行驶在马路上,它需要根据实时路况,自主作出决策。红灯停、绿灯行,黄灯亮了等一等,看到行人还要让行。如果这些技术性动作都能够做到,那当它遇到类似“电车困境”的情景,会如何选择呢?

　　设想一下,有五位行人突然出现在一辆急驶的自动驾驶汽车前面,在来不及刹车的情况下,自动驾驶汽车可以沿着既定路线行驶,这样可能会撞死这五名行人;它也可以临时转向,但会撞上旁边的绿化带,这样可能会让它的乘客丧命。此刻,这辆汽车该如何抉择?

　　中国社科院哲学所研究员段伟文指出,新一代人工智能是以大数据为驱动,其核心是算法。自动驾驶汽车在行驶中的每一个决策,都是通过算法设定好的。数据和算法并非完全客观,数据的采集、标注和算法的设计往往负载着价值。因此,数据解读中的价值取向和算法设计中的伦理考量,是决定人工智能区分道德上“对”与“错”的关键。

　　“人们对自动驾驶汽车这类智能机器的担心,主要源于对其算法的不了解。不知道在遇到特殊的情景时,会以怎样的优先次序进行决策。”段伟文认为,可引入医学伦理中的“知情同意原则”,即人们在购买自动驾驶汽车时,就知道它会按怎样的优先次序去做。比如功利论算法的汽车,以伤害最小化为决策原则。相比于撞到五个行人,它会选择伤害车上的一名乘客。而道义论算法的汽车,则以行为的道德正义性作为决策原则。

　　段伟文进一步指出,人类都没有解决的“电车困境”难题,人工智能自然也很难给出完美答案。但是人工智能有可能基于它的海量数据和迅速反应能力,避免出现类似“电车困境”的情景。