马化腾担忧AI等带来科技伦理问题 究竟该怎么办

2019-03-07 15:34:00 来源: 科技日报社-中国科技网

本报记者 张盖伦

前段时间,一则短视频火了。网友用人工智能技术,将电视剧《射雕英雄传》中演员朱茵的脸换成了杨幂。这个杨幂版“黄蓉”毫不违和,古灵精怪,娇俏可人,你甚至都看不出视频有被处理过的痕迹。

技术非常好玩,让人跃跃欲试。而且,现在还有相关程序,只要你有足够的素材,有一台配置不错的电脑,就能完成一段“变脸视频”。

所以,眼见也不一定为实。

其他问题同样就在眼前:智能驾驶车已经充分利用了人工智能技术,有一定的自主能力。商用后,如果发生了意外,出现了事故,责任人是谁,法律主体怎么认定?是制造商、算法的开发商,还是使用者本人?全国人大代表、腾讯公司董事会主席兼首席执行官马化腾将他的顾虑一一道来。他告诉科技日报记者,新技术带来的科技伦理问题越来越热,但现在都没有明确规则,“因为太新了”。

人工智能正在渗透进你我的生活。它向你推荐餐厅,它为你进行搭配,它帮你筛选新闻,它还能替你选择伴侣……现在,它根据你的需求,能为你定制一段并不存在的视频。正如全国人大代表、天津大学党委书记李家俊所说,人工智能对数据的收集和挖掘,有可能侵害个人隐私甚至危害公共安全;而从宏观局面来说,人工智能技术的发展,还可能引发新产业革命和经济结构调整。

如何让这柄“双刃剑”在社会治理中发挥正向作用?马化腾给出的药方是,强化科技伦理的制度化建设。

在国家层面,他建议针对相关新技术制定伦理准则,对新技术应用进行引导和规范。马化腾说,行业主管部门可以与行业主体、学术团体、社会公众等多利益相关方合作,制定相关伦理准则,并支持行业自律,包括建立伦理审查制度、成立自律组织、制定行业标准等。在国际层面,应积极推动新技术领域的全球治理,参与国际标准、规则的制定,推动建立人工智能研发与应用的全球共同伦理框架,确保人工智能持续造福全人类和全世界的发展。

更具体一些来说,则要为相关人工智能应用建立安全标准,打击和人工智能相关的新型犯罪,为人工智能应用探索制定恰当合理的规则。

和马化腾一样,李家俊也建议建立相关伦理规约体系。在他看来,不同的主体,应发挥好各自的作用。

首先,是决策者立德。李家俊建议,由中国科协组织人工智能及相关领域专家学者制定我国的《人工智能伦理章程》,设置人工智能的伦理框架、道德准则,其次,由国家市场监管总局牵头,做好人工智能技术、产品的伦理审查,从技术层面做好人工智能的道德预设,“而研发者也要承担自己的责任”。今年政府工作报告中指出,要加强科研伦理。李家俊说,可以由科技部牵头,组建人工智能伦理委员会,对科研人员的社会责任、职业规范提供监督指导,并从制度上为人工智能研发明确禁区、划定边界、树立底线。

深度学习算法常被称作“黑匣子”,连算法设计者自己也不知其如何运作,更别说对其给出的运算结果进行解释。李家俊强调,应该提升人工智能算法的可解释性和可预测性,强化人机互动间的反馈信度、理解精度和执行效度,维护健康有序的人机关系,构建社会公序良俗。

“所有行业的高级发展、终极模式,最终都要跟AI结合。”马化腾表示,对人工智能发展中的伦理问题,可以先从研究和倡议开始。“这是第一步,但现在做得也还远远不够。”(科技日报北京3月6日电)

精选 导读

埃塞俄比亚737 Max 8客机坠毁 8名中国乘客遇难

当地时间3月10日,埃塞俄比亚航空公司一架737 Max 8客机在从该国首都亚的斯亚贝巴飞往肯尼亚首都内罗毕的途中坠毁,机上149名乘客及8名机组人员全部遇难。

发布时间: 2019-03-11 09:36
要闻   2019-03-11

iPhone今年三轮降价 部分降超2000元

自今年年初开始,iPhone已经经历三轮降价。最新一轮从3月5日开始,天猫、苏宁、京东等各大电商平台纷纷加入,降价最高超过2000元。

发布时间: 2019-03-08 10:30
要闻   2019-03-08

她经济:购买者正变为创业者和公益人

这是一个新的电商平台下的“她”故事:女性用户正在从购买者、销售者转变成创业者、社会公益参与者。愈强大,更温暖,女性因变强而担负起更多社会责任。

发布时间: 2019-03-08 10:29
要闻   2019-03-08

今年减税降费清单一览 企业轻装上阵迸发活力

我国有上亿市场主体,而且还在不断增加。把市场主体的活跃度保持住、提上去,是促进经济平稳增长的关键所在。政府工作报告提出

发布时间: 2019-03-07 10:38
要闻   2019-03-07

今年移动网络流量平均资费再降20%以上

电工信部部长苗圩5日在人民大会堂“部长通道”上说,今年移动网络流量平均资费再降低20%以上,中小企业宽带平均资费再降低15%,更好满足人民群众日益增长的消费需求。

发布时间: 2019-03-06 10:39
要闻   2019-03-06

油价“四连涨” 多地92号汽油重回“7元时代”

国内油价28日迎来“四连涨”,消费者出行成本不断增加。本次调价后,云南、四川等多地92号汽油重回“7元时代”。

发布时间: 2019-03-01 10:02
要闻   2019-03-01

去年减税超万亿 增值税税制将再优化

税收关系着国家的“钱袋子”,更关系着每个纳税人的“钱包”。每一项税制改革都牵动着人们的神经。

发布时间: 2019-03-01 09:38
要闻   2019-03-01

3月新规:罕见病药品迎降税 支付宝还信用卡要收费

首批21个罕见病药品减按3%征增值税、《国家级文化生态保护区管理办法》正式施行、3月底前再取消一批税务证明事项、支付宝还信用卡要收费……

发布时间: 2019-03-01 09:36
要闻   2019-03-01

四部门为重点群体创业就业减税 明确适用方式

据国家税务总局网站消息,近日,国家税务总局、人力资源社会保障部、国务院扶贫办、教育部印发了《关于实施支持和促进重点群体创业就业有关税收政策具体操作问题的公告》。

发布时间: 2019-03-01 09:34
要闻   2019-03-01

一批新规3月起实施 这21种救命药将迎减税

首批21种罕见病药品迎来减税,取消增值税发票认证的纳税人范围扩大,四川城镇职工医保卡可与家人共享,海南将逐步禁止销售燃油汽车……即将进入3月,又有一批新规将正式实施

发布时间: 2019-02-28 13:20
要闻   2019-02-28