WAP手机版 RSS订阅 加入收藏  设为首页
99真人官方网站
当前位置:首页 > 99真人官方网站

99真人官方网站:防范人工智能作恶

时间:2021/1/4 14:56:46   作者:   来源:   阅读:105   评论:0
内容摘要:“未来10—20年,AI技术将渗透至与人类密切相关的领域,比如医疗、司法、生产、金融科技等风险敏感型领域,AI技术如果犯错,就会造成较大系统风险。”2020年12月29日,在未来科学大奖周举办的“青年对话”活动中,清华大学计算机系长聘副教授、中国科协全国委员会委员崔鹏说。&ems...
“未来10—20年,AI技术将渗透至与人类密切相关的领域,比如医疗、司法、生产、金融科技等风险敏感型领域,AI技术如果犯错,就会造成较大系统风险。”2020年12月29日,在未来科学大奖周举办的“青年对话”活动中,清华大学计算机系长聘副教授、中国科协全国委员会委员崔鹏说。

  活动中,腾讯科学技术协会秘书长张谦表示,面对AI技术所引起的风险问题,首先应该关注的是守住AI产品底线,即避免技术作恶。

  在这方面,美团首席科学家夏华夏认为,法律法规方面需要做大量工作,包括制定AI行业的标准、规范,以及从国家层面完善、出台相关法律法规,从而对AI技术发展进行把控。

  谈及AI标准化的实践,中国人民大学法学院副教授、未来法治研究院社会责任和治理中心主任郭锐提到两个原则——人的根本利益原则和责任原则,“这两个原则的宗旨是让AI的决策和行动尽可能通过人的干预来避免对人的伤害”。

  “徒法不足以自行。”郭锐坦言,法律本身也存在局限,规避AI技术潜在风险,需管理者对AI技术有透彻的了解,这样才能对其进行有效管制,“法律是建立包容性社会的重要工具,法律界要和企业、技术等方面专家合作,这样通过法律来对AI技术进行管理约束的目标才能达成。”

  星界资本管理合伙人方远认为,各大核心数据平台处于AI风险管理的重要位置,“在互联网和大数据时代,大平台是数据的采集者也是守护者。务必要对数据使用权做出清晰界定,这对整个社会的AI发展有重要意义”。

  “AI技术的风险治理需要科技工作者、企业管理者、政策制定者、相关法律专家以及投资人多方努力。”中科院计算所研究员山世光说。

  除了守住底线,与会者还提到,要厘清边界,引导技术向善。

  崔鹏指出,犯错并非AI特有的风险,人也会犯错。“但人犯错大多数可控、可预测。而目前AI技术犯错的话是不可预测的,或者犯错后人们会发现其犯错机制是无法从技术层面解释的。这涉及到AI在决策和行为上的边界问题。”

相关评论

本类更新

本类推荐

本类排行

本站所有站内信息仅供娱乐参考,不作任何商业用途,不以营利为目的,专注分享快乐,欢迎收藏本站!
所有信息均来自:百度一下(99真人沪ICP备15045449号-5