无障碍链接

中国时间 1:00 2018年8月18日 星期六

专家警告人工智能本身存在缺陷和潜在社会风险


中国北京天安门广场上的摄像头

基于算法(algorithm)的人工智能已经成为科技行业的热门词汇,中国更是将人工智能用于“社会信用”体系建设。有科技政策专家警告,人工智能技术本身存在缺陷,造成的错误将产生政治影响和社会影响。

法国战略分析家尼古拉·米埃勒(右二)2018年6月12日在华盛顿布鲁金斯学会参加研讨会(美国之音叶林拍摄)
法国战略分析家尼古拉·米埃勒(右二)2018年6月12日在华盛顿布鲁金斯学会参加研讨会(美国之音叶林拍摄)

法国战略分析家、哈佛大学肯尼迪政府学院高级访问学者尼古拉·米埃勒(Nicolas Miailhe)说,人工智能的运作是由大数据驱动、以机器学习为核心的算法系统。他对美国之音说:“只要我们对人工智能的运作的细节动态、也就是大数据驱动、以机器学习为中心缺乏了解、对人工智能的算法系统及其潜在的政治意义缺乏了解,我们就有可能会犯错误。”

中国搜集整理“大数据”,用人工智能技术分析人们在网络和现实社会的行为、习惯和喜好,试图打造一个“让失信者寸步难行、让守信者一路畅通”的所谓“社会信用”体系。中国官方媒体报道说,自社会信用系统试行以来,700多万人因为“失信”在买机票时受到限制、200多万人买高铁车票受限。

米埃勒认为,人工智能分析是根据人们留下的“电子踪迹”重新构建新的个体。他说:“你留下了电子踪迹,这些只是你的踪迹,他们不能反映你真实自己的复杂度、强度、和你这个人的具体细节。(人工智能)用算法把这些电子踪迹投射并创建出新的解决方案。”

他对美国之音说:“从某种意义上来说,我们搜集人们的电子踪迹、将这些踪迹用算法反映到现实,这个过程中会丢失一些信息。你作为一个人,远远比你的电子踪迹和相关的推论所描述的多得多。”

米埃勒认为,人工智能算法的兴起给社会带来了新的机遇,同时带来挑战。

中国2012年开始在部分地区试行社会信用系统,希望在2020年以前全面建成。但这个系统将由谁来管理、被判“失信”的个人能否提出异议以及系统本身的合法性目前尚无定论。

人权活动者担心,人工智能技术可以被中国政府用于加强国家控制、打击不同政见者。

中国为人工智能发展制定了战略目标,希望到2030年达到世界领先水平。外界认为,对个人数据隐私保护的缺失和无处不在的监控设备采集到的大量数据有助于“训练”算法。

您的意见

显示评论

XS
SM
MD
LG