武邑县 汝城县 鄂尔多斯市 六枝特区 靖远县 滕州市 临朐县 化德县 平果县 连州市 越西县 万年县 平陆县 钟祥市 济源市 镇宁
遵义县 兴仁县 遂平县 新泰市 元谋县 藁城市 左权县 桦川县 广东省 永城市 武夷山市 南昌县 高清 铁力市 平塘县 绥滨县 镇原县 怀集县 深州市 福州市 红原县 高陵县

AI研究院 | 表现出种族主义倾向 有人为人工智能的偏见道歉

x
用微信扫描二维码
分享至好友和朋友圈

  

  编者按:《AI研究院》由网易智能频道发起,网易杭州研究院等机构共同参与打造,每周五篇,专注AI行业研究与深度分析,并提供技术应用交流。转载请联系我们获得授权,公号smartman163。

  【网易智能讯 4月27日消息】FaceApp是一款利用神经网络进行人像处理的软件,由于被指带有种族主义,该公司发表了道歉声明,要是所有的算法偏见都能这样轻易被发现就好了。

  这款软件会让用户上传一张自拍照或脸部的照片,通过不同的滤镜对照片进行修改,其中包括将人物的脸部变老,甚至是改变性别。

  问题是,它包含一个叫做“hotness”(热辣)的滤镜,这个滤镜有种族主义的嫌疑。正如用户所指出的那样,这个滤镜会把脸部肤色变浅,来达到它所谓的“美化”效果。大家可以将奥巴马总统照片在使用滤镜前后的效果进行对比。

  FaceApp的创始人兼首席执行官Yaroslav Goncharov在一份电子邮件声明中对这一种族主义算法道歉:“这无疑是个严重的问题,我们对此深表歉意,我们并不是有意为之,原因是训练集偏见导致潜在神经网络产生了副作用。为了解决这个问题,我们对这个滤镜重新进行了命名。我们还在研究更完整的方案,很快就会得到结果。”

  正如《卫报》在早些时候提到的,FaceApp在最近几周人气飙升,是否也在暗示着这款软件存在问题。

  FaceApp暂时将滤镜的名字“hotness”改为“spark”(亮化),不过,在开发出更好的替代品之前,将这款滤镜撤销也许才是明智的选择。也可能是这款软件太过火爆(每天新增约70万用户),对公司政策的制定造成了干扰。

  

  虽然支持FaceApp滤镜的人工智能技术包括一些开源库的代码,比如谷歌的TensorFlow,但Goncharov向我们证实,用于训练“hotness”滤镜的数据集是他们自己的,不是公共数据集。因此,FaceApp无法推卸责任。

  坦率地说,这是能够说明算法中存在偏见风险的最佳案例。

  机器学习模型的好坏取决于输入的数据,在FaceApp案例中,这支总部位于莫斯科的团队显然没有利用足够多的数据集来训练他们的算法。我们至少可以感谢他们这次用如此直观的方式展示了算法偏见的潜在问题。

  随着人工智能控制的系统越来越多,我们迫切需要一个算法问责制度,建立健全的系统,避免将人类的偏见植入机器中。自动化技术并不意味着“不受人类缺陷的影响”,任何不承认这一理论的开发人员都是在说谎。

  (英文来源/TechCrunch编译/机器小易 审校/日月沉香)

  

特别声明:本文为网易自媒体平台“网易号”作者上传并发布,仅代表该作者观点。网易仅提供信息发布平台。

跟贴 跟贴 6 参与 118
© 1997-2018 网易公司版权所有 About NetEase | 公司简介 | 联系方法 | 招聘信息 | 客户服务 | 隐私政策 | 广告服务 | 网站地图 | 意见反馈 | 不良信息举报

AI研究院

聚焦人工智能!

头像

AI研究院

聚焦人工智能!

691

篇文章

21096

人关注

列表加载中...
x

用户登录

网易通行证/邮箱用户可以直接登录:
忘记密码