纳金网

标题: 谷歌要用人工智能清理网络侮辱性言论 [打印本页]

作者: xuefuhui 时间: 2016-9-21 10:45
标题: 谷歌要用人工智能清理网络侮辱性言论

人工智能的一小步，人类的一大步，先从对付网络上的暴力或侮辱性言论开始吧。

当我们讨论人工智能的时候都在讨论什么？取代人类工作、取代您的性伴侣、在围棋上打败人类的顶级高手……当然，还包括取代你的保姆之类的话题。

这么恢弘壮阔的愿景还是先暂且搁置一边吧。根据《连线》杂志的报道，谷歌这次并不想用波士顿动力学的机器人或机器狗炫耀肌肉（何况已经准备出售了），它打算推出一款采用人工智能技术的新软件来净化网络环境，对付网络骚扰，尤其网络上各种尖酸刻薄或侮辱性的言论。

这款软件叫Conversation AI，由谷歌子公司Jigsaw开发，Jigsaw在今年2月份从谷歌的组织架构调整中分拆出去、独立运作。

Conversation AI的首批用户是《纽约时报》，将在其网站的评论版块进行测试。据悉，维基百科对这款软件也是春心大动，但何时、如何使用这款软件还不得而知。

根据报道，Conversation AI可以利用机器学习技术自动跟踪侮辱性的言论，并对其攻击性进行评分，从0-100分，分数越高表明该言论的伤害性越高。它能自动标识侮辱性的言论，训斥骚扰别人的人，或自动删除污言秽语，它甚至能够在这些侮辱性的言论被其攻击目标看到之前就删掉它们。

据悉，Conversation AI软件目前的识别准确率仅有92%，在获得大量的样本和数据后，这一准确率或将得到显著改善。

这款软件最终有望开源，如果能够有效利用，它将对各种网站或社交媒体平台带来不可估量的价值。

不说国外，就说国内的微博上的各种垃圾言论就可以得到有效清理。比如最近的一个例子，乔任梁去世后，很多脑残网友跑到乔任梁生前好友陈乔恩的微博评论区进行言语攻击，问她为何不表达哀悼，用暴力言论裹挟。如果有了这项人工智能监测、清理技术，至少可以过滤掉那些极端恶毒甚至带有人身攻击的言论。

而很多明星、名人经常在微博上遭到网友的道德绑架，人工智能技术或可改善这种糟糕的舆论环境。

当然还有很多网站也存在这种情况，包括以地域歧视著称的某门户网站的评论区将得到很大的缓解。

但遗憾的是，谷歌的这项技术估计因为众所周知的原因，它将遗憾地不能在国内使用。那么，国内的哪家公司会推出类似的技术呢？可能最合适的是经常被拿来跟谷歌进行比较的百度，并且百度今年以来在努力转型、大力发展人工智能技术。但它会做出这种有公益性质的产品吗？或许它最应该推出的是一款能够自动识别虚假广告的人工智能技术，以避免网友在浏览、搜索过程中陷入某种信任盲区。

谷歌已经在行动了，国内呢？

欢迎光临纳金网 (http://old.narkii.com/club/)