AI技术能把互联网从假新闻中拯救出来吗

婷婷色播五月

ab546d68e94645adab28ba5249886dfc

有一句古老的谚语说“眼见为实”。 “但在人工智能时代,人们越来越难以理解任何事物的价值。

所谓的“深度假货”的崛起已经达到了国会上个月就该技术的潜在滥用举行首次听证会的程度。深度伪造是指使用不同类型的基于人工智能的技术来操纵视频内容。在国会进行调查的同时,Facebook首席执行官马克扎克伯格发布了一段剪辑视频,其中扎克伯格似乎正在做一个险恶的演讲。

科学家正在努力寻找解决深度欺诈的解决方案,而其他人正在继续改进他们的技术以实现更少的邪恶目标,例如为电影业自动化视频内容。

例如,在光谱的一端,纽约大学Tandon工程学院的研究人员提出使用识别操纵的照片和视频的神经网络植入数字水印。

我们的想法是将系统直接嵌入数码相机中。许多智能手机相机和其他数字设备都使用人工智能来提高图像质量并进行其他修正。纽约大学研究的作者表示,他们的原型设计平台将检测操作的几率从45%提高到90%以上,同时又不牺牲图像质量。

另一方面,卡内基梅隆大学的研究人员最近发现了一种技术,可以自动快速地将大量视频内容从一个源转换为另一个源。在一个例子中,科学家将喜剧演员约翰奥利弗的面部表情转移到了深夜节目主持人斯蒂芬科尔伯特戴着眼镜的脸上。

CMU的研究团队表示,这种方法可能会给电影业带来好处,例如将黑白电影转换为彩色电影,但他们也承认这种技术可用于制作深度假货。

文字对假新闻很重要

虽然目前的重点是打击视频和图像处理,但学术界,非营利组织和科技行业正在开展一场针对假新闻的长期争夺战。

这不是某些人对基于事实的信息的潜意识反应,这些信息可能不那么恭维报告的主题。相反,虚假新闻是故意创建的虚假消息,通过互联网传输。

根据皮尤研究中心最近的一项民意调查,美国人认为假新闻比暴力犯罪,种族主义和恐怖主义更严重。幸运的是,许多用于确定人们被故意欺骗的语言工具可以包含在识别假新闻的算法中。

密歇根大学(U-M)的一个研究小组使用这种方法开发了一种算法,通过专注于语法结构,单词选择和标点符号,可以更好地识别假新闻而非人类。 76%对70%。

例如,假新闻通常充斥着夸张和夸张,使用诸如“压倒性”或“非凡”之类的术语。

密歇根大学计算机科学与工程系教授Rada Mihalcea在接受Singularity Hub采访时表示,“我认为这是一种弥补新闻不真实的方法,所以我必须做用我正在使用的语言来表达它。“

她说,题为《虚假新闻的自动检测》的论文是基于团队之前的研究,人们通常如何撒谎,但不一定是传播虚假新闻的意图。

Mihalcea指出,“欺骗是一种需要脑力的复杂现象。” “这通常会导致更简单的语言,更短的句子或更短的文档。”

人工智能与人工智能

Mihalcea表示,虽然大多数假新闻仍然由具有可识别谎言模式的人类产生,但其他研究人员已经期待检测有关机器制造的虚假信息。

由Yejin Choi,艾伦人工智能研究所和西雅图华盛顿大学领导的团队就是这样一个团队。研究人员最近向全世界介绍了Grover,这是一个人工智能平台,尤其擅长捕获自动生成的假新闻,因为它也擅长制作虚假新闻。

“这是因为可能违反直觉的发现。神经学假新闻的强大发生器本身就是它强大的探测器,”Rowan Zellers在一篇媒体博客文章中写道。 Zeller是一名博士生,也是该团队的一员。 “虚假新闻的制造者将最熟悉他们自己的特征,例如使用太常见或可预测的词语,以及类似类似发电机的特征。”

该团队发现,最好的识别器目前能够将人工合成的真实文本与神经学假新闻分类,准确率为73%。 Glover接受了5000个神经网络生成的假新闻样本的培训,准确率为92%。泽勒写道,格罗弗做得更好。当他培训了80,000篇文章时,他确定了97.5%的机器。

它对假新闻的表现几乎与GPT-2创建的虚假新闻一样好,GPT-2是由Elon Musk创建的非盈利性研究实验室OpenAI开发的强大的新文本生成系统。

OpenAI非常担心这个平台会被滥用,因此它只发布了该软件的限量版本。用户可以使用机器学习工程师Adam King发布的缩放版本。用户输入一个简短的提示,gps -2将根据文本剪辑弹出一个短篇小说或一首诗。

没有银AI子弹

英国创业公司的外部经理雨果威廉姆斯表示,尽管打击假新闻取得了切实进展,但使用人工智能检测和纠正虚假信息仍存在许多挑战。该公司正在使用深度学习和自然语言处理等不同元素来开发不同的探测器。他解释说,逻辑模型分析信息是基于三管齐下的方法。

发布者元数据:本文是否来自已知,可靠且受信任的发布者?

网络行为:本文是否以一种通常与错误消息相关联的方式在社交平台和网络中传播?

内容:人工智能扫描文章中的数百个已知指标,通常可在错误消息中找到。

威廉姆斯在给Singularity Hub的电子邮件中写道,“没有算法可以做到这一点。” “即使你有一套不同的算法,当它们合并时,你可以给你一个相对不错的指示告诉你什么是不可靠的,什么是完全错误的,但总有一层人工智能。”

今年2月,在印度大选前夕,该公司在印度发布了一个消费者应用程序。这是一个“伟大的试验场”,旨在改进今年晚些时候在英国发布的下一个应用程序的技术。用户可以提交文章供真人进一步审核。

威廉姆斯称:“我们相信我们的技术不能替代传统的验证工作,而是一种简化和简化非常手动流程的方法。” “通过这样做,我们可以比其他组织快得多。发布更多事实检查。”

他添加了:“通过对用户阅读的故事和添加更多上下文信息的深入分析,我们没有告诉用户他们应该相信或不应该相信什么,而是鼓励他们建立在可靠性,可信度和验证的基础上。内容。“

人工智能可能永远无法完全独立地检测虚假新闻,但它可以帮助我们更智能地理解我们在互联网上阅读的内容。