人工智能如何检测 - 并创造 - 假新闻 2017-09-02 14:09:05

$888.88
所属分类 :金融

当马克扎克伯格告诉国会Facebook将使用人工智能来检测社交媒体网站上发布的假新闻时,他并没有特别明确这意味着鉴于我自己的工作使用图像和视频分析,我建议公司应该小心尽管有些基本的潜在缺陷,人工智能可以成为发现在线宣传的有用工具 - 但它也可能非常善于创造误导性材料研究人员已经知道,在线假新闻的传播速度比真实新闻更快更广泛我的研究同样发现在线具有虚假医疗信息的帖子比具有准确医疗内容的帖子获得更多观看,评论和喜欢在观看者关注度有限并且内容选择饱和的在线世界中,通常看起来假信息对观众更具吸引力或吸引力情况越来越糟:到2022年,发达经济体的人们可能会遇到更多的假新闻真实的信息这可能会带来研究人员称之为“现实眩晕”的现象 - 计算机可以产生如此令人信服的内容,以至于普通人可能很难弄清楚什么是真的

检测虚假的机器学习算法,一种类型的AI,已经几十年来成功打击垃圾邮件,通过分析邮件的文本并确定特定邮件是真实通信的可能性 - 或者是大规模分发的药品招揽或声称长期失去的财富反垃圾邮件中的文本分析类型,人工智能系统可以评估帖子的文本或标题与某人在线共享的文章的实际内容的比较

另一种方法可以检查类似的文章,看看其他新闻媒体是否有不同的事实类似的系统可以识别传播假新闻的特定帐户和来源网站

无尽的循环然而,t软管方法假设传播虚假新闻的人不改变他们的方法他们经常改变策略,操纵假帖子的内容以努力使他们看起来更真实使用AI来评估信息也可以暴露 - 并放大 - 社会中的某些偏见这可能与性别,种族背景或邻居刻板印象有关甚至可能产生政治后果,可能会限制特定观点的表达例如,YouTube已经切断了某些类型视频频道的广告,花费了他们的创作者资金上下文也是关键词的含义随着时间的推移可以改变同一个词在自由主义网站和保守主义网站上可能意味着不同的东西例如,在更自由的网站上使用“维基解密”和“DNC”这两个词的帖子可能更有可能是新闻,而在保守派网站上可以提到一组特定的阴谋理论在美国总统唐纳德期间,一个标志着“假新闻”特朗普于2018年4月29日在密歇根州华盛顿举行的美国再次集会上发表讲话照片:Joshua Roberts /路透社使用人工智能制作假新闻使用人工智能检测假新闻的最大挑战是它将技术应用于与自身的军备竞赛机器学习系统已经证明有能力创造所谓的“深度伪造” - 照片和视频逼真地取代一个人的脸与另一个人的脸,使其看起来,例如,一个名人被拍摄在一个揭露姿势或公众人物正在说他从未真正说过的事情即使智能手机应用程序也能够进行这种替代 - 即使没有好莱坞级的视频编辑技能,这种技术几乎可供所有人使用,研究人员已经准备好使用AI识别这些AI创建的假动作例如,视频放大技术可以检测人类脉搏的变化,从而确定是否有人进入一个视频是真实的或由计算机生成的但是faker和假探测器都会变得更好一些假货可能变得如此复杂以至于它们变得非常难以反驳或解散 - 不像前几代假货,它使用简单的语言并且容易被驳斥智力是真正的关键打击假新闻传播的最佳方式可能是依赖于人们假新闻的社会后果 - 更大的政治两极分化,更多的党派偏见以及对主流媒体和政府的信任受到侵蚀 - 具有重要意义 如果更多的人知道赌注很高,他们可能会更加警惕信息,特别是如果它更基于情感,因为这是引起人们注意的有效方式当有人看到一个激动人心的帖子时,那个人会更好地调查信息,而不是立即分享信息共享行为也为一个帖子提供了可信度:当其他人看到它时,他们注册它是由他们认识的人共享,并且可能至少信任一点,并且不太可能注意到原始来源是有问题的YouTube和Facebook等社交媒体网站可以自愿决定标记他们的内容,清楚地显示一个声称是新闻的项目是否由信誉良好的来源验证扎克伯格告诉国会他想动员Facebook用户的“社区”直接他的公司的算法Facebook可以众包来源验证工作维基百科还提供了一个模型,专门的志愿者跟踪和验证信息Facebook可以利用其与新闻机构和志愿者的合作伙伴关系来培训人工智能,不断调整系统以响应宣传员在主题和策略上的变化这不会捕捉到在线发布的每一条新闻,但它会使大型网站变得更容易从虚假中讲述事实的人数这可以减少虚构和误导性故事在网上流行的可能性令人放心的是,那些接触到准确新闻的人更善于区分真实和虚假信息关键是要确保至少人们在网上看到的一些事实上是真实的Anjana Susarla是密歇根州立大学信息系统副教授这篇文章最初出现在The Conversation中阅读原文这里Logo Photo:The Conversation