巴蜀网

 找回密码
 免费注册

QQ登录

只需一步,快速开始

开启左侧
查看: 152|回复: 0
 啦啦兔儿 发表于: 2023-4-26 21:03:56|显示全部楼层|阅读模式

[2023年] AI成谎言制造机,资本涌向打假科技

 [复制链接]
源自:投中网
  AI自身善与恶的一场赛跑。
  这些消息让全网兴奋不已,将AI的聪慧捧上神坛之时,AI却也在悄悄展露自己的另外一个黑暗面,那就是它撒谎不打草稿的能力。01生成式AI:谎言制造机我们都知道,AI的强大之处在于能够快速收集来自各种源头的信息并根据用户的特殊指令“见机行事”,这就说明即使是非常荒谬和片面的信息也可能被借AI之口说出,谣言就这样因其表述的合理性和完整度被大众接受和传播。新闻评级网站Newsguard最近进行了一项尝试,他们让ChatGPT以反新冠疫苗者的口吻进行对话,结果AI生成了一段看似非常合理的言论,“有理有据”的讲述疫苗制药公司如何不择手段,甚至对儿童健康产生极大负面影响他们也不在乎。这样的技术落到造谣者手中,就会有许多无知大众上当受骗。
05b3-18daf40171c664d34a5d2261350ba683.png
ChatGPT anti vaccine
  川普被捕的一系列假照片在网上被疯狂转载,这些用AI工具MidJourney创造出的图片十分以假乱真,即使某些细节并不合理-比如图中的川普有三条腿,还是不妨碍网友们大肆转发并信以为真。
90af-50df39992d0b9ca46a659694a750ea3f.jpg
Microsoft Video Aunthenticator
  Twitter会对经常发布deepfake和虚假信息的账号进行封杀,还会将比较可疑的内容打上标签,并且在用户转发这类内容时还会进行“确定要转发吗?”的提问。
2fa4-8e69f1f4c51d04f9c7a1ccb0aef1d812.png
Twitter manipulated media
  虽然科技巨头们在技术和预防上都在努力,但虚假和伪造信息似乎并没有减少。打击虚假和伪造信息难度之大有很多原因,比如首先需要对什么是虚假信息进行一个准确的定义,在这点上许多平台并做不到,因为虚假信息并不是在每个场景下都可以被简单甄别,而当虚假信息被用多种语言传播到世界各地,难度就更大了。同时很多时候信息本身并不是谎言也不是被伪造出的内容,而发布和传播者只是巧妙地用了随意选取的方式来误导网民,这类内容尤其难跟虚假信息进行分别。再有,对社交媒体等平台来说,击打虚假信息从来都不是他们商业目标的重中之重,当一件事只是为了符合规范却并不能带来利润,显然微薄的动力致使打假的脚步走的异常缓慢。正因如此,许多人将眼光和希望放在了一批正在将精力全部放在开发鉴别虚假信息技术的初创公司身上。03资本涌向打假初创公司投资者的资本也伴随着大众迫切的希望涌向了这些初创公司,在过去几年间,数亿美元被投资进了这一赛道。
9d45-d2593d72027e3d62e3569171bd548894.png
Disinformation And Misinformation Mitigators
  这一技术使用五项「风险信号」来对虚假信息进行甄别,包括“叙事口吻”-对信息和对话背景进行分析;“社群网络”-对用户及分享内容之间关系进行分析;“族群”-对有类似兴趣的用户是否聚集加剧信息分享的幅度进行分析;“操纵”-对信息的合理使用进行分析;以及“欺骗”-分析传统意义上比较明确的真与假。
899b-c2b2b97a2bd999d2c86c48a4cc8882e7.png
Blackbird CONSTELLATION DASHBOARD
  Blackbird目前融资总额为1000万美元,服务领域涉及品牌、金融、企业及公共部门等等,客户包括美国国防部及多个Fortune 500公司。背景分析在鉴别虚假信息这件事上十分重要,因为不同场景的信息使用可能会导致真或伪的天壤之别,因其人工智能和自然语言处理(NLP)防伪技术而知名的旧金山公司Primer最近就对背景智能技术公司Yonder进行了收购。Primer的神经网络技术可以快速对大量文本进行扫描,根据词语的频率和重点提取主题,快速识别可疑信息,这样以来可以对全球事件进行即时分析,识别用虚假信息进行的大型宣传,对网络安全攻击事件进行反击等等。它的NLP模型结合上Yonder的背景叙事智能分析能力,让用户甚至能够预防性的监控即将出现的虚假信息,快速识别谣言背后的造谣者,分析潜在风险等级,以及对受到虚假信息伤害的品牌和行动用系统提供的建议减小损伤程度。Primer如今已经完成了1.68亿美元融资,*投资包括来自Lux Capital的4000万美元B轮和来自Addition的1.1亿美元C轮。在纽约和特拉维夫都有团队的ActiveFence也是获得了这一赛道最多融资的公司之一,融资总额达到了1亿美元,包括来自Grove Ventures和Norwest Venture Partners的A轮,以及CRV和Highland Europe的B轮。ActiveFence的技术使用NLP对全网正在进行的对话进行搜索,即使是网络最深处的角落也可以触及,然后通过对“坏种子”式信息的预判进行风险分析,这就意味着它可以预估一段看似无害的对话是否会被造谣者恶意使用,导致更加深远的恶性影响,这种前瞻性对于虚假信息的预防来说格外关键,ActiveFence的主要客户包括社交媒体、音频及视频流媒体、文件分享平台和游戏平台等,覆盖用户总数达到了10亿+。DeepMedia可以说是一家提供“双管齐下”业务的公司,最初的主营生意是开发出了可以通过翻译、语音合成和配音等技术让用户看起来能说多种语言的工具DubSync,而在这项服务成功被接受后目前研究起了如何监测合成音频和视频的技术,它对其监测工具的训练方式就是通过用自家的合成工具不断生成deepfake,然后考验监测系统是否能够察觉。创始人Gupta表示现有的像是DeeperForensics和FaceForensics等大型数据库在合成时往往带有强烈的偏见,因此训练出的技术在监测上也有盲点,而DeepMedia的竞争优势在于它所使用的deepfake数据库质量更高,对于网络上现有的deepfake内容的代表性也更强。这一AI监测工具在预先处理和正式分析方面都十分强大,比如它要想验证一个视频中的阿汤哥是否是真的,首先模型需要对视频中人物的脸部特征进行提取并分析,然后从背景音中提取出人物的真声,接下来这些信息会在一系列的分类器中被检验,最后整体的内容还要被卷积神经网络刷一遍看看生成deepfake的算法是否被使用。
b8e3-96e2a324b428b1fe618f4c6fcd224823.png
DeepMedia detection

  DeepMedia还开始了使用基于视觉的图像分类模型,Google就是用这种模型来进行搜索结果提取的,这样的模型比传统卷积神经网络训练速度要快上10倍。DeepMedia的这一监测业务已经和美国空军下属的实验室达成了合作,目前准确率达到了95%,会在99%的时候在市面上公开发布。▼大厂也好,初创公司也好,他们为打假科技研发所作出的努力至关重要。在未来的5到10年内,AI技术的发展将更快,这也就意味着AI在“撒谎”这件事上会更加聪明,仅靠网友们的人工鉴别肯定是不够的。许多deepfake赛道的创始人呼吁各国政府的参与也至关重要,比如设立跨国界的对于虚假信息界定和干预的规范条例,比如拨款用于这一类危机的教育和研究等等。如果AI有善和恶之分的话,那么未来几年在虚假信息这方面可以说是AI自身善与恶的一场赛跑,虽然科技不是*的答案,但希望我们众志成城的打假行动能够为我们争取一些时间。参考
源自:AI is eating itself:Bing’s AI quotes COVID disinfo sourced from ChatGPT(Techcrunch)Meet the AI-powered startup catching fake news(Wired)It’s No Lie:Startups Fighting Disinformation Are Raking In Cash(Crunchbase News)Meet the company working with the Air Force to detect deepfakes(DeepMedia)
02dd-gif4934de9c5dddb9b730321f9931a8c800.gif
『 巴蜀网 』提醒,在使用本论坛之前您必须仔细阅读并同意下列条款:
  1. 遵守《全国人大常委会关于维护互联网安全的决定》及中华人民共和国其他各项有关法律法规,并遵守您在会员注册时已同意的《『 巴蜀网 』管理办法》;
  2. 严禁发表危害国家安全、破坏民族团结、破坏国家宗教政策、破坏社会稳定、侮辱、诽谤、教唆、淫秽等内容;
  3. 本帖子由 啦啦兔儿 发表,享有版权和著作权(转帖除外),如需转载或引用本帖子中的图片和文字等内容时,必须事前征得 啦啦兔儿 的书面同意;
  4. 本帖子由 啦啦兔儿 发表,仅代表用户本人所为和观点,与『 巴蜀网 』的立场无关,啦啦兔儿 承担一切因您的行为而直接或间接导致的民事或刑事法律责任。
  5. 本帖子由 啦啦兔儿 发表,帖子内容(可能)转载自其它媒体,但并不代表『 巴蜀网 』赞同其观点和对其真实性负责。
  6. 本帖子由 啦啦兔儿 发表,如违规、或侵犯到任何版权问题,请立即举报,本论坛将及时删除并致歉。
  7. 『 巴蜀网 』管理员和版主有权不事先通知发帖者而删除其所发的帖子。
您需要登录后才可以回帖 登录 | 免费注册

本版积分规则

© 2002-2024, 蜀ICP备12031014号, Powered by 5Panda
GMT+8, 2024-6-17 00:09, Processed in 0.062400 second(s), 12 queries, Gzip On, MemCache On
快速回复 返回顶部 返回列表