【BOMN-033】ボインボックス 撮影時マル秘面接ドキュメント 4時間

【新智元导读】谷歌筹办东说念主员对200篇对于生成式AI浮滥的新闻报说念进行了筹办，发现生成式AI变成的颠倒信息正在互联网上层见迭出。但最调侃的是，谷歌恰是这些颠倒信息的垂危制造商之一。

谷歌筹办东说念主员发表了一篇新论文，劝诫生成式东说念主工智能正在用颠倒执行毁灭互联网。

这极具调侃意味，因为倘若互联网确实在被GenAI所虐待，谷歌我方也「功弗成没」——它是天下上最大的构建、部署和实践GenAI的公司之一。

这篇论文由谷歌东说念主工智能筹办实验室DeepMind、安全军师团Jigsaw和慈善机构Google.org的筹办东说念主员共同撰写，他们深远侦探了对于生成式东说念主工智能的筹办讲演，以及约200篇对于生成式东说念主工智能浮滥的新闻报说念，对生成式AI器用被浮滥的不同方式进行了分类。

最终得出论断：在现实天下的浮滥案例中，批改东说念主类肖像和伪造凭据是最普遍的。这样作念的意图也很明确，无非是为了影响公众公论、诱拐，或牟取利益。

奥特曼和马斯克皆也曾劝诫过AGI可能会带来「活命性风险」，但谷歌此次的筹办重心是生成式东说念主工智能。

生成式东说念主工智能的风险诚然还莫得飞腾到「威逼活命」的地步，然而却愈加迫近——这是当下正在发生的事情，并且以前可能会变得更糟。

因为这种时刻让任何东说念主皆不错冒昧地生成文本、音频、图像和视频，互联网上充斥着伪造或批改的东说念主工智能生成的执行，「的确与颠倒之间的界限被邋遢掉了」。

「颠倒信息炮制机」是GenAI的宿命？

筹办东说念主员发现，大多数GenAI浮滥案例皆是对系统的平素使用，并莫得「逃狱」行径，这类「通例操作」占了9成。

正如筹办东说念主员在论文后头所讲授的那样，GenAI的等闲可用性、可拜谒性和超现实性，使得百鸟争鸣的、较初级别的浮滥情势成为可能——生成颠倒信息的资本实在是太低了！

阅读完这篇论文之后，你可能会自然而然产生这样的感受：东说念主们并莫得浮滥GenAI，只不外是按照其居品筹备平素使用汉典。

东说念主们使用生成式东说念主工智能来制作多半颠倒执行【BOMN-033】ボインボックス 撮影時マル秘面接ドキュメント 4時間，是因为它蓝本就越过擅长完成这项任务。

许多颠倒执行经常既莫得显豁的坏心，也莫得明确违犯这些器用的执行策略或做事要求，但其潜在的危害是巨大的。

这一不雅察甘休与404 Media之前的报说念异途同归。

那些专揽东说念主工智能冒充他东说念主、扩大不良执行的边界和传播边界，或制作未经答允的奥妙图片（nonconsensual intimate images，NCII）的东说念主，大多并莫得入侵或摆布他们正在使用的东说念主工智能生成器用，他们是在允许的边界内使用这些器用。

很浅易就能举出2个例子：

AI器用的「围栏」不错用一些教唆巧妙避过，莫得什么能艰涩用户使用ElevenLabs的东说念主工智能语音克隆器用高度传神地效法出共事或明星的声息。

Civitai用户不错创建东说念主工智能生成的名东说念主图像，诚然该平台有拦阻NCII的策略，但一样莫得什么能艰涩用户在我方的机器上使用GitHub上开源的器用（如 Automatic1111 或 ComfyUI）来生成 NCII。

斯嘉丽·约翰逊的头像是DeepFake重灾地

将这些AI生成的执行发到Facebook可能违犯了平台的策略，但生成这个行径自身并莫得违犯他们所使用的东说念主工智能图片生成器的策略。

媒体：GenAI的浮滥仅仅冰山一角

因为谷歌的筹办素材多半来自于媒体报说念，这就带来了一个问题：这是否会让筹办论断带有媒体的偏见？毕竟行动探照灯的媒体，在选题和报说念上有我方的偏向。

那些骇东说念主闻见的事件更容易被报说念，这可能会导致数据集偏向特定类型的浮滥。

404 Media对此作念出了回话：诚然媒体照实只可报说念它所能阐明的事件，然而不错笃定的少许是，还有多半的咱们尚未意志到的生成式东说念主工智能的浮滥莫得被报说念。

即就是上文提到的用AI生成名东说念主色情图片的情况，被媒体多半揭露，但仍然存在报说念不及的问题。

领先是因为这一话题如故禁忌，有许多出书物不肯报说念。

其次是因为媒体只可捕捉到个例，无法长期热隐衷件的举座和后续，404 Media的又名剪辑写说念：

在我关连Patreon官方作出回话（之后发言东说念主关闭了他的账户）之前，我写过一篇报说念，对于一个用户在Patreon上通过 NCII 盈利，他制作了53190张未经答允的名东说念主图片。那篇报说念中还提到了另外两名NCII制作家，之后我又发现了其他东说念主。

泰勒·斯威夫特在推特上疯传的东说念主工智能生成的赤身图片就是在Telegram和4chan社区初次共享的，在一月份那篇报说念爆出前后，这些社区皆很活跃，从那以后，他们每天皆在发布NCII。

我和其他记者不会对每一张图片和创作家皆进行报说念，因为要是这样作念，咱们就没无意候作念其他事情了。

当颠倒信息泛滥，甩锅给AI变得很容易

让咱们作念一个推演，当互联网上充斥着东说念主工智能生成的执行，会发生什么？

最平直的成果是，互联网上的遍及情状会对东说念主们辩认真假的技艺带来巨大的熟习，咱们将堕入一种不竭性的怀疑，「这是确实吗」？

在互联网刚刚出现的时期，流行的一句话是，「你不知说念网线那头是东说念主是狗」，刻下这种趋势愈演愈烈了，东说念主们被颠倒的东说念主工智能生成执行所团结，越来越疲于应付。

要是不加以惩处，东说念主工智能生成的执行对公开数据的浑浊还可能会阻止信息检索，诬蔑对社会政事现实或科学共鸣的集体相识。

并且，这可能会成为一些闻明东说念主物的「挡箭牌」，在某些情况下，他们大概将对我方不利的凭据讲授为东说念主工智能生成的，轻巧地将举证的包袱退换出去。

对于生成式AI所带来的颠倒执行的泛滥【BOMN-033】ボインボックス 撮影時マル秘面接ドキュメント 4時間，谷歌起到了兴风作浪的作用，致使不错说是「始作俑者」也不为过，多年前射出的枪弹，本日终于击中了我方的眉心。