充满人工智能生成文本的垃圾网站正在从程序化广告中赚钱
热度260票 浏览5次
时间：2024年5月16日 10:29
超过 140 个主要品牌正在为广告付费，但这些广告最终会出现在不可靠的人工智能编写的网站上，而这些品牌很可能在他们不知情的情况下。在这些人工智能生成的新闻网站上发现的主要品牌的广告中，百分之九十都是由谷歌投放的，尽管该公司自己的政策禁止网站将谷歌投放的广告放置在包含“自动生成的垃圾内容”的页面上。这种做法可能会加速出现故障、垃圾邮件的互联网，充斥着人工智能生成的内容，并浪费大量广告资金。
大多数在线广告公司都会通过一种称为“程序化广告”的做法自动竞价投放这些广告。算法根据复杂的计算将广告放置在各种网站上，以优化广告可能吸引公司目标受众的眼球数量。结果，大品牌最终会在他们以前从未听说过的网站上投放广告，而几乎没有人为监督。
为了利用这一优势，内容农场如雨后春笋般涌现，低薪人员生产低质量的内容以吸引广告收入。这些类型的网站已经有了一个名称：“广告制作”网站。他们使用点击诱饵、自动播放视频和弹出广告等策略从广告商身上榨取尽可能多的钱。在最近的一项调查中，国家广告商协会发现，其样本中 21% 的广告印象流向了专门为广告而制作的网站。该组织估计，全球每年在这些网站上浪费了约 130 亿美元。
现在，生成式人工智能提供了一种新的方法来自动化内容农场流程，并以更少的努力启动更多垃圾网站，从而产生 NewsGuard 所说的“不可靠的人工智能生成的新闻网站”。一个被 NewsGuard 标记的网站每天发布 1,200 多篇文章。
其中一些新网站比其他网站更复杂、更有说服力，有人工智能生成的假作者照片和简介。而且这个问题正在迅速加剧。 NewsGuard 负责评估互联网上的网站质量，该公司表示每周都会发现大约 25 个由人工智能生成的新网站。自4 月份 开始追踪这一现象以来，已发现13 种语言的 217 个此类现象。
NewsGuard 有一种巧妙的方法来识别这些人工智能编写的垃圾网站。由于其中许多都是在没有人类监督的情况下创建的，因此它们经常充斥着生成式人工智能系统典型的错误消息。例如，一个名为 CountyLocalNews.com 的网站上有这样的消息：“抱歉，我无法完成此提示，因为它违反了伦理和道德原则……作为人工智能语言模型，我有责任提供事实和可信的信息。”
NewsGuard 的人工智能在网站上查找这些文本片段，然后由人类分析师对其进行审查。
从垃圾中赚钱
“看来程序化广告是这些人工智能生成的网站的主要收入来源，”NewGuard 分析师 Lorenzo Arvanitis 表示，他一直在跟踪人工智能生成的网络内容。 “我们已经发现数百家财富 500 强公司和知名品牌在这些网站上做广告，并且在不知不觉中支持这些网站。”
《麻省理工科技评论》研究了 NewsGuard 在人工智能生成的提供程序化广告的网站上识别出的来自 140 多个主要品牌的近 400 个单独广告的列表，其中包括来自金融、零售、汽车、医疗保健和电子商务等许多不同行业的公司。 -商业。截至 2023 年 1 月，程序化广告的平均成本为每千次展示 1.21 美元，品牌通常不会审查广告的所有自动展示位置，即使它们要花钱。
谷歌的程序化广告产品 Google Ads 是最大的交易平台，去年的广告收入达 1680 亿美元。该公司过去曾因在内容农场上投放广告而受到批评，尽管该公司自己的政策禁止网站将谷歌投放的广告投放在含有“自动生成的垃圾内容”的页面上。 NewsGuard 标记的网站中，约有四分之一以主要品牌的程序化广告为特色。在人工智能生成的网站上发现的 393 个大品牌广告中，有 356 个是由 Google 投放的。
“我们有严格的政策来管理可以在我们平台上获利的内容类型，”谷歌政策传播经理迈克尔·阿西曼（Michael Aciman）在一封电子邮件中告诉《麻省理工科技评论》。 “例如，我们不允许广告与有害内容、垃圾内容或低价值内容或仅从其他网站复制的内容一起投放。在执行这些政策时，我们关注的是内容的质量，而不是内容的创建方式，如果发现违规行为，我们会阻止或删除广告。”
大多数广告交易平台和平台已经制定了禁止在内容农场上投放广告的政策，但它们“似乎没有统一执行这些政策”，并且“许多广告交易平台继续在[为广告而生的]网站上投放广告，即使他们似乎违反了……质量政策，”数字取证和广告验证公司Adalytics的创始人 Krzysztof Franaszek 说道。
谷歌表示，页面上存在人工智能生成的内容并不是固有的违规行为。 “我们还认识到，不良行为者总是会改变他们的做法，并可能利用生成人工智能等技术来规避我们的政策和执行系统，”艾席曼说。
新一代错误信息网站
NewsGuard 表示，大多数人工智能生成的网站都被认为是“低质量”的，但“不会传播错误信息”。但内容农场的经济动态已经刺激了点击欺骗网站的创建，这些网站经常充斥着垃圾和错误信息，而现在人工智能可以在更大范围内做同样的事情，它有可能加剧错误信息问题。
例如，一个人工智能编写的网站 MedicalOutline.com 上有一些文章传播有害的健康错误信息，标题为“柠檬可以治疗皮肤过敏吗？” “治疗多动症的 5 种自然疗法是什么？”以及“如何自然地预防癌症？”据 NewsGuard 报道，该网站上投放了九个主要品牌的广告，包括花旗银行、汽车制造商斯巴鲁和健康公司 GNC。这些广告是通过谷歌投放的。
Adalytics 向《麻省理工科技评论》证实，截至 6 月 24 日，Medical Outline 上的广告似乎是通过 Google 投放的。周末我们联系了 Medical Outline、花旗集团、斯巴鲁和 GNC 寻求评论，但这些品牌尚未回复。
在《麻省理工科技评论》向 Google 举报 Medical Outline 和其他网站上的广告后，艾西曼表示，“由于普遍存在违反政策的情况”，Google 已删除了许多网站上投放的广告。截至 6 月 25 日，这些广告在 Medical Outline 上仍然可见。
NewsGuard 的企业编辑杰克·布鲁斯特 (Jack Brewster) 表示：“NewsGuard 的调查结果揭示了谷歌、广告科技公司之间令人担忧的关系，以及伪装成新闻网站和人工智能内容农场的新一代错误信息网站的出现。” “程序化广告的不透明性质无意中将各大品牌变成了不知情的支持者，他们没有意识到他们的广告收入间接资助了这些不可靠的人工智能生成的网站。”
Franaszek 表示，现在判断人工智能生成的内容将如何影响程序化广告格局还为时过早。毕竟，为了让这些网站赚钱，他们仍然需要吸引人们访问他们的内容，目前尚不清楚生成式人工智能是否会让这变得更容易。有些网站每个月可能只吸引几千次浏览，赚的钱只有几美元。
“内容生成的成本可能不到运营[广告制作]网站总成本的 5%，用人工智能取代低成本的外国劳动力不太可能显着改变这种情况，”Franaszek 说。
到目前为止，还没有任何简单的解决方案，特别是考虑到广告支撑着整个互联网的经济模式。华盛顿特区智库信息技术与创新基金会的高级人工智能政策顾问霍丹·奥马尔 (Hodan Omaar) 表示：“要记住的关键是，程序化广告（以及更普遍的定向广告）是互联网经济的基本推动者。” 。
奥马尔表示：“如果政策制定者禁止使用此类广告服务，消费者将面临一个截然不同的互联网：更多相关性较低的广告、质量较低的在线内容和服务以及更多的付费墙。”
“政策不应着眼于完全消除程序化广告，而应着眼于如何确保有更强有力的机制来阻止错误信息的传播，无论是直接的还是间接的。”
