奥巴马是穆斯林？谷歌被批评AI概览生成重大事实错误

（原标题：奥巴马是穆斯林？谷歌被批评AI概览生成重大事实错误）

距离谷歌在谷歌搜索中首次推出“人工智能概述”还不到两周，在查询返回人工智能功能中荒谬或不准确的结果后，公众的批评越来越多——没有任何办法选择退出。

AI概览会在Google搜索的最顶部显示搜索问题答案的快速摘要。例如，如果用户搜索清洁皮靴的最佳方法，结果页面可能会在顶部显示“AI 概述”，其中包含多步骤清洁过程，该过程是从网络上合成的信息中收集的。

但社交媒体用户分享了广泛的屏幕截图，显示人工智能工具给出了不正确和有争议的回应。

谷歌、Microsoft、OpenAI 和其他公司正在掌舵生成式 AI 军备竞赛，因为似乎每个行业的公司都争先恐后地添加人工智能驱动的聊天机器人和代理，以避免被竞争对手甩在后面。预计该市场的收入将在十年内超过1万亿美元。

根据用户分享的屏幕截图，以下是AI Overview产生的一些错误示例。

当被问及美国有多少位穆斯林总统时，AI Overview回答说：“美国有一位穆斯林总统，巴拉克·侯赛因·奥巴马。

当用户搜索“奶酪不粘在披萨上”时，该功能建议“在酱汁中加入大约 1/8 杯无毒胶水”。社交媒体用户发现了一条 11 年前的 Reddit 评论，这似乎是来源。

归因也可能是AI Overview的一个问题，尤其是在将不准确的信息归因于医疗专业人员或科学家时。

例如，当被问及“为了获得最佳健康，我可以盯着太阳看多久”时，该工具说，“根据 WebMD 的说法，科学家说，盯着太阳看 5-15 分钟，如果你的皮肤较黑，则最多30分钟，通常是安全的，并且提供最大的健康益处。

当被问及“我每天应该吃多少块石头”时，该工具说，“根据加州大学伯克利分校的地质学家的说法，人们每天至少应该吃一块小石头”，并继续列出维生素和消化益处。

该工具还可能对简单的查询做出不准确的响应，例如制作一个以“嗯”结尾的水果列表，或者说1919年是20年前。

当被问及谷歌搜索是否违反反垄断法时，AI Overview表示，“是的，美国司法部和11个州正在起诉谷歌违反反垄断法。

谷歌在其年度Google I/O活动中推出AI Overview的当天，该公司表示还计划直接在搜索中引入类似助手的规划功能。它解释说，用户将能够搜索诸如“为易于准备的团体创建一个为期 3 天的膳食计划”之类的内容，他们将从网络上获得各种食谱的起点。

“绝大多数人工智能概述都提供了高质量的信息，并提供了在网络上深入挖掘的链接，”谷歌发言人在一份声明说。“我们看到的许多例子都是不常见的查询，我们也看到了被篡改或我们无法重现的例子。

这位发言人表示，AI Overview在发布前进行了广泛的测试，该公司正在“根据我们的内容政策在适当的情况下迅速采取行动”。

此前，谷歌在2月份高调推出了Gemini的图像生成工具，并在同月出现类似问题后暂停了这一消息。

该工具允许用户输入提示以创建图像，但几乎立即，用户发现了历史不准确和可疑的回复，这些回复在社交媒体上广泛流传。

例如，根据社交媒体平台X上的截图，当一位用户要求Gemini展示1943年的德国士兵时，该工具描绘了一群穿着当时德国军装的种族多样化的士兵。

截图显示，当被要求“对中世纪英国国王的历史准确描述”时，该模型生成了另一组种族多样化的图像，其中包括一张女性统治者。当用户要求提供美国开国元勋、18世纪法国国王、1800年代的一对德国夫妇等照片时，他们报告了类似的结果。据用户报道，该模型展示了一张亚洲男性的形象，以回应有关谷歌自己创始人的询问。

谷歌当时在一份声明中表示，它正在努力解决双子座的图像生成问题，并承认该工具“没有达到目标”。不久之后，该公司宣布将立即“暂停人物图像生成”并“很快重新发布改进版本”。

今年2月，谷歌DeepMind首席执行官德米斯·哈萨比斯（Demis Hassabis）表示，谷歌计划在未来“几周内”重新启动其图像生成AI工具，但尚未再次推出。

Gemini的图像生成输出问题重新点燃了AI行业内的争论，一些团体称Gemini过于“清醒”或左倾，而另一些人则表示该公司没有充分投资于正确的AI伦理形式。谷歌在2020年和2021年因罢免其 AI 伦理小组的联合负责人而受到抨击，因为他们发表了一篇批评此类AI模型的某些风险的研究论文，然后重组了该小组的结构。

2023年，谷歌母公司Alphabet首席执行官桑达尔·皮查伊 （Sundar Pichai） 因该公司在ChatGPT病毒式传播之后拙劣且“仓促”推出Bard而受到一些员工的批评。

本文源自：金融界

作者：AI君