OpenAI官网发布最新技术研究——Prover-Verifier-Games，解决输出“黑盒”难题

（原标题：OpenAI官网发布最新技术研究——Prover-Verifier-Games，解决输出“黑盒”难题）

OpenAI 7月18日凌晨公布的最新技术研究Prover-Verifier-Games (PVG)引发业界广泛关注。这项旨在提升AI模型推理和输出准确性的新技术，很好的解决了输出“黑盒”这个难题。

人工智能推理能力提升，PVG技术或成关键突破

OpenAI提出的PVG框架旨在解决当前神经网络模型在面对复杂任务时输出内容难以验证的问题。这种基于博弈论的训练方法通过模拟证明者和验证者之间的互动，不断提高模型输出质量。OpenAI的研究人员表示，随着训练轮次的增加，验证者模型的健全性得到显著提升，能够更有效地抵抗错误解决方案。这一突破性技术不仅有望提高AI在法律、金融等领域的应用准确性，还可能成为OpenAI实现AGI目标的重要支撑。

AI数学能力测试暴露短板，行业面临新挑战

然而，在OpenAI取得突破性进展的同时，近期对大模型的数学能力测试也暴露出了AI在某些领域的短板。虽然大多数大模型能够正确回答简单的数学问题，但在处理复杂概念时仍存在明显缺陷。例如，在比较9.9和9.11大小的问题上，部分模型给出了错误答案，并在后续问题中呈现出混乱的推理过程。

这一现象引发了业界对AI推理能力的担忧。虽然通过喂给足够相关的数据可以解决这些数学问题，但大多数厂商并未将这方面的训练作为重点。这不仅暴露出了当前AI技术的局限性，也为整个行业敲响了警钟。

随着OpenAI在AGI领域的不断推进，AI的推理能力无疑将成为未来行业竞争的焦点。如何在追求AGI的同时确保AI在各个领域的稳定表现，仍然是摆在OpenAI和整个行业面前的巨大挑战。

随着技术的不断进步，OpenAI等领先企业在AGI研发上的投入必将引发新一轮的技术竞赛。与此同时，如何平衡技术创新与伦理考量，如何确保AI的安全性和可控性，也将成为整个行业必须面对的重要议题。

本文源自：金融界

作者：巨灵