ChatGPT 和 Google Bard 等人工智能聊天机器人不符合欧盟法律标准

斯坦福大学的研究还证实，开源模型比 ChatGPT 和 Bard 等更流行且更有利可图的模型透明得多。

使用 AI 创建的图像

斯坦福大学的研究人员最近得出结论，目前在 OpenAI 的 GPT-4 和谷歌的 Bard 等人工智能工具中使用的大型语言模型 (LLM) 都不符合欧盟 (EU) 人工智能 (AI)法案。

该法案是第一个在国家和地区层面管理人工智能的法案，刚刚被欧洲议会通过。欧盟人工智能法案不仅在欧盟范围内监管人工智能，涵盖 4.5 亿人，而且还是全球人工智能法规的开创性蓝图。

但是，根据斯坦福大学的最新研究，如果人工智能公司打算实现合规，他们还有很长的路要走。

在他们的调查中，研究人员评估了十个主要的模型提供商。他们以 0 到 4 的等级评估了每个提供商对 AI 法案中概述的 12 项要求的遵守程度。

该研究揭示了合规水平的巨大差异，一些供应商在满足 AI 法案要求方面的得分低于 25%，只有一家供应商 Hugging Face/BigScience 的得分超过 75%。

显然，即使是高分供应商，也有显着改进的空间。

基础模型供应商对欧盟 AI 草案的遵守情况。图片：斯坦福大学

该研究揭示了违规行为的一些关键点。研究人员写道，在披露受版权保护的培训数据、使用的能源、产生的排放量以及减轻潜在风险的方法方面缺乏透明度是最令人担忧的发现之一。

此外，该团队发现开放模型发布和封闭模型发布之间存在明显差异，开放发布会导致更强大的资源披露，但在监控或控制部署方面面临更大的挑战。

斯坦福得出结论，无论其发布策略如何，所有提供商都可以切实改善他们的行为。

最近几个月，主要车型发布的透明度明显下降。例如，OpenAI 以竞争格局和安全隐患为由，在 GPT-4 的报告中没有披露有关数据和计算的信息。

欧洲的人工智能法规可能会改变行业

虽然这些发现意义重大，但它们也符合更广泛的发展叙述。最近，OpenAI 一直在游说以影响各国对 AI 的立场。如果监管过于严格，这家科技巨头甚至威胁要离开欧洲——后来它取消了这一威胁。这些行动凸显了 AI 技术提供商与监管机构之间复杂且经常令人担忧的关系。

研究人员提出了几项改善人工智能监管的建议。对于欧盟政策制定者而言，这包括确保人工智能法案要求更大的基础模型提供商负责透明度和问责制。还强调了执行该法案对技术资源和人才的需求，反映了 AI 生态系统的复杂性。

据研究人员称，主要挑战在于模型提供商能够以多快的速度调整和发展其业务实践以满足监管要求。他们观察到，在没有强大的监管压力的情况下，许多供应商可以通过有意义但似是而非的变化实现 30 多分或 40 多分的总分（满分 48 分）。

研究人员的工作提供了对人工智能监管未来的深刻见解。他们认为，如果颁布和执行，人工智能法案将对生态系统产生重大的积极影响，为提高透明度和问责制铺平道路。

人工智能正在以其前所未有的能力和风险改变社会。随着世界站在监管这项改变游戏规则的技术的风口浪尖，越来越清楚的是，透明度不仅仅是一个可选的附加组件，它是负责任的 AI 部署的基石。