AI将更快超越人类！OpenAI前高管：要警惕被不良之徒利用

行业专家警告，AI比预期更接近于超越人类智能，甚至会帮助制造大规模杀伤性武器；AI初创公司Anthropic创始人Dario Amodei强调要通过立法防范风险。

美国人工智能初创公司Anthropic首席执行官兼联合创始人Dario Amodei周二警告参议员，人工智能将比预料的更接近于超越人类智能，甚至会帮助制造大规模杀伤性武器。

他在参议院司法委员会的一个小组会议上表示，需要减少人工智能的短期偏见风险，以及降低对人类的长期风险。他指出，在防止一些不可意料的风险发生，例如恶意行为者利用人工智能或会更容易生产生物武器。

他敦促通过立法，以避免AI系统带来的全球风险，他说，即使是它们的创造者，人类也有可能不完全理解风险。

事实上，Dario Amodei与OpenAI还有着极深的渊源，而且他是个不折不扣的AI技术大牛。他于2014年加入百度硅谷AI实验室，成为一名研究科学家，解决深度学习和AI中的难题，包括语音识别和自然语言处理。

2015年，他加入谷歌，在谷歌Brain团队担任高级研究科学家，致力于扩展神经网络的功能。但他很快发现自己并不喜欢在商业性质类公司中工作，他在谷歌也没有停留太久，于是2016年7月他加入了OpenAI，先后任AI安全研究组负责人、研究总监、研究副总裁。

然而，因对OpenAI的逐渐商业化不满，他最终于2020年12月离开了OpenAI。次年2月，他创立AI公司Anthropic，这是一家“公益公司”，并得到了包括谷歌在内的不少科技巨头的支持，先后拿到超过7亿美元投资。

Amodei建议美国制定政策，以确保人工智能供应链的安全——从提供计算能力的半导体到由此产生的模型。

他告诉参议院隐私、技术和法律小组委员会，这些政策将“帮助美国有足够的发展空间，对我们自己的公司实施严格的标准”。他说，这应该伴随着对最强大的人工智能系统的测试和审核，这一过程应该得到政府资金的支持。

拜登政府已认识到了人工智能创新的步伐远远超过了国会通过有约束力的监管的能力，因此上周包括Anthropic在内的领先人工智能公司已经承诺，包括允许外部审计、标记人工智能生成的内容和投资安全等措施。

OpenAI、Alphabet Inc.旗下的谷歌、微软（Microsoft Corp.）、Meta Platforms Inc.和亚马逊（Amazon）都对维护人工智能安全做出了承诺。

隐私、技术和法律小组委员会主席、康涅狄格州民主党参议员Richard Blumenthal对这些承诺表示赞同，但他表示，国会仍需要介入监管这项技术。

Richard Blumenthal指出，“这些承诺不具体，也无法执行。我知道有人对国会和我们的行动能力表示怀疑，但事情的紧迫性要求我们采取行动。”