“道德责任”：区块链真的能提高对人工智能的信任吗？

大多数技术革命都带有不可预见的黑暗面。

当奥地利出生的物理学家Lise Meitner和Otto Frisch在20世纪30年代末首次分裂原子时，他们可能没有预料到他们的发现会导致几年后原子弹。人工智能（AI）革命可以说没有什么不同。

人工智能算法已经存在了几十年。第一个人工神经网络，感知器，是在1958年发明的。但最近的发展速度令人叹为观止，随着Alexa等语音识别设备和ChatGPT等聊天机器人的出现，人工智能似乎获得了新的公众意识。

从积极的一面来看，人工智能可以极大地提高地球的普通教育水平，并帮助找到阿尔茨海默氏症等毁灭性疾病的治疗方法。但它也可能取代就业，并支持那些可以用它来监视其人口的专制国家。此外，人工智能先驱Geoffrey Hinton最近警告说，如果机器获得“一般”情报，它们甚至可能会接受过推翻选举和起诉战争的训练。

“巨大的潜力和巨大的危险”是美国总统乔·拜登最近对人工智能的描述。此前，包括埃隆·马斯克和史蒂夫·沃兹尼亚克在内的1000多名科技领袖于3月致公开信，呼吁暂停ChatGPT等人工智能开发。他们说，这项技术“给社会和人类带来了深远的风险”。

一些国家已经反对ChatGPT的开发商OpenAI。意大利在3月暂时禁止了ChatGPT，加拿大的隐私专员正在调查OpenAI涉嫌在未经同意的情况下收集和使用个人信息。欧盟正在为人工智能谈判新规则，而中国则要求人工智能开发人员从此遵守严格的审查规则。一定程度的监管似乎是不可避免的。

人工智能的解药？

在此背景下，一个问题迫在眉睫：区块链技术能否解决困扰人工智能的问题——或者至少其中一些问题？毕竟，分散式分类账技术可以说是人工智能所不拥有的一切：透明、可追溯、值得信赖和无篡改。它可以帮助抵消人工智能黑盒解决方案的一些不透明度。

Cardano的侧链Midnight的战略和营销主管Anthony Day于4月在LinkedIn上就区块链技术写道：“我们确实需要创造一种方法，在人工智能将在哪里和什么地方（或对我们的世界）实现可追溯、透明、不可审查、自动化的信任。”

至少，区块链可以成为人工智能训练数据的存储库。或者正如IBM的Jerry Cuomo几年前所写的那样——这一观察在今天仍然正确：“使用区块链，您可以跟踪训练数据的来源，并查看导致预测为什么特定水果被视为苹果与橙子的证据的审计跟踪。”

Tracxn Technologies（一个分析和市场情报平台）的联合创始人Neha Singh告诉《杂志》，集中式人工智能模型的用户往往没有意识到他们培训中固有的偏见。“使用区块链技术可以提高人工智能模型的透明度。”

许多人同意，在人工智能变得更加主流之前，必须做一些事情。世界经济论坛人工智能和机器学习负责人Kay Firth-Butterfield说：“为了信任人工智能，人们必须确切地了解和理解人工智能是什么，它在做什么，以及它的影响。”“领导者和公司在实施这项技术时，必须将透明和值得信赖的人工智能作为优先事项。”

有趣的是，沿着这些路线的一些工作正在进行中。2月，总部位于美国的金融科技公司FICO获得了“数据和模型治理区块链”的专利，正式注册了它多年来一直使用的流程，以确保“负责任的”人工智能实践。

据该公司称，FICO使用基于以太坊的分类账来跟踪“以不可改变的方式”机器学习模型的开发、操作和监控的端到端来源，该公司拥有300多名数据科学家，并与许多世界上最大的银行合作。值得注意的是，“AI”和“机器学习”这两个术语之间存在细微的差异，但这些术语经常互换使用。

FICO首席分析官Scott Zoldi今年早些时候在一份人工智能出版物中写道，使用区块链可以实现可审计性，并促进模型和企业信任。

”重要的是，区块链提供了决策的线索。它显示变量是否可以接受，是否在模型中引入偏差，或者变量是否得到正确使用......它记录了构建这些模型的整个旅程，包括它们的错误、更正和改进。”

Zoldi说，人工智能工具需要得到很好的理解，在公正的未来，它们需要公平、公平和透明，并补充说，“我认为区块链技术将在那里找到与人工智能的潜在结合。”

将诡计与真理分开

模型开发是区块链可以发挥作用的一个关键领域，但还有其他领域。一些人预计，像ChatGPT这样的设备可能会对社交媒体和新闻平台产生有害影响，例如，很难从真实或真实中整理出诡计。

马耳他大学分布式分类账技术中心副教授兼主任Joshua Ellul告诉《杂志》，“这是区块链在新兴平台上最有用的地方之一：证明X在特定日期/时间说Y。”

事实上，区块链可以帮助建立一种问责制框架，例如，个人和组织可以成为值得信赖的来源。例如，Ellul继续说：“如果X人记录在案说Y，这是不可否认的”，那么这成为一个参考点，所以“在未来，个人可以根据他们过去说的话为其他人建立自己的信任评级。”

Ellul补充说：“至少可以使用区块链解决方案来跟踪数据、培训、测试、审计和事后事件，以确保一方无法更改所发生的某些事件。”

然而，并非所有人都同意区块链可以找到真正困扰人工智能的根源。哥本哈根IT大学教授、欧洲区块链中心负责人Roman Beck告诉《杂志》杂志：“我对区块链是否可以被视为人工智能的解毒剂有些怀疑。”

“我们今天在跟踪和追踪智能合约的真正工作方面已经遇到了一些挑战，尽管区块链应该是透明的，但一些活动很难审计。”

在其他地方，欧盟委员会一直在寻求创造一个“值得信赖的#AI的跨大西洋空间”。但当被问及区块链技术是否可以帮助抵消人工智能的不透明度时，一位欧盟委员会官员表示怀疑，他告诉《杂志》：区块链能够跟踪数据源并保护人们的隐私，但其本身并不能解决人工智能神经网络中的黑盒问题——这是最常见的方法，例如，也用于ChatGPT。它不会帮助人工智能系统解释如何以及为什么做出特定决定。”

当“阿尔戈斯发疯”时

也许区块链无法“拯救”人工智能，但Beck仍然设想了这两种技术可以相互支持的方式。“区块链可以帮助人工智能的最可能的领域是审计方面。如果我们想避免人工智能被用来欺骗或从事任何其他非法活动，人们可以要求在分类账上记录人工智能结果。人们可以使用人工智能，但如果结果以恶意或非法方式使用，则能够追溯何时以及谁使用过人工智能，因为它将被记录。”

或者考虑使用人工智能技术开发的自动驾驶车辆，其中“传感器、算法和区块链将为机器间通信和协调提供自主操作系统，”Beck补充说。“我们仍然可能无法解释人工智能是如何决定的，但我们可以确保问责制，从而实现治理。”也就是说，当“算法疯了”时，区块链可以帮助追踪谁或什么才是真正的错。

即使是上述欧盟官员也可以预见区块链会带来好处，即使它无法解决人工智能的“黑匣子”问题。“使用区块链，也许可以为用于训练人工智能模型的数据创建透明和防篡改的记录。然而，区块链本身并不能解决偏见的检测和减少问题，这是一个具有挑战性，仍然是一个开放的研究问题。”

实施区块链来跟踪人工智能建模

在企业领域，许多公司仍在努力实现“可信”的人工智能。FICO和Corinium最近对大约100家北美金融服务公司进行了调查，发现“43%的受访者表示，他们正在努力与负责任的人工智能治理结构一起满足监管要求。”与此同时，只有8%的人报告说，他们的人工智能战略“已经完全成熟，模型开发标准不断扩展。”

FICO成立于1956年，名为Fair, Isaac and Company，一直是使用预测分析和数据科学进行运营业务决策的先驱。它构建了人工智能模型，帮助企业管理风险、打击欺诈和优化运营。

当被问及该公司如何在2017年使用经许可的以太坊区块链进行分析工作时，Zoldi解释说，当时他一直在与银行交谈。他了解到，正在开发的所有人工智能模型中，有70%-80%的东西从未投入生产。

一个关键问题是，数据科学家，即使在同一个组织内，也在以不同的方式构建模型。模型完成后，许多人也未能通过治理检查。例如，事后测试可能会发现，人工智能驱动的欺诈检测工具无意中歧视了某些种族群体。

Zoldi回忆说：“必须有更好的方法，”而不是让“Sally”建立一个模型，然后在六个月后发现——在她已经离开公司后——她没有正确记录信息，“或者她没有遵循适合银行的治理协议。”

FICO着手制定一个负责任的人工智能治理标准，该标准使用区块链来执行它。开发人员应提前被告知可能使用的算法、需要遵循的道德测试协议、无偏见模型的阈值以及其他所需的流程。

与此同时，区块链记录了每个模型开发的整个旅程，包括错误、修复和创新。“因此，对于每个开发模型的科学家，另一个人检查工作，第三个人批准这一切都做得恰当。三名科学家审查了这项工作，并验证了它符合标准，”Zoldi说。

区块链经常被引用的扩展问题呢？所有东西都适合一个数字分类账吗？“这不是什么大问题。我们将[在区块链上]存储一个散列——比方说，软件资产——但软件资产本身将存储在其他地方，如git存储库。我们真的不必在区块链上放置价值10兆字节的数据。”

“道德和法律责任”

商业开发人员将很好地意识到像FICO这样的经验，因为政治领导人显然意识到了人工智能带来的风险。美国表示：“私营部门负有道德、道德和法律责任，以确保其产品的安全和安保。”副总统卡马拉·哈里斯在一份声明中。“每家公司都必须遵守现行法律来保护美国人民。”

担忧也是全球性的。正如欧盟官员告诉杂志的那样，“为了确保人工智能对社会有益，我们需要一个双管齐下的方法：首先，有必要在值得信赖的人工智能领域进行进一步研究，以改进技术本身，使其透明、易理解、准确、安全并尊重隐私和价值观。其次，必须建立对人工智能模型的适当监管，以保证其负责任和道德的使用，正如我们在[欧盟]人工智能法案中提议的那样。”

私营部门应该权衡自我监管的好处。对于企业的开发人员来说，这可能是一个福音。Zoldi说，数据科学家有时觉得他们被置于一个困难的境地。“他们如何构建模型和所用标准的伦理通常没有具体说明”——这让他们感到不舒服。

人工智能设备的制造商不想对人们造成伤害，但他们通常没有获得必要的工具来确保这种情况不会发生。区块链可以提供帮助，但最终，它可能是几个自我调节或司法护栏之一，需要使用这些护栏来确保值得信赖的人工智能未来。

“你与专家交谈，他们说，'我们足够聪明，能够产生这项技术。我们不够聪明，无法监管它、理解它或解释它——这非常可怕，”Zoldi告诉《杂志》。

总而言之，区块链支持负责任的人工智能的潜力尚未得到广泛认可，但这种情况可能很快就会改变。有些人，如Anthony Day，甚至押注于它：“我不确定区块链是否真的能拯救世界，但我确信它能拯救人工智能。”