联合国教科文组织警告说，人工智能对大脑信号的操纵进展得太快

本文简要：

·随着现代人工智能工具的出现，神经技术领域取得了显着进步

·该技术对隐私具有重大影响，特别是如果它被滥用的话。

·在世界各地，专家、政策制定者和民间团体正在权衡如何最好地实现人工智能推动的神经技术创新。

神经技术是人工智能的一种有争议的应用，正日益成为隐私和人权讨论的焦点。

随着该领域技术进步的迅速发展，联合国（UN）响应了建立道德框架来保障个人自由的呼吁。

神经技术 伦理问题

从广义上讲，神经技术并不是一个新概念。工程师长期以来一直在开发扫描、修复和增强人类大脑和神经系统的技术。

然而，该领域最近出现了强大的机器学习和人工智能模型的爆炸式增长，将神经技术推向了道德争议领域。

为了应对这些挑战，联合国在巴黎主办了神经技术伦理国际会议。此次活动聚集了政策制定者、人工智能专家、民间团体和私营企业，引发了有关神经技术伦理问题的讨论。

美国的神经科学基金。资料来源：Statista

会议之前，联合国教科文组织总干事奥黛丽·阿祖莱(Audrey Azoulay)表达了她的担忧。

“神经技术可以帮助解决许多健康问题，但它也可以访问和操纵人们的大脑，产生有关我们的身份和情绪的信息。它可能威胁我们的人类尊严、思想自由和隐私权。迫切需要在国际层面建立一个共同的道德框架，就像联合国教科文组织为人工智能所做的那样，”阿祖莱说。

全球监管机构正在争先恐后地为人工智能行业制定规则。像 OpenAI 这样备受瞩目的公司甚至开始抵制人工智能监管。随着技术变得更加亲密，进一步的分歧似乎几乎不可避免。

它不仅仅是大脑芯片

然而，联合国教科文组织负责社会和人文科学的助理总干事加布里埃拉·拉莫斯(Gabriela Ramos)在会议期间强调，神经技术不仅仅是早期阶段、成为头条新闻的技术。

拉莫斯说：“我们正在走向这样一个世界：算法将使我们能够解码人们的心理过程，并直接操纵其意图、情感和决策背后的大脑机制。”

神经技术的公众形象通常由埃隆·马斯克 (Elon Musk) 的Neuralink及其脑机接口等雄心勃勃的项目主导。尽管如此，神经技术的更低调的应用已经在我们身边，这些应用可以在没有物理干预的情况下解释和操纵思想。

联合国教科文组织报告的主要作者玛丽亚格拉齐亚·斯奎恰里尼 (Mariagrazia Squicciarini)表示：“当你添加人工智能时，你就等于给神经技术注入了类固醇。” 

人工智能研究人员正在开发新技术，其主要目的是有益的。例如，一个研究小组使用人工智能根据受试者大脑的电信号来解释他们正在听的内容。

然而，研究人员警告说，未来的发展可能使此类技术能够绕过自愿合作的需要。

意念控制技术

有趣的是，前面提到的读心神经技术使用了广泛使用的人工智能工具。研究团队使用 OpenAI 的 GPT-1构建了模型，GPT-1 是 GPT-4 的前身，为流行的ChatGPT聊天机器人提供支持。

他们还使用了在线免费提供的各种算法，使用数据集训练他们的模型，其中包括来自 Reddit 的句子和《纽约时报》播客的转录。

这些进展凸显了与人工智能相关的隐私问题不是未来的假设，而是需要立即关注的紧迫问题。

例如，OpenAI 因涉嫌未经同意收集个人数据而面临集体诉讼。许多主要社交媒体公司被指控错误地处理用户数据来训练他们的人工智能模型。

人工智能在未经知情同意的情况下读取和操纵个人的情况已经成为现实。解决这些问题需要强有力的道德准则和积极主动的监管措施。