联合国警告脑机接口的危害:AI可能操纵人类大脑
作者 | 凤凰网科技2023-07-17

联合国上周对神经技术快速进步所带来的“潜在危害”发出警告,称大脑植入物和脑部扫描可能会让人工智能(AI)操纵人类大脑,侵犯私密的人类思想。

联合国教科文组织(UNESCO)专门研究AI的经济学家马里亚格拉兹·斯奎西亚里尼(Mariagrazia Squicciarini)表示,在AI算法的加持下,神经技术最近得到了快速发展,“神经技术得到了极大强化”。目前,AI算法能够以前所未有的方式处理和学习数据。

AI可操纵大脑机制

不过,随着AI增强了神经技术领域,它将需要监管。联合国教科文组织负责社会和人文科学的助理总干事加布里埃拉·拉莫斯(Gabriela Ramos)表示,AI技术具备了“影响深远而且可能有害”的能力。

“我们正在通往这样一个世界:算法将使得我们能够解码人们的心理过程,并直接操纵左右人们意图、情绪和决定背后的大脑机制。”

联合国秘书长古特雷斯表示, 神经技术正在“飞速发展”,需要制定道德准则来保护人权。联合国教科文组织在巴黎的一次会议上表示,该机构已开始制定一个全球“道德框架”,以解决神经技术带来的人权问题。

联合国官员表示,虽然神经技术可以改变人们的生活,但可能也要付出代价。例如,联合国教科文组织采访过一位患有癫痫症的女性汉娜·加尔文(Hannah Galvin)。她在大脑中安装了一个神经技术设备,可以检测癫痫发作,并通知患者何时躺下。但是,这个设备最终让加尔文的生活变得更糟。加尔文表示,她的癫痫症每天发作多达100次,导致装置不断发生故障。

最终,加尔文移除了这个神经设备。“我感觉有个人在我的脑袋里,但那个人不是我。我变得越来越沮丧。我一点也不喜欢它。”她表示。

但是,斯奎西亚里尼也指出,神经技术对其他人来说可能是“奇妙的”,它可以让盲人重新看到世界或者让瘫痪的人再次走路。

道德框架

联合国教科文组织总干事奥德蕾·阿祖莱(Audrey Azoulay)在6月份提出,针对神经技术建立“国际层面的共同道德框架”。“神经技术可以帮助解决许多健康问题,但它也可以访问和操纵人们的大脑,并产生有关我们身份、情绪的信息。它可能会威胁到事关我们人类尊严、思想自由和隐私的权利。”阿祖莱表示。

今年5月,美国科学家透露,他们已经利用脑部扫描和AI将人们思考的“要点”转化为文字,只是他们需要在大型功能磁共振成像(fMRI)机器里待上很长时间。

当月晚些时候,亿万富翁埃隆·马斯克(Elon Musk)旗下脑机接口公司Neuralink获得美国监管机构批准,可以展开人体试验,将硬币大小的大脑植入物植入志愿者的大脑中。马斯克曾表示,他的最终目标是确保人类不会在智力上被AI压倒。不过,他在上周四他推出了自己的AI公司xAI。

根据斯奎西亚里尼参与撰写的一份联合国教科文组织新报告,从2010年到2020年,神经技术公司获得的投资增长了22倍,达到332亿美元。报告称,2015年至2020年间,神经技术设备的专利数量翻了一番,美国占全球专利数量的近一半。到2027年时,神经技术设备市场规模预计将达到242亿美元。联合国安理会将在本周开会讨论AI风险。

热门文章
7月16日,中际旭创在互动平台表示,公司的800G光模块已在2023年上半年逐步起量,但更多的客户需求和订单交付预计会在2023年下半年以及2024年。
2023-07-17
X