文章来源:本文发表于《东方法学》2021年第4期。
摘要:脑机接口(BCI)技术是近年来世界范围内前沿技术之一,有广泛应用前景。首先,借助生产性的法律理论框架,该种技术可以作为示例讨论法律如何看待通用型技术带来的新问题。脑机接口作为通过有线或无线方式开展人机交互的技术实际上是信息媒介的深层次延伸,进一步拓展了基于信息交换的生产方式,将使用者纳入生产过程,并在使用者与技术提供者(平台)的关系中,围绕核心法律概念与制度重新塑造法律关系,最终确立新型生产方式的合法性。其次,脑机接口架构通过新型基础设施建设成为一个控制/生产过程,其权力运作的微观机制同样通过“账户-数据-算法”影响用户的行为。最后,每一次作为系统性生产方式的技术兴起,都更多地解决了生产要素的创制和流通问题,但对劳动价值的分配的关注较为缓慢,BCI提供了反思技术公共性的机会。
关键词:脑机接口 生产方式 架构 技术规制 分配 算法
一、引言
自从信息技术普及以来,创业者不断投入催生更多“革命性”的技术,例如人工智能、区块链、虚拟现实、数字孪生、脑机接口等,并吸引相当多的投资进行研发与推广,也不断引发法律和伦理思考。按照法学思维的一般路径,研究者会谨慎评估该种技术的应用,对技术使用过程中出现的问题尝试在现有法律框架下进行解释和解决。例如,通过设定外部技术标准、监管使用场景或通过用户协议自治的方式进行分析。这一思路容易忽视某种通用性技术带来的社会生产问题,即如果一种技术不仅是可以随意装卸分拆单一功能的物品,还可以是以通用功能构成使用者活动于其中的系统,并不断在系统中通过信息反馈而组织行为主体进行价值生产的活动,那么对于技术的监管就不能单纯集中在其本身的设计和标准上,而是涉及生产方式和生产关系等更为核心和实质的问题。
在诸多新技术不断兴起的时代,笔者意在基于经验理解法律如何一般性地回应通用性技术带来的新问题,并进行研究路径的反思。鉴于已经有大量研究围绕人工智能、区块链、虚拟现实等技术应用的规制进行了分析,笔者试图选取一个尚未进入主流法学研究者视野的,但在神经医学和生物工程领域中研发较为活跃且有广泛应用前景的技术——脑机接口(Brain Computer Interface,BCI),以此为例作进一步思考。目前,选择这一技术进行讨论显然存在风险:如果以悲观态度讨论,容易被诟病为外行,在某种技术尚未成熟的情况下就进行非专业判断、夸大技术风险,甚至可能影响技术发展,而容易忽视其重要社会价值,事实上大量技术的使用都是“先兴起,后治理”;如果以乐观态度讨论,又会被批评对尚未发生(也无法预测是否可能发生)的未来场景进行幻想,而法学研究往往是经验性的,现在少有直接经验可借鉴;更不用说直接会被批评为仅仅是在蹭热点,而相关讨论很快就伴随技术的不断更新或场景的碎片化而消失,无法积累有意义的知识。此外,在脑机接口发展早期,很多时候伦理问题显得较为突出,科技伦理研究者倾向从安全风险、自由意志、身份认同、隐私、公平等角度进行讨论,而法律尚无法给出普遍性回应,最多只能在发生纠纷时进行个案处理,这也给目前深入开展法律研究带来了困难。然而,选取脑机接口切入讨论一般性法律理论问题也有优势,这不仅可以在技术开发之初未雨绸缪,更重要的是,可以通过脑机接口展示出通用性技术的潜能,与现有关于其他在先的信息技术核心问题讨论结合起来,进而推进我们对从网络法到人工智能法等学科领域的连续性观察,提炼核心的法律理论问题域,而这些问题虽然在过去二十多年中逐渐稳定成型,却较少有系统性分析。有必要把互联网发展以来的技术应用与规制模式进行总结,尝试应用至新兴技术中,及早发现既有模式存在的问题并加以改进。
脑机接口是指在人或动物脑(或者脑细胞的培养物)与计算机或其他电子设备之间建立的不依赖常规大脑信息输出通路(外周神经和肌肉组织)的一种全新通讯和控制技术。它可以在概念上进行狭义与广义的区分,前者指仅限于作用在颅骨周围的脑机接口技术、装置和系统,而后者包括“人工耳蜗”“人工视网膜”和“人工视觉”等信息输入系统。从接口对人脑的进入程度看,脑机接口按照风险高低可以分为“侵入式”“半侵入式”和“非侵入式”,目前的实验研究主要集中在“半侵入式”和“非侵入式”。脑机接口从20世纪中期开始得到研发,目前发展迅速,在生物医学、教育、游戏、军事应用等领域的潜在应用十分广泛。虽然从目前应用场景看这仍然是围绕单一功能展开的技术,未来可能会进一步扩展至更多领域。笔者并不试图(也没有能力)面面俱到地设计在那些尚未发生的领域中的法律回应与监管措施,也无意替代未来立法者进行基于大量专业信息的判断,而仍然是从已有技术进展水平和法律理论框架为出发点展开讨论,将脑机接口置于生产性的法律理论中观察其可能的特殊性,分析其是否能够延伸这一理论框架。从这个意义上讲,笔者既是展望式的,也是经验性的,甚至对技术应用的理解是肤浅的和暂时性的,但希望通过现有问题意识对脑机接口进行透视,理解技术想要什么,期待未来的政策与制度设计能够回应现有框架提出的理论问题。
生产性的法律理论源于信息技术带来的新的生产方式再造,并不断影响作为上层建筑的法律与知识生产。信息技术不仅是一种专用技术性物品,还是一种服务,它通过特定媒介演化成生产组织,通过对虚拟“架构”的创设而拥有自身独立的利益主张。脑机接口作为通过有线或无线方式开展人机交互的技术,实际上是信息媒介的深层次延伸,进一步拓展了基于信息交换的生产方式,将使用者纳入生产过程,并在使用者与技术提供者(平台)的关系中围绕核心法律概念与制度重新塑造法律关系,最终确立新型生产方式的合法性。笔者将按照如下顺序展开讨论:第二部分在介绍脑机接口相关观念和发展过程的基础上区分作为单一工具性技术和通用系统性技术的脑机接口,认为该种技术和人工智能技术一样,在经过“非法兴起”后,其大量应用和功能可以嫁接在现有平台经济模式中,从而置于生产性的法律理论框架下分析,特别是该技术会进一步创设出新的虚拟架构,要求特定法律制度发生改变。第三部分详细讨论BCI架构如何通过新型基础设施建设成为一个控制/生产过程,其权力运作的微观机制同样通过“账户-数据-算法”影响用户的行为。第四部分在综合历史上各种信息技术发展实践的基础上,对法律如何规制技术的路径进行反思,认为每一次作为系统性生产方式的技术兴起,都更多地解决了生产要素的创制和流通问题,但对劳动价值分配的关注较为缓慢,脑机接口提供了反思技术公共性的机会。
二、从单一技术到生产方式变革
(一)技术原理与法律想象
脑机接口技术最初源于脑科学研究,并迅速扩展至相关交叉学科领域,被认为是21世纪充满前景的技术之一,也是国家之间技术竞争的重要面向。从2016年起我国启动“脑计划”,次年“脑科学和类脑研究”被列入《“十三五”国家基础研究专项规划》,其核心问题包括脑与认知、脑机智能和脑的健康等。美国政府在1989年提出全国性脑科学计划,2013年提出“白宫脑计划”,目的是探索人类大脑工作机制,绘制脑活动全图,推动神经科学研究,针对目前无法治愈的大脑疾病开发新疗法。美国军方也十分重视脑机接口的创新研究及其在医疗、军事上的领域的应用,探索神经控制和恢复、脑机接口与外骨骼机器人、无人机、无人车等设备的联用等,以研发医疗救治和康复新途径、增强和开拓脑功能和人体效能、拓展训练方式和作战环境。2013年,欧盟启动了规划周期为10年的欧盟脑计划,包含12个子项目,侧重研究超级计算机技术来模拟脑功能。
从技术原理看,脑机接口通过信号采集设备从大脑皮层采集脑电信号,经过放大、滤波、A/D转换等处理转换为可以被计算机识别的信号,然后对信号进行预处理,提取特征信号,再利用这些特征进行模式识别,最后转化为控制外部设备的具体指令,实现对外部设备的控制。典型的脑机接口系统主要包括信号采集、信号处理、控制设备和反馈四个部分。其中信号处理包括神经信息的预处理、特征提取、特征分类三个环节。如果将该过程与现有通过智能终端进行信息生产与反馈的过程相比,就会发现在抽象意义上它们都是一个信息控制的闭环系统,只是脑机接口会更加个人化和精细化,甚至可能提供因人而异的信息反馈。
与人工智能一样,脑机接口的开发与媒介形象也经历了不同的社会想象。如果放在人机交互的控制论背景下就不难发现,脑机接口不过是人机共生系统“赛博格”(cyborg)最前沿的表现方式,其理念早已出现在科幻文学和影视作品中。人脑通过机器实现远程控制,并能够将意识转化为更加具象的形态,进而在更加自由和解放的“赛博空间”(cyberspace)中不受约束地活动。这种想象和新自由主义思潮下商业力量对国家监管的排斥一脉相承,并最终形成了我们目前看到的全球互联网。其后不论是虚拟现实、人工智能、加密货币,还是脑机接口,都可以追溯到早期这种无政府主义意识形态。由于文艺作品的广泛普及又会使公众对脑机接口的出现不会感到极端恐慌或反感,从而为其未来的大规模应用逐渐打下社会认知基础。
一般而言,法律处理新兴技术问题的方式往往是放在现有法律框架下进行解释和延伸,以确保法律体系本身的完整性(例如将虚拟物品解释为财产,将网约车解释为出租车),但也会受到一般社会大众想象的影响,作出不符合当下认知和法律规则的判断(例如,将人工智能体解释为法律主体,进而拥有各类拟制权利)。类似地,早期脑机接口可能停留在纯粹医学和健康领域,无法影响大众的普遍认知,而一旦和现有各类虚拟服务相结合大规模推广至社会,就会重新以增强用户控制力和体验、去中心化服务或宣称创设一个更美好的虚拟世界等名义出现。互联网兴起的经验告诉我们,以信息自由流通名义出现的信息技术创设出的虚拟“架构”往往在微观上对用户行为形成更加深入地控制。
目前,我国法律并没有特别针对此类技术进行规范,重要的法律理论问题是:法律在多大程度上能够准确回应技术及商业应用想要什么,如何通过不同的法律关系掩盖或揭示其背后的价值生产过程。首先,脑机接口看起来是一种单一的医疗康复技术,更接近于一般的医疗器械和健康监测终端,它可以从神经层面触发和修正人脑特定功能的运作,从而潜在地取代其他人类器官的交流辅助功能。这种技术对感官残疾患者是一个福音,一旦成熟也可以进一步扩展至普通人,即允许他们通过脑机接口分析其脑信号,进而以意念的方式在虚拟空间中操纵和实现特定服务。其次,如果初级阶段的脑机接口延伸到诸如虚拟现实环境下的娱乐和内容产业中,就不难看出其重点在于以更加便捷的方式使用户进入服务领域,摆脱感官和四肢的操控。由此,脑机接口就成为一种媒介和入口,在特定应用程序中实现中介的功能。最后,一旦用户开始习惯通过这种方式接入互联网,就可以沿用传统商业模式开展创新,这体现出脑机接口还将成为一个进入系统性的生产组织的连接点,只有通过双边市场模式才能调动各类社会化资源和市场要素并通过平台化进行精确匹配。不同层次的视角有助于提前预判脑机接口服务可能使用的各类流行话术,并以完全不同的法律关系看待它:(1)技术中立,主张脑机接口仅仅是一个接口、管道或信息中介,起到连接器的功能;(2)用户自由和解放,主张用户可以将双手和五官解放出来,并通过大脑开发无限功能和创意;(3)控制,主张用户拥有对技术使用的控制能力,更加便利。它们都可能掩盖其背后通过生产性平台进行的生产组织活动,以及对用户活动空间的压缩。
由此看来,表面上单一的技术可能本质上是生产组织,进而为通过此类技术进行的行为承担不同类型的责任。如果说以往的法律研究更倾向将技术看成是可以独立存在并交由用户进行自主使用的物品,那么当人们一旦认识到技术本身通过商业模式可以包装成服务,并以低成本获取使用服务的信息,逐渐引导和动员用户进行更有效率的价值生产活动,并最终通过商品化过程获利,形成一个有效信息闭环时,那就可以说通用型技术是一种生产方式和组织形式,能够有效地动员生产、调配生产要素。通常我们强调技术创新仅仅局限于特定种类的工具性发明创造,而技术背后的模式创新则将具体技术嵌入到无处不在的服务过程中。
(二)理论框架:生产性的法律
鉴于我们对人脑的认识仍在不断深化,脑机接口何时能否成为一种通用型技术,笔者尚无法预测。从法律视角而言,最好避免对某种无法预料的指数型技术创新进行过早判断(例如,何时从弱人工智能实现强人工智能,到达“奇点”),而是关注当下的实际问题。事实上,法律并不特别关注单一功能的特定技术的外部性问题,它们可以在风险评估基础上事前设定技术和质量标准、事后进行侵权损害赔偿救济得到解决。只有当脑机接口成为构成系统性信息反馈与控制的技术,并嫁接在现有平台商业模式之上,才会引发法律体系的广泛调整,形成具有特定内核的规则集群。从这个意义上说,法律更容易受特定技术的使用和扩散过程的影响,特别是当这一过程能够体现并扩展为普遍性的生产方式时。这表明,法律除了对社会主体进行行为控制和调整预期的基本功能外,还有重要的生产性的面向,作为上层建筑需要在深层次上对新型生产方式和生产关系进行回应,能够起到推动先进生产力发展的功能。人工智能技术的广泛应用已经证明了这一点,以单一功能视角孤立地看待某种智能终端不足以认识其背后主导和组织经济活动的力量,因此需要将智能算法嵌入数字平台的自动化生产过程进行考察。
当一种新型生产方式兴起的时候,就会涉及谁在生产、生产什么、如何生产、如何分配等基础问题,法律必须对这些问题作出回应,否则该种生产方式可能处于“非法”状态,无法稳定,并会持续给社会和市场秩序带来影响。互联网的早期历史表明,“非法兴起”对低成本获取生产要素以便形成新商业模式至关重要,这一过程在随后的移动互联网阶段不断出现,如分享经济、人工智能、区块链和无人驾驶等模式和技术创新都或多或少经历了这一过程。类似地,脑机接口技术一旦成熟,广泛应用最便利的方式就是逐步嵌入已有互联网服务的场景中,并通过特殊的硬件和软件重新创设新的虚拟空间入口,或者整合进现有信息基础设施当中加以适当改造。对脑机接口服务提供者而言,仍可能会按照既有免费与补贴的商业模式对该种技术进行推广,以便低成本获取大量人脑脑波信息,培育开发相关智能算法,并尽可能以低成本获取生产资料,盗版、侵权、不正当竞争也会不断发生,直至这一新型生产方式拥有足够多的流量、趋于稳定并与既有平台开展合作。
生产性的法律理论认为,法律对系统性技术变革回应的方式往往通过两个方面展开:(1)确认新兴技术合法性;(2)协调新旧生产组织利益冲突。这一过程包含对新型生产方式、生产工具、生产过程和生产关系等问题的全面审视。应该认识到,对于特定技术而言,生产方式视角意味着超越使用者—工具的关系,而是看到使用者如何被一种外在权力机制纳入一整套系统中,系统权力通过微观机制展示出来并影响人的行为。一旦确立了合法性,体现新生产方式和内容的法律体系才会逐渐扩展趋于稳定。
法律在确认这一过程合法性的时候,逐渐形成和保护“架构”这种主要通过技术和商业模式建构起来的利益形态。架构本质上是通过信息生产、收集、储存、加工、分析、反馈等活动产生衍生的集合性价值的闭环控制系统,也代表了新型权力的运作方式。用户在特定架构中注册独一无二的账户,形成虚拟身份进行在线活动,无论是在架构内生产的内容数据还是其活动的元数据都可以被追踪,并通过各种算法集中分析,形成更为多元的数字身份,进而在不同场景下通过评分、推荐等方式刺激用户进一步按照架构的目标开展活动。不难看出,脑机接口架构作为一种新型信息控制系统实际上也是按照这一逻辑发挥其功能的:用户需要以真实身份注册账户以使用脑机接口,并通过大脑电信号发出指令,机器通过算法模式识别脑波后实现架构中的特定功能操作,并积累行为数据。这无论在速度上还是效能上都可能超过传统上通过肢体或语音等方式进行人机交互的方式,从而大大便利了价值生产。
(三)脑机接口架构想要什么
从历史上看,任何一种生产性的系统技术都会依托于现有商业模式进行迅速扩张,但其基本原理没有显著变化,即试图对社会主体进行认证,创制出新型生产空间,并以低成本组织他们进行生产活动。空间的创制是系统技术的精髓,依赖于使用对用户持续而低成本追踪的技术,也便利了生产要素的流动性。一旦架构开始形成,就需要通过技术、商业模式和法律不断保护其逐渐扩张但封闭的边界。实际上,架构本身也要求在确立自身地位的同时改变某些法律关系的适用,主张自己是反映旧生产关系法律规则的“例外”,一旦这一非法兴起过程完成,这些例外就迅速变成常态和默认设置,新的规则和生产秩序会逐渐稳定。
基于过去二十余年的历史经验总结,生产性系统技术形成的架构从以下几个方面不断要求法律进行相应调整,以维护架构本身的权益,但法律内容本身并没有明显改变:①数字身份:要求通过账户为用户创设虚拟身份,在架构中持续追踪账户行为,不断识别用户的真实性和唯一性,确保账户追踪的精准和管理便利。②虚拟财产:要求用户只能使用特定服务中的虚拟道具或装备,未经许可不得转让或处分,用户仅能获得一种有限的使用权而非绝对所有权。③知识财产:要求用户在架构中的公开区域生产的信息内容授权架构以非排他、永久且免费的使用权;用户无权改造或破解下载到个人电脑上的终端软件架构(如添加外挂)。④个人信息:要求用户在架构内的一切行为数据会被记录和分析,以满足特定商业模式(如定向广告),或者改进服务(如个性化推荐)。⑤劳动:要求用户和平台之间是使用、合作关系,而非劳动关系,因此灵活劳动者无法依照劳动合同法要求平台承担雇主责任,也不享有劳动法规定的各项基本权利。⑥秩序管理:架构有权对用户的不当行为和言论进行一定程度的管理,防止竞争对手入侵架构进行不正当竞争。
按照这些主张,我们也可以根据脑机接口技术的特殊性合乎逻辑地推导出脑机接口架构需要法律进行何种改变以确保其生产性权益:①唯一身份:为用户创设唯一真实的账户,用户特定区域的脑波可以被用来形成唯一独特的身份,使用脑机接口的过程既是真实身份创设和认证过程,也是多元身份创设和识别过程。②虚拟财产:用户通过脑机接口在架构中生成的信息以非排他、永久、免费的方式授权给服务提供者,形成集合性价值,但无权处分架构中提供的虚拟物品,仅能使用。③个人信息:通过算法解读出的人脑电信号属于个人敏感信息,需要用户明确授权同意使用,以不断改进服务体验,但会通过去标识化技术降低隐私泄露风险。④知识财产:用户不得尝试自行破解相关硬件或软件进行自我调整,需要根据脑机接口服务提供者的指引进行使用,否则可能侵犯相关知识产权,并自行承担所有可能的安全风险。⑤算法黑箱:用于识别用户脑信号的算法是一项服务,可以以可视化的方式向用户展示部分功能,或通过服务人员加以解释,脑机接口服务提供者有权随时进行更新 和调整,但算法代码本身不向用户及公众披露。⑥行为规制:用户脑波一旦被算法解读,形成可供识别的外在行为或操作过程,就不再是用户思想的一部分,因此需要对其后果负责,平台有权对用户行为基于信息安全或市场秩序而进行管理。⑦合同关系:用户与脑机接口服务提供者的法律关系按照用户协议性质不同分为合作关系或技术服务使用关系,脑机接口仅仅是一种技术接口,并非劳动活动的组织者。⑧商业模式:用户需要容忍定向广告等基于用户个人特征的自动推送的服务,不得使用第三方工具屏蔽。⑨竞争秩序:在脑机接口架构非法兴起过程中,要求法律确认适用既有法律的特殊性和例外性,保护其创新地位,但不允许后续竞争者以同样方式获取架构内的数据、内容和流量,以维护架构的封闭性。
需要再次强调,笔者无法设计脑机接口服务场景及具体的用户协议内容,但基于已有的生产性架构实践,完全可以合理推断出脑机接口架构会延续已有法律对平台经济合法性的确认需求。只有先解决了生产行为的合法性,才可能进一步讨论更为具体的稳定状态下的法律问题。
三、脑机接口架构的微观机制
本部分将进一步讨论脑机接口架构中的微观控制和生产机制,试图理解围绕这种新型技术的法律结构如何展开。这一新型架构起作用的方式会延续以往互联网宏观架构的构成,并继续通过“账户-算法-数据”的微观结构对使用者发生作用,最终通过其他配套的信息基础设施进行扩展。例如,脑机接口可以接入现有在线视频、游戏或自动驾驶服务,通过特定终端硬件或软件与虚拟现实技术结合在一起提供网络服务,不断延伸至各类场景。
(一)通过账户的认证
在虚拟空间中实现对使用者的身份认证已经成为网络治理的重要环节。账户是赛博空间与现实世界的连接点,用户通过用户名与密码进行登录,以唯一账户身份行动。通过对用户真实身份的认证,可以最终定位到具体个人,也可以持续在架构中追踪用户,积累数据并画像,进而生成多元的社会身份。由此账户就成了具有获取在线服务权利的个人化权限和资质。平台企业有能力进一步将用户按照各种标准分类并进行预测,通过引入更多生产性资源实现商业创新,进而构建更多新型网络,将用户不断纳入更加复杂的网络中,促成了用户新的社会身份生产与再生产。
从历史上看,账户的法律演进原理在于将赛博空间中的账户和物理世界中的用户(及其数字身份)在法律上尽可能分离,即强调账户是一种属于平台的服务,用户对产生在账户中的有价值的数据不拥有财产性权利,这意味着平台企业使用用户数据的一切分析挖掘试验都只会关联到账户,而不 会直接关联到物理世界中的本人,产生的价值也与用户在分配意义上无关。在既有生产关系下,法律关系的松散反而有利于平台对用户价值的获取。直接的结果便是,匿名或去标识化的数据分析仍然可以对用户产生影响,持续地进行监控,并通过账户将其纳入生产体系。
脑机接口在实现人脑与机器交换信息的过程中,实际上也为用户开启了一个账户。这一账户的特点是:首先,算法通过识别不同用户的脑波,可以为其创设一个独一无二的基于生物信息的标识符,使用起来会比传统的身份证件更加便利,也可以避免像人脸这类标识符的社会争议,因此也将成 为身份法律制度的一部分,但其推广使用有赖于国家制定统一的技术标准。其次,这一账户需要通过特殊的硬件和软件才能登录访问,从而进一步确保了该账户密切的人身属性,无法转让,这在技术上确保了用户协议规定的账户只能向唯一用户提供服务的要求,但也会产生账户内积累数据的转移和继承问题。最后,脑机接口服务提供者对账户的管理形式可能不会发生较大变化,仍然会开发出一整套管理用户的行为(如封号、禁言等),也会通过展示经验等方式为这一在线身份赋予声誉价值,进而实现劳动管理和交易匹配。
(二)算法与黑箱
脑机接口技术及其服务的算法实际上存在三类功能,一是上述识别到特定大脑信号进行身份认证;二是将大脑信号转化为机器识别的信息并发出操作指令;三是通过身份识别创设多元虚拟身份并进行自动化服务推送和决策。这三重算法功能紧密结合在一起,更为有效地组织生产,将用户纳入价值生产活动。
这里可能存在的问题是:第二阶段的算法模型在多大程度上能够反映用户大脑真实的活动和意志,进而影响用户意思表示的准确程度。实际上对脑机接口服务提供者而言,用户的意志是否独立真实作为一个科学问题并不重要,就像人工智能究竟是否真的有“意识”的哲学问题一样,法律完全可 以设定外在标准加以确认。重要的是平台算法会确立一套计算机语言进行转译,用户要做的只是接受用户协议并按照算法给出的功能一一确认使用,最终转化为可以生产价值的操作行为即可,如果发生了认知错误或非入侵脑机接口情况下解析颗粒度较低等情况,还可以不断调整算法予以修正,但不会影响正常服务流程。
随着算法监管越来越倾向将算法视为平台经济运转中的重要环节,越来越多的资源也已经投入到针对各领域的算法功能与外部性上,如内容审查、自动化决策与推荐、定价机制等。对未来脑机接口的发展而言,也将存在类似针对算法黑箱的外部监管与信息披露问题,在制度上可以不断衔接,限于篇幅笔者不加详述。
(三)开发神经数据推动生产
类似于人脸数据,经过脑机接口转化过的神经数据也是一种新型生物信息,除了生物伦理争议外,也会引发更进一步的数据权属问题。个人信息从来都依托于特定技术的开发,只有当脑机接口终端变得更加普及,经由此类技术开发出的神经数据才可能逐渐变得敏感。鉴于脑机接口已经十分接近人的大脑,可以预见会有社会利益群体主张用户必然应当有权控制其神经数据,要求创设一系列新型民事权利或消费者权利。而在脑机接口服务提供者看来,大脑信号只有通过专门硬件和软件的生产和解读才能成为有意义的信息,平台投入了资本和劳动,仍然希望按照用户协议规定免费收集此类新型生产要素,形成稳定的集合性数据资源池,进而开发出更加符合人脑真实运作的算法模型,其财产性价值与用户个人无关。由于脑机接口操作需要大量脑波信息,由此产生的生物信息在处理过程中势必更加敏感。为避免可能的麻烦和纠纷,脑机接口服务提供者会大力开发个人数据的去标识化处理,或者主张自己有能力证明去标识化技术手段使得重标识风险较低,不具备识别特定自然人的能力,那么一旦用户通过身份认证,脑波数据被算法转化为操作信息后就接受去标识化处理,使其仅仅能够关联到账户而非个人,从而在个人和架构之间架设起适当的防火墙。
四、反思技术规制的研究路径
(一)法律如何规制技术
笔者对脑机接口技术讨论的前提是:假定脑机接口技术未来能够成为一种通用的系统性技术,才能够广泛的应用,这需要新的基础设施进行配套并进行生产方式变革,而且其演进路径也可能需要长时间与其他技术应用的融合,甚至冲突。如果这一假定成立,那么脑机接口会逐渐嫁接在现有的平台经济模式当中,在嵌入过程中进一步调整和加社会成员和互联网的生产关系;因此该技术不仅不是宣称的革命性的,反而是借助创新之名对现有生产方式的强化,而非偏离。与此同时,在此过程中,会出现利用该种技术非法兴起形成的新平台,和既有平台一起推动脑机接口应用的合法化,并通过各类意识形态和话术要求法律进行调整。法律在形式上仍然会保持稳定性和连续性,但背后反映的生产过程和方式则不断发生激烈地变化。从这个意义上说,笔者并不特别关注脑机接口本身的特殊性问题(这需要时间观察并通过实践来解决),而是关注其反映的法律与技术关系的普遍性问题。
传统法律处理法律与技术的关系这一议题时往往倾向将技术视为可以独立存在的人造物,在法律上体现为某种客体。但最近二十余年的网络法发展经验告诉我们,将技术看成孤立物品的视角在21世纪无法持续,也不反映真实世界,特别是在物联网时代,任何小型的边际上的技术设计或终端都可能被嵌入一个芯片向中心服务器传输数据,从而和一个更大的信息网络与系统连在一起。因此,需要以一个更加广泛的角度看待技术系统,即不论技术本身,还是技术的开发者、控制者、使用者,都共同存在于一个不断形成的系统中,在生产经济价值过程中具有不同的分工。技术系统通过对“空间”的拟制和想象,重新塑造新的空间和价值增长点,并主导形成平台,进行生产。这可能是脑机接口带来的真正法律问题的核心,即是否允许该种技术以扩展性的方式存在,以及一旦扩展,会在生产过程中如何扩展其权力,如何在与竞争对手的关系中、与用户的关系中体现出来,等等。这些问题要比诸如赛博格一类的科幻问题更有社会价值。
无人驾驶技术规制的研究历史已经表明,将技术事物本身仅仅视为孤立存在和运作的物品无法把握系统性技术的核心。早期法律研究者对无人驾驶汽车的想象仅停留在智能汽车会单独卖给消费者随意上路,由此出现关于交通事故责任认定的讨论,这说明研究者实际上无法预测某种新兴技术的使用场景和商业模式,而且往往是错的。其错误在于未能看到智能汽车实际上是一个生产平台的入口(后来改称为“智能网联车”),车体本身被转化为一个不断生产汇集数据的新型架构空间,通过网络不断与云端联系,并进行车路协同,从而带动新型基础设施的翻新改造;而且从长期看更有效的方式是按照共享单车模式分时出租而非个人购买,既便于管理也降低了社会成本。因此,笔者没有就事论事地讨论脑机接口具体法律问题,例如技术标准、风险与安全、侵权责任等,而是基于过去技术发展和应用模式进行分析。
法律与科技的关系是法学中持久的话题。如前所述,传统法律大部分时候应对的是单一功能的技术,因此需要事前设定技术和质量标准,并在事后通过落实侵权责任进行损害赔偿救济,或者保护特定专利的使用。但法律在应对系统性技术时往往无能为力,“只见树木,不见森林”,这主要是因为系统性技术改变了生产方式和生产性资源的组织方式,加速了经济循环和生产效率,必然要求法律加以确认而非抵制。因此,针对单一功能技术创造的法律规范对系统性技术和生产组织主体并不适用,也是无效的,后者反而要求对这些规则进行例外适用。如果脑机接口仅仅是一个普通的专用型技术,那么和其他神经医学上改进人的神经心理健康的技术和药品就没有区别,也会使笔者的研究变成一个单纯的医事法研究。而一旦看到脑机接口成为可以开展人机协作与互动的媒介和入口,就会发现相较以往的技术环境,其具有更强的组织力和控制力,也会重新塑造关于模式同意、认知行为的问题。
本着历史唯物主义的研究思路,笔者将技术视为一个不断演化的系统和组织形态,法律作为另一套相对独立的系统如何介入其运作过程将是十分持久的问题。法律究竟需要以反对不正当竞争的名义维护既得利益群体的生产方式及其相关利益,还是以保护创新的名义维护新兴创业者的生产方式及其相关利益,难以一概而论。我们已经看到,任何创造性破坏的技术本质上都是系统性技术,最终帮助确立有效组织生产的数字基础设施。互联网的非法兴起过程表明,法律需要认识到系统性技术的公共性维度,即数字基础设施建设和对流动性资源的集合性使用,如果新兴技术及其调配的生产要素无法在现有基础设施之上开展生产活动,法律就需要为该种技术保留一定的灰色空间,允许双方进行(某种“不正当”)竞争,对其商业模式应当保持谦抑态度。
如果生产性的法律理论具有解释力,笔者就可以据此尝试总结出法律在面对新型技术时的一般性规制模式,并对我们过去的研究路径进行反思,还可以对脑机接口所处阶段进行预判。该模式事实上是一个历史和动态的过程。第一阶段可以观察某种新兴技术和服务在初始阶段的变化与发展,特别是它如何在现有新型经济模式下得到开发,以及如何与新兴商业模式加以融合,法律在这一过程中保持开放审慎态度(例如,无人驾驶技术)。第二阶段需要区分单一功能的技术和通用功能的技术,从而较早跟踪观察该种技术如何进一步扩展为平台经济模式,并在此过程中解决与既有经济利益之间发生的冲突与不正当竞争问题,如果出现通过网络扩散急速扩大的风险,则需要及时限制叫停(例如,虚拟币引发的非法集资)。第三阶段是逐步确认平台模式下的新兴技术的合法性,通过对现行法律的重新解释、修改或制订新的单行法律法规的方式加以确认,并推动新型基础设施的建立和完善。最后阶段则是在确认生产方式的基础上加强更细致的监管,包括制定技术标准、审查用户协议、推动日常监管等,充分利用其生产性优势,推动集合性经济价值在社会范围内的公平分配。而法律系统也正是在这一过程中发生变化,既在形式上保持既有的原则和规则,又会逐渐更新内容,适应新技术的特殊性。不难发现,笔者正是按照这四个阶段对脑机接口的开发与应用轨迹,以及可能的法律影响进行讨论。这一框架也可以用来分析其他具有潜在平台经济系统能力的技术,从而更好地帮助我们规划与评估不同类型技术的开发。
(二)增强技术的公共性
从早期互联网到人工智能到脑机接口,我们见证了一种新型生产方式的不断形成与扩展,并在既有基础设施的基础上开发调动新的生产要素,但同时也看到消费者权利的削弱、用户自主空间的压缩以及更为抽象意义上更加自动化的过程对人主体性和自由意志的影响。在面对此类问题时,有必要识别和避免几类常见的理论性偏差:第一类是在哲学上讨论在人通过机器进行调适和改进过程 中,人的主体性在不断丧失(例如,人工智能的自动化决策机制会让人降低判断力,或者脑机接口可能会允许机器过度介入人脑而最终取代人自身的判断和决策),这类讨论抽象而言似乎有道理,但如果放在具体时空条件下审视则会发现实际上社会看待技术的方式本身也在不断调整变化,有了技术辅助,人们实际上可以作出更好的决策。有必要看到,人的主体性问题在相当程度上需要放置在社会经济生活的生产关系中理解,即因为生产资料占有的不平等,人们的社会主体地位也持续保持了某种不平等状态,机器的出现反而加剧了这种情况。第二类是按照传统法学分析,简单以赋权的方式设定新型权利以反对歧视等问题,如数据权利、算法权利、神经权利等,这些权利(或权能)可能在具体法律分析中构成形式上有效的说辞,但仍然没有能够看到其背后的生产过程和分配机制(实际上是默认接受),因此可能只是在边际上解决问题。第三类是在面临政策选择时进行非黑即白的抉择,即倾向于夸大技术的风险(如鼓吹人工智能会控制或取代人类,或B脑机接口会产生非人),这也同样没有看到BCI技术有推动生产效率的潜力,而且脑机接口技术展示了经济转型过程中机器换人的另一种可能性,即人与机器开展有效协作,增强人的主体性。第四类主张对技术使用的不同场景进行特殊规制,并努力寻找不同场景中的特殊性。“场景化规制”看起来较为合理,但一般很难厘清何为场景,仍然需要围绕技术的特殊性按照其在生产过程中所起到的功能加以剖析(如认证、行为评价、实现特定政策目标等)。综上所述,不能仅仅就技术本身开展讨论,而需要穿透技术背后代表的生产方式,合理认定使用者在这一生产过程中所处的地位。
如前所述,目前法律已经开始形成较为稳定应对系统性技术的分步骤思路,而且在每一种新型技术出现之后,都会重复提出上一种系统技术带来的治理问题。按照目前的经验,在技术发展过程中需要继续思考改进如下核心问题:(1)如何持续推动生产要素的跨平台流动,抑制平台企业的垄断效应;(2)如何推动数字基础设施的建立,并加强互联互通;(3)如何强化对用户协议在边际上的司法审查,保护消费者权利;(4)如何以低成本推动个人信息逐渐转化为公共信息,鼓励基于公共数据的创新与开源;(5)如何加强劳动者权益保护,设计适应流动性的社会保障制度。笔者认为,未来关于脑机接口的讨论也应当遵循上述思路,既看到该技术存在的问题,也需要在发展中不断探索改进,并通过大众媒体与教育过程逐渐达成关于技术使用的共识,避免数字鸿沟。特别是,我们不仅要看到新兴技术的循环开发模式和生产面向,也需要更加关注价值的分配面向。每一次系统性技术兴起的过程仅仅解决了生产要素的创制和流通问题,但对劳动价值的社会化分配的关注不足(或者认为市场环境下的流通本身就解决了分配)。类似地,在市场主导下的平台经济过程中,承认脑机接口场景中带来的碎片化数字劳动,推动多元获取收入和报酬的机制十分关键。但仅仅依靠市场仍然会出现富者愈富的情形,因此有必要在现有灵活用工政策的基础上采取一系列措施,包括推动流动性、允许用户个人积累数据性生产资料,推动建立一个更加具有公共性的平台,及时跟进和发现因脑机接口带来的新型工伤与劳动保障问题等。
结 语
生产性的法律理论认为,作为上层建筑的法律需要对新型生产方式进行回应,并确保生产资料与新生产关系的合法性。在此过程中,经济和社会价值被不断生产和再生产出来,通过以生产资料财产权利为核心的法律制度加以确认;同时,以技术为表现形态的生产系统逐渐嵌入市场与社会,成为我们日常生活的默认设置,直至下一次经由新的“破坏式创新”技术出现,不断以非法兴起的方式对既有稳定系统发起挑战。在每次挑战过程中,新型技术的特殊性被作为普遍性写入法律规范,自互联网以来的核心法律问题也会一直延伸,涉及身份认证、数据权属、算法黑箱、竞争政策、数字基础设施以及价值分配机制等,它们构成了我们所处信息时代的独有法律问题。历史带给我们的教训是,越来越需要在每种生产性技术开发之初就从深层次上对这些问题进行综合评估考量,思索能否在现有治理实践基础上进行政策和法律上的调整改进,推动新旧系统融合改造,从而在确保代表先进生产力的新生产方式得以快速兴起的同时,降低对市场秩序、消费者与劳动者权益的影响。