这篇文章确定了一个新的存在风险因素，该因素在以前的文献中没有被承认；脑机接口。脑机接口是指允许大脑直接与外部设备交互的技术。特别是，BCI 已被开发用于从神经活动中读取心理和情感内容，并已被开发用于有意刺激或抑制某些类型的大脑活动。目前 BCI 主要用于治疗目的，但它们的潜在用例要广泛得多。
我们认识到这听起来有点像科幻小说。这里的怀疑是有道理的。但是，该技术的当前状态比大多数人意识到的要先进得多。特别是，已经存在经过充分证实的研究原型（Moses et al 2019; Guenther et al 2009）；包括 Facebook 和 Neuralink 在内的许多公司正在努力在未来几十年内将这项技术商业化（Constine，2017；Musk 2019）；BCI 研究人员普遍认为，这项技术不仅可行，而且会在不久的将来上市（Nijboer 等人，2011 年）。然而，这项技术带来的风险几乎被完全忽视了。
本文将概述脑机接口的发展和广泛部署如何显着提高长期全球极权主义的可能性。我们建议两种主要的影响方法。首先，脑机接口将允许空前的监视扩展，因为它们将使国家（或其他行为者）能够监视其对象的心理内容。其次，脑机接口将使极权独裁者比以往任何时候都更容易通过使用大脑刺激来惩罚异议思想，甚至使某些类型的异议思想成为物理上的不可能，从而比以往任何时候都更容易监管异议。
目前，X-Risk 社区完全没有注意到这一风险因素。我们建议，鉴于其影响的可能性很高，以及这种影响的可能程度，它值得更多关注、更多研究和更多讨论。
1. 定义
1.1 存在风险
全球生存风险是那些威胁地球起源生命过早灭绝的风险（Bostrom 2002）或威胁“永久和急剧减少它对未来发展的潜力”（Cotton-Barratt & Ord 2015）。因此，并非所有的生存风险都会带来灭绝的危险。不可逆转的全球极权主义通常也被认为是一种生存风险。因为即使不构成任何灭绝风险，它也有能力不可逆转地破坏或永久削弱人类的巨大潜力（Ord 2020）。
1.2 风险因素和安全因素
风险因素是使存在风险更可能发生的情况。这种类型的一个例子是国际冲突，它本身几乎没有灭绝的可能性。但这可能会大大增加核战争的可能性，从而增加生存灾难的可能性。存在风险和存在风险因素并不总是相互排斥的；一些人认为气候变化本身既是一种生存风险，也是一种可能增加其他类型生存风险的风险因素（Torres，2016 年）。
安全因素与风险因素相反。这是降低另一个存在风险的东西。例如，良好的国际治理可能是减少核战争机会的安全因素。
正如避免存在风险的行动至关重要一样，处理风险因素可能同样重要，或者在某些情况下，甚至比处理风险本身更重要（Ord 2020）。例如，如果某个特定 X 风险发生的几率为 10%，但某个风险因素使该几率高达 90%，则在解决风险本身之前解决风险因素可能最终更具成本效益。情况并非总是如此，在某些情况下，处理风险因素的成本效益可能较低，但如果这样做具有成本效益，就有充分的理由来减轻存在的风险因素。
本文旨在识别和概述新的和未被注意到的存在风险因素的危险和可能性。
2. 脑机接口
2.1 当前脑机接口概述
脑机接口（或 BCI）是大脑和外部设备之间的接口。某些形式的 BCI 已经存在；该术语指的是用于多种目的的一系列技术。目前，BCI 最著名的商业用途包括恢复失去的感觉，例如用于恢复听力的人工耳蜗和用于恢复视力的视网膜植入物（Anupama 等，2012 年）。然而，脑机接口具有更广泛的用途，这些用途已经作为在用的医疗技术或经过证实的研究原型存在。在本节中，我们将概述其中的一些用途，以了解该技术的当前和近期范围。
出于我们解释的目的，脑机接口有两个广泛的功能。第一种 BCI 能够读取、记录、解释、发送和用于各种目的的神经活动。第二种 BCI 能够写入大脑。他们能够影响和改变大脑活动；通过使用颅骨安装的微电极或通过使用侵入性较小的经颅电刺激来刺激或抑制各种反应。这两种类型可以组合在一起使用，但为了清楚起见，我们将它们称为类型 1 和类型 2 BCI，以区分功能。
1 型 BCI 能够读取神经数据，但也可以出于多种目的报告和发送这些数据。这些已经被用于实时翻译来自神经模式的语音（Allison et al 2007; Guenther et al 2009; Moses et al 2019），并从神经模式中检测积极和消极的情绪状态（Wu et al 2017）。预计此类近期 BCI 将能够检测故意欺骗，甚至检测潜意识识别，并检测更精确和复杂的思想内容（Evers 和 Sigman 2013；Bunce 等 2005；Bellman 等 2018；Roelfsema，丹尼斯和克林克 2018）。记录和解释神经数据有许多实际用途。到目前为止，BCI 已被用于灵长类动物，使它们能够通过思想控制假肢和智能设备，通过直接向相关设备发送心理命令（Moore 2003; Carmena et al 2003; Ifft 2013）。这些相同的技术也被用于帮助截瘫或四肢瘫痪的人，为他们提供神经分流器，记录来自大脑的信息并将这些信息直接发送到肌肉被激活的地方，允许患者使用以前残疾的肢体（摩尔2003）。许多公司还有一个长期目标，即允许用户在精神上将消息传递给其他 BCI 用户，只允许一个想法进行静默交流（Kotchetkov 等人，2010 年）。这些相同的技术也被用于帮助截瘫或四肢瘫痪的人，为他们提供神经分流器，记录来自大脑的信息并将这些信息直接发送到肌肉被激活的地方，允许患者使用以前残疾的肢体（摩尔2003）。许多公司还有一个长期目标，即允许用户在精神上将消息传递给其他 BCI 用户，只允许一个想法进行静默交流（Kotchetkov 等人，2010 年）。这些相同的技术也被用于帮助截瘫或四肢瘫痪的人，为他们提供神经分流器，记录来自大脑的信息并将这些信息直接发送到肌肉被激活的地方，允许患者使用以前残疾的肢体（摩尔2003）。许多公司还有一个长期目标，即允许用户在精神上将消息传递给其他 BCI 用户，只允许一个想法进行静默交流（Kotchetkov 等人，2010 年）。
类型 2 BCI 的用途更加多样化。许多用途是治疗性的。例如，深部脑刺激已经使用神经刺激来治疗各种残疾和病症；包括帕金森病（Deuschl 2005；Perlmutter 2006）。类似的技术已被用于缓解强迫症等疾病 (Abelson et al 2005; Greenberg 2006)，并已被建议作为阿尔茨海默病和抑郁症等疾病的潜在未来治疗方法 (Laxton 2013; Mayberg et al 2005)，甚至可以恢复功能在中风后有运动障碍的人中（Gulati et al 2015）。
通过深部脑刺激，控制身体疼痛反应也是一种可能；此类技术已被用于缓解慢性疼痛（Kumar 等人 1997；Bittar 等人 2005a）、治疗幻肢综合征（Bittar 等人 2005b）、增强记忆力（Suthana 2012；Hamini 等人 2008）等等。正如脑机接口目前可以抑制疼痛一样，疼痛反应也可以出于各种目的而受到刺激，从审讯到激励再到惩罚。同样，BCI 已经能够人为地刺激或抑制情绪反应（Delgado 1969；Roelfsema & Klink 2018）。这些只是脑机接口已证实的一些功能。未来，有人建议 BCI 可用作治疗渴望和成瘾的可能方法，并作为改变内部驱动力和奖励系统的一种方式（Mazzoleni & Previdi 2015；Halpern，
“考虑吃一块巧克力蛋糕。在进食时，我们将数据输入到我们的认知装置中。这些数据提供了蛋糕的乐趣。乐趣不在于蛋糕本身，而在于我们对它的神经体验。将我们的感官欲望与潜在的生存目的 [营养] 脱钩很快就会触手可及。” – Moran Cerf，西北大学教授，Neuralink 员工。
2.2 未来的脑机接口
正在对 BCI 进行大量研究和开发，以扩展其功能，并使 BCI 更便宜、更精确、侵入性更小、更容易被更广泛的人群使用。目前致力于开发廉价、可公开访问的高级 BCI 的公司包括 Facebook（Constine，2017 年）、Kernel（Kernel 2020 年；Statt 2017 年）、Paradomics 和 Cortera（Regalado 2017 年）以及 Neuralink（Musk 2019 年）。美国军方的研究机构 DARPA 正在资助这一方向的重大研究（DARPA 2019），中国政府也是如此（Tucker 2018）。
BCI 的潜在用途已得到充分证实。目前的主要困难是成本、精度和侵入性。有这么多公司和政府致力于解决这个问题，这些障碍很可能会迅速消除。
2.3 并非所有 BCI 都涉及“人道”风险
作为一个澄清点，本文并不认为所有 BCI 都是存在的风险因素。人工耳蜗似乎不太可能对任何存在风险的可能性产生任何影响。然而，我们确实认为，某些更先进的 BCI 可能极其危险，并可能大大增加长期全球极权主义的风险。
2.4 当前关于 BCI 风险的文献
2.4.1 先前识别的风险
目前关于 BCI 带来的全球生存风险的文献很少。绝大多数关于 BCI 风险的文献都集中在非常低规模的影响上。已考虑的此类低风险风险包括手术的手术风险、可能与健康相关的副作用，例如睡眠质量改变、意外人格改变的风险，以及使用 BCI 对下游心理健康的影响或其他未知影响的可能性（Burwell ，样品和拉辛 2017）。还发现了对个人隐私的潜在威胁；特别是 BCI 直接从用户大脑中提取信息的风险（Klein et al 2015）。
在更高的范围内，Bryan Caplan (2008) 通过协助维持独裁统治，成功地将“大脑扫描技术”确定为可能在未来千年的某个时间点影响生存风险的一个因素。然而，卡普兰只关注下一个千年内的风险，并没有考虑在更短的时间内发生这种情况的高潜力；特别是在接下来的一百年内。他也只是简单地提到了脑部扫描作为一项技术，并没有考虑到脑部扫描技术在所有公民中始终存在和活跃的风险。如此广泛的使用是当前多家 BCI 公司的既定目标。最后，Caplan 没有考虑 BCI 影响的全部深度——只提到大脑扫描增加监视深度的能力，
2.4.2 网络安全和胁迫
先前文献中确定的最后一个风险是网络安全。尽管以前的文献主要关注对个人的威胁。具体来说，这与信息安全、金融安全、物理安全和物理控制方面的漏洞有关（Bernal 等人 2019a）。BCI 就像计算机一样，容易被恶意代理操纵。BCI 和大脑扫描提供了前所未有的个人信息、密码以及有关用户思想、经验、记忆和态度的数据，因此为攻击者提供了一个有吸引力的领域。恶意行为者很可能会利用安全漏洞来协助网络犯罪。此处进一步先前确定的风险包括身份盗用、密码破解、勒索、甚至损害依赖 BCI 作为医疗设备的目标的物理完整性（Bernal 等人 2019b）。使用深部脑刺激来强制或控制 BCI 用户也是一个可能的风险来源（Demetriades 等 2010）。这里证实的可能性包括控制运动、唤起情绪、唤起疼痛或痛苦、唤起欲望以及影响记忆和思维过程；而这些只是最早发现的能力（Delgado 1969）。但是，过去的论文仅将其视为对个人的风险；个人可能受到破坏、监视、抢劫、伤害或控制。过去的研究尚未探索为整个人类带来的风险。使用深部脑刺激来强制或控制 BCI 用户也是一个可能的风险来源（Demetriades 等 2010）。这里证实的可能性包括控制运动、唤起情绪、唤起疼痛或痛苦、唤起欲望以及影响记忆和思维过程；而这些只是最早发现的能力（Delgado 1969）。但是，过去的论文仅将其视为对个人的风险；个人可能受到破坏、监视、抢劫、伤害或控制。过去的研究尚未探索为整个人类带来的风险。使用深部脑刺激来强制或控制 BCI 用户也是一个可能的风险来源（Demetriades 等 2010）。这里证实的可能性包括控制运动、唤起情绪、唤起疼痛或痛苦、唤起欲望以及影响记忆和思维过程；而这些只是最早发现的能力（Delgado 1969）。但是，过去的论文仅将其视为对个人的风险；个人可能受到破坏、监视、抢劫、伤害或控制。过去的研究尚未探索为整个人类带来的风险。而这些只是最早发现的能力（Delgado 1969）。但是，过去的论文仅将其视为对个人的风险；个人可能受到破坏、监视、抢劫、伤害或控制。过去的研究尚未探索为整个人类带来的风险。而这些只是最早发现的能力（Delgado 1969）。但是，过去的论文仅将其视为对个人的风险；个人可能受到破坏、监视、抢劫、伤害或控制。过去的研究尚未探索为整个人类带来的风险。
本文将寻求采取第一步来填补这一空白，并将概述 BCI 在更广泛的全球范围内提供的风险；解决它们对全人类未来构成的风险。
2.5 更高规模的风险：BCI 作为极权主义的风险因素
2.5.1 神经扫描的风险：监测对象的能力
来自内部的异议是极权独裁的主要弱点之一。BCI 提供了一个强大的工具来缓解这一弱点。监督能力的提高将更容易识别和根除异议，或根除可能背叛党的怀疑论者，从而更容易维持极权主义控制。虽然传统的监视可能允许对公民的行为和行动进行高水平的监控和跟踪，但它无法让独裁者窥探其臣民的内心。正因为如此，识别谨慎叛逃者的态度的难度仍然很高。BCI 在这里提供了前所未有的威胁。通过现有方法进行的监视可能无法暴露对极权主义政权的某些威胁，例如谨慎隐藏怀疑态度的党员。
这里的入侵程度可能相当严重。随着脑机接口的进步，在不久的将来，我们很可能会看到观察他人思想内容的能力迅速扩大。一些研究人员声称，高级 BCI 将比那些受试者本身获得更多关于受试者意图态度和欲望的信息，这表明即使是潜意识态度、潜意识识别，以及故意欺骗和隐藏意图，也可以通过BCI（Evers 和 Sigman 2013）（Bunce 等人 2005）。脑机接口已经能够检测到对象看到的物体的无意识识别，但不能有意识地记住看到的东西（Bellman et al 2018）。
其他人甚至建议，通过更精确地记录更多神经元的活动，未来的 BCI 将不仅能够揭示感知和文字，还能够揭示情感、思想、态度、意图和抽象概念，例如对人或概念的识别。 Roelfsema, Denys & Klink 2018)。通过将情绪与其相关的思想内容相关联，可以发现对思想、人或组织的态度，独裁者可以利用这一点来发现对国家、政治人物甚至思想的态度。这将允许毫无疑问地发现异议，并允许独裁者在叛逆思想被分享之前平息叛乱。
有些人可能希望 BCI 没有这种访问级别，但访问和记录心理状态是许多 BCI 的基本且不可避免的特征。为了实现所需的功能，许多 BCI 需要一种清晰的方式来读取神经数据。如果没有重要的神经数据，它们根本无法发挥作用——如果无法访问该神经数据，就不可能将神经数据转化为发挥某种功能。大脑刺激器和 BCI 是专门为允许这种访问而设计的；它对于设备的有效运行至关重要（Ienca，2015 年）。当然，某些公司制造的 BCI 可能会专门针对大脑的某些部分，例如，只针对与语音相关的区域，而不针对与情绪或思想相关的其他区域。这是可以想象的，尽管尚不清楚所有公司和国家都会这样做。此外，通过扩展到语言中心以外的大脑其他区域所获得的效用意味着，人们非常怀疑这项技术是否会无限期地受到限制。
此外，BCI 很可能由公司创建，这些公司有很强的经济动机来记录用户的神经状态，如果只是为了给他们更多的信息来改进他们自己的技术。这些信息可能会被政府征用，就像目前对科技公司经常做的那样——即使在民主国家也是如此。进一步加剧这个问题，隐私法一直在努力跟上技术进步的步伐。在更专制的国家，神经数据可能会直接传输到国家记录中，可能根本不会尝试保护隐私。
从本质上讲，BCI 提供了一种简单而准确的方法来检测思想犯罪。国家将第一次有可能监视其公民的思想。这种深度监视将增加极权独裁统治无限期持续的可能性。
2.5.2 脑刺激的风险：控制受试者的能力
除了记录神经活动之外，还有一个更大的威胁，在任何先前的文献中都没有将其视为存在风险因素。除了阅读大脑活动之外，BCI 还能够有意识地影响大脑。特别是，未来的 BCI 将能够重新连接快乐和痛苦的反应，并允许我们有意识地刺激或抑制整体的情绪反应。如果这是在双方同意的情况下进行的，并且是需要的，这可能会有一些好处。然而，这项技术并不能保证同意。
除了能够比以往更有效地识别持不同政见者（由于加强监视），BCI 还将有力地提高国家 控制的能力 他们的臣民，以及他们无限期地保持这种控制的能力。在这种情况下，不再需要识别异议人士，因为国家可以保证异议人士的思想在物理上是不可能的。经过精心打磨的 BCI 已经可以触发并将某些情绪或刺激与某些概念联系起来（Roelfsema，Denys & Klink 2018）。这可以用来强制对某些想法产生合意的情绪，或者使不合意的情绪实际上是不可能的。尽管这种可能性已在文献中讨论过它的治疗用途，例如触发刺激以响应消极的强迫性想法（消除由此类想法引起的负面情绪），但滥用的可能性很大。恶意控制者可能会激发忠诚或情感以响应某些想法，甚至针对特定的组织和人员；并可能激起仇恨以回应他人。它还可以抑制某些情绪，这样公民就不会对国家感到愤怒。使用 BCI 触发和抑制情绪内容的能力已经存在多年（Delgado 1969）。结合对思想内容的复杂而详细的阅读，这是一个非常危险的工具。
一些人可能会争辩说，即使在外部国家控制情绪影响的情况下，持不同政见者的行动也是可能的。这是非常值得商榷的，但即使没有对这种情绪内容进行任何控制，脑机接口的风险仍然是极端的。BCI 可以调节受试者以强化某些行为 (Tsai et al 2009)，或可用于刺激厌恶以抑制不受欢迎的行为 (Lammel et al 2012)，或刺激疼痛或恐惧反应 (Delgado 1969)，并引起强烈和无休止的反应对某些想法或行为的反应疼痛——甚至是对缺乏合作的反应。即使不控制情绪影响，国家也可以实时惩罚持不同政见者的思想，使考虑抵抗成为现实的不可能。这对极权国家来说是一个强大的优势，以及威权国家变得更加极权的一个强有力的理由。除了监视之外，它还允许以一种（一旦在所有公民中建立）无法抗拒的方式对人口进行监管并获得公民的充分合作。扫描神经活动状态数据库的机器学习程序可以检测到被认为是负面的状态的思维模式，并实时惩罚这种情况。或者，如果国家更有效率，它可以简单地刺激受试者的大脑来强化习惯、增加忠诚度、减少受试者的愤怒或增加他们的被动性（Lammel 2012; Tsai et al 2009）。在这种极权主义国家中，即使是高层异议或政变威胁也几乎是不可能的。它的长期内部安全将得到保证。它允许以一种（一旦在所有公民中建立）无法抵抗的方式来监管人口并获得公民的充分合作。扫描神经活动状态数据库的机器学习程序可以检测到被认为是负面的状态的思维模式，并实时惩罚这种情况。或者，如果国家更有效率，它可以简单地刺激受试者的大脑来强化习惯、增加忠诚度、减少受试者的愤怒或增加他们的被动性（Lammel 2012; Tsai et al 2009）。在这种极权主义国家中，即使是高层异议或政变威胁也几乎是不可能的。它的长期内部安全将得到保证。它允许以一种（一旦在所有公民中建立）无法抵抗的方式来监管人口并获得公民的充分合作。扫描神经活动状态数据库的机器学习程序可以检测到被认为是负面的状态的思维模式，并实时惩罚这种情况。或者，如果国家更有效率，它可以简单地刺激受试者的大脑来强化习惯、增加忠诚度、减少受试者的愤怒或增加他们的被动性（Lammel 2012; Tsai et al 2009）。在这种极权主义国家中，即使是高层异议或政变威胁也几乎是不可能的。它的长期内部安全将得到保证。
这是一项从根本上赋予极权主义权力的技术。它允许以一种无法抗拒的方式监管民众并获得公民的充分合作。这是因为即使考虑到抵抗的想法或对国家的蔑视情绪也可以被实时检测和重新连接（或惩罚）。在最坏的情况下，大脑可能会被重新激励，从源头上关闭错误的情绪，从而永远无法形成不同的态度。
BCI 还提供了一种简单的方式来审问持不同政见者并保证他们合作帮助寻找其他持不同政见者营地——否则这可能是不可能的。在过去的抵抗中，某些持不同政见者被认为几乎不可能完全消灭地形的应有特征，因此无法以具有成本效益的方式定位它们。如果政府能够访问并强制应用 BCI，这将是一个非常弱的障碍。异议者通常可能撒谎或不合作；但是对于 BCI，它们只需要被植入和重新布线。然后他们会像其他任何人一样忠诚和合作，并且可以积极地将国家领导到他们以前的盟友那里。即使是不受约束的脱北者也不能被完全信任，因为他们有朝一日可能会被国家控制。极权独裁政权长期生存的另一个问题是政变或内部推翻，因为公民或政党官员经常受到其他国家不同条件的诱惑。使用 BCI，可以确保普通公民甚至党内官员的忠诚度。在当前的独裁统治下，消灭持不同政见者（尤其是非暴力的持不同政见者）通常会付出巨大的社会成本，这可能会使政权失去合法性和不稳定（Sharp 1973）。一个公民都被植入脑机接口的独裁政权不会支付这种社会成本，也不会冒着被推翻的风险。目前，当独裁者镇压时，会引起骚乱和抵抗，从而导致独裁政权垮台。有了 BCI，政府根本不需要安抚其公民来维持忠诚度。他们只需要调高表盘。因为公民或党的官员经常受到其他国家不同条件的诱惑。使用 BCI，可以确保普通公民甚至党内官员的忠诚度。在当前的独裁统治下，消灭持不同政见者（尤其是非暴力持不同政见者）通常会付出巨大的社会成本，这可能会使政权失去合法性和不稳定（Sharp 1973）。一个公民都被植入脑机接口的独裁政权不会支付这种社会成本，也不会冒着被推翻的风险。目前，当独裁者镇压时，会引起骚乱和抵抗，从而导致独裁政权垮台。有了 BCI，政府根本不需要安抚其公民来维持忠诚度。他们只需要调高表盘。因为公民或党的官员经常受到其他国家不同条件的诱惑。使用 BCI，可以确保普通公民甚至党内官员的忠诚度。在当前的独裁统治下，消灭持不同政见者（尤其是非暴力的持不同政见者）通常会付出巨大的社会成本，这可能会使政权失去合法性和不稳定（Sharp 1973）。一个公民都被植入脑机接口的独裁政权不会支付这种社会成本，也不会冒着被推翻的风险。目前，当独裁者镇压时，会引起骚乱和抵抗，从而导致独裁政权垮台。有了 BCI，政府根本不需要安抚其公民来维持忠诚度。他们只需要调高表盘。普通公民甚至党内官员的忠诚度可以得到保证。在当前的独裁统治下，消灭持不同政见者（尤其是非暴力的持不同政见者）通常会付出巨大的社会成本，这可能会使政权失去合法性和不稳定（Sharp 1973）。一个公民都被植入脑机接口的独裁政权不会支付这种社会成本，也不会冒着被推翻的风险。目前，当独裁者镇压时，会引起骚乱和抵抗，从而导致独裁政权垮台。有了 BCI，政府根本不需要安抚其公民来维持忠诚度。他们只需要调高表盘。普通公民甚至党内官员的忠诚度可以得到保证。在当前的独裁统治下，消灭持不同政见者（尤其是非暴力持不同政见者）通常会付出巨大的社会成本，这可能会使政权失去合法性和不稳定（Sharp 1973）。一个公民都被植入脑机接口的独裁政权不会支付这种社会成本，也不会冒着被推翻的风险。目前，当独裁者镇压时，会引起骚乱和抵抗，从而导致独裁政权垮台。有了 BCI，政府根本不需要安抚其公民来维持忠诚度。他们只需要调高表盘。一个公民都被植入脑机接口的独裁政权不会支付这种社会成本，也不会冒着被推翻的风险。目前，当独裁者镇压时，会引起骚乱和抵抗，从而导致独裁政权垮台。有了 BCI，政府根本不需要安抚其公民来维持忠诚度。他们只需要调高表盘。一个公民都被植入脑机接口的独裁政权不会支付这种社会成本，也不会冒着被推翻的风险。目前，当独裁者镇压时，会引起骚乱和抵抗，从而导致独裁政权垮台。有了 BCI，政府根本不需要安抚其公民来维持忠诚度。他们只需要调高表盘。
长期以来，人们一直认为技术可以使我们倾向于某些政府系统（Orwell 1945）（Huxley 1946）（Martin 2001）。BCI 是这些技术之一。通过使对人类的监视和监管变得更加容易，它们使我们倾向于极权主义，并允许一种可以无限期稳定的极权主义。他们通过使对持不同政见者（甚至是持不同政见者思想的最初火花）的识别和控制变得更加容易，并赋予各州从源头上关闭它的能力来做到这一点。值得注意的是，Caplan (2008) 提出，为了使极权主义稳定（在没有 BCI 的情况下），它需要成为一种全球现象；所以极权政府的公民不会受到其他社会制度的诱惑。随着 BCI 的发展，
2.6 全球极权主义风险的战略意义
在本节中，我们将探讨 BCI 的一些全球战略意义。特别是，脑机接口允许极权主义政权长期稳定，即使不需要全球极权主义。我们还认为，脑机接口首先使威权政权更有可能成为极权主义，我们探讨了它们创造的危险战略平衡。从本质上讲，脑机接口使极权主义更容易发生，更容易在全球范围内建立，更容易无限期地持续下去。
极权主义国家可能会因为几个原因而失败。被外部敌人征服是一种危险，而且由于极权主义国家比更具创新性的自由主义国家更倾向于停滞不前，这种危险可能会随着时间的推移而增加。内部危险也会发生；公民在将自己的生活与外界更繁荣的国家进行比较后，可能会选择造反。暴力和非暴力抵抗甚至能够推翻严酷的独裁政权（Chenoweth 2011），并且至少有一个极权主义国家被民众起义（特别是罗马尼亚社会主义共和国）推翻。
有人提出，成功的自由主义国家的存在可能会诱使威权主义和极权主义国家的成员叛逃；保持公民和内部精英的士气是首要问题。Orwell (1945) 和 Caplan (2008) 都提出，全球极权主义将允许极权主义国家逃避这些叛乱的风险，因为没有更好的条件让臣民被诱惑或比较他们的生活。然而，全球极权主义是不必要的；BCI 可以解除这些问题。不仅更容易识别异议；可以完全消除异议的能力，以至于它甚至永远不会开始，忠诚和高昂的士气几乎可以得到保证。通常，当自由社会以较低程度的残暴和压迫提供更高水平的财富和幸福时，很难维持对极权主义意识形态的承诺。BCI 可以中和这个问题，使诱惑在物理上变得不可能，忠诚度得到保证，并且政权长期稳定。
从长远来看，一个政权不再需要全球极权主义。由于 BCI，个别极权国家可能在内部保持稳定。此外，它们还可以通过发展核武器来抵御外部威胁，从而有力地阻止战争，并提供来自外国的安全。免受内部和外部威胁的威胁将对极权国家的寿命产生重大影响。
BCI 的第二个影响是，传统的独裁政权更有可能成为极权主义，因为 BCI 会使这样做变得容易且有利。特别是，如果有一种简单、廉价且有效的方法来识别和消除人群中所有异议的机会，那么这对于独裁政权来说是一个强大的优势。生存将是沦为极权主义的有力理由。因此，BCI 可能不仅会增加极权国家的寿命，而且还会增加它们最初发生的可能性。
最后，这也造成了令人担忧的战略局面，这可能会增加极权主义在全球范围内扎根的可能性。有了脑机接口，极权国家几乎永远不会从内部威胁中倒下。与此同时，不给公民洗脑的民主国家可能在某些时候仍会退化为更威权主义的政府形式——至少在短期内如此。民主政府在历史上很少持续超过几个世纪，并且经常暂时陷入独裁或威权主义。BCI技术保证如果一个国家陷入极权主义，它将是永久性的；因为 BCI 将确保它们可以无限期地保持这种稳定状态。目前，民主可以崩溃为专政，专政可以发生革命并上升为民主。使用 BCI，民主政体仍然可以崩溃，但独裁政体可以永远存在。当然，国家也可能受到外部威胁，但随着核武器的出现，外部军事征服是一个不太可行的选择。简而言之，结合脑机接口和核武器，一个极权主义国家可以从内部获得安全，也可以免受外部威胁。
这是一种危险的战略均衡，因为这意味着自由国家最终仍会像现在一样倒下，但一旦倒下，他们将无法爬出来。民主国家可能会崩溃为独裁，但独裁永远不可能从那个国家崛起。在一个民主必死而独裁永存的世界里，全球体系不可避免地倾向于极权主义。
3. 风险估计
3.1 BCI 存在风险的概率估计
本节将提供对未来 100 年 BCI 存在风险的保守费米估计。我们使用 Toby Ord 使用的相同框架来评估其他存在风险（2020 年）。以下部分（3.2 到 3.6）将解开并证明本节中所做的估计。
Ord 概述了两种保守风险的方法。一种方法是低估我们的假设，这样我们就不会高估风险的可能性。另一种方法是高估可能性，这样我们就不会意外地以消极的方式行事。在指导行动时，第二种方法更有用，因为它更谨慎，更有可能避免灾难性的失败。但是，为了使最有力的情况成为可能，在本文中，我将使用第二种方法；并且将表明，即使我们采用最保守的下限假设，BCI 的风险也很大。事实上，我们的风险估计需要几乎降低一个数量级（约 10 倍）才能与 Ord 分配给未来 100 年核战争存在风险的概率（约 0.1%）（2020 年）持平。
此处提供的估计值并非要经过精确校准，而是要在一个数量级内估计风险。这些数字还应该澄清对话，并允许未来的批评更详细地检查哪些假设被高估或低估了。
我们的概率估计分为五个因素；
D：X风险相关BCI技术的发展和大规模普及的可能性。
E：一些国家可能会开始使用脑机接口来建立对其人口的极权控制。
S：极权主义在全球蔓延的可能性。
R：总覆盖面的可能性。
L：无限期生存的可能性。
= 总存在风险
D * E * S * R * L = 70% * 30% * 5% * 90% * 90%
= 0.0085 = 1%
该估计值基于以下值，这些值将在 3.2 至 3.6 节中详细探讨。
发展可能性（D）：70%
各国开始使用 BCI 控制人口的可能性 (E)：30%
全球传播的可能性（S）：5%
总覆盖率的可能性（假设全球传播得到保证）（R）：90%
无限期持续的可能性（L）：90%
这几乎是 Ord 分配给 2100 年核战争存在风险的概率的 10 倍，略低于他分配给 AGI 的风险的 1/10（Ord，2020 年）。
假设这些总体估计太高一个数量级，那么这种风险仍将与核战争的生存风险相提并论，因此仍然是一个应该解决的重大风险。如果有理由自信地表明这些估计值相差两个数量级或更多，那么就有合理的理由忽略 BCI 的风险，而优先考虑其他存在的风险。然而，这些估计似乎不太可能合理地偏离两个数量级或更多。
但这个估计是指整体风险。相关的不是整体风险，而是 BCI 导致的风险增加。布赖恩·卡普兰 (Brian Caplan) (2008) 认为，未来 1000 年全球极权主义发展至少会持续 1000 年的风险为 5%。假设风险在 1000 年内均匀分布，这将平均达到每世纪约 0.5%。
即使假设这个最保守的下限估计，我们的估计表明，BCI 将在未来 100 年内几乎使全球极权主义的风险增加一倍。如果估计值高于这个极端下限估计值，则 BCI 作为风险因素的能力可能会显着提高。
较不保守的估计也可以说明预期风险的合理水平。
D * E * S * R * L = 85% * 70% * 10% * 95% * 95%
= 0.054 = 5.4%
这种不那么保守的估计意味着未来 100 年的总体生存风险为 5.4%。假设他的风险在 1000 年内均匀分布，这将代表 Bryan Caplan 给出的基线极权主义风险增加近 11 倍。
3.2 发展的可能性
众所周知，技术发展难以预测。因此，我们在本节中的方法是使预测与专家先前的预测保持一致。
该领域专家的估计非常明确；接受调查的绝大多数 BCI 研究人员 (86%) 认为将在 10 年内开发出某种形式的针对健康用户的 BCI 并投放市场，并且 64.1% 的人认为将在同一时间框架内开发出 BCI 假体. (Nijboer et al 2011) 值得注意的是，在这项调查中，只有 1.4% 的人声称健康用户的 BCI 永远不会有市场和使用。这些研究人员的预测应该经过仔细审查；自本次调查开展至今已近十年，BCI 假肢尚未上市。然而，该领域专家的乐观态度正在说明该领域的进步水平。时间框架似乎更有可能是几十年而不是几个世纪。
当然，目前的 BCI 相当初级，有人可能会争辩说，高级读心术可能是不可能的。然而，研究人员之间的共识是，这在理论上是可能的，而且很有可能；最近对 BCI 研究人员进行的一项调查发现，参与者普遍认为，在未来，精神状态将能够被读取（Evers & Sigman 2013）。类似地，对接受过 BCI 工作的软件工程师进行的一项调查发现，参与者普遍认为大脑的内容有一天会被机器读取——尽管该调查没有提供时间表。尽管参与者对心灵本质的看法存在分歧，但仍发现了这种信念的一致性（Merrill & Chuang 2018）
此外，有充分的理由相信阻碍商业 BCI 的主要问题将很快得到解决。目前 BCI 的问题包括缩小技术规模，使其足够小以供使用，可以针对更多神经元，并且可以更精确地针对神经元，以及缩小成本以使其易于复制。有多家资金雄厚的公司致力于实现这些目标，多个国家政府致力于实现这些目标，这一事实使我们相信发展的可能性相对较高（DARPA 2019；Kotchetkov 等人 2010；Tucker 2018）。为了加强这一点，2019 年全球 BCI 市场在 2019 年价值 13.6 亿美元，但预计到 2027 年将达到 38.5 亿美元，每年增长 14.3%（Gaul 2020）。
进一步的理由可以在这种技术正在开发的战略环境中找到。具体来说，它是一个进步陷阱的教科书案例（Wright 2004）。进步陷阱是一种情况，其中有多种小激励措施鼓励某种路径（很像诱饵），从而鼓励文化遵循某种发展过程；特别是一个短期内有利但长期内灾难性的方向。在这种情况下，我们将被激励在每一步开发 BCI，因为这样做会获得丰厚的回报；特别是减轻阿尔茨海默病和帕金森病等疾病的疾病负担，以及减轻截肢者的痛苦/改善假肢。有显着的医疗、实施可以减轻疾病负担的技术将具有道德和经济优势。这将为我们提供持续的动力来开发这项技术，但也会将我们带到一个拥有新技术的地方，这可能会大大增加存在风险的机会。
简而言之，用于读心和精神控制的存在风险相关技术可能不是出于军事目的而开发的，而是出于有效的经济和医学原因。它会随着时间慢慢发展，一次解决一个问题，比如阿尔茨海默病和帕金森病。每一个进步似乎都是合乎逻辑的、道德上的约束和必要的。该技术的直接后果将是无懈可击的，并将使该技术更难批评。然而，二级后果对人类的未来提出了严峻的挑战。
鉴于这种企业竞争、全球市场估值的预期增长、已证实的 BCI 原型数量、进度陷阱的存在以及研究人员调查中对该技术的可能性几乎达成共识，我们采取了相当保守的假设，即先进，与 X 风险相关的 BCI 将比 AGI（通用人工智能）更容易开发，并且更有可能在本世纪开发。考虑到我们甚至不确定构建 AGI 的可能方法，这些似乎特别有可能。就我们应该附加这一说法的可能性而言，2011 年对机器智能研究人员的一项调查得出了一个假设，即到 2100 年通用人工智能发展的可能性为 50%（Samberg 和 Bostrom 2011）。像这样，我们建议将 70% 作为 BCI 发展的极端下限估计。概率可能要高得多，但我们认为这个估计是一个合理的下限。
3.3 一些政府将开始使用 BCI 来维持控制的可能性
一旦技术被开发并可用，一些政府将开始使用 BCI 来控制他们的国家的可能性有多大？我们在此考虑的情景包括政府开始使用 BCI 来控制大范围的人口，或者通过强制植入 BCI 的公民，或者通过覆盖和控制自愿植入的 BCI 的行为。为了满足我们制定的标准，政府必须大规模成功地做到这一点；例如，控制很大一部分人口（~20%）。仅仅让几十个 BCI 受损的公民将是一个负面事件，但对于我们正在讨论的内容来说，规模还不够。
这里的概率很难估计；然而，这种战略环境的一些条件可以影响我们的估计。
首先，威权国家将有强烈的动机使用脑机接口来控制、监视和监管其人口；并控制当前植入的 BCI。动机在于这将有助于稳定他们的政权，保证他们的臣民的忠诚度（这通常是对独裁政权的主要威胁）识别持不同政见者，并打击或平反这些持不同政见者。使用 BCI 加强审讯的机会也可能使某些类型的分散抵抗更加困难，因为即使是以前的合作者也可能被他们之前反对的极权政府控制和使用。BCI 将允许在一个国家内完善极权主义。极权主义，
这在某种程度上已经被看到了。在基于 BCI 的欺骗检测方面的大部分工作都是由中国的国家资助机构完成的（Munyon 2018），该机构目前在全球民主指数中被评为威权政府（EIU 2019）。结合中国在未经患者同意的情况下通过手术治疗精神疾病的历史（Zamiska 2007；Zhang 2017），这提供了历史先例，并突显了 BCI 极有可能被专制国家有害地使用。
这里有一个附加效果。BCI 为威权国家提供了额外的动力，使其陷入完全的极权主义，从而使完全极权主义的存在更有可能。通过廉价、有效的监视和更廉价、更有效的胁迫，可以极大地帮助一个政权的生存。通过使用 BCI，监控将比以往任何时候都更容易、更广泛。比这更危险的是，对公民最私密的思想和情绪进行极端程度的控制将是可能的、容易的、廉价的和有用的。
第二个因素是可能来源的数量。威权国家的数量越多，可以选择使用神经系带来控制其人口的代理人就越多；所以发生灾难性灾难的可能性就越高。这种说法是基于这样的假设，即与不那么专制、更民主的国家相比，专制国家更有可能使用 BCI 来奴役其人口。目前，全世界有91个国家（54.5%的国家，51.6%的世界人口）处于非民主制度下；其中 54 个处于威权体制下（占所有国家的 32.3%），37 个处于混合体制下（占所有国家的 22.2%）（EIU 2019）。当然，这种情况可能会改变，在过去的一百年里，全世界的威权政权的数量已经减少（Pinker 2018）；然而，尚不清楚这种趋势是否应该继续、停止或逆转。2007年至2019年，全球威权政权数量再次上升，2014年至2019年全球民主指数逐年停滞和下降，2017年全球一半以上国家得分下降，2019年创纪录自 2006 年首次编制该指数以来，全球民主指数记录的最差全球平均得分（EIU 2019）。全球民主很可能会继续倒退。2017 年全球一半以上国家的得分下降，并且 2019 年创下全球民主指数自 2006 年首次发布该指数以来记录的最差全球平均得分（EIU 2019）。全球民主很可能会继续倒退。2017 年全球一半以上国家的得分下降，并且 2019 年创下全球民主指数自 2006 年首次发布该指数以来记录的最差全球平均得分（EIU 2019）。全球民主很可能会继续倒退。
但是，只有当这些代理能够访问 BCI 技术时，代理的数量才是一个问题。一旦开发出复杂且具有成本效益的 BCI，它们将成为可以使用它们的国家的强大竞争优势。阿尔茨海默氏症和帕金森症等疾病带来的疾病负担大大减轻，将产生积极的经济影响（以及在减轻痛苦方面的理想人道主义影响），BCI 也可能增加劳动力。个别国家将需要 BCI，因为这将使它们保持经济竞争力。这相当于一场经济军备竞赛。这本身并不意味着各国将使用脑机接口来协助极权主义，或将其强加于其公民；只是许多国家，甚至是民主国家，都会有激励措施来鼓励 BCI 的发展，以及其公民对 BCI 的使用。开发和使用 BCI 的国家越多，我们遇到一个滥用它的国家的可能性就越大。
如果有很强的防止技术扩散的能力，这可能会降低风险。这是可以想象的。然而，过去 100 年防止扩散的成功程度在很大程度上取决于个别技术的特点。对于我们寻求限制获取的许多武器，例如核武器，扩散不是通过限制知识（这通常非常困难）而是通过限制材料（例如浓缩铀）来阻止的。根据目前的 BCI，BCI 似乎没有严重的材料短缺，因为它们不需要任何基本稀有或独特的材料。此外，防止政府和军队使用的技术扩散比防止平民使用的技术扩散更容易。由于 BCI 目前正计划作为一种广泛使用的民用技术，因此其他国家可能会获得它们，并有机会对其进行逆向工程。考虑到这一点，防扩散方法需要侧重于防止有关 BCI 的开发或安全性的知识的传播。
三是大力鼓励个别国家或地区在国内生产脑机接口；或支持制造 BCI 的本地公司，而不是支持外国公司。其原因在 2020 年已经可以看出。目前，许多国家相当合理地不信任可能危及国家安全或公民信息的外国公司（Hatmaker 2020）。同样，各国不太可能相信外国公司可以访问和控制其受试者的大脑。因此，主要国家（或地区）更有可能在国内开发BCI，而不是使用外国公司开发的BCI；因此，很可能会开发出多样化的 BCI，
如果激励个别国家制造自己的 BCI，那么我们更有可能获得多种隐私方法。一些公司和国家可能会开发不向公司或政府授予读写权限的 BCI（尽管这可能有些乐观）。一些公司/国家可能会开发提供读取权限但不提供写入权限的 BCI；允许监视，但不允许控制。其他需要它的国家/地区将能够创建自己的 BCI，其中公司/政府具有读写访问权限。
如果只有一个参与者控制所有 BCI 的发展，那么控制和监管可能会更容易。拥有多个国家参与者，每个参与者都可以决定他们希望构建 BCI 的强制水平，这是一个更复杂的场景。如果取消某些自由具有竞争优势，那么各国就有可能扩大其对 BCI 的访问/控制。考虑到历史先例，这尤其可能发生在战争时期，国家经常被激励去做以前被认为不可想象的事情。例如，在第二次世界大战之前，战略轰炸（对平民的故意轰炸）被认为是不可想象的并且违反了国际法（国际联盟 1938；罗斯福 1939）；但随着战术被认为是必要的，这些规范很快就被打破了，到战争结束时，轰炸平民不再被视为战争罪，而是战争的共同特征（Veale 1993）（Ellsberg 2017）。在未来的危机情况下，这种对读写访问的限制可能会被取消，或者某些政府可能会要求紧急权力。这是一个明显的安全风险。这意味着相信政府坚持其承诺可能不是一个可行的长期战略。进一步的证据可以从甚至民主政府的政府监督的稳步扩大中看到。在未来的危机情况下，这种对读写访问的限制可能会被取消，或者某些政府可能会要求紧急权力。这是一个明显的安全风险。这意味着相信政府坚持其承诺可能不是一个可行的长期战略。进一步的证据可以从甚至民主政府的政府监督的稳步扩大中看到。在未来的危机情况下，这种对读写访问的限制可能会被取消，或者某些政府可能会要求紧急权力。这是一个明显的安全风险。这意味着相信政府坚持其承诺可能不是一个可行的长期战略。进一步的证据可以从甚至民主政府的政府监督的稳步扩大中看到。
考虑到这一点，我们将 30% 的下限概率赋予任何单个国家在未来 100 年内开创使用 BCI 控制其人口的先例的可能性。考虑到全球公司将不得不扩散技术的激励措施、防止 BCI 扩散的困难、威权政府必须使用它的强大激励措施、全球威权政府的数量以及威权政府使用任何手段的历史先例为了稳定他们的政权，我们认为 30% 的灾难性事件的可能性作为下限估计是极其保守的。
3.4 全球传播的可能性
我们将全球传播定义为一种情况，即建立了一个利用 BCI 控制民众的全球极权独裁，并且没有主要竞争对手；或者建立一个多极世界，其中所有主要参与者都是极权独裁，大量利用脑机接口来控制民众。
有几种机制可能会发生这些情况。其中之一是军事征服；极权独裁可能会变得激进扩张并寻求控制所有其他国家。可以想象，BCI 会给独裁国家带来优势，因为它们可能会比非独裁国家更进一步推动他们的士兵（由于保持对个人权利和福利的关注）。然而，在未来的战争中，人类士兵也有可能成为越来越不重要的因素，因此尚不清楚 BCI 是否会提供决定性的军事优势。我们还认为，第一批 BCI 创造者可以保持对该技术的垄断足够长的时间来征服所有其他主要国家，这令人难以置信。
总体而言，我们认为通过军事征服统治全球的可能性非常低，这主要是由于核武器的存在。核反应的存在是避免入侵的一个强有力的理由，也是一个相信通过军事手段征服全球的尝试在不久的将来相对不太可能的理由。因此，核威慑可能会阻止 BCI 控制的国家通过武力将其控制扩展到其他国家。
其次，一个国家可能不是通过武力扩大其全球影响力，而是通过经济影响力慢慢获得全球主导地位。在这种情况下，该国可以在经济上依赖它的贡国推广脑机接口，并最终开始故意滥用这些植入的脑机接口来维持或扩大对这些国家的控制。我们认为这种情况比军事征服更有可能。特别是我们认为这是一种可能性，因为多位学者和政治家已经预测，到本世纪中叶，中国作为一个单一的主导全球超级大国（取代美国）崛起是一种现实的可能性（Jacques 2009；Pillsbury 2015；Press印度信托基金 2019）。
还有第三种方法，我们认为最有可能。可能没有一个国家通过扩张来获得全球主导地位，但国家独立地陷入极权主义，创造了多极的全球极权主义秩序。目前，这不是一个大问题，因为独裁（甚至是极权独裁）可以被推翻。因此，所有国家单独陷入极权主义而没有国家恢复民主的可能性很低。我们建议，脑机接口也更有可能为这种多极极权主义铺平道路。
首先，如前所述，脑机接口增加了任何一个国家内极权主义的可能性，因为一旦一个国家成为专制国家，就有充分的理由过渡到脑机接口强化的极权主义，因为这将大大增加独裁者和独裁者的生存几率。政府。其次，如前所述，脑机接口允许一种稳定、可持续的极权主义形式，这种形式很难逆转，因为来自内部的反叛实际上是“不可想象的”。
此外，脑机接口建立了一个危险的战略平衡。如前所述，BCI 可能使独裁政权极不可能从内部被推翻。核武器使得大国被外部推翻的可能性极小。考虑到这一点，当一个国家陷入极权主义，并使用这两种技术来维持秩序，而没有可能使这些技术的战略优势失效的重大技术转变时，这种独裁统治很可能会无限期地持续下去。民主国家可以选择维护其选民的自由（尽管他们也可能不会）。然而，随着时间的推移，个人权力可能会落入威权主义手中，并利用脑机接口在自己的地区建立不可逆转的、不朽的极权主义独裁政权。在一个 a) 保持精神自由的国家可能会退化为极权主义国家，b) 极权主义独裁是不朽的，以及 c) 没有可用于创建新自由国家的可用领土的世界，它创造了一个国家将稳定趋同的平衡成为独裁政权后。一个自由的国家可能不会永远自由，可能会在某个时候崩溃为独裁，然后用 BCI 来加强自己。但是，对于 BCI，一旦建立了独裁统治，它很可能会无限期地持续下去。这为多极的全球极权主义秩序提供了一条清晰的道路。它创造了一种平衡，在这种平衡中，各国将逐渐趋于独裁。一个自由的国家可能不会永远自由，可能会在某个时候崩溃为独裁，然后用 BCI 来加强自己。但是，对于 BCI，一旦建立了独裁统治，它很可能会无限期地持续下去。这为多极的全球极权主义秩序提供了一条清晰的道路。它创造了一种平衡，在这种平衡中，各国将逐渐趋于独裁。一个自由的国家可能不会永远自由，可能会在某个时候崩溃为独裁，然后用 BCI 来加强自己。但是，对于 BCI，一旦建立了独裁统治，它很可能会无限期地持续下去。这为多极的全球极权主义秩序提供了一条清晰的道路。
考虑到过去 5 年全球多个国家威权和半威权领导人的崛起，以及反对民主的更广泛趋势，过去 14 年有 113 个国家的全球民主指数出现净下降（EIU，2019） ，这似乎是一个现实可能的，如果有点不可预测的趋势。
但是，即使假设这样的负面趋势持续下去，100年对于所有主要国家来说都属于极权主义和极权主义的极短时间。需要更强的趋势来满足这一时间框架。当然，由于气候变化或有限的核交换等灾难的发生，这一过程可能会加剧并且更有可能陷入威权主义，这可能会使响应政府容易受到专制的影响（Beeson 2010; Friche et al 2012 ；马丁 1990）。然而，我们认为全球极权主义在未来 100 年内建立起来的可能性相当低。话虽如此，我们的低概率估计不应低估风险。到 2100 如果 54。目前已经沦为专制和混合政权的国家中有 6% 得到 BCI 诱导的忠诚度的加强，我们可能正在走向全球极权主义。如果 BCI 强化的极权主义已经在很多国家根深蒂固，那么这个问题将更加难以阻止，整体风险也会更高。这为存在风险提供了一种不同寻常的战略环境。很可能随着时间的推移，更多的国家会垮台，而极权国家越多，这个问题就越难解决。200年内全球极权主义的可能性可能远高于100年内全球极权主义的可能性。因此，这是一个可能比以后更容易解决的问题。如果 BCI 强化的极权主义已经在很多国家根深蒂固，那么这个问题将更加难以阻止，整体风险也会更高。这为存在风险提供了一种不同寻常的战略环境。很可能随着时间的推移，更多的国家会垮台，而极权国家越多，这个问题就越难解决。200年内全球极权主义的可能性可能远高于100年内全球极权主义的可能性。因此，这是一个可能比以后更容易解决的问题。如果 BCI 强化的极权主义已经在很多国家根深蒂固，那么这个问题将更加难以阻止，整体风险也会更高。这为存在风险提供了一种不同寻常的战略环境。很可能随着时间的推移，更多的国家会垮台，而极权国家越多，这个问题就越难解决。200年内全球极权主义的可能性可能远高于100年内全球极权主义的可能性。因此，这是一个可能比以后更容易解决的问题。这为存在风险提供了一种不同寻常的战略环境。很可能随着时间的推移，更多的国家会垮台，而极权国家越多，这个问题就越难解决。200年内全球极权主义的可能性可能远高于100年内全球极权主义的可能性。因此，这是一个可能比以后更容易解决的问题。这为存在风险提供了一种不同寻常的战略环境。很可能随着时间的推移，更多的国家会垮台，而极权国家越多，这个问题就越难解决。200年内全球极权主义的可能性可能远高于100年内全球极权主义的可能性。因此，这是一个可能比以后更容易解决的问题。
考虑到这一点，我们认为本世纪极权主义在全球蔓延的可能性相当低。由于 BCI 的性质以及它们创造的战略环境，我们预计这种风险的可能性会随着时间的推移而上升，并且变得越来越难以解决。问题得不到解决的时间越长，就会有越多的国家陷入威权主义并使用 BCI 来确保其统治无限期稳定。因此，来自 BCI 的风险可能不会均匀分布。尽管未来 80 年全球极权主义的可能性可能相对较低，但 21 世纪可能被视为转折点，而 22 世纪解决这一问题的行动可能为时已晚。
考虑到通向全球极权主义的可能途径，我们附上了一个下限估计，即 BCI 促进极权主义在 100 年内全球传播的可能性为 5%，而在未来几个世纪内这种可能性显着增加。
3.5 完全覆盖的可能性
由于存在一些存在风险，影响绝大多数人类的可能性相当高，但没有可能的机制可以影响全人类。例如，一场自然大流行可能会影响世界上 80% 的人口，但极不可能影响高度孤立的群体。
与自然流行病不同，极权主义风险确实具有这种机制，因为极权主义系统具有意图。似乎一旦大多数主要国家被奴役（使用 BCI），其余的国家实际上更有可能被奴役，因为这些国家扩展到包括附近的领土，并确保他们的控制权。
考虑到这一点，我们将 90% 作为一个极端的下限，因为未来可能会出现技术转变，打破这种平衡，并允许不可预测的变化，这可能会让小群体更有效地保护自己。还可以想象，大国之间的权力动态将使某些国家免受入侵。
然而，虽然这是对控制全人类的全球极权主义系统（或多个系统）的估计，但我们预计 BCI 对这部分极权主义风险的影响是最小的。如果一个世界极权主义政府试图将其影响范围扩大到全人类，那么它很可能能够在不使用 BCI 的情况下影响到所有可能构成威胁的人。
再者，即使有一小部分逃亡者被政权追捕是不划算的，这种情况对人类未来的潜力影响不大；它仍然会大大减少。因此，在极权主义风险下，可能不需要完全覆盖。即使这场灾难只影响到 99.99% 的活人，它仍然会为我们所有的后代锁定一个不可逆转的负面未来，所以这仍然算作一场生存灾难。让一小部分人获得自由不会对整个人类产生强大的长期积极影响，因为小而无威胁的人口几乎不可能解放人类并恢复更积极的未来。因此，我们预计 BCI 对这个变量的影响相当小。
3.6 无限期持续的可能性
作为定义点，在本节中，我们无限期地定义为“直到人类及其后代灭绝”。在一个完全或什至主要植入 BCI 的极权主义世界中，我们认为该政权无限期生存的可能性很大。BCI 首次提供了拥有完全忠诚的民众而没有异议的能力。
在所有公民（包括独裁者）都被植入 BCI 并且他们的情绪被重新连接以忠于国家的情况下，抵制独裁或结束独裁的可能性极小。逃避极权政府的一种主要方法是内部推翻。要么是不快乐的群众，要么是党内受替代制度诱惑的精英和秘密怀疑论者。一旦他们甚至认为不忠，就能够识别所有这些持不同政见者，从而降低反抗的可能性。重新连接对象的能力使他们无法从身体上首先考虑这种不忠行为，这似乎使反抗几乎不可能。因此，我们认为 BCI 技术很可能会大大增加全球极权国家无限期存在的机会。
然而，也有可能不是所有的臣民都会被植入或改变，因为一小部分统治阶级可能希望保持自由。如果上层阶级的某些部分叛乱，或者控制并选择结束当前的征服/选择将对象重新编程回正常状态，这可能会提供逃生的场景。然而，也远不能保证上层阶级不会发生心理变化。在许多专制政权中，不仅下层阶级，而且上层阶级都受到胁迫，可以想象对所有公民实施一定程度的控制（确保忠诚的措施等）。独裁者甚至可以植入并稍微重新编程他们的继承人，以确保他们不被背叛。
此外，这种情况不仅要求上层阶级在一定程度上不受精神监视和篡改，而且还要求上层阶级能够成功发动政变而不引起怀疑和思想被解读，他们能够采取控制国家的脑机接口，最重要的是，他们选择 放弃 权力，释放目前由脑机接口控制的臣民，而不是建立自己的政权。
此外，可能有一些我们没有考虑过的情况会降低这种独裁统治无限期持续的可能性。考虑到这一点，我们将 90% 的假设视为极端下限概率。
3.7 这些估计的可信度
我们对这些估计完全正确的信心很低。但是，我们对它们在一个数量级内的正确性有中等程度的信心，并且对它们在两个数量级内的正确性有很高的信心。
如果有充分的理由表明我们的估计偏离了两个数量级或更多，那么就有合理的理由忽略 BCI 的风险，而优先考虑其他人为存在的风险。假设我们的估计超出了一个数量级，它们仍将与核战争灭绝的风险相提并论，因此仍应优先考虑。如果我们的估计相对准确（在一个数量级内），那么 BCI 提供的生存风险可能比核战争大几倍。最后，我们的估计也有可能过于保守，并且大大低估了这项技术的风险水平。
因此，考虑到这种不确定性使我们相信这个话题值得讨论和深入分析。即使我们没有准确的概率，如果这项技术有合理的机会对人类的未来产生重大的负面影响，那么忽视它带来的风险将是非常鲁莽的。这种无知的态度是目前的现状。
4. 其他注意事项
4.1 BCI 作为存在安全因素
除了作为一个风险因素之外，BCI 还可能作为一个存在的安全因素，可以降低 AGI 的风险。特别是，两个主要机制可能与此相关。
特别是，埃隆马斯克声称 BCI 可以让我们与人工智能集成，这样人工智能就不需要在竞争中胜过我们（Young，2019）。目前尚不清楚 BCI 将通过什么确切机制提供帮助，它将如何提供帮助，它是否会真正降低 AI 的风险，或者它是否是一个有效的主张。这种 AGI 的“解决方案”也可能与全球极权主义完全兼容，并且可能不可取。目前尚未讨论与人工智能集成以降低人工智能风险的机制；目前，还没有关于该主题的严肃学术工作。
4.2 安全因素之间的风险权衡
全球极权主义和 AGI 风险之间的权衡可能是未来讨论的一个有用点。可以想象，BCI 可能会降低 AI 的风险，但目前尚不清楚这是否会是这种情况，以及为什么让 AGI 访问人类大脑理论上会完全降低风险。像这样的声明需要更详细的检查。
更重要的是，即使假设 BCI 是 AGI 风险的安全因素，它们也可能不是 AGI 风险的 唯一 安全因素。因此，它们可能在解决方案中根本不需要。可能还有其他安全因素可以更有效地降低 AGI 的风险，并且不会显着增加任何其他存在的风险。这些风险因素显然更可取。
因此，尚不清楚是否有智慧明确地创造存在风险，以便获得保护我们免受理论存在风险的机会。
此外，如果我们要开发一种冒着人类未来风险的技术，以期降低另一种风险，如果回报不确定，这可能是一个糟糕的战略举措。如果 BCI 未能解决来自 AGI 的风险，那么它可能会导致我们的生存风险总体增加，而不会降低。
4.3 对未来研究的建议
鉴于本文的见解，我们建议未来研究的几个方向。
- 对 BCI 导致的风险增加水平进行更深入的分析。特别是，对未来 100 年极权主义风险基线可能性的更强有力的估计将有助于这一点。
- 寻找可能的解决方案，以降低由 BCI 引起的风险水平，或可能阻止该风险因素的发展。
- 从成本效益的角度分析这些解决方案（即它们可能花费多少与可能降低风险的程度相比）。
- 批判性地探索 BCI 对其他风险的可能影响（正面和负面），例如 AGI 的发展。
5. 结论
本文试图确定 BCI 增加长期全球极权主义可能性的潜力。我们建议，即使采用高度保守的估计，脑机接口提供的生存风险增加与核战争造成的生存风险水平相当，并且几乎是当前估计给出的全球极权主义风险的两倍。如果不太保守的估计是准确的，那么 BCI 带来的生存风险水平可能会比这大一个数量级。
此外，我们发现随着脑机接口的发展，极权主义将不再需要全球传播才能长期可持续。我们确定极权国家的主要弱点是由于对更好的竞争系统的了解而导致的叛逃，都可以通过 BCI 技术消除；特别是使用大脑刺激。
最后，我们确定 BCI 建立了一个不寻常的战略环境，其中存在的风险可能会在更长的时间内变得更难解决。这为尽早解决这一风险提供了进一步的理由，并在可能的情况下投入大量精力来防止 BCI 的发展，或以安全的方式指导其发展。
由于目前缺乏对这项技术的讨论，以及它带来的高风险；在我们最保守的估计下将全球极权主义的风险增加一倍，在不那么保守的估计下将其增加一个数量级以上，我们认为这个风险因素值得比目前得到的更多讨论。
6. 参考文献
Abelson, J.、Curtis, G.、Sagher, O.、Albucher, R.、Harrigan, M.、Taylor, S.、Martis, B. 和 Giordani, B. (2005)。难治性强迫症的深部脑刺激。 生物精神病学，57（5），510-516。
Allison, B.、Wolpaw, E. 和 Wolpaw, J. (2007)。脑机接口系统：进展与前景。 医疗器械专家评审， 4（4），463-474。
Anupama, H.、Cauvery, N. 和 Lingaraju, G. (2012)。脑机接口及其类型 – 一项研究。 国际工程技术进展杂志，3（2），739-745。
比森，M. (2010)。环境威权主义的到来。 环境政治。 19（2），276-294。
Bellman, C.、Martin, M.、MacDonald, S.、Alomari, R. 和 Liscano, R. (2018)。我们以前见过么？使用消费级脑机接口检测不知情的面部识别。 娱乐中的计算机， 16（2），7。
Bernal, S.、Celdran, A.、Perez, G.、Barros, M 和 Balasubramaniam, S. (2019a) 脑机接口网络安全：最新技术、机遇和未来挑战。 https://arxiv.org/pdf/1908.03536.pdf。2020 年 6 月 18 日访问。
Bernal, S.、Huertas, A. 和 Perez, G. (2019b) 脑机接口网络安全：攻击和对策。 会议：V Jornadas Nacionales de Investigación en Ciberseguridad。
Bittar, R., Kar-Purkayastha, I., Owen, S., Bear, R., Green, A., Wang, S., & Aziz, T. (2005a)。用于缓解疼痛的深部脑刺激：荟萃分析。 临床神经科学杂志，12（5），515-519。
Bittar, R.、Otero, S.、Carter, H. 和 Aziz, T. (2005b)。幻肢痛的深部脑刺激 临床神经科学杂志，12（4），399-404。
博斯特罗姆，N.（2012 年）。存在性风险预防作为全球优先事项。 全球政策，4(1)，15-31。
Bunce, S.、Devaraj, A.、Izzetoglu, M.、Onaral, B. 和 Pourrezaei, K. (2005)。检测大脑中的欺骗：对故意欺骗的神经相关性的功能性近红外光谱研究。 过程。SPIE 国土安全无损检测和测量 III， 5769。
Burwell, S., Sample, M. & Racine, E. (2017)。脑机接口的伦理方面：范围审查。 BMC 医学伦理学， 18、60。
卡普兰，B.（2008 年）。 极权主义威胁。 在 Nick Bostrom 和 Milan Cirkovic (eds) 全球灾难性风险中。 牛津：牛津大学出版社，504-520。
Carmena, J.、Lebedev, M.、Crist, R.、O’Doherty, J. Santucci, D.、Dimitrov, D.、Patil, P.、Henriquez, C. 和 Nicolelis, M. (2003)。学习控制灵长类动物接触和抓握的脑机接口。 PLOS 生物学， 1, 193-208。
切诺维斯，E (2011)。 为什么公民抵抗运动有效。 纽约。哥伦比亚大学出版社。
Constine, J. (2017) Facebook 正在构建用于打字和皮肤听觉的脑机接口。 https://techcrunch.com/2017/04/19/facebook-brain-interface/?guccounter=1&guce_referrer=aHR0cHM6Ly93d3cuZ29vZ2xlLmNvbS8&guce_referrer_sig=AQAAAF-G70vjq6iq3xbyTrRJX142g75UeLop2lh4vADsXSRxkbukky53hw2ztInvOKfgHxB0fl1YRSQwKJWVEeeXBw8ArIJuNLVh0z2Qb9Pe7sBKUGiEY-a0jkh5PHcArqoPjIc_4srTbiBZzjwN7QsNV3CuooTODW9-TxsZnp5q9RBf . 于 2020 年 6 月 25 日访问。
Cotton-Barratt, O. 和 Ord, T. (2015)。存在的风险和存在的希望。 人类研究所的未来 – 技术报告，1。
DARPA。（2019）。通往脑机接口非手术未来的六种途径。 https://www.darpa.mil/news-events/2019-05-20。于 2020 年 6 月 16 日访问。
德尔加多，JMR (1969)。 心灵的物理控制：迈向心理文明社会。 纽约：哈珀和罗。
Demetriades，AK，Demetriades，CK，Watts 和 K. Ashkan。（2010）。脑机接口：神经伦理学的挑战。 外科医生，8（5），267–269。
Deuschl, G.、Schade-Brittinger, C.、Krack, P.、Volkmann, J.、Schafer, H.、Botzel, K.、Daniels, C.、Deutschlander, A.、Dillman, U. 等人（ 2005）一项针对帕金森病的深部脑刺激随机试验。 新英格兰医学杂志， 355, 896-908。
经济学人智库。（2019）。 2019 年全球民主指数：民主挫折和民众抗议的一年。
埃尔斯伯格，D.（2017 年）。 世界末日机器：核战争策划者的自白。 纽约：美国布卢姆斯伯里出版社。
Evers, K. 和 Sigman, M. (2013)。读心术的可能性和局限：一个神经哲学的观点。 意识和认知，22, 887-897。
Fritsche, I., Cohrs, J., Kessler, T., & Bauer, J. (2012)。全球变暖正在滋生社会冲突：气候变化威胁对威权主义倾向的微妙影响。 环境心理学杂志， 32（1），1-10。
Gaul, V.（2020 年）脑机接口市场（按类型侵入式 BCI、非侵入式 BCI 和部分侵入式 BCI）、应用（通信与控制、医疗保健、智能家居控制、娱乐和游戏等）：全球机会分析和行业预测，2020-2027 年。联合市场研究。 https://www.alliedmarketresearch.com/brain-computer-interfaces-market。 2020 年 6 月 18 日访问。
Glannon, W. (2009)。刺激大脑，改变思想。 医学伦理杂志， 35, 289–292。
Greenberg, B.、Malone, D.、Friehs, G.、Rezai, A.、Kubu, C.、Malloy, P.、Salloway, S.、Okun, M.、Goodman, W. 和 Rasmussen, S. （2006 年）。深度脑刺激治疗高耐药性强迫症的三年结果。 神经精神药理学, 31, 2384–2393。
Guenther FH, Brumberg, JS, Wright, EJ, Nieto-Castanon, A., Tourville, JA, Panko, M., Law, R., Siebert, SA, Bartels, J., Andreasen, D., Ehirim, P. , Mao, H., & Kennedy, P. (2009)。用于实时语音合成的无线脑机接口。 公共科学图书馆一号 4（12），e8218。
Gulati, T., Won, SJ, Ramanathan, DS., Wong, C., Bopepudi, A., Swanson, R., & Ganguly, K. (2015) 中风周围皮层的稳健神经假体控制。 神经科学杂志。35（22），8653-8661。
Halpern, CH, Wolf, JA, Bale, TL, Stunkard, AJ, Danish, SF, Grossman, M., Jaggi, J., Grady, S., & Baltuch, G. (2008)。深部脑刺激治疗肥胖。 神经外科杂志， 109（4），625–634。
Hamani, C.、McAndrews, M.、Cohn, M.、Oh, M.、Zumsteg, D.、Shapiro, C.、Wennberg, R. 和 Lozano, A. (2008)。下丘脑/穹窿深部脑刺激引起的记忆增强。
神经病学年鉴。 63, 119-123。
Hatmaker, T. (2020)。参议院试图从政府工作电话中禁止中国应用程序 TikTok。 https://techcrunch.com/2020/03/12/hawley-bill-tiktok-china/。于 2020 年 6 月 17 日访问。
赫胥黎，A.（1946 年）。 科学、自由与和平。 伦敦：哈珀。
Ienca, M. (2015)。神经隐私、神经安全和大脑黑客：神经工程中的新问题。 生物伦理学论坛， 8（2），51-53。
Ienca, M. 和 Haselager P. (2016)。入侵大脑：脑机接口技术和神经安全伦理。 道德与信息技术 ，18，117-129。
Ienca, M., Andorno, R. (2017)。迈向神经科学和神经技术时代的新人权。 生命科学、社会与政策， 13、5。
Ifft, P.、Shokur, S.、Li, Z.、Lebedev, M. 和 Nicolelis, M. (2013)。一种脑机接口，可在猴子中实现双手手臂运动。 科学转化医学， 5（210），210ra154。
雅克，M.（2009 年）。 当中国统治世界：西方世界的终结与全球新秩序的诞生。 伦敦：艾伦巷。
核心：神经科学即服务。（2020 年）。 https://www.kernel.co/。2020 年 6 月 17 日访问。
Klein E、Brown T、Sample M、Truitt AR、Goering S.（2015 年）。工程大脑：伦理问题和神经设备的引入。 黑斯廷斯中心报告，45（6），26-35。
Kotchetkov, IS, Hwang, BY, Appelboom, G., Kellner, CP, & Connolly, ES (2010)。脑机接口：军事、神经外科和伦理观点。 神经外科焦点， 28（5）。
Kumar, K.、Toth, C. 和 Nath, RK (1997)。深部脑刺激治疗顽固性疼痛：15 年的经验。 神经外科， 40（4），736-747。
Lammel, S., Lim, BK, Ran, C., Huang, KW, Betley, M., Tye, K., Deisseroth, K., & Malenka, R.(2012)。腹侧被盖区域奖励和厌恶的输入特定控制。 自然 ，491、212-217。
Laxton, AL 和 Lozano, AM (2013)。用于治疗阿尔茨海默病和痴呆症的深部脑刺激。 世界神经外科杂志， 80（3-4），28.el-S28.e8。
国际联盟。（1938 年）。 战时保护平民免受空中轰炸。 国际联盟决议，1938 年 9 月 30 日， www.dannen.com/decision/int-law.html#d
Levy, R.、Lamb, S. 和 Adams, J. (1987)。通过深部脑刺激治疗慢性疼痛：长期随访和文献回顾。 神经外科， 21（6），885-893。
Lipsman, N. 和 Lozana, A. (2015)。美容神经外科、伦理和增强。 通信， 2（7），585-586。
马丁，B (1990)。核危机后的政治。 自由主义研究杂志， 9（2），69-78。
马丁，B（2001 年）。 非暴力斗争技术。 伦敦：战争抵抗者国际。
Mayberg, H., Lozano, A., Voon, V., McNeely, H., Seminowicz, D., Hamani, C., Schwalb, J., Kennedy, S. (2005)。深部脑刺激治疗难治性抑郁症。 神经元， 45（5），651-660。
Mazzoleni, M. 和 Previdi, F. (2015)。药物渴望治疗中脑机接口分类算法的比较。 IFAC 在线论文， 48(20), 487-492。
Merrill, N., Chuang, J. (2018)。从扫描大脑到阅读思想：与工程师谈论脑机接口。 2018 CHI 计算系统中的人为因素会议论文集，第 323 号论文。1-11。
摩尔，毫米（2003 年）。脑机接口技术的实际应用。 IEEE 神经系统与康复工程汇刊。 11（2），162-165。
Moses, DA, Leonard, MK, Makin, JG, & Chang, E. (2019)。使用人类皮层活动对问答语音对话进行实时解码。 自然通讯 ，10，3096。
Munyon, C. (2018)。非主要脑机接口的神经伦理学：关注潜在的军事应用。 前神经科学 ，12，696。
马斯克，E.（2019）。具有数千个通道的集成脑机接口平台。 J Med Internet Res， 21（10）。
Nijboer, F.、Clausen, J.、Alison, B. 和 Haselager, P. (2011)。Asilomar 调查：利益相关者对与脑机接口相关的伦理问题的意见。 神经伦理学， 6, 541-578。
奥德，T.（2020）。 悬崖。 牛津：牛津大学出版社。
奥威尔，G.（1945 年）。 你和原子弹。 论坛报 （1945 年 10 月 19 日），转载于 乔治·奥威尔的散文集、新闻学和信件集，卷。4： 在你的鼻子前，1945-1950 年，编辑。Sonia Orwell 和 Ian Angus（伦敦：Seeker 和 Warburg，1968 年），第 6-9 页。 www.orwell.ru/library/articles/ABomb/english/e_abomb 于 2020 年 6 月 10 日访问。
Perlmutter, J. 和 Mink, J. (2006)。脑深部刺激 神经科学年度回顾 29. 229-257。
Pillsbury, M. (2015) 百年马拉松：中国取代美国成为全球超级大国的秘密战略。 纽约：亨利霍尔特。
平克，S.（2018 年）。 现在的启蒙：理性、科学、人文主义和进步的案例。 纽约：维京人。
印度报业托拉斯。（2019）。共和党参议员米特·罗姆尼说，中国最有可能在 21 世纪中叶成为唯一的全球超级大国。 https://www.firstpost.com/world/china-most-likely-to-become-sole-global-superpower-by-mid-21st-century-says-republican-senator-mitt-romney-7749851.html。2020 年 6 月 22 日访问。
雷格拉多，A.（2017 年）。拥有 1 亿美元计划将大脑与计算机连接起来的企业家。技术评论。 https://www.technologyreview.com/2017/03/16/153211/the-entrepreneur-with-the-100-million-plan-to-link-brains-to-computers/。2020 年 6 月 17 日访问。
Roelfsema, P., Denys, D & Klink, PC (2018)。读心术和写作：神经技术的未来。 认知科学趋势， 22(7)。598-610。
罗斯福，FD (1939)。呼吁英国、法国、意大利、德国和波兰不要对平民进行空中轰炸。 www.presidency.ucsb.edu/ws/?pid=15797。2020 年 6 月 11 日访问。
Samberg, A. 和 Bostrom, N. (2011)。机器智能调查。 FHI 技术报告， (1)。
夏普，G.（1973 年）。 非暴力行动的政治。 马萨诸塞州波士顿：波特萨金特。
斯塔特，N.（2017 年）。Kernel 正试图破解人类大脑——但神经科学还有很长的路要走。 https://www.theverge.com/2017/2/22/14631122/kernel-neuroscience-bryan-johnson-human-intelligence-ai-startup）。2020 年 6 月 17 日访问。
Suthana, N., Haneef, Z., Stern, J., Mukamel, R., Behnke, E., Knowlton, B., & Fried, I. (2012)。内嗅区的记忆增强和深部脑刺激。 N Engl J Med。 366, 502-510。
托雷斯，P.（2016 年）。气候变化是最紧迫的生存风险。未来生命研究所。 https://futureoflife.org/2016/07/22/climate-change-is-the-most-urgent-existential-risk/?cn-reloaded=1。2020 年 6 月 11 日访问。
Tsai, HC, Zhang, F., Adamantidis, A., Stubler, G., Bonci, A., Lecea, L., & Deisseroth, K. (2009)。多巴胺能神经元的阶段性放电足以进行行为调节。 科学，324（5930），1080-1084。
塔克，P.（2018 年）。国防英特尔负责人担心中国在国防一号中的“人机融合”。 https://www.defenseone.com/technology/2018/10/defense-intel-chief-worried-about-chinese-integration-human-and-machines/151904/。2020 年 6 月 17 日访问。
维尔，FJP (1993)。 走向野蛮：从萨拉热窝到广岛的全面战争的发展。 伦敦：斜接出版社。
赖特，R (2004)。 进步简史。 多伦多：阿南西出版社。
Wu, S.、Xu, X.、Shu, L. 和 Hu, B (2017)。使用两个额叶 EEG 通道估计情绪的效价。2017 年 IEEE 生物信息学和生物医学国际会议 (BIBM) (pp. 1127–1130)。
杨，C.（2019）。Elon Musk 的 Neuralink 演讲的主要内容：解决脑部疾病和减轻 AI 威胁。 https://interestingengineering.com/key-takeaways-from-elon-musks-neuralink-presentation-solving-brain-diseases-and-mitigating-ai-threat。于 2020 年 6 月 25 日访问。
扎米斯卡，N. (2007)。在中国，脑部手术被推给精神病患者。华尔街 J. https://www.wsj.com/articles/SB119393867164279313#:~:text=The%20irreversible%20brain%20surgeries%20performed,funding%20and%20hungry%20for%20profit。 2020 年 6 月 17 日访问。
Zhang, S.、Zhou, P.、Jiang, S.、Li, P. 和 Wang W. (2017)。双侧前囊切开术和杏仁核切开术治疗伴有精神症状和攻击性的精神发育迟滞：病例报告。 医学（巴尔的摩）， 96（1），10-13。