The Centre for Human Agency

临时译文,尚待母语审校。

沃辛 Medicine Festival 圆圈的静帧画面

在人工智能时代,做一个好祖先意味着什么?

人类能动性中心(The Centre for Human Agency)是一项研究、教育与公共利益倡议,致力于在人工智能能力不断增强的时代,发展切实可行的方法来评估、守护并强化人的能动性。

筹建中
加入我们的创始社群

我们正在做的事

两项初始计划

已宣布 · 2027年6月

2027年6月大会

一个连接研究、治理、教育、科技与文化的公共论坛。

订阅邮件列表

日期、场地与门票确认后,我们会通知您。

研发中

能动性评估框架

一套用于检验一项技术究竟是增强人的能力还是取而代之的方法,使这个问题得以被真正检验。

我们为何存在

生命无比珍贵。人工智能的发展速度,正让我们共同的人类未来成为一个悬而未决的问题。

我们的存在,是为了在这个影响深远的时刻支持并倡导人的潜能。我们希望帮助人们在祖先的智慧之上继续建设,并努力让后来者继承一个保有我们所获得的全部潜能的世界。

我们承认人工智能可能为人类及超越人类的生命带来可观的益处。我们也知道,四十六亿年的演化才把我们带到此处,而我们所栖居的这个珍贵却脆弱的世界,值得我们倾尽全部的汗水与泪水。因此,我们主张对这项技术的方向与速度进行深入而从容的思考,并让人的能动性始终居于核心。

沃辛(Wasing)Medicine Festival 的林间共舞
Medicine Festival · Wasing

核心风险

渐进式失权

人工智能无需失控或变得无所不能,也能构成严重威胁。更为隐蔽、也更难应对的危险,是渐进式失权。随着机器在经济、治理与文化领域的能力不断增强,人在这些系统中的参与变得不再必要;而正是这种参与,使我们的制度始终朝向人的繁荣,赋予我们意义、目标与能动性。

在没有任何具体规划的情况下抽走我们的参与,那些让文明为人服务的反馈回路便开始瓦解。经济、政治与文化权力会相互强化彼此的漂移,加速一个没有任何一方选择、也似乎没有任何一方能够阻止的过程。目前尚无被广泛接受的方案来防止它。我们相信,制定这样的方案,是我们这个时代最重要的任务之一。

“社会系统与人类利益之间的一致,之所以一直稳定,仅仅是因为人的参与不可或缺。一旦这种参与被更具竞争力的机器替代所取代,我们制度的激励机制将不再与保障人类繁荣的必要性挂钩。”

Kulveit 等(2025),Gradual Disempowerment7

还有另一重忧虑:随着机器能力日增,我们开始把决策交给它们;离开人工智能的辅助,我们将无法做出任何决定;这项技术提供的捷径,会削弱我们通过试错与经历来培育自身智慧的动力(卫星导航与 GPS 系统导致我们方向感衰退,便是当下的一个例子)。2 长此以往,这些模式可能导致我们对自身判断失去信心,失去目标与意义,失去明辨力与认知能力,也使我们与彼此、与自然的联结日渐稀薄。这不是一条我们应当选择的路。已有证据支持某些形式的认知卸载以及与导航相关的技能退化。3 至于对判断力、自信、意义、情绪智力与社会联结的更广泛影响,仍属于假设与开放的研究问题,我们打算继续探究,以使我们的后代走上正确的道路。

何为能动性?

成为自己人生的作者的能力。

能动性,是成为自己人生的作者而非旁观者的能力:感知世界,理解世界,看清作用于自身的力量,并凭判断做出选择与行动。

心理学家马丁·塞利格曼(Martin Seligman)的《Agency: The Psychological History of Human Progress》(2026)提供了一个重要的近期阐述,将其描述为由三种能力构成的心态:4效能感,相信自己此刻的行动能够改变眼前的世界;乐观,相信自己的努力将在未来得到回报;以及想象力,描绘尚不存在的未来的力量。效能感让我们去尝试,乐观让我们坚持,想象力让我们创新。这是关于效能感、乐观与想象力如何影响集体发展的一种阐述。

我们认为,能动性还有更深的层次。塞利格曼的三要素描述的是个人奋进的引擎。我们的四大支柱则描述,在一个机器能替我们做越来越多思考的时代,要让这种奋进保持人性与智慧,需要什么;因为想象力、乐观与效能感,都可能被人工智能放大,也可能悄然外包给它。

四大支柱:选择的自由、明辨、内生智慧与生命之网,环绕着人的能动性
环绕着人的能动性的四大支柱。

塞利格曼的阐述是一种关于奋进个体的心理学,而我们的框架补上了它所遗漏的:根植性,看清自身能动性何时正被引导或俘获的能力,以及没有任何人的能动性是独自行使的这一事实。四大支柱,正是我们区分“放大”与“侵蚀”的方法。

我们的方法

一种立场,一种检验之法,以及一种工作方式。

自成立以来,最初的问题已变得更加坚定。如果说渐进式失权描述的是风险,那么人工智能的目标就应当是放大人的能动性,而不是复制并取代它。1 由此应当引出一种立场、一种检验之法,以及一种工作方式。

I 我们的立足之基

四根相互关联、协同作用的支柱。

  • 内生智慧的培育:由内而生的知识,源自具身的经验、实践、错误与反思,扎根于特定的时间与地点;一种做出更好决定的智慧,没有人能把它现成地交给我们。
  • 选择的自由:不是“想做什么就做什么”的口号,而是凭借自我培育的内生智慧做出选择的能力。
  • 对外部力量的明辨:尽可能清楚地看见作用于我们的压力与因素,例如,有什么正在被推销给我们,以及以何种方式。如果人工智能披上人的外形,其欺骗的潜力便十分巨大,因而对我们的能动性构成危险。
  • 关系意识:理解我们是自然的一部分;伤害我们周遭环境的事物,也可能伤害我们自身;我们存在于一张更广阔的生命之网中,人类与超越人类的生命同在其中。

II 我们运用的视角

这是一个用来追问的视角:一项技术、一种做法或一项政策,究竟是在增强人的能动性,还是在磨损它。它的问题很简单:它是让人更有能力做某件事,还是替人把事做了,以致这种能力逐渐消退?汽车能把你带得更远,但用得越多,你就越虚弱;自行车能把你带得更远,也让你更强健。我们希望人工智能是自行车,而不是汽车。5 这个比喻是一幅图景,而非一条规则:对于走不了远路的人,汽车恰恰是扩展其能动性的东西,而这个视角总是在具体情境中发问。这也许意味着我们走得慢一些,但意味着我们会因此更强健。我们相信,生命确实在于旅程,而非终点。

这个视角不给出“通过”或“不通过”的评分。它在真实情境中、在时间的跨度里提出好的问题:

  • 形成
    它是保护了培养技能的练习过程,还是直接交付了现成的结果?
  • 理解
    它是让你更有能力提出自己的问题,还是让你更依赖它的答案?
  • 目的
    它服务于你想要的,还是别人想从你身上得到的?
  • 明辨
    它是向你揭示作用于你的压力,还是趁你看不见时利用这些压力?
  • 范围与智慧
    它是让权力保持在判断力可及之处、掌握在多数人而非少数人手中吗?
  • 多元
    它是为多种认知与生活方式留出空间,还是把所有人推向同一种?
  • III 从原则到问责

    一种关于能动性的哲学,不可避免地触及权力。外包的吸引力并非技术的偶然产物,而是由奖励依赖的商业激励所造就,并被仍然零散、不均衡且慢于技术发展的监管框架所加强。因此,我们正在梳理是谁在制造侵蚀能动性的条件,并把这个视角转化为真正可以评估的东西,正如人权影响评估已经在人权领域发挥的作用。6 有两条路径值得发展,并且可以并行推进:

    路径一 · 技术 · 研发中

    一种评估能动性的方法

    一套方法,并逐步发展为一件工具,用以确定某个系统究竟是放大还是取代了某项特定的人类能力,从而使这个视角产出可评估的结果,而不是流于见仁见智。

    路径二 · 制度 · 探索中

    一个值得信赖的标识

    一个做出这一判断的机构,在系统达到标准时授予可辨识的标准或标识,从而给开发者一个为能动性而设计的理由,而这正是市场本身所不能提供的。

    这些是性质不同的事物,我们会把它们区分开来。这个视角提出问题(但不打分)。评估工具必须经过验证。一个公共标识必须建立在公开的标准、独立的治理、透明的资金与申诉渠道之上。第一项是我们的立场;第二项正在研发;我们不会授予任何我们无法为之担保的标识。

    IV 工作的重心所在

    一个中心无法一次做完所有的事。待大会与评估工作展开之后,最明确的重心是儿童与青少年。童年形成的习惯与能力最为关键,而关于人工智能如何在学校使用的规则,此刻正在被写下。这有两个方面:保护,限制那些取代学习、判断或社会性发展的用法;以及素养,让懂得人工智能是什么、不是什么的孩子,继续做自己思想的作者,并对此充满信心。这也指向口试、苏格拉底式问答与现场辩论的复兴,以及读写、算术与批判性思维的提升。目标不只是限制人工智能,而是更新那些塑造专注力、判断力与独立思考的实践。

    我们需要展开的对话

    我们正在探索的问题

    1. 01

      随着人工智能能力日增,我们如何在经济、治理与文化中保有有意义的人的参与?

    2. 02

      怎样的治理与问责结构,能够保护后代免于人的能动性的缓慢侵蚀?

    3. 03

      当人类劳动与认知在经济上不再那么必要时,我们如何让各类制度继续朝向人的繁荣?

    4. 04

      我们如何构建放大而非取代人的能动性的技术,又如何辨别两者的差异?

    5. 05

      我们如何确保人工智能尊重数十亿年的演化,以及“为人”这件事的全部深度?

    6. 06

      像一个好祖先那样护持这场转变,意味着什么?

    创始人

    中心从何而来

    人类能动性中心源于一份共同的关切:人工智能的速度与方向,要求我们更深入地思考我们所守护的是什么,以及为谁守护。

    Joshua Dugdale
    联合创始人

    电影人、记者与活动策划人,西伯克郡沃辛庄园(Wasing Estate)的守护者。他是 Medicine Festival 的联合创始人,这一年度聚会约有一万人参与,让原住民智慧守护者、静观导师、科学家与公共思想者展开真诚的对话。他的纪录片《The Unwinking Gaze》跟随记录了达赖喇嘛尊者,他还就从活动行业到心理健康等议题发起过倡导。

    Professor Carl Hayden Smith FRSA
    联合创始人

    东伦敦大学媒体学副教授,曾任伦敦雷文斯本大学研究主任。三十年间,他获得逾一千万英镑研发资助,用于研究技术与人的境况。他提出了“超人文主义”(Hyperhumanism)框架,将技术定位为人类天赋能力的催化剂而非替代品,并创立了意识博物馆(Museum of Consciousness),同时是 Cyberdelics Society 的联合创始人。

    顾问委员会

    来自多种认知方式的建言

    一群帮助塑造中心思想的科学家、法律人、心理学家、技术专家与倡导者,其中多位曾参与 Medicine Festival 的圆圈对话。

    Professor Anil Seth
    神经科学与意识

    萨塞克斯大学认知与计算神经科学教授,萨塞克斯意识科学中心主任。他关于意识经验的大脑基础的研究,汇聚了神经科学、人工智能、哲学与精神病学。他的著作《Being You: A New Science of Consciousness》曾登上畅销榜,其 TED 演讲观看量达数百万次,并于2023年获英国皇家学会迈克尔·法拉第奖。

    Professor Keyun Ruan
    风险经济学与人机对齐

    计算机科学家与经济学家,云取证与“网络经济学”(cybernomics)的开创者,后者是一个为数字资产估值并衡量网络风险的框架。她在 Alphabet/Google 领导风险经济学工作,是纽约大学客座教授,创立了 Happiness Foundation 与 haia.ai,并担任哈佛大学科技与繁荣中心联合主任。

    Dr Jack Kreindler
    医学与人体表现

    医生、生理学家与科技创业者,在伦敦创立了健康与人体表现中心(Centre for Health and Human Performance),将精英运动科学同时应用于顶尖运动员与重症患者。他的工作涵盖高海拔与极端环境医学、远程患者监护以及医疗中的机器智能,并担任伦敦帝国理工学院荣誉临床研究员。

    Nathalie Nahai
    行为科学与说服性技术

    行为科学家、作家与演讲者,被誉为“The Web Psychologist”。她的著作《Webs of Influence》与《Business Unusual》探讨说服性技术、伦理与人类行为。她为各类组织提供如何以诚信运用行为科学的建议,并主持播客《In Conversation with Nathalie Nahai》,探索我们与彼此、与技术、与生命世界的关系。

    Professor Elaine Kasket
    心理学、数据与隐私

    咨询心理学家、作家与演讲者,关注技术与数据的人性维度。她的著作《All the Ghosts in the Machine》以我们身后数据的命运为切入点,审视科技公司对我们身份所握有的权力。她是伍尔弗汉普顿大学心理学荣誉教授,目前正在撰写《Exposed: A Life in Data》。

    Bert Wander
    公民驱动的倡导

    Avaaz 首席执行官,Avaaz 是全球最大的线上倡导社群之一,是集体能动性付诸行动的典范。他曾是记者与援助工作者,参与领导过多项全球运动,从围绕《巴黎协定》的气候动员到规范社交媒体、保护选举的努力,工作于公民倡导与技术的交汇处。

    Sarah Andrew
    法律、监管与网络伤害

    Avaaz 法律总监,领导其在虚假信息与网络伤害方面的工作。作为拥有三十年经验的媒体与人权律师,她曾任英国通信管理局(Ofcom)网络标准负责人,并领导英国儿童互联网安全委员会制定社交媒体指南的工作组,在监管、儿童网络安全与权利框架方面拥有深厚专长。她还是欧盟人工智能事务的专家顾问。

    Robbie Stamp
    决策与人工智能治理

    Bioss International 首席执行官,致力于发展复杂情境下的决策框架与人工智能治理。他与道格拉斯·亚当斯共同创立了 The Digital Village(h2g2.com),并担任电影《银河系漫游指南》的执行制片人。他是剑桥大学韧性与可持续发展项目的高级研究员,担任 Democracy Next 主席,并任职于英国标准协会人工智能国家委员会,为英国内阁办公室提供咨询。

    顾问委员会:所列成员均已确认参与;更多成员陆续加入。

    沃辛的林间空地,众人围坐在发言杖周围
    圆圈 · Medicine Festival · 沃辛

    圆圈 · Medicine Festival · 2026年8月14日

    圆圈

    一场在 Medicine Festival 举行的长谈,探讨祖先智慧、人工智能与人的能动性。我们与该领域的专家——或者说,林中的专家——相聚,一起讨论、起舞、聆听、分享、呼吸、祈祷,并想象我们共同的未来:以此践行我们自己的能动性。

    一场三小时圆圈对话的记录:十九个声音,四个乐章,以及他们留给我们去承载的问题。

    进入圆圈记录 (英文)
    沃辛 Medicine Festival 的夜间篝火圈

    参与

    让我们一起建设

    我们正在寻找认真思考人的能动性、长期文明风险,以及在此刻做负责任的守护者意味着什么的创始成员、顾问与合作者。无论您从事人工智能、公共政策、伦理、法律或艺术,还是只是深切关心我们共同的未来,我们都期待听到您的声音。现阶段,加入意味着接收我们的动态,并在各类对话与工作组形成时受邀参与。目前不收取费用,也没有正式的会员制度。

    For research collaboration, partnerships or press, write to info@centreforhumanagency.org

    沃辛的夜间篝火圈