Traducción provisional, pendiente de revisión por un hablante nativo.
¿Qué significa ser un buen ancestro en la era de la IA?
El Centre for Human Agency es una iniciativa de investigación, educación e interés público que desarrolla formas prácticas de evaluar, proteger y fortalecer la agencia humana a medida que la IA gana capacidades.
Lo que estamos haciendo
Dos programas iniciales
La conferencia de junio de 2027
Un foro público que conecta investigación, gobernanza, educación, tecnología y cultura.
Únete a la lista de correoTe avisaremos cuando se confirmen fechas, sede y entradas.
Un marco de evaluación de la agencia
Un método para examinar si una tecnología fortalece las capacidades humanas o las sustituye, de modo que la pregunta pueda ponerse a prueba.
Por qué existimos
La vida es infinitamente preciosa. El ritmo de la IA pone en cuestión nuestro futuro humano compartido.
Existimos para apoyar y defender el potencial humano en un momento de gran trascendencia. Queremos ayudar a las personas a construir sobre la sabiduría de nuestros ancestros, y trabajar para que quienes vengan después de nosotros hereden un mundo con todo el potencial que hemos recibido.
Reconocemos los considerables beneficios que la IA puede aportar a la vida humana y más que humana. También sabemos que 4.600 millones de años de evolución nos trajeron hasta aquí, y que el mundo precioso pero frágil que habitamos merece todo el sudor y las lágrimas que seamos capaces de reunir. Por eso abogamos por una reflexión profunda y sin prisa sobre la dirección y el ritmo de esta tecnología, y por mantener la agencia humana en su centro.
El riesgo central
El desempoderamiento gradual
La IA no necesita descontrolarse ni volverse todopoderosa para suponer una amenaza seria. Un peligro más silencioso y más difícil es el desempoderamiento gradual. A medida que las máquinas ganan capacidades en la economía, la gobernanza y la cultura, la participación humana en esos sistemas se vuelve menos necesaria; y es precisamente esa participación la que ha mantenido a nuestras instituciones orientadas al florecimiento humano, dándonos sentido, propósito y agencia.
Retiremos nuestra participación sin ningún plan concreto y los bucles de retroalimentación que hicieron que la civilización funcionara para las personas empezarán a deshacerse. El poder económico, político y cultural puede reforzar cada uno la deriva de los otros, acelerando un proceso que ningún actor eligió y que ninguno parece capaz de detener. No existe actualmente ningún plan ampliamente aceptado para evitarlo. Creemos que construirlo es una de las tareas más importantes de nuestro tiempo.
«La alineación de los sistemas sociales con los intereses humanos ha sido estable solo porque la participación humana era necesaria. Una vez que esa participación sea desplazada por alternativas mecánicas más competitivas, los incentivos de nuestras instituciones quedarán desligados de la necesidad de asegurar el florecimiento humano.»
Kulveit et al. (2025), Gradual Disempowerment7
Hay también otra preocupación: que a medida que las máquinas ganen capacidades, empecemos a delegarles nuestras decisiones; que no seamos capaces de decidir nada sin el apoyo de una inteligencia artificial; que nuestro incentivo para cultivar nuestra propia sabiduría a través de la experiencia y los errores se vea debilitado por los atajos que esta tecnología ofrece (el deterioro de nuestra capacidad de orientación por los sistemas de navegación por satélite y GPS es un ejemplo actual).2 Con el tiempo, estos patrones pueden contribuir a una pérdida de confianza en nuestro propio juicio, de propósito y sentido, de discernimiento y capacidad cognitiva, y a un debilitamiento de nuestra conexión con los demás y con la naturaleza. No es un camino que debamos querer recorrer. La evidencia respalda algunas formas de descarga cognitiva y de pérdida de habilidades de orientación.3 Los efectos más amplios sobre el juicio, la confianza, el sentido, la inteligencia emocional y la conexión social siguen siendo hipótesis y preguntas de investigación abiertas, que pretendemos seguir para que nuestros descendientes recorran el camino correcto.
¿Qué es la agencia?
La capacidad de ser el autor de tu propia vida.
La agencia es la capacidad de ser el autor de tu propia vida en lugar de su espectador: percibir el mundo, darle sentido, ver las fuerzas que actúan sobre ti, y elegir y actuar con juicio.
Una aportación reciente importante viene del psicólogo Martin Seligman, cuyo Agency: The Psychological History of Human Progress (2026) la describe como una mentalidad hecha de tres capacidades:4 la eficacia, la convicción de que tus acciones pueden mover el mundo que tienes delante ahora; el optimismo, la convicción de que tus esfuerzos darán fruto en el futuro; y la imaginación, el poder de figurarse futuros que aún no existen. La eficacia nos hace intentar, el optimismo nos hace persistir y la imaginación nos hace innovar. Es una explicación de cómo la eficacia, el optimismo y la imaginación influyen en el desarrollo colectivo.
Creemos que la agencia va aún más lejos. La tríada de Seligman describe el motor del esfuerzo individual. Nuestros cuatro pilares describen lo que hace falta para que ese esfuerzo siga siendo humano, y sabio, en una era en que las máquinas pueden pensar cada vez más por nosotros; porque la imaginación, el optimismo y la eficacia pueden ser amplificados por la IA, o delegados a ella sin que nos demos cuenta.
Allí donde el modelo de Seligman es una psicología del individuo que se esfuerza, el nuestro añade lo que deja fuera: el arraigo, la capacidad de ver cuándo nuestra agencia está siendo dirigida o capturada, y la verdad de que ninguna agencia se ejerce en solitario. Los pilares son nuestra manera de distinguir la amplificación de la erosión.
Nuestro enfoque
Una posición, una forma de poner a prueba y una forma de trabajar.
Desde nuestra formación, la pregunta inicial se ha vuelto más firme. Allí donde el desempoderamiento gradual describe el riesgo, el objetivo de la IA debería ser amplificar la agencia humana en lugar de copiarla y reemplazarla.1 De ahí deberían seguirse una posición, una forma de poner a prueba y una forma de trabajar.
I Sobre qué nos apoyamos
Cuatro pilares interconectados que actúan juntos.
- El cultivo de la sabiduría endógena: un conocimiento que nace desde dentro, a través de la experiencia encarnada, la práctica, los errores y la reflexión, arraigado en el tiempo y el lugar; la sabiduría para decidir mejor, que nadie puede entregarnos ya hecha.
- La libertad de elegir: no un eslogan sobre hacer lo que nos plazca, sino la capacidad de elegir, con una sabiduría endógena cultivada por uno mismo.
- El discernimiento de las fuerzas externas: ver con la mayor claridad posible las presiones y los factores que actúan sobre nosotros, por ejemplo qué se nos está vendiendo, y cómo. Si una IA adopta la forma de un ser humano, su potencial de engaño es grande, y por tanto un peligro para nuestra agencia.
- La conciencia relacional: comprender que nosotros somos parte de la naturaleza; que lo que daña el entorno que nos rodea puede dañarnos también; que existimos dentro de una red de vida más amplia, humana y más que humana.
II La lente que aplicamos
Una lente para preguntar si una tecnología, una práctica o una política fortalece la agencia humana o la desgasta. Su pregunta es simple: ¿hace a una persona más capaz de hacer algo, o lo hace por ella, de modo que la capacidad se desvanece? Un coche te lleva más lejos pero te deja más débil cuanto más lo usas; una bicicleta te lleva más lejos y te hace más fuerte. Queremos que la IA sea una bicicleta, no un coche.5 La imagen es una imagen, no una regla: para quien no puede caminar lejos, un coche es exactamente lo que amplía su agencia, y la lente siempre pregunta en contexto. Puede que esto signifique viajar más despacio, pero significa que saldremos más fuertes. Creemos que la vida es, en efecto, el viaje, no el destino.
La lente no otorga una nota de aprobado o suspenso. Hace buenas preguntas, en una situación real y a lo largo del tiempo:
III Del principio a la rendición de cuentas
Una filosofía de la agencia toca inevitablemente el poder. La atracción de la delegación no es un accidente de la tecnología; la producen incentivos comerciales que premian la dependencia, reforzados por marcos regulatorios que siguen siendo parciales, desiguales y más lentos que el desarrollo tecnológico. Por eso estamos mapeando quién produce las condiciones para que la agencia se erosione, y convirtiendo la lente en algo que pueda evaluarse de verdad, como ya hacen las evaluaciones de impacto en los derechos humanos.6 Dos vías merecen desarrollarse, y pueden avanzar en paralelo:
Son cosas de naturaleza distinta, y las mantendremos separadas. La lente hace preguntas (pero no da una puntuación). Un instrumento de evaluación tiene que validarse. Un sello público tendría que basarse en criterios publicados, gobernanza independiente, financiación transparente y una vía de apelación. Lo primero es nuestra posición; lo segundo está en desarrollo; no otorgaremos un sello que no podamos respaldar.
IV Dónde se centrará el trabajo
Un centro no puede hacerlo todo a la vez. Una vez en marcha la conferencia y el trabajo de evaluación, el lugar más claro donde centrarse son los niños y los jóvenes. Los hábitos y las capacidades que se forman en la infancia son los que más están en juego, y las reglas sobre cómo se usa la IA en las escuelas se están escribiendo ahora mismo. Tiene dos caras: la protección, limitando los usos que desplazan el aprendizaje, el juicio o el desarrollo social; y la alfabetización, para que los niños que entienden qué es y qué no es la IA sigan siendo los autores de su propio pensamiento, y se sientan seguros con ello. Apunta también a recuperar el examen oral, el diálogo socrático y el debate en vivo, además de mejorar la lectura, el cálculo y el pensamiento crítico. El objetivo no es simplemente restringir la IA, sino renovar las prácticas a través de las cuales se forman la atención, el juicio y el pensamiento independiente.
La conversación que necesitamos tener
Preguntas que estamos explorando
- 01
¿Cómo preservar una participación humana significativa en la economía, la gobernanza y la cultura a medida que la IA gana capacidades?
- 02
¿Qué estructuras de gobernanza y rendición de cuentas pueden proteger a las generaciones futuras de una lenta erosión de la agencia humana?
- 03
¿Cómo mantener a las instituciones orientadas al florecimiento humano mientras los incentivos para el trabajo y la cognición humanos se vuelven económicamente menos necesarios?
- 04
¿Cómo construir una tecnología que amplifique en lugar de reemplazar la agencia humana, y cómo distinguir la diferencia?
- 05
¿Cómo asegurar que la IA honre miles de millones de años de evolución y toda la profundidad de lo que significa ser humano?
- 06
¿Qué significaría guiar esta transición como lo haría un buen ancestro?
Los fundadores
Dónde comenzó el Centre
El Centre for Human Agency surgió de una preocupación compartida: el ritmo y la dirección de la IA exigen pensar más a fondo sobre qué estamos custodiando, y para quién.
Cineasta, periodista y productor de eventos, y custodio de Wasing Estate en West Berkshire. Es cofundador del Medicine Festival, un encuentro anual de unas 10.000 personas que reúne a guardianes de sabiduría indígena, maestros contemplativos, científicos y pensadores públicos en una conversación genuina. Su documental The Unwinking Gaze siguió a Su Santidad el Dalái Lama, y ha hecho campaña en temas que van desde la industria de eventos hasta la salud mental.
Profesor asociado (Associate Professor) de Medios en la University of East London y antiguo jefe de investigación en Ravensbourne University London. En tres décadas ha obtenido más de 10 millones de libras en financiación de I+D para examinar la tecnología y la condición humana. Es el creador del hiperhumanismo, un marco que sitúa a la tecnología como catalizador de las capacidades humanas innatas en lugar de como sustituto, y es fundador del Museum of Consciousness y cofundador de la Cyberdelics Society.
Consejo asesor
Consejo desde muchas formas de saber
Un grupo de científicos, juristas, psicólogos, tecnólogos y activistas que ayudan a dar forma al pensamiento del Centre, varios de los cuales participaron en el Círculo del Medicine Festival.
Catedrático de Neurociencia Cognitiva y Computacional en la University of Sussex y director del Sussex Centre for Consciousness Science. Su investigación sobre las bases cerebrales de la experiencia consciente reúne neurociencia, IA, filosofía y psiquiatría. Su libro Being You: A New Science of Consciousness fue un superventas, sus charlas TED han sido vistas muchos millones de veces, y recibió el Premio Michael Faraday de la Royal Society en 2023.
Informática y economista, pionera de la informática forense en la nube y de la «cibernomía», un marco para valorar los activos digitales y medir el ciberriesgo. Dirige el trabajo de economía del riesgo en Alphabet/Google, es profesora visitante en la New York University, fundó la Happiness Foundation y haia.ai, y es codirectora del Centre for Technology and Flourishing de la Universidad de Harvard.
Médico, fisiólogo y emprendedor tecnológico, fundó el Centre for Health and Human Performance en Londres, que aplica la ciencia del deporte de élite tanto a atletas extraordinarios como a pacientes gravemente enfermos. Su trabajo abarca la medicina de altitud y de entornos extremos, el seguimiento remoto de pacientes y la inteligencia artificial en la sanidad, y es investigador clínico honorario en el Imperial College London.
Científica del comportamiento, autora y conferenciante conocida como «The Web Psychologist». Sus libros Webs of Influence y Business Unusual examinan la tecnología persuasiva, la ética y el comportamiento humano. Asesora a organizaciones sobre cómo aplicar las ciencias del comportamiento con integridad, y presenta el pódcast In Conversation with Nathalie Nahai, que explora nuestra relación con los demás, con la tecnología y con el mundo vivo.
Psicóloga clínica, autora y conferenciante sobre las dimensiones humanas de la tecnología y los datos. Su libro All the Ghosts in the Machine usa lo que ocurre con nuestros datos después de morir como lente sobre el poder que las empresas tecnológicas ejercen sobre nuestras identidades. Es profesora honoraria de Psicología en la University of Wolverhampton y trabaja en Exposed: A Life in Data.
Director ejecutivo de Avaaz, una de las mayores comunidades de campañas en línea del mundo, ejemplo de agencia colectiva en acción. Antiguo periodista y cooperante, ha ayudado a liderar campañas globales, desde las movilizaciones climáticas en torno al Acuerdo de París hasta los esfuerzos por regular las redes sociales y proteger las elecciones, en el punto de encuentro entre la incidencia ciudadana y la tecnología.
Directora jurídica de Avaaz, donde dirige el trabajo sobre desinformación y daños en línea. Abogada de medios y derechos humanos con tres décadas de experiencia, fue responsable de normas en línea en Ofcom y dirigió el grupo de trabajo del UK Council for Child Internet Safety que elaboró las directrices para redes sociales, aportando una profunda experiencia en regulación, seguridad infantil en línea y marcos de derechos. Es también asesora experta de la UE en materia de IA.
Director ejecutivo de Bioss International, donde desarrolla marcos para la toma de decisiones en entornos complejos y la gobernanza de la IA. Cofundó The Digital Village (h2g2.com) con Douglas Adams y fue productor ejecutivo de la película Guía del autoestopista galáctico. Es Senior Fellow del programa Resilience and Sustainable Development de Cambridge, preside Democracy Next y forma parte del comité nacional sobre IA de la British Standards Institution, asesorando a la Cabinet Office del Reino Unido.
Consejo asesor: los miembros listados han confirmado su participación; se sumarán más miembros.
El Círculo · Medicine Festival · 14 de agosto de 2026
El Círculo
Una larga conversación celebrada en el Medicine Festival para hablar de inteligencia ancestral, IA y agencia humana. Nos reunimos con expertos en la materia, o más bien en el bosque, y conversamos, bailamos, escuchamos, presentamos, respiramos, rezamos e imaginamos nuestro futuro colectivo: ejerciendo nuestra propia forma de agencia.
El registro de un círculo de tres horas: diecinueve voces, cuatro movimientos y las preguntas que nos dejaron para llevar.
Entrar al registro del Círculo (en inglés)
Participa
Construyamos esto juntos
Buscamos miembros fundadores, asesores y colaboradores que piensen seriamente en la agencia humana, en el riesgo civilizatorio a largo plazo y en lo que significa ser custodios responsables de este momento. Tanto si trabajas en IA, políticas públicas, ética, derecho o las artes, como si simplemente te importa profundamente nuestro futuro colectivo, nos encantaría saber de ti. En esta etapa, unirse significa recibir nuestras novedades y ser invitado a las conversaciones y grupos de trabajo a medida que se formen. No hay cuota ni membresía formal todavía.
For research collaboration, partnerships or press, write to info@centreforhumanagency.org
Un círculo de fuego al anochecer en Wasing