“El pensamiento precede a la acción como el relámpago precede al trueno”, escribió el poeta Heinrich Heine. Así ha quedado demostrado con el altruismo eficaz (EA), una doctrina ética ideada por filósofos de Oxford que ha pasado de la torre de marfil a los pasillos del poder con una rapidez asombrosa. Los altruistas eficaces inundan Silicon Valley, forman parte del personal de las principales empresas de inteligencia artificial del mundo… y alarman a la Administración Trump. “Estados Unidos NUNCA será un país altruista eficaz”, promete el Pentágono. El secretario de Defensa tilda esta filosofía de “altruismo defectuoso”; otros miembros de la Administración la califican de “distópica”. Tomemos esos ataques como una señal de su influencia.
Hay quien se queja de que el siglo XXI ha aportado pocas ideas novedosas. En ese vacío han entrado MAGA y compañía, convirtiendo el populismo nostálgico en el gran proyecto político del siglo. Pero la gran idea del siglo es el altruismo eficaz. Tal y como informamos, lo que comenzó en la década de 2000 como una forma un tanto friki de hacer que las donaciones benéficas fueran más rentables se ha transformado en un movimiento que somete al mundo a cálculos morales complejos, incluso extraños. Para muchos de sus seguidores, la exigencia ética urgente para quienes quieren hacer el bien es impedir que la inteligencia artificial acabe con la humanidad.
El altruismo eficaz también es importante desde el punto de vista sociológico. Los altruistas eficaces no son numerosos, pero la idea ha cautivado a una generación de jóvenes superdotados que han amasado fortunas en criptomonedas e inteligencia artificial. A medida que la tecnología crea más multimillonarios, los altruistas eficaces canalizarán miles de millones de dólares hacia causas que darán forma a la sociedad. Los EA ayudaron a fundar OpenAI y Anthropic, los laboratorios líderes, con la convicción de que quienes comprendían los peligros de la IA debían controlar su desarrollo. Hasta cierto punto, ahora lo hacen; aunque, irónicamente, al crear más laboratorios —y, por tanto, competencia—, probablemente hayan acelerado el progreso de la IA.
Y todo esto ha hecho que el altruismo eficaz cobre ahora importancia política. La Administración Trump teme que el movimiento consiga frenar la IA. Ha mantenido disputas con Anthropic por la negativa de la empresa a permitir que sus modelos se utilicen para determinados fines militares. Los principales defensores del altruismo eficaz reconocen que la IA puede resultar enormemente benigna, pero, aun así, quieren ralentizar su desarrollo para reducir la posibilidad de que un cerebro artificial imparable se descontrole en la búsqueda de objetivos “desalineados” con los de la humanidad.
Algunos críticos en Estados Unidos preferirían acelerar la tecnología para evitar que China gane la carrera. Pero cuando atacan el “doomerismo” de la IA, les resulta más fácil criticar a los “nerds” que abordar el fondo del asunto. Afirman que el altruismo eficaz es un movimiento de fanáticos que resulta, según se mire, antidemocrático, peligroso y sectario.
Eso es demasiado simplista. Las raíces benéficas del movimiento son, obviamente, dignas de elogio. Al igual que The Economist, los miembros del altruismo eficaz (EA) están comprometidos con el empirismo y, sobre todo desde que se fusionaron con la comunidad “racionalista” en línea, con la aplicación del pensamiento lógico. Valoran la razón por encima de la tradición o las normas y debatirán con entusiasmo cualquier tema, por muy controvertido que sea, en busca de la verdad.
El éxito reiterado de los miembros del altruismo eficaz a la hora de predecir el rápido progreso de la IA también ha sido impresionante. Tienen razón en cuanto a los riesgos que la tecnología supone para la humanidad. El 28 de septiembre, OpenAI descartó sus planes de lanzar su último modelo después de que resultara demasiado peligroso en las pruebas. Muchos incidentes de seguridad recientes se asemejan a los escenarios aterradores descritos en los blogs de los altruistas eficaces hace años.
Sin embargo, los críticos tienen razón al advertir que los altruistas eficaces llegan a algunas conclusiones extrañas. Al igual que los filósofos utilitaristas que les precedieron, los EA reducen el comportamiento ético a un problema de optimización. ¿Cómo puede la gente lograr los mejores resultados para la humanidad en su conjunto? Su razonamiento resta importancia a imperativos locales como “cumplir las promesas” o “cuidar de la familia”. Lo que importa es reducir el sufrimiento, de forma imparcial y en todas partes.
Eso les lleva a incluir un círculo muy amplio de preocupaciones en sus cálculos morales. Es fácil ver cómo ser ético significa ayudar al prójimo. Los EA se preguntan: ¿por qué no esforzarse igual de mucho para ayudar a quienes están lejos? En sus inicios, el movimiento orientó a su ejército de personas de alto rendimiento a aceptar puestos de trabajo bien remunerados en el sector financiero y de consultoría. Su riqueza les permitiría financiar buenas obras, logrando más de lo que habrían conseguido si se hubieran convertido ellos mismos en trabajadores de organizaciones benéficas.
Pero a medida que se ha ido fortaleciendo, el movimiento EA se ha vuelto más peculiar. Algunos miembros de EA consideran que la distinción moral entre los seres humanos y otros animales es débil, ya que los animales experimentan sufrimiento. Acabar con la ganadería industrial y ayudar a los camarones son preocupaciones fundamentales. Del mismo modo, tienen un enfoque del tiempo que va en contra de la intuición. Se debe tener en cuenta a quienes aún no han nacido —y podría haber billones de ellos— a la hora de sopesar las opciones. Muchos miembros de EA son “longtermistas” que se sienten obligados a prevenir riesgos en un futuro lejano, incluso si eso priva de recursos a las buenas causas actuales, como ayudar a los más necesitados.
Llevado al extremo, este razonamiento puede conducir a una moral que no solo es contraria a la intuición, sino también repugnante. Algunos miembros del movimiento EA piensan que la vida de los insectos es, en conjunto, más valiosa que la vida humana, debido a que hay tantos insectos. Algunos afirman que sería mejor propiciar la existencia de billones de seres humanos cuyas vidas apenas merezcan la pena ser vividas que tener tan solo miles de millones con vidas verdaderamente buenas. Otros incluso piensan que el bienestar de las propias IA será algún día de vital importancia. Redirigirían los recursos hacia futuros seres humanos o no humanos, en detrimento de las personas que sufren hoy en día.
EA + IA = p(catástrofe)
Es correcto venerar la razón. Pero los filósofos morales, desde Aristóteles hasta Rawls, sabían que si un argumento conduce a conclusiones intolerables, debe de haber un paso erróneo oculto. Sin embargo, el instinto de los EA es disfrutar de conclusiones contrarias a la intuición, aunque parezcan perversas. Un problema son los márgenes de error que inevitablemente acompañan a los argumentos del altruismo eficaz. Nadie es realmente capaz de sopesar dilemas morales que afectan a miles de millones de personas hoy en día, y mucho menos a sumas gigantescas que se extienden hacia el futuro, en las que intervienen un número incierto de personas, tasas de descuento, el progreso tecnológico e innumerables variables más. Otro problema es que la extinción es tan grave que, en una aritmética moral burda, incluso una pequeña probabilidad de que se produzca prevalece sobre las preocupaciones actuales de carne y hueso.
Un tercer problema es que, al sopesar los intereses de miles de millones de personas, se pierde de vista la dignidad inherente del individuo. Cualquiera que maneje una hoja de cálculo y haga afirmaciones grandilocuentes sobre el futuro de la humanidad está a un paso de autoproclamarse planificador central. Con la autoridad moral en la mano, los derechos, el bienestar y las opiniones de un vecino pueden llegar a parecer insignificantes.
Se supone que la Revolución Francesa se fundó en la razón; condujo a la ejecución de monjas. Lenin, también, pensaba que los intelectuales que habían dominado el marxismo entendían los intereses de los trabajadores mejor que los propios trabajadores. Si realmente crees que actúas en nombre de todas las personas, por no hablar de los billones de personas futuras, puedes acabar justificando todo tipo de atrocidades.
Afortunadamente, los altruistas eficaces no están ni mucho menos a punto de traer de vuelta la guillotina. El temor, en cambio, es que el control de la IA acabe otorgándoles un gran poder, y que muchos altruistas eficaces de Silicon Valley piensen que solo en ellos se puede confiar para manejar esa tecnología. Esa es una idea alarmante. El argumento de los altruistas eficaces para preocuparse por las IA realmente poderosas es que las máquinas podrían optimizarse para un único objetivo que resultara fatalmente erróneo. Todo el mundo debería preocuparse, además, por lo que sucedería si un pequeño grupo de personas cayera en la misma trampa.
© 2026, The Economist Newspaper Limited. All rights reserved.
