Los problemas del altruismo efectivo van más allá de Sam Bankman

Sam Bankman-Fried hizo del altruismo efectivo un remate, pero su filosofía de hacer el bien al máximo enmascara una próspera cultura de comportamiento depredador.

Ellen Huet

Ilustración: Sophi Gullbrants para Bloomberg Businessweek

Beneficio de suscriptor

Suscribir

Sonia Joseph tenía 14 años cuando leyó por primera vez Harry Potter y los métodos de la racionalidad, una obra de ficción megapopular que vuelve a imaginar al niño mago como un empirista rígido. Este Potter racional prueba los hechizos de sus profesores con el método científico, se burla de las inconsistencias que encuentra y resuelve todos los problemas de los magos antes de cumplir 12 años. "Me encantó", dice Joseph, quien leyó HPMOR cuatro veces en su adolescencia. Era una india estadounidense neurodivergente y ambiciosa que se sentía fuera de lugar en su escuela secundaria suburbana de Massachusetts. La historia, dice, "atrae mucho a los forasteros inteligentes".

La búsqueda de otros escritos del autor del fanfic, Eliezer Yudkowsky, abrió más puertas para Joseph. Desde principios de la década de 2000, Yudkowsky ha argumentado que la inteligencia artificial hostil podría destruir a la humanidad en décadas. Esta creencia impulsora lo ha convertido en un padrino intelectual en una comunidad de personas que se llaman a sí mismas racionalistas y aspiran a mantener su pensamiento imparcial, incluso cuando las conclusiones dan miedo. El incipiente interés de Joseph en el racionalismo también la atrajo hacia el altruismo efectivo, una filosofía moral relacionada que se ha vuelto infame por su asociación con el ex multimillonario criptográfico caído en desgracia Sam Bankman-Fried. En su esencia, el altruismo efectivo enfatiza el uso del pensamiento racional para lograr un impacto positivo máximamente eficiente en el mundo. Estos grupos distintos pero superpuestos se desarrollaron en foros en línea, donde las publicaciones sobre los peligros de la IA se volvieron comunes. Pero también se agruparon en el Área de la Bahía, donde comenzaron a esbozar un campo de estudio llamado seguridad de IA, un esfuerzo por hacer que las máquinas tengan menos probabilidades de matarnos a todos.