El Future of Humanity Institute ( FHI ) fue un centro de investigación interdisciplinario de la Universidad de Oxford que investigaba cuestiones generales sobre la humanidad y sus perspectivas. Fue fundado en 2005 como parte de la Facultad de Filosofía y la Oxford Martin School . [1] Su director fue el filósofo Nick Bostrom , y su personal de investigación incluyó al futurista Anders Sandberg y al fundador de Giving What We Can, Toby Ord . [2]
El instituto, que comparte una oficina y trabaja en estrecha colaboración con el Centro para el Altruismo Eficaz , tenía como objetivo declarado centrar la investigación allí donde pudiera marcar la mayor diferencia positiva para la humanidad a largo plazo. [3] [4] Participó en una combinación de actividades académicas y de divulgación, buscando promover el debate informado y la participación pública en el gobierno, las empresas, las universidades y otras organizaciones. Los principales financiadores de investigación del centro incluyeron a Amlin , Elon Musk , el Consejo Europeo de Investigación , Future of Life Institute y Leverhulme Trust . [5]
El 16 de abril de 2024, la Universidad de Oxford cerró el Instituto, alegando que había "enfrentado crecientes obstáculos administrativos dentro de la Facultad de Filosofía ". [6] [7]
Nick Bostrom fundó el instituto en noviembre de 2005 como parte de la Oxford Martin School, entonces James Martin 21st Century School. [1] Entre 2008 y 2010, FHI organizó la conferencia Global Catastrophic Risks, escribió 22 artículos en revistas académicas y publicó 34 capítulos en volúmenes académicos. Los investigadores de FHI han brindado asesoramiento sobre políticas en el Foro Económico Mundial , al sector privado y sin fines de lucro (como la Fundación Macarthur y la Organización Mundial de la Salud ), así como a organismos gubernamentales en Suecia, Singapur, Bélgica, el Reino Unido y los Estados Unidos.
En marzo de 2009, Bostrom y el bioeticista Julian Savulescu también publicaron el libro Human Enhancement . [8] Más recientemente, FHI se ha centrado en los peligros de la inteligencia artificial (IA) avanzada. En 2014, sus investigadores publicaron varios libros sobre los riesgos de la IA, entre ellos Smarter Than Us de Stuart Armstrong y Superintelligence: Paths, Dangers, Strategies de Bostrom . [9] [10]
En 2018, Open Philanthropy recomendó una subvención de hasta aproximadamente £13,4 millones a FHI durante tres años, con una gran parte condicionada al éxito de la contratación. [11]
El tema más importante que FHI ha dedicado tiempo a explorar es el riesgo catastrófico global , y en particular el riesgo existencial. En un artículo de 2002, Bostrom definió un "riesgo existencial" como aquel "en el que un resultado adverso aniquilaría la vida inteligente originada en la Tierra o reduciría de manera permanente y drástica su potencial". [12] Esto incluye escenarios en los que la humanidad no se ve perjudicada directamente, pero no logra colonizar el espacio ni hacer uso de los recursos disponibles del universo observable en proyectos valiosos para el ser humano, como se analiza en el artículo de Bostrom de 2003, "Desperdicio astronómico: el costo de oportunidad del desarrollo tecnológico retrasado". [13]
El libro Global Catastrophic Risks (Riesgos catastróficos globales) de Bostrom y Milan Ćirković (2008 ) recopila ensayos sobre una variedad de riesgos, tanto naturales como antropogénicos. Los posibles riesgos catastróficos de la naturaleza incluyen el supervulcanismo , los eventos de impacto y los eventos astronómicos energéticos como los estallidos de rayos gamma , los rayos cósmicos , las erupciones solares y las supernovas . Estos peligros se caracterizan por ser relativamente pequeños y relativamente bien comprendidos, aunque las pandemias pueden ser excepciones como resultado de ser más comunes y de coincidir con las tendencias tecnológicas. [14] [4]
El FHI presta más atención a las pandemias sintéticas a través de agentes biológicos convertidos en armas. Los resultados tecnológicos en los que el instituto está particularmente interesado incluyen el cambio climático antropogénico , la guerra nuclear y el terrorismo nuclear , la nanotecnología molecular y la inteligencia artificial general . Al esperar que los mayores riesgos surjan de las tecnologías futuras, y de la inteligencia artificial avanzada en particular, el FHI está de acuerdo con otras organizaciones de reducción de riesgos existenciales, como el Centro para el Estudio del Riesgo Existencial y el Instituto de Investigación de Inteligencia Artificial . [15] [16] Los investigadores del FHI también han estudiado el impacto del progreso tecnológico en los riesgos sociales e institucionales, como el totalitarismo , el desempleo impulsado por la automatización y los peligros de la información. [17]
En 2020, Toby Ord, investigador principal de FHI, publicó su libro The Precipice: Existential Risk and the Future of Humanity , en el que sostiene que salvaguardar el futuro de la humanidad es una de las cuestiones morales más importantes de nuestro tiempo. [18] [19]
El FHI dedica gran parte de su atención a amenazas exóticas que han sido poco exploradas por otras organizaciones y a consideraciones metodológicas que informan la reducción y previsión de riesgos existenciales. El instituto ha hecho especial hincapié en el razonamiento antrópico en su investigación, como un área poco explorada con implicaciones epistemológicas generales.
Los argumentos antrópicos que FHI ha estudiado incluyen el argumento del fin del mundo , que sostiene que es probable que la humanidad se extinga pronto porque es poco probable que estemos observando un punto en la historia humana que sea extremadamente temprano. En cambio, es probable que los humanos actuales estén cerca de la mitad de la distribución de humanos que alguna vez vivirán. [14] Bostrom también ha popularizado el argumento de la simulación .
Un tema recurrente en la investigación de FHI es la paradoja de Fermi , la sorprendente ausencia de civilizaciones extraterrestres observables. Robin Hanson ha sostenido que debe haber un " Gran Filtro " que impida la colonización del espacio para explicar la paradoja. Ese filtro puede estar en el pasado, si la inteligencia es mucho más rara de lo que predeciría la biología actual; o puede estar en el futuro, si los riesgos existenciales son incluso mayores de lo que se reconoce actualmente.
El trabajo de FHI sobre la evaluación de riesgos, los desechos astronómicos y los peligros de las tecnologías futuras está estrechamente vinculado con su trabajo sobre la promesa y los riesgos de la mejora humana . Las modificaciones en cuestión pueden ser biológicas, digitales o sociológicas, y se hace hincapié en los cambios hipotéticos más radicales, en lugar de en las innovaciones a corto plazo más probables. La investigación bioética de FHI se centra en las posibles consecuencias de la terapia genética , la prolongación de la vida , los implantes cerebrales y las interfaces cerebro-computadora , y la transferencia de información mental . [20]
El enfoque de FHI se ha centrado en los métodos para evaluar y mejorar la inteligencia y la racionalidad humanas, como una forma de dar forma a la velocidad y la dirección del progreso tecnológico y social. El trabajo de FHI sobre la irracionalidad humana, ejemplificada en la heurística cognitiva y los sesgos , incluye una colaboración en curso con Amlin para estudiar el riesgo sistémico que surge de los sesgos en el modelado. [21] [22]
{{cite web}}: CS1 maint: bot: estado de URL original desconocido ( enlace )