Los riesgos de sufrimiento astronómico , también llamados riesgos de sufrimiento o riesgos-s , son riesgos que implican mucho más sufrimiento que todo lo que ha ocurrido en la Tierra hasta ahora. [2] [3] A veces se clasifican como una subclase de riesgos existenciales . [4]
Según algunos estudiosos, los riesgos-s merecen una consideración seria, ya que no son extremadamente improbables y pueden surgir de escenarios imprevistos. Aunque puedan parecer especulativos, factores como el avance tecnológico, la dinámica de poder y los precedentes históricos indican que la tecnología avanzada podría provocar inadvertidamente un sufrimiento sustancial. Por lo tanto, se considera que los riesgos-s son un asunto moralmente urgente, a pesar de la posibilidad de beneficios tecnológicos. [5]
Las fuentes de posibles riesgos-s incluyen la inteligencia artificial incorporada [6] y la superinteligencia [7] , así como la colonización espacial , que podría conducir potencialmente a "guerras constantes y catastróficas" [8] y a un inmenso aumento del sufrimiento de los animales salvajes al introducir animales salvajes, que "generalmente llevan vidas cortas y miserables llenas a veces del sufrimiento más brutal", en otros planetas, ya sea intencional o inadvertidamente. [9]
La inteligencia artificial es central en los debates sobre los riesgos-s porque puede llegar a permitir que actores poderosos controlen vastos sistemas tecnológicos. En el peor de los casos, la IA podría utilizarse para crear sistemas de sufrimiento perpetuo, como un régimen totalitario que se expande por el espacio. Además, los riesgos-s podrían surgir de manera incidental, como a través de simulaciones impulsadas por IA de seres conscientes que experimentan sufrimiento, o de actividades económicas que no tienen en cuenta el bienestar de las mentes no humanas o digitales. [10] Steven Umbrello, un investigador de ética de la IA , ha advertido que la computación biológica puede hacer que el diseño de sistemas sea más propenso a los riesgos-s. [6]
La colonización espacial podría aumentar el sufrimiento al introducir animales salvajes en nuevos entornos, lo que provocaría desequilibrios ecológicos. En hábitats desconocidos, los animales podrían tener dificultades para sobrevivir, enfrentándose al hambre, las enfermedades y la depredación. Estos desafíos, combinados con ecosistemas inestables, podrían causar caídas o explosiones demográficas, lo que resultaría en un sufrimiento generalizado. Además, la falta de depredadores naturales o de biodiversidad adecuada en los planetas colonizados podría empeorar la situación, reflejando los problemas ecológicos de la Tierra a mayor escala. Esto plantea preocupaciones éticas sobre las consecuencias no deseadas de la colonización espacial, ya que podría propagar un inmenso sufrimiento animal en ecosistemas nuevos e inestables. Phil Torres sostiene que la colonización espacial plantea "riesgos de sufrimiento" significativos, ya que la expansión en el espacio conducirá a la creación de diversas especies y civilizaciones con intereses en conflicto. Estas diferencias, combinadas con el armamento avanzado y las enormes distancias entre civilizaciones, darían como resultado conflictos catastróficos e irresolubles. Es poco probable que estrategias como un “Leviatán cósmico” para imponer el orden o políticas de disuasión tengan éxito debido a las limitaciones físicas del espacio y al poder destructivo de las tecnologías futuras. Por lo tanto, Torres concluye que la colonización espacial podría crear un inmenso sufrimiento y debería retrasarse o evitarse por completo. [11]
David Pearce ha sostenido que la ingeniería genética es un riesgo potencial. Pearce sostiene que si bien el dominio tecnológico sobre el eje placer-dolor y la solución del difícil problema de la conciencia podrían llevar a la posible erradicación del sufrimiento , también podrían aumentar potencialmente el nivel de contraste en el rango hedónico que los seres sintientes podrían experimentar. Sostiene que estas tecnologías podrían hacer factible la creación de "hiperdolor" o "dolorio" que experimenten niveles de sufrimiento más allá del rango humano. [12]
Los escenarios de riesgo-S pueden surgir de un castigo penal excesivo, con precedentes tanto en los sistemas penales históricos como en los modernos. Estos riesgos aumentan en situaciones como la guerra o el terrorismo, especialmente cuando está involucrada tecnología avanzada, ya que los conflictos pueden amplificar tendencias destructivas como el sadismo, el tribalismo y el retribucionismo . La guerra a menudo intensifica estas dinámicas, con la posibilidad de que se utilicen amenazas catastróficas para forzar concesiones. Los riesgos-S de agencia se agravan aún más por rasgos malévolos en individuos poderosos, como el narcisismo o la psicopatía. Esto se ejemplifica con dictadores totalitarios como Hitler y Stalin, cuyas acciones en el siglo XX infligieron un sufrimiento generalizado. [13]
Según David Pearce, existen otros riesgos potenciales más exóticos, como los que plantea la interpretación de los múltiples mundos de la mecánica cuántica. [12]
Según Tobias Baumann, los riesgos-s se pueden agrupar en tres categorías principales:
Baumann destaca que estos ejemplos son especulativos y reconoce la incertidumbre de los acontecimientos futuros. También advierte sobre el sesgo de disponibilidad, que puede llevar a sobrestimar la probabilidad de ciertos escenarios, y destaca la importancia de considerar un amplio espectro de posibles riesgos-s. [5]
Se ha propuesto la amnesia inducida como una forma de mitigar los riesgos-s en la IA consciente bloqueada y ciertos sistemas biológicos adyacentes a la IA, como los organoides cerebrales . [14]
El concepto de "misiones de rescate cósmico" de David Pearce propone la idea de enviar sondas para aliviar el sufrimiento potencial en entornos extraterrestres. Estas misiones tienen como objetivo identificar y mitigar el sufrimiento entre hipotéticas formas de vida extraterrestre, asegurando que si existe vida en otro lugar, se la trate de manera ética. [15] Sin embargo, los desafíos incluyen la falta de vida extraterrestre confirmada, la incertidumbre sobre su conciencia y las preocupaciones sobre el apoyo público, con los ambientalistas abogando por la no interferencia y otros centrándose en la extracción de recursos. [16]