stringtranslate.com

Riesgo de sufrimiento astronómico

Cuadro de alcance y gravedad del documento de Bostrom “La prevención del riesgo existencial como prioridad global” [1]

Los riesgos de sufrimiento astronómico , también llamados riesgos de sufrimiento o riesgos-s , son riesgos que implican mucho más sufrimiento que todo lo que ha ocurrido en la Tierra hasta ahora. [2] [3] A veces se clasifican como una subclase de riesgos existenciales . [4]

Las fuentes de posibles riesgos-s incluyen la inteligencia artificial incorporada [5] y la superinteligencia [6] , así como la colonización espacial , que podría potencialmente conducir a "guerras constantes y catastróficas" [7] y a un inmenso aumento del sufrimiento de los animales salvajes al introducir animales salvajes, que "generalmente llevan vidas cortas y miserables llenas a veces del sufrimiento más brutal", en otros planetas, ya sea intencional o inadvertidamente. [8]

Steven Umbrello, investigador en ética de la IA , advirtió que la computación biológica puede hacer que el diseño de sistemas sea más propenso a riesgos-s. [5]

Se ha propuesto la amnesia inducida como una forma de mitigar los riesgos-s en la IA consciente bloqueada y ciertos sistemas biológicos adyacentes a la IA, como los organoides cerebrales . [9]

David Pearce ha sostenido que la ingeniería genética es un riesgo potencial de tipo S. Pearce sostiene que si bien el dominio tecnológico sobre el eje placer-dolor y la solución del difícil problema de la conciencia podrían llevar a la posible erradicación del sufrimiento , también podrían aumentar potencialmente el nivel de contraste en el rango hedónico que podrían experimentar los seres sintientes. Sostiene que estas tecnologías podrían hacer posible la creación de "hiperdolor" o "dolorio" que experimenten niveles de sufrimiento más allá del rango humano. También sostiene que existen otros riesgos potenciales de tipo S que son más exóticos, como los que plantea la interpretación de los múltiples mundos de la mecánica cuántica. [10]

Véase también

Referencias

  1. ^ Bostrom, Nick (2013). "La prevención del riesgo existencial como prioridad global" (PDF) . Política global . 4 (1): 15–3. doi :10.1111/1758-5899.12002. Archivado (PDF) desde el original el 14 de julio de 2014 . Consultado el 12 de febrero de 2024 – vía Riesgo existencial.
  2. ^ Daniel, Max (20 de junio de 2017). «Riesgos-S: por qué son los peores riesgos existenciales y cómo prevenirlos (EAG Boston 2017)». Centro de Riesgo a Largo Plazo . Archivado desde el original el 8 de octubre de 2023. Consultado el 14 de septiembre de 2023 .
  3. ^ Hilton, Benjamin (septiembre de 2022). «'S-risks'». 80.000 Hours . Archivado desde el original el 9 de mayo de 2024 . Consultado el 14 de septiembre de 2023 .
  4. ^ Baumann, Tobias (2017). "Preguntas frecuentes sobre el riesgo S". Centro para la reducción del sufrimiento . Archivado desde el original el 9 de julio de 2023. Consultado el 14 de septiembre de 2023 .
  5. ^ ab Umbrello, Steven; Sorgner, Stefan Lorenz (junio de 2019). "Sufrimiento cognitivo no consciente: considerando los riesgos de sufrimiento de la inteligencia artificial corporizada". Philosophies . 4 (2): 24. doi : 10.3390/philosophies4020024 . hdl : 2318/1702133 .
  6. ^ Sotala, Kaj; Gloor, Lukas (27 de diciembre de 2017). «Superinteligencia como causa o cura para los riesgos del sufrimiento astronómico». Informatica . 41 (4). ISSN  1854-3871. Archivado desde el original el 16 de abril de 2021 . Consultado el 10 de febrero de 2021 .
  7. ^ Torres, Phil (1 de junio de 2018). «Colonización espacial y riesgos de sufrimiento: reevaluación de la «regla maxipok»». Futures . 100 : 74–85. doi :10.1016/j.futures.2018.04.008. ISSN  0016-3287. S2CID  149794325. Archivado desde el original el 29 de abril de 2019 . Consultado el 10 de febrero de 2021 .
  8. ^ Kovic, Marko (1 de febrero de 2021). "Riesgos de la colonización espacial". Futures . 126 : 102638. doi :10.1016/j.futures.2020.102638. ISSN  0016-3287. S2CID  230597480.
  9. ^ Tkachenko, Yegor (2024). "Posición: amnesia forzada como una forma de mitigar el riesgo potencial de sufrimiento silencioso en la IA consciente". Actas de la 41.ª Conferencia Internacional sobre Aprendizaje Automático . PMLR . Consultado el 11 de junio de 2024 .
  10. ^ "Respuestas de Quora de David Pearce (2015 - 2024): Transhumanismo con rostro humano".

Lectura adicional