El asalto de Pascal

Experimento de pensamiento filosófico sobre la utilidad

En filosofía , el asalto de Pascal es un experimento mental que demuestra un problema en la maximización de la utilidad esperada. Un agente racional debería elegir acciones cuyos resultados, ponderados por su probabilidad, tengan una utilidad mayor . Pero algunos resultados muy improbables pueden tener utilidades muy grandes, y estas utilidades pueden crecer más rápido de lo que disminuye la probabilidad. Por lo tanto, el agente debería centrarse más en casos enormemente improbables con recompensas inverosímiles; esto conduce primero a elecciones contraintuitivas y luego a la incoherencia, ya que la utilidad de cada elección se vuelve ilimitada.

El nombre hace referencia a la apuesta de Pascal , pero a diferencia de la apuesta, no requiere recompensas infinitas. ^[1] Esto evita muchas objeciones al dilema de la apuesta de Pascal que se basan en la naturaleza del infinito. ^[2]

Planteamiento del problema

El término "el asalto de Pascal" para referirse a este problema fue acuñado originalmente por Eliezer Yudkowsky en el foro LessWrong . ^{[3] [2]} El filósofo Nick Bostrom elaboró ​​posteriormente el experimento mental en forma de diálogo ficticio. ^[2] Posteriormente, otros autores publicaron sus propias secuelas de los acontecimientos de este primer diálogo, adoptando el mismo estilo literario. ^{[4] [5]}

En la descripción de Bostrom, ^[2] Blaise Pascal es abordado por un atracador que ha olvidado su arma. Sin embargo, el atracador propone un trato: el filósofo le da su billetera y, a cambio, el atracador le devolverá el doble de la cantidad de dinero al día siguiente. Pascal declina la oferta, señalando que es poco probable que el trato se cumpla. El atracador continúa mencionando recompensas mayores, señalando que incluso si solo hay una probabilidad en 1000 de que sean respetados, tendría sentido que Pascal hiciera un trato por un retorno de 2000 veces. Pascal responde que la probabilidad de ese alto retorno es incluso menor que una en 1000. El atracador argumenta que para cualquier probabilidad baja pero estrictamente mayor que 0 de poder devolver una gran cantidad de dinero (o utilidad pura) existe una cantidad finita que hace que sea racional aceptar la apuesta. En un ejemplo, el atracador tiene éxito al prometerle a Pascal 1.000 cuatrillones de días felices de vida. Convencido por el argumento, Pascal le entrega la cartera al atracador.

En uno de los ejemplos de Yudkowsky, el asaltante logra su cometido diciendo "dame cinco dólares o usaré mis poderes mágicos desde fuera de Matrix para hacer funcionar una máquina de Turing que simula y mata personas". Aquí, el número utiliza la notación de flecha hacia arriba de Knuth ; escribir el número en base 10 requeriría muchísimo más material de escritura que átomos hay en el universo conocido. ^[3] ${\displaystyle 3\uparrow \uparrow \uparrow \uparrow 3}$ ${\displaystyle 3\uparrow \uparrow \uparrow \uparrow 3}$

La supuesta paradoja resulta de dos puntos de vista incoherentes. Por un lado, al multiplicar un cálculo de utilidad esperada , suponiendo que la pérdida de cinco dólares se valora en , la pérdida de una vida se valora en , y la probabilidad de que el asaltante esté diciendo la verdad en , la solución es dar el dinero si y solo si . Suponiendo que es mayor que , siempre que sea mayor que , lo cual se supone que es cierto, ^{[nota 1]} se considera racional pagar al asaltante. Por otro lado, pagar al asaltante es intuitivamente irracional debido a su explotabilidad. Si la persona asaltada acepta esta secuencia lógica, entonces puede ser explotada repetidamente por todo su dinero, lo que da como resultado un libro holandés , que generalmente se considera irracional. Las opiniones sobre cuál de estos argumentos es lógicamente correcto difieren. ^[3] ${\displaystyle f}$ ${\displaystyle l}$ ${\displaystyle t}$ ${\displaystyle (3\uparrow \uparrow \uparrow \uparrow 3)\times t\times l>f}$ ${\displaystyle l}$ ${\displaystyle f}$ ${\displaystyle t}$ ${\displaystyle 1/(3\uparrow \uparrow \uparrow \uparrow 3)}$

Además, en muchos sistemas de decisión aparentemente razonables, el asalto de Pascal hace que la utilidad esperada de cualquier acción no converja, ya que sería necesario tener en cuenta una cadena ilimitada de escenarios sucesivamente nefastos similares al asalto de Pascal. ^{[7] [8]}

Algunos de los argumentos relativos a esta paradoja no sólo afectan a la teoría de maximización de la utilidad esperada, sino que también pueden aplicarse a otros sistemas teóricos, como la ética consecuencialista , por ejemplo. ^{[nota 2]}

Consecuencias y remedios

El filósofo Nick Bostrom sostiene que la astucia de Pascal, al igual que la apuesta de Pascal, sugiere que darle a una inteligencia artificial superinteligente una teoría de decisión defectuosa podría ser desastroso. ^[10] La astucia de Pascal también puede ser relevante cuando se consideran eventos de baja probabilidad y alto riesgo, como el riesgo existencial o las intervenciones caritativas con una baja probabilidad de éxito pero recompensas extremadamente altas. El sentido común parece sugerir que gastar esfuerzo en escenarios demasiado improbables es irracional.

Una solución que se podría proponer sería utilizar únicamente funciones de utilidad acotadas: las recompensas no pueden ser arbitrariamente grandes. ^{[7] [11]} Otro enfoque es utilizar el razonamiento bayesiano para juzgar (cualitativamente) la calidad de la evidencia y las estimaciones de probabilidad en lugar de calcular ingenuamente las expectativas. ^[6] Otros enfoques son penalizar la probabilidad previa de las hipótesis que argumentan que estamos en una posición sorprendentemente única para afectar a un gran número de otras personas que no pueden afectarnos simétricamente, ^{[nota 3]} rechazar proporcionar la probabilidad de un pago primero, ^[15] o abandonar los procedimientos de decisión cuantitativos en presencia de riesgos extremadamente grandes. ^[8]

Véase también

• Teoría de la decisión
• Utilidad esperada
• Descuido del alcance
• La paradoja de San Petersburgo

Notas

1. Si bien puede parecer muy intuitivo que la probabilidad no puede ser tan pequeña como , esto no es necesariamente cierto. Como ejemplo notable, es falso en los modelos bayesianos para este problema: ^[6] Allí, la probabilidad previa de que la afirmación del asaltante sea correcta disminuye con lo extraordinario de su afirmación. Si su afirmación es tan extraordinaria como en este caso, su probabilidad también será extraordinariamente pequeña en un modelo bayesiano. Además, un frecuentista puede estimar la probabilidad de que la amenaza del asaltante se haga realidad como igual a 0, ya que nunca se ha observado la realización de una amenaza tan extraordinaria. ${\displaystyle t}$ ${\displaystyle (3\uparrow \uparrow \uparrow \uparrow 3)^{-1}}$
2. Bradley Monton propuso una "versión consecuencialista" del asalto de Pascal, que se presenta de la siguiente manera: una persona extraña te entrega un bebé y te pide que lo tortures, diciéndote que la tortura evitará un sufrimiento injusto significativo de un gran número de criaturas sintientes en alguna galaxia distante. Si bien la probabilidad de que torturar al bebé evite el sufrimiento es muy baja, siempre que la persona extraña haga que el número de criaturas de galaxias distantes que afirma tener sea lo suficientemente alto, según el consecuencialismo equipado con modelos probabilísticos en los que la probabilidad de que la tortura evite el sufrimiento no disminuye si se aumenta el número de galaxias (notablemente, los modelos bayesianos tienen una probabilidad decreciente para un número creciente de galaxias porque la probabilidad previa se concentrará necesariamente alrededor de un número fijo de galaxias), deberías torturar al bebé. ^[9]
3. Esta "penalización por influencia" fue propuesta por primera vez por Robin Hanson en un comentario sobre la declaración original del problema de Yudkowsky; ^{[12] [13]} Yudkowsky señaló que esto implicaría negarse a creer en teorías que implican que podemos afectar a muchos otros, incluso frente a lo que de otro modo podría parecer una evidencia observacional abrumadora para la teoría. ^[14]

Referencias

Citas

1. Häggström 2016, pág. 82.
2. Bostrom 2009.
3. Yudkowsky 2007.
4. Balfour 2021.
5. Russell 2022.
6. Holden Karnofsky, Por qué no podemos tomar las estimaciones de valor esperado literalmente (incluso cuando son imparciales). Blog GiveWell, 18 de agosto de 2011 http://blog.givewell.org/2011/08/18/why-we-cant-take-expected-value-estimates-literally-even-when-theyre-unbiased/
7. De Blanc, Peter. Convergencia de utilidades esperadas con distribuciones de probabilidad algorítmica (2007), arXiv :0712.4318
8. Kieran Marray, Cómo lidiar con la incertidumbre en los cálculos éticos del riesgo existencial, presentado en la serie de talleres sobre ética climática y economía climática del Consejo de Investigación Económica y Social: Taller cinco: El riesgo y la cultura de la ciencia, mayo de 2016 http://www.nottingham.ac.uk/climateethicseconomics/documents/papers-workshop-5/marray.pdf
9. Monton, Bradley (2019). "Cómo evitar maximizar la utilidad esperada". Philosophers' Imprint . 19 (18): 1–25. hdl :2027/spo.3521354.0019.018.
10. Bostrom, Nick (2014). "Elegir los criterios de elección". Superinteligencia: caminos, peligros, estrategias . Oxford: Oxford University Press. ISBN 978-0199678112.Sección "Teoría de la decisión".
11. Cowen, Tyler; High, Jack (1988). "Tiempo, utilidad limitada y la paradoja de San Petersburgo". Teoría y decisión . 25 (3): 219–223. doi :10.1007/BF00133163. S2CID  120584258.
12. Robin Hanson (21 de octubre de 2007), comentario sobre "Pascal's Mugging: Tiny Probabilities of Vast Utilities" de Eliezer Yudkowsky, LessWrong : "La gente ha estado hablando de suponer que los estados con muchas personas perjudicadas tienen una probabilidad (previa) baja. Puede ser más prometedor suponer que los estados con muchas personas perjudicadas tienen una correlación baja con lo que cualquier persona al azar afirma ser capaz de efectuar".
13. Tomasik, Brian (junio de 2016). "Cómo el argumento de la simulación frena el fanatismo futuro" (PDF) . Centro de Riesgo a Largo Plazo . pp. 3-4. Archivado (PDF) desde el original el 23 de noviembre de 2021.
14. Yudkowsky, Eliezer (8 de mayo de 2013). "El muggle de Pascal: Priores infinitesimales y evidencia sólida". LessWrong . Archivado desde el original el 27 de junio de 2016.
15. Baumann, Peter (2009). "Contar con números" (PDF) . Análisis . 69 (3): 446–448. doi :10.1093/analys/anp061. JSTOR  40607656. Archivado (PDF) desde el original el 21 de noviembre de 2019.

Fuentes

• Balfour, Dylan (2021). "El asaltante de Pascal ataca de nuevo". Utilitas . 33 (1): 118-124. doi :10.1017/s0953820820000357. S2CID  229475903.
• Bostrom, Nick (2009). "El asalto de Pascal" (PDF) . Análisis (revista) . 69 (3): 443–445. doi :10.1093/analys/anp062. JSTOR  40607655.
• Häggström, Olle (2016). Aquí hay dragones: ciencia, tecnología y el futuro de la humanidad. Oxford University Press. doi :10.1093/acprof:oso/9780198723547.001.0001. ISBN 978-0-19-872354-7.
• Russell, Jeffrey Sanford (diciembre de 2022). "Planificación del asalto a Pascal" (PDF) . PhilPapers .
• Yudkowsky, Eliezer (19 de octubre de 2007). "El asalto de Pascal: pequeñas probabilidades de grandes utilidades". LessWrong .{{cite journal}}: CS1 maint: ref duplicates default (link)