Instituto de Investigación de Inteligencia de Máquinas

Organización sin fines de lucro que investiga la seguridad de la IA

El Machine Intelligence Research Institute ( MIRI ), anteriormente Singularity Institute for Artificial Intelligence ( SIAI ), es un instituto de investigación sin fines de lucro enfocado desde 2005 en identificar y gestionar los posibles riesgos existenciales de la inteligencia artificial general . El trabajo de MIRI se ha centrado en un enfoque de IA amigable para el diseño de sistemas y en predecir la tasa de desarrollo de la tecnología.

Historia

Yudkowsky en la Universidad de Stanford en 2006

En 2000, Eliezer Yudkowsky fundó el Singularity Institute for Artificial Intelligence con financiación de Brian y Sabine Atkins, con el propósito de acelerar el desarrollo de la inteligencia artificial (IA). ^{[1] [2] [3]} Sin embargo, Yudkowsky empezó a preocuparse de que los sistemas de IA desarrollados en el futuro pudieran llegar a ser superinteligentes y plantear riesgos para la humanidad, ^[1] y en 2005 el instituto se trasladó a Silicon Valley y empezó a centrarse en formas de identificar y gestionar esos riesgos, que en aquel momento eran en gran medida ignorados por los científicos del campo. ^[2]

A partir de 2006, el Instituto organizó la Singularity Summit para discutir el futuro de la IA, incluidos sus riesgos, inicialmente en cooperación con la Universidad de Stanford y con financiación de Peter Thiel . El San Francisco Chronicle describió la primera conferencia como una "fiesta de presentación en el Área de la Bahía de San Francisco de la filosofía inspirada en la tecnología llamada transhumanismo ". ^{[4] [5]} En 2011, sus oficinas eran cuatro apartamentos en el centro de Berkeley. ^[6] En diciembre de 2012, el instituto vendió su nombre, dominio web y la Singularity Summit a la Singularity University , ^[7] y al mes siguiente adoptó el nombre de "Machine Intelligence Research Institute". ^[8]

En 2014 y 2015, el interés público y científico en los riesgos de la IA creció, lo que incrementó las donaciones para financiar la investigación en MIRI y organizaciones similares. ^{[3] [9] : 327}

En 2019, Open Philanthropy recomendó una subvención de apoyo general de aproximadamente 2,1 millones de dólares durante dos años para MIRI. ^[10] En abril de 2020, Open Philanthropy complementó esto con una subvención de 7,7 millones de dólares durante dos años. ^{[11] [12]}

En 2021, Vitalik Buterin donó varios millones de dólares en Ethereum a MIRI. ^[13]

Investigación y enfoque

Nate Soares presenta una descripción general del problema de alineación de la IA en Google en 2016

El enfoque de MIRI para identificar y gestionar los riesgos de la IA, dirigido por Yudkowsky, aborda principalmente cómo diseñar una IA amigable, abarcando tanto el diseño inicial de los sistemas de IA como la creación de mecanismos para garantizar que los sistemas de IA en evolución sigan siendo amigables. ^{[3] [14] [15]}

Los investigadores de MIRI abogan por realizar trabajos de seguridad de forma temprana como medida de precaución. ^[16] Sin embargo, los investigadores de MIRI han expresado su escepticismo sobre las opiniones de los defensores de la singularidad como Ray Kurzweil de que la superinteligencia está "a la vuelta de la esquina". ^[14] MIRI ha financiado trabajos de previsión a través de una iniciativa llamada AI Impacts, que estudia casos históricos de cambio tecnológico discontinuo, y ha desarrollado nuevas medidas del poder computacional relativo de los humanos y el hardware de las computadoras. ^[17]

MIRI se alinea con los principios y objetivos del movimiento de altruismo eficaz . ^[18]

Trabajos del personal de MIRI

• Graves, Matthew (8 de noviembre de 2017). «Por qué deberíamos preocuparnos por la superinteligencia artificial». Skeptic . The Skeptics Society . Consultado el 28 de julio de 2018 .
• LaVictoire, Patrick; Fallenstein, Benja; Yudkowsky, Eliezer ; Bárász, Mihály; Christiano, Paul; Herreshoff, Marcello (2014). "Equilibrio del programa en el dilema del prisionero a través del teorema de Löb". Interacción multiagente sin coordinación previa: artículos del taller AAAI-14 . Publicaciones de la AAAI.
• Soares, Nate; Levinstein, Benjamin A. (2017). "Engañar a la muerte en Damasco" (PDF) . Taller de Epistemología Formal (FEW) . Consultado el 28 de julio de 2018 .
• Soares, Nate; Fallenstein, Benja; Yudkowsky, Eliezer ; Armstrong, Stuart (2015). "Corrigibilidad". Talleres de la AAAI: Talleres en la vigésimo novena conferencia de la AAAI sobre inteligencia artificial, Austin, Texas, 25 y 26 de enero de 2015. Publicaciones de la AAAI.
• Soares, Nate; Fallenstein, Benja (2015). "Alineando la superinteligencia con los intereses humanos: una agenda de investigación técnica" (PDF) . En Miller, James; Yampolskiy, Roman; Armstrong, Stuart; et al. (eds.). La singularidad tecnológica: gestionar el viaje . Springer.
• Yudkowsky, Eliezer (2008). "La inteligencia artificial como factor positivo y negativo en el riesgo global" (PDF) . En Bostrom, Nick ; Ćirković, Milán (eds.). Riesgos catastróficos globales . Oxford University Press. ISBN 978-0199606504.
• Taylor, Jessica (2016). "Cuantificadores: una alternativa más segura a los maximizadores para una optimización limitada". Talleres en la 30.ª Conferencia AAAI sobre Inteligencia Artificial .
• Yudkowsky, Eliezer (2011). "Sistemas de valores complejos en la IA amigable" (PDF) . Inteligencia artificial general: 4.ª conferencia internacional, AGI 2011, Mountain View, CA, EE. UU., 3 al 6 de agosto de 2011. Berlín: Springer.

Véase también

• Instituto Allen de Inteligencia Artificial
• Instituto del Futuro de la Humanidad
• Instituto de Ética y Tecnologías Emergentes

Referencias

1. "MIRI: Inteligencia artificial: el peligro de las buenas intenciones - Future of Life Institute". Future of Life Institute . 11 de octubre de 2015. Archivado desde el original el 28 de agosto de 2018. Consultado el 28 de agosto de 2018 .
2. Khatchadourian, Raffi. "La invención del fin del mundo". The New Yorker . Archivado desde el original el 29 de abril de 2019. Consultado el 28 de agosto de 2018 .
3. Waters, Richard (31 de octubre de 2014). «Inteligencia artificial: máquina vs hombre». Financial Times . Archivado desde el original el 27 de agosto de 2018. Consultado el 27 de agosto de 2018 .
4. Abate, Tom (2006). "¿Más inteligente que tú?". San Francisco Chronicle . Archivado desde el original el 11 de febrero de 2011. Consultado el 12 de octubre de 2015 .
5. Abate, Tom (2007). «Public meeting will re-examine future of artificial intelligence» (Reunión pública reexaminará el futuro de la inteligencia artificial). San Francisco Chronicle . Archivado desde el original el 14 de enero de 2016. Consultado el 12 de octubre de 2015 .
6. Kaste, Martin (11 de enero de 2011). "La singularidad: ¿la última invención de la humanidad?". All Things Considered, NPR . Archivado desde el original el 28 de agosto de 2018. Consultado el 28 de agosto de 2018 .
7. "Nota de prensa: Singularity University adquiere Singularity Summitt". Singularity University . 9 de diciembre de 2012. Archivado desde el original el 27 de abril de 2019 . Consultado el 28 de agosto de 2018 .
8. "Nota de prensa: Ahora somos el "Machine Intelligence Research Institute" (MIRI) - Instituto de Investigación de Inteligencia de Máquinas". Instituto de Investigación de Inteligencia de Máquinas . 30 de enero de 2013. Archivado desde el original el 23 de septiembre de 2018 . Consultado el 28 de agosto de 2018 .
9. Tegmark, Max (2017). Vida 3.0: Ser humano en la era de la inteligencia artificial . Estados Unidos: Knopf . ISBN. 978-1-101-94659-6.
10. "Machine Intelligence Research Institute — General Support (2019)". Proyecto de filantropía abierta . 29 de marzo de 2019. Archivado desde el original el 8 de octubre de 2019. Consultado el 8 de octubre de 2019 .
11. "Machine Intelligence Research Institute — General Support (2020)". Proyecto de filantropía abierta. 10 de marzo de 2020. Archivado desde el original el 13 de abril de 2020.
12. Bensinger, Rob (27 de abril de 2020). "¡La subvención más grande de MIRI hasta la fecha!". MIRI. Archivado desde el original el 27 de abril de 2020. Consultado el 27 de abril de 2020 .
13. Maheshwari, Suyash (13 de mayo de 2021). "El creador de Ethereum, Vitalik Buterin, dona 1.500 millones de dólares en criptomonedas al Fondo de Ayuda COVID de la India y otras organizaciones benéficas". MSN . Archivado desde el original el 24 de agosto de 2021 . Consultado el 23 de enero de 2023 .
14. LaFrance, Adrienne (2015). «Construir robots con mejores valores morales que los humanos». The Atlantic . Archivado desde el original el 19 de agosto de 2015. Consultado el 12 de octubre de 2015 .
15. Russell, Stuart ; Norvig, Peter (2009). Inteligencia artificial: un enfoque moderno . Prentice Hall. ISBN 978-0-13-604259-4.
16. Sathian, Sanjena (4 de enero de 2016). «Los filósofos más importantes de nuestro tiempo residen en Silicon Valley». OZY . Archivado desde el original el 29 de julio de 2018. Consultado el 28 de julio de 2018 .
17. Hsu, Jeremy (2015). "Cómo asegurarse de que el rápido ascenso de la IA no sea una sorpresa". Discover . Archivado desde el original el 12 de octubre de 2015 . Consultado el 12 de octubre de 2015 .
18. "IA y altruismo eficaz". Instituto de Investigación de Inteligencia Artificial . 28 de agosto de 2015. Archivado desde el original el 8 de octubre de 2019. Consultado el 8 de octubre de 2019 .

Lectura adicional

• Russell, Stuart; Dewey, Daniel; Tegmark, Max (invierno de 2015). "Prioridades de investigación para una inteligencia artificial robusta y beneficiosa". AI Magazine . 36 (4): 6. arXiv : 1602.03506 . Código Bibliográfico :2016arXiv160203506R. doi :10.1609/aimag.v36i4.2577.

Enlaces externos

• Sitio web oficial
• "Declaraciones del Servicio de Impuestos Internos del Instituto de Investigación de Inteligencia Artificial". Explorador de organizaciones sin fines de lucro de ProPublica .