stringtranslate.com

Román Yampolski

Roman Vladimirovich Yampolskiy ( en ruso : Роман Владимирович Ямпольский ; nacido el 13 de agosto de 1979) es un informático letón de la Universidad de Louisville , conocido por su trabajo en biometría del comportamiento , [1] seguridad de los cibermundos , [2] y seguridad de la IA . [3] Tiene un doctorado de la Universidad de Buffalo (2008). [4] Actualmente es director del Laboratorio de Seguridad Cibernética en el departamento de Ingeniería Informática y Ciencias de la Computación de la Speed ​​School of Engineering . [5]

Yampolskiy es autor de unas 100 publicaciones, [6] incluidos numerosos libros. [7]

Seguridad de la IA

Yampolskiy ha advertido sobre la posibilidad de un riesgo existencial a causa de la inteligencia artificial avanzada y ha abogado por la investigación para "encajonar" la inteligencia artificial. [8] En términos más generales, Yampolskiy y su colaborador, Michaël Trazzi, han propuesto introducir "talones de Aquiles" en una IA potencialmente peligrosa, por ejemplo, impidiendo que una IA acceda y modifique su propio código fuente. [9] [10] Otra propuesta es aplicar una "mentalidad de seguridad" a la seguridad de la IA, detallando los resultados potenciales para evaluar mejor los mecanismos de seguridad propuestos. [11]

Ha sugerido que no hay evidencia de una solución al problema del control de la IA y ha propuesto pausar el desarrollo de la IA, argumentando que "imaginar que los humanos pueden controlar una IA superinteligente es un poco como imaginar que una hormiga puede controlar el resultado de un partido de fútbol de la NFL que se juega a su alrededor". [12] [13] Se unió a investigadores de IA como Yoshua Bengio y Stuart Russell para firmar " Pausar experimentos gigantes de IA: una carta abierta ". [14]

En una aparición en el podcast de Lex Fridman en 2024, Yampolskiy predijo que la probabilidad de que la IA pudiera llevar a la extinción humana era del "99,9 % en los próximos cien años". [15]

Yampolskiy ha sido asesor de investigación del Machine Intelligence Research Institute y miembro de seguridad de IA del Foresight Institute . [16]

Intelectología

En 2015, Yampolskiy lanzó la intelectología , un nuevo campo de estudio fundado para analizar las formas y los límites de la inteligencia. [17] [18] [19] Yampolskiy considera que la IA es un subcampo de esto. [17] Un ejemplo del trabajo de intelecto de Yampolskiy es un intento de determinar la relación entre varios tipos de mentes y el espacio de diversión accesible , es decir, el espacio de actividades no aburridas. [20]

Completitud de la IA

Yampolskiy ha trabajado en el desarrollo de la teoría de la completitud de la IA , sugiriendo la prueba de Turing como un ejemplo definitorio. [21]

Libros

Véase también

Referencias

  1. ^ "Revista internacional de biometría (IJBM) – Inderscience Publishers". Inderscience.com . Consultado el 25 de septiembre de 2012 .
  2. ^ "Reconocimiento automático de rostros: estado del arte" (PDF) . Biometrics.cse.msu.edu . Consultado el 25 de septiembre de 2012 .
  3. ^ "Comité de Programa | Conferencias de Inteligencia de Invierno". Winterintelligence.org . Consultado el 25 de septiembre de 2012 .
  4. ^ "Dr. Roman V. Yampolskiy, Ciencias de la Computación, Speed ​​School, Universidad de Louisville, KY". Cecs.louisville.edu . Consultado el 25 de septiembre de 2012 .
  5. ^ "Laboratorio de ciberseguridad | Universidad de Louisville". Cecs.louisville.edu . Consultado el 25 de septiembre de 2012 .
  6. ^ "Roman V. Yampolskiy – Citas de Google Académico" . Consultado el 25 de septiembre de 2012 .
  7. ^ "roman yampolskiy". Amazon.com . Consultado el 25 de septiembre de 2012 .
  8. ^ Hsu, Jeremy (1 de marzo de 2012). "Un experto dice que hay que controlar la IA peligrosa antes de que ella nos controle a nosotros". NBC News . Consultado el 28 de enero de 2016 .
  9. ^ Baraniuk, Chris (23 de agosto de 2018). «La estupidez artificial podría ayudar a salvar a la humanidad de una toma de control por parte de la IA». New Scientist . Consultado el 12 de abril de 2020 .
  10. ^ Trazzi, Michaël y Roman V. Yampolskiy. "Construir una inteligencia artificial más segura introduciendo estupidez artificial". Preimpresión de arXiv arXiv:1808.03644 (2018).
  11. ^ Baraniuk, Chris (23 de mayo de 2016). «Una lista de los peores escenarios podría ayudar a prepararse para una IA malvada». New Scientist . Consultado el 12 de abril de 2020 .
  12. ^ "No hay evidencia de que la IA pueda ser controlada, dice un experto". The Independent . 12 de febrero de 2024 . Consultado el 4 de julio de 2024 .
  13. ^ McMillan, Tim (28 de febrero de 2024). «Alerta de superinteligencia de IA: un experto advierte de riesgos incontrolables y los califica de «catástrofe existencial» potencial». The Debrief . Consultado el 4 de julio de 2024 .
  14. ^ "Pausen los experimentos gigantes de inteligencia artificial: una carta abierta". Future of Life Institute . Consultado el 4 de julio de 2024 .
  15. ^ Altchek, Ana. "Por qué este investigador de IA cree que hay un 99,9 % de posibilidades de que la IA nos extermine". Business Insider . Consultado el 13 de junio de 2024 .
  16. ^ "Roman Yampolskiy". Future of Life Institute . Consultado el 3 de julio de 2024 .
  17. ^ ab Yampolskiy, Roman V. (2015). Superinteligencia artificial: un enfoque futurista . Chapman and Hall/CRC Press (Taylor & Francis Group). ISBN 978-1482234435.
  18. ^ "Intellectología y otras ideas: una revisión de la superinteligencia artificial". Technically Sentient. 20 de septiembre de 2015. Archivado desde el original el 7 de agosto de 2016 . Consultado el 22 de noviembre de 2016 .{{cite web}}: CS1 maint: bot: estado de URL original desconocido ( enlace )
  19. ^ "Roman Yampolskiy sobre la superinteligencia artificial". Singularity Weblog. 7 de septiembre de 2015. Consultado el 22 de noviembre de 2016 .
  20. ^ Ziesche, Soenke; Yampolskiy, Roman V. (2016). "Artificial Fun: Mapping Minds to the Space of Fun". Tercera Conferencia Anual Global Online sobre Tecnología de la Información y la Computación (GOCICT16). Louisville, KY, EE. UU. 16–18 de noviembre de 2016. arXiv : 1606.07092 .
  21. ^ Roman V. Yampolskiy. La prueba de Turing como característica definitoria de la completitud de la IA. En Inteligencia artificial, computación evolutiva y metaheurística (AIECM) --Tras los pasos de Alan Turing. Xin-She Yang (Ed.). pp. 3–17. (Capítulo 1). Springer, Londres. 2013. http://cecs.louisville.edu/ry/TuringTestasaDefiningFeature04270003.pdf Archivado el 22 de mayo de 2013 en Wayback Machine.

Enlaces externos

Wikimedia Commons alberga una categoría multimedia sobre Roman Yampolskiy .