El Centro de Inteligencia Artificial Compatible con Humanos ( CHAI ) es un centro de investigación de la Universidad de California, Berkeley, que se centra en métodos avanzados de seguridad de la inteligencia artificial (IA) . El centro fue fundado en 2016 por un grupo de académicos dirigido por el profesor de informática de Berkeley y experto en inteligencia artificial Stuart J. Russell . [1] [2] Russell es conocido por ser coautor del ampliamente utilizado libro de texto sobre IA Inteligencia artificial: un enfoque moderno .
El cuerpo docente de CHAI incluye a Russell , Pieter Abbeel y Anca Dragan de Berkeley , Bart Selman y Joseph Halpern de Cornell , [3] Michael Wellman y Satinder Singh Baveja de la Universidad de Michigan , y Tom Griffiths y Tania Lombrozo de Princeton . [4] En 2016, el Open Philanthropy Project (OpenPhil) recomendó que Good Ventures proporcionara a CHAI un apoyo de 5.555.550 dólares durante cinco años. [5] Desde entonces, CHAI ha recibido subvenciones adicionales de OpenPhil y Good Ventures por más de 12.000.000 de dólares, incluidas colaboraciones con el Foro Económico Mundial y el Consejo Global de IA. [6] [7] [8]
El enfoque de CHAI para la investigación de seguridad de la IA se centra en estrategias de alineación de valores, en particular el aprendizaje por refuerzo inverso , en el que la IA infiere los valores humanos a partir de la observación del comportamiento humano. [9] También ha trabajado en el modelado de la interacción hombre-máquina en escenarios donde las máquinas inteligentes tienen un "interruptor de apagado" que son capaces de anular. [10]