DeepMind Technologies Limited , [4] que opera como Google DeepMind , es un laboratorio de investigación de inteligencia artificial británico-estadounidense que actúa como subsidiaria de Google . Fundada en el Reino Unido en 2010, fue adquirida por Google en 2014, [5] La empresa tiene su sede en Londres , con centros de investigación en Canadá, [6] Francia, [7] Alemania y Estados Unidos.
Google DeepMind ha creado modelos de redes neuronales que aprenden a jugar videojuegos de una manera similar a la de los humanos, [8] así como máquinas Neural Turing (redes neuronales que pueden acceder a la memoria externa como una máquina de Turing convencional ), [9] dando como resultado una computadora que se parece vagamente a la memoria a corto plazo del cerebro humano. [10] [11]
DeepMind fue noticia en 2016 después de que su programa AlphaGo venciera a un jugador humano profesional de Go , Lee Sedol , campeón mundial, en un partido de cinco juegos , que fue objeto de un documental. [12] Un programa más general, AlphaZero , venció a los programas más potentes de go , ajedrez y shogi (ajedrez japonés) después de unos días de juego contra sí mismo utilizando el aprendizaje por refuerzo . [13] En 2020, DeepMind logró avances significativos en el problema del plegamiento de proteínas con AlphaFold . [14] En julio de 2022, se anunció que más de 200 millones de estructuras proteicas predichas, que representan prácticamente todas las proteínas conocidas, se publicarían en la base de datos AlphaFold. [15] [16]
DeepMind publicó una publicación de blog el 28 de abril de 2022 sobre un único modelo de lenguaje visual (VLM) llamado Flamingo que puede describir con precisión una imagen de algo con solo unas pocas imágenes de entrenamiento. [17] [18] En julio de 2022, DeepMind anunció el desarrollo de DeepNash, un sistema de aprendizaje por refuerzo multiagente sin modelos capaz de jugar el juego de mesa Stratego al nivel de un experto humano. [19] La empresa se fusionó con la división Google Brain de Google AI para convertirse en Google DeepMind en abril de 2023.
En noviembre de 2023, Google DeepMind anunció una red de gráficos de código abierto para la exploración de materiales (GNoME), la herramienta propone millones de materiales previamente desconocidos para la química, incluidas varios cientos de miles de estructuras cristalinas estables, de las cuales 736 habían sido producidas experimentalmente por el Instituto de Massachusetts. Tecnología, en el momento del lanzamiento. [20] [21]
La nueva empresa fue fundada por Demis Hassabis , Shane Legg y Mustafa Suleyman en septiembre de 2010. [22] [23] Hassabis y Legg se conocieron por primera vez en la Unidad de Neurociencia Computacional Gatsby del University College London (UCL). [24]
Demis Hassabis ha dicho que la startup empezó a trabajar en tecnología de inteligencia artificial enseñándole a jugar juegos antiguos de los años setenta y ochenta, que son relativamente primitivos en comparación con los que están disponibles hoy en día. Algunos de esos juegos incluían Breakout , Pong y Space Invaders . La IA fue introducida en un juego a la vez, sin ningún conocimiento previo de sus reglas. Después de dedicar algún tiempo a aprender el juego, AI eventualmente se convertiría en un experto en él. "Se dice que los procesos cognitivos por los que pasa la IA son muy parecidos a los que usaría un humano que nunca había visto el juego para comprenderlo e intentar dominarlo". [25] El objetivo de los fundadores es crear una IA de propósito general que pueda ser útil y eficaz para casi cualquier cosa.
Las principales empresas de capital riesgo Horizons Ventures y Founders Fund invirtieron en la empresa, [26] así como los empresarios Scott Banister , [27] Peter Thiel , [28] y Elon Musk . [29] Jaan Tallinn fue uno de los primeros inversores y asesor de la empresa. [30] El 26 de enero de 2014, Google confirmó la adquisición de DeepMind por un precio que, según se informa, oscilaba entre 400 y 650 millones de dólares. [31] [32] [33] y que había acordado hacerse cargo de DeepMind Technologies. La venta a Google se produjo después de que Facebook supuestamente pusiera fin a las negociaciones con DeepMind Technologies en 2013. [34] Posteriormente, la empresa pasó a llamarse Google DeepMind y mantuvo ese nombre durante unos dos años. [35]
En 2014, DeepMind recibió el premio "Empresa del año" del Cambridge Computer Laboratory . [36]
En septiembre de 2015, DeepMind y Royal Free NHS Trust firmaron su acuerdo inicial de intercambio de información para desarrollar conjuntamente una aplicación de gestión de tareas clínicas, Streams. [37]
Después de la adquisición de Google, la empresa creó una junta de ética de inteligencia artificial . [38] La junta de ética para la investigación de la IA sigue siendo un misterio, y tanto Google como DeepMind se niegan a revelar quién forma parte de la junta. [39] DeepMind ha abierto una nueva unidad llamada DeepMind Ethics and Society y se centró en las cuestiones éticas y sociales planteadas por la inteligencia artificial con el destacado filósofo Nick Bostrom como asesor. [40] En octubre de 2017, DeepMind lanzó un nuevo equipo de investigación para investigar la ética de la IA. [41] [42]
En diciembre de 2019, el cofundador Suleyman anunció que dejaría DeepMind para unirse a Google, trabajando en un puesto político. [43]
En abril de 2023, DeepMind se fusionó con la división Google Brain de Google AI para formar Google DeepMind, como parte de los esfuerzos continuos de la compañía para acelerar el trabajo en IA en respuesta a ChatGPT de OpenAI . [44] Esto marcó el final de una lucha de años por parte de los ejecutivos de DeepMind para asegurar una mayor autonomía de Google. [45]
Google Research publicó un artículo en 2016 sobre la seguridad de la IA y cómo evitar comportamientos indeseables durante el proceso de aprendizaje de la IA. [46] En 2017, DeepMind lanzó GridWorld, un banco de pruebas de código abierto para evaluar si un algoritmo aprende a desactivar su interruptor de apagado o si muestra ciertos comportamientos indeseables. [47] [48]
En julio de 2018, investigadores de DeepMind entrenaron uno de sus sistemas para jugar al juego de ordenador Quake III Arena . [49]
Hasta 2020, DeepMind ha publicado más de mil artículos, incluidos trece artículos que fueron aceptados por Nature o Science . [ cita necesaria ] DeepMind recibió atención de los medios durante el período AlphaGo; Según una búsqueda de LexisNexis , 1842 noticias publicadas mencionaron a DeepMind en 2016, disminuyendo a 1363 en 2019. [50]
A diferencia de las IA anteriores, como Deep Blue o Watson de IBM , que se desarrollaron para un propósito predefinido y solo funcionan dentro de ese alcance, los algoritmos iniciales de DeepMind estaban destinados a ser generales. Utilizaron aprendizaje por refuerzo , un algoritmo que aprende de la experiencia utilizando solo píxeles sin procesar como entrada de datos. Su enfoque inicial utilizó Q-learning profundo con una red neuronal convolucional . [35] [51] Probaron el sistema en videojuegos, en particular en los primeros juegos arcade , como Space Invaders o Breakout . [51] [52] Sin alterar el código, la misma IA pudo jugar ciertos juegos de manera más eficiente que cualquier humano. [52]
En 2013, DeepMind publicó una investigación sobre un sistema de inteligencia artificial que superó las capacidades humanas en juegos como Pong , Breakout y Enduro , al tiempo que superó el rendimiento de última generación en Seaquest , Beamrider y Q*bert . [53] [54] Este trabajo supuestamente condujo a la adquisición de la empresa por parte de Google. [8] La IA de DeepMind se había aplicado a videojuegos creados en las décadas de 1970 y 1980 ; Se estaba trabajando en juegos 3D más complejos como Quake , que apareció por primera vez en la década de 1990. [52]
En 2020, DeepMind publicó Agent57, [55] [56] un agente de IA que supera el rendimiento del nivel humano en los 57 juegos de la suite Atari 2600. [57]
En 2014, la empresa publicó una investigación sobre sistemas informáticos capaces de jugar Go . [58]
En octubre de 2015, un programa informático de Go llamado AlphaGo, desarrollado por DeepMind, venció al campeón europeo de Go Fan Hui , un profesional de 2 dan (de 9 dan posibles), cinco a cero. [59] Esta fue la primera vez que una inteligencia artificial (IA) derrotó a un jugador profesional de Go. [60] Anteriormente, se sabía que las computadoras sólo jugaban Go a nivel "aficionado". [59] [61] Se considera que Go es mucho más difícil de ganar para las computadoras en comparación con otros juegos como el ajedrez , debido a la cantidad mucho mayor de posibilidades, lo que lo hace prohibitivamente difícil para los métodos tradicionales de IA, como la fuerza bruta . [59] [61]
En marzo de 2016 venció a Lee Sedol , un jugador de noveno dan Go y uno de los jugadores mejor clasificados del mundo, con una puntuación de 4-1 en un partido de cinco juegos .
En la Cumbre Future of Go de 2017 , AlphaGo ganó un partido de tres juegos con Ke Jie , quien en ese momento ocupó continuamente el puesto número uno del mundo durante dos años. [62] [63] Utilizó un protocolo de aprendizaje supervisado , estudiando un gran número de juegos jugados por humanos entre sí. [64]
En 2017, una versión mejorada, AlphaGo Zero, derrotó a AlphaGo 100 juegos a 0. Las estrategias de AlphaGo Zero fueron autodidactas. AlphaGo Zero pudo vencer a su predecesor después de sólo tres días con menos potencia de procesamiento que AlphaGo; en comparación, el AlphaGo original necesitó meses para aprender a jugar. [sesenta y cinco]
Más tarde ese año, AlphaZero, una versión modificada de AlphaGo Zero pero para manejar cualquier juego de información perfecta para dos jugadores, adquirió habilidades sobrehumanas en ajedrez y shogi. Al igual que AlphaGo Zero, AlphaZero aprendió únicamente jugando por su cuenta .
Los investigadores de DeepMind publicaron un nuevo modelo llamado MuZero que domina los dominios de los juegos Go , ajedrez , shogi y Atari 2600 sin datos humanos, conocimiento del dominio ni reglas conocidas. [66] [67]
Los investigadores aplicaron MuZero para resolver el desafío del mundo real de la compresión de video con una cantidad determinada de bits con respecto al tráfico de Internet en sitios como YouTube , Twitch y Google Meet . El objetivo de MuZero es comprimir el vídeo de forma óptima para mantener la calidad del vídeo con una reducción de datos. El resultado final con MuZero fue una reducción promedio del 6,28% en la tasa de bits. [68] [69]
En octubre de 2022, DeepMind presentó una nueva versión de AlphaZero, llamada AlphaTensor , en un artículo publicado en Nature . [70] [71] La versión descubrió una forma más rápida de realizar la multiplicación de matrices , una de las tareas más fundamentales en informática, utilizando el aprendizaje por refuerzo. [70] [71] Por ejemplo, AlphaTensor descubrió cómo multiplicar dos matrices mod-2 4x4 en solo 47 multiplicaciones, superando inesperadamente el récord del algoritmo de Strassen de 1969 de 49 multiplicaciones. [72]
La tecnología AlphaGo se desarrolló basándose en el enfoque de aprendizaje por refuerzo profundo . Esto diferencia a AlphaGo del resto de tecnologías de IA del mercado. Dicho esto, el 'cerebro' de AlphaGo conoció varios movimientos basados en datos históricos del torneo. El número de movimientos fue aumentando gradualmente hasta que finalmente procesó más de 30 millones de ellos. El objetivo era que el sistema imitara al jugador humano y eventualmente mejorara. Jugó contra sí mismo y aprendió no sólo de sus propias derrotas sino también de sus victorias; por lo tanto, aprendió a mejorar con el tiempo y, como resultado, aumentó su tasa de ganancias. [ cita necesaria ]
AlphaGo utilizó dos redes neuronales profundas: una red de políticas para evaluar las probabilidades de movimiento y una red de valores para evaluar las posiciones. La red de políticas se capacitó mediante aprendizaje supervisado y posteriormente fue refinada mediante aprendizaje de refuerzo de gradiente de políticas . La red de valor aprendió a predecir los ganadores de los juegos jugados por la red de políticas contra sí misma. Después del entrenamiento, estas redes emplearon una búsqueda de árbol de Monte Carlo (MCTS) anticipada, utilizando la red de políticas para identificar movimientos candidatos de alta probabilidad, mientras que la red de valor (junto con implementaciones de Monte Carlo utilizando una política de implementación rápida) evaluó las posiciones de los árboles. [73]
AlphaGo Zero se entrenó mediante aprendizaje por refuerzo en el que el sistema jugó millones de juegos contra sí mismo. Su única guía era aumentar su tasa de victorias. Lo hizo sin aprender de los juegos jugados por humanos. Sus únicas características de entrada son las piedras blancas y negras del tablero. Utiliza una única red neuronal, en lugar de redes de valores y políticas separadas. Su búsqueda de árbol simplificada se basa en esta red neuronal para evaluar posiciones y muestrear movimientos. Un nuevo algoritmo de aprendizaje por refuerzo incorpora búsqueda anticipada dentro del ciclo de entrenamiento. [73] AlphaGo Zero empleaba alrededor de 15 personas y millones en recursos informáticos. [74] En última instancia, necesitaba mucha menos potencia informática que AlphaGo, ejecutándose en cuatro procesadores de IA especializados (Google TPU ), en lugar de los 48 de AlphaGo. [75]
En 2016, DeepMind dirigió su inteligencia artificial al plegamiento de proteínas , un problema de larga data en biología molecular . En diciembre de 2018, AlphaFold de DeepMind ganó la 13.ª Evaluación Crítica de Técnicas para la Predicción de la Estructura de Proteínas (CASP) al predecir con éxito la estructura más precisa para 25 de 43 proteínas. "Este es un proyecto faro, nuestra primera gran inversión en términos de personas y recursos en un problema científico fundamental y muy importante del mundo real", dijo Hassabis a The Guardian . [76] En 2020, en el 14º CASP, las predicciones de AlphaFold lograron una puntuación de precisión considerada comparable a las técnicas de laboratorio. El Dr. Andriy Kryshtafovych, uno de los miembros del panel de jueces científicos, describió el logro como "realmente notable" y dijo que el problema de predecir cómo se pliegan las proteínas se había "resuelto en gran medida". [77] [78] [79]
En julio de 2021, se lanzaron RoseTTAFold y AlphaFold2 de código abierto para permitir a los científicos ejecutar sus propias versiones de las herramientas. Una semana después, DeepMind anunció que AlphaFold había completado su predicción de casi todas las proteínas humanas, así como de los proteomas completos de otros 20 organismos ampliamente estudiados. [80] Las estructuras se publicaron en la base de datos de estructuras de proteínas AlphaFold. En julio de 2022, se anunció que las predicciones de más de 200 millones de proteínas, que representan prácticamente todas las proteínas conocidas, se publicarían en la base de datos AlphaFold. [15] [16]
En 2016, DeepMind presentó WaveNet, un sistema de conversión de texto a voz . Originalmente era demasiado computacional para su uso en productos de consumo, pero a finales de 2017 estuvo listo para su uso en aplicaciones de consumo como Google Assistant . [81] [82] En 2018, Google lanzó un producto comercial de conversión de texto a voz, Cloud Text-to-Speech, basado en WaveNet. [83] [84]
En 2018, DeepMind introdujo un modelo más eficiente llamado WaveRNN desarrollado conjuntamente con Google AI . [85] [86] En 2020 se presentó WaveNetEQ, un método de ocultación de pérdida de paquetes basado en una arquitectura WaveRNN. [87] En 2019, Google comenzó a implementar WaveRNN con WavenetEQ para los usuarios de Google Duo . [88]
En 2016, Hassabis habló del juego StarCraft como un desafío de futuro, ya que requiere pensamiento estratégico y manejo de información imperfecta. [89]
En enero de 2019, DeepMind presentó AlphaStar, un programa que juega al juego de estrategia en tiempo real StarCraft II . AlphaStar utilizó el aprendizaje por refuerzo basado en repeticiones de jugadores humanos y luego jugó contra sí mismo para mejorar sus habilidades. En el momento de la presentación, AlphaStar tenía conocimientos equivalentes a 200 años de tiempo de juego. Ganó 10 partidos consecutivos contra dos jugadores profesionales, aunque tenía la injusta ventaja de poder ver todo el campo, a diferencia de un jugador humano que tiene que mover la cámara manualmente. Una versión preliminar en la que se fijaba esa ventaja perdió un partido posterior. [90]
En julio de 2019, AlphaStar comenzó a jugar contra humanos aleatorios en la clasificación multijugador europea 1v1 pública. A diferencia de la primera versión de AlphaStar, que solo jugaba Protoss contra Protoss, esta jugaba como todas las razas del juego y anteriormente se habían solucionado ventajas injustas. [91] [92] En octubre de 2019, AlphaStar había alcanzado el nivel de Gran Maestro en la clasificación de StarCraft II en las tres carreras de StarCraft , convirtiéndose en la primera IA en alcanzar la liga superior de un deporte electrónico muy popular sin restricciones de juego. [93]
En 2022, DeepMind presentó AlphaCode, un motor de codificación impulsado por inteligencia artificial que crea programas de computadora a un ritmo comparable al de un programador promedio, y la compañía probó el sistema frente a desafíos de codificación creados por Codeforces utilizados en competencias de programación competitivas humanas . [94] AlphaCode obtuvo una clasificación equivalente al 54% de la puntuación media en Codeforces después de recibir capacitación en datos de GitHub y problemas y soluciones de Codeforce. Se requirió que el programa encontrara una solución única y evitara duplicar respuestas.
Gato es un "agente generalista" que aprende múltiples tareas simultáneamente.
Google ha declarado que los algoritmos de DeepMind han aumentado considerablemente la eficiencia de la refrigeración de sus centros de datos al equilibrar automáticamente el costo de las fallas de hardware con el costo de la refrigeración. [95] Además, DeepMind (junto con otros investigadores de Alphabet AI) colabora con las recomendaciones de aplicaciones personalizadas de Google Play . [83] DeepMind también ha colaborado con el equipo de Android de Google para la creación de dos nuevas funciones que se pusieron a disposición de las personas con dispositivos que ejecutan Android Pie, la novena entrega del sistema operativo móvil de Google. Estas funciones, Batería adaptable y Brillo adaptable, utilizan el aprendizaje automático para conservar energía y hacer que los dispositivos que ejecutan el sistema operativo sean más fáciles de usar. Es la primera vez que DeepMind utiliza estas técnicas a una escala tan pequeña, y las aplicaciones típicas de aprendizaje automático requieren órdenes de magnitud más de potencia informática. [96]
Los investigadores de DeepMind han aplicado modelos de aprendizaje automático al deporte del fútbol , a menudo denominado fútbol en Norteamérica, modelando el comportamiento de los jugadores de fútbol, incluidos el portero, los defensores y los delanteros, durante diferentes escenarios, como los tiros penales. Los investigadores utilizaron mapas de calor y análisis de conglomerados para organizar a los jugadores en función de su tendencia a comportarse de cierta manera durante el juego cuando se enfrentan a una decisión sobre cómo anotar o evitar que el otro equipo anote.
Los investigadores mencionan que los modelos de aprendizaje automático podrían usarse para democratizar la industria del fútbol seleccionando automáticamente videoclips interesantes del juego que sirvan como momentos destacados. Esto se puede hacer buscando videos de ciertos eventos, lo cual es posible porque el análisis de video es un campo establecido del aprendizaje automático. Esto también es posible gracias a amplios análisis deportivos basados en datos que incluyen pases o tiros anotados, sensores que capturan datos sobre los movimientos de los jugadores muchas veces durante el transcurso de un juego y modelos de teoría de juegos. [97] [98]
Google ha presentado un nuevo programa de documentos arqueológicos llamado Ítaca en honor a la isla natal del héroe mítico Odiseo . [ cita necesaria ] La red neuronal profunda ayuda a los investigadores a restaurar el texto vacío de los documentos dañados, identificar el lugar de donde se originaron y darles una fecha precisa y definitiva. [ cita necesaria ] El trabajo se basa en otra red de análisis de texto llamada Pythia. [99] Ithaca logra una precisión del 62% en la restauración de textos dañados y una precisión de ubicación del 71%, y tiene una precisión de datación de 30 años. [ cita necesaria ] La herramienta ya ha sido utilizada por historiadores y arqueólogos griegos antiguos para hacer nuevos descubrimientos en la historia de la antigua Grecia. [ cita necesaria ] El equipo está trabajando para extender el modelo a otros idiomas antiguos, incluidos el demótico , el acadio , el hebreo y el maya . [100]
Sparrow es un chatbot impulsado por inteligencia artificial desarrollado por DeepMind para crear sistemas de aprendizaje automático más seguros mediante el uso de una combinación de comentarios humanos y sugerencias de búsqueda de Google. [101]
Chinchilla AI es un modelo de lenguaje desarrollado por DeepMind. [102]
Gemini es un modelo de lenguaje grande multimodal que se lanzó el 6 de diciembre de 2023. [103] Es el sucesor de los modelos de lenguaje LaMDA y PaLM 2 de Google y buscaba desafiar el GPT-4 de OpenAI . [104] A partir de enero de 2024, se prefiere Gemini Pro a GPT-4 en solo alrededor del 22% de las evaluaciones ciegas en humanos. [105]
Gemma es una familia de modelos de lenguaje grande, livianos y de código abierto que se lanzó el 21 de febrero de 2024. Está disponible en dos tamaños distintos: un modelo de 7 mil millones de parámetros optimizado para el uso de GPU y TPU, y un modelo de 2 mil millones de parámetros diseñado para CPU. y aplicaciones en el dispositivo. Los modelos Gemma se entrenaron en hasta 6 billones de tokens de texto, empleando arquitecturas, conjuntos de datos y metodologías de entrenamiento similares a los de la familia de modelos Gemini. [106]
En julio de 2016, se anunció una colaboración entre DeepMind y Moorfields Eye Hospital para desarrollar aplicaciones de IA para la atención sanitaria . [107] DeepMind se aplicaría al análisis de escaneos oculares anónimos , en busca de signos tempranos de enfermedades que conducen a la ceguera .
En agosto de 2016, se anunció un programa de investigación con el University College London Hospital con el objetivo de desarrollar un algoritmo que pueda diferenciar automáticamente entre tejidos sanos y cancerosos en las áreas de la cabeza y el cuello. [108]
También hay proyectos con Royal Free London NHS Foundation Trust y Imperial College Healthcare NHS Trust para desarrollar nuevas aplicaciones clínicas móviles vinculadas a registros electrónicos de pacientes . [109] Se informó que el personal del Royal Free Hospital dijo en diciembre de 2017 que el acceso a los datos de los pacientes a través de la aplicación había ahorrado una "enorme cantidad de tiempo" y había marcado una diferencia "fenomenal" en el tratamiento de pacientes con lesión renal aguda. Los datos de los resultados de las pruebas se envían a los teléfonos móviles del personal y les alertan sobre cambios en la condición del paciente. También permite al personal ver si alguien más ha respondido y mostrar a los pacientes sus resultados de forma visual. [110] [ ¿ fuente poco confiable? ]
En noviembre de 2017, DeepMind anunció una asociación de investigación con el Centro de Investigación del Cáncer del Reino Unido en el Imperial College de Londres con el objetivo de mejorar la detección del cáncer de mama mediante la aplicación del aprendizaje automático a la mamografía. [111] Además, en febrero de 2018, DeepMind anunció que estaba trabajando con el Departamento de Asuntos de Veteranos de EE. UU. en un intento de utilizar el aprendizaje automático para predecir la aparición de lesión renal aguda en pacientes y también, de manera más amplia, el deterioro general de los pacientes durante un estancia hospitalaria para que los médicos y enfermeras puedan tratar más rápidamente a los pacientes que lo necesiten. [112]
DeepMind desarrolló una aplicación llamada Streams, que envía alertas a los médicos sobre pacientes en riesgo de sufrir una lesión renal aguda. [113] El 13 de noviembre de 2018, DeepMind anunció que su división de salud y la aplicación Streams serían absorbidas por Google Health . [114] Los defensores de la privacidad dijeron que el anuncio traicionaba la confianza del paciente y parecía contradecir declaraciones anteriores de DeepMind de que los datos de los pacientes no se conectarían a las cuentas o servicios de Google. [115] [116] Un portavoz de DeepMind dijo que los datos de los pacientes aún se mantendrían separados de los servicios o proyectos de Google. [117]
En abril de 2016, New Scientist obtuvo una copia de un acuerdo de intercambio de datos entre DeepMind y Royal Free London NHS Foundation Trust . Este último gestiona tres hospitales de Londres donde se estima que se trata a 1,6 millones de pacientes al año. El acuerdo muestra que DeepMind Health tuvo acceso a datos de admisiones, altas y transferencias, accidentes y emergencias, patología y radiología, y cuidados críticos en estos hospitales. Esto incluía detalles personales como si los pacientes habían sido diagnosticados con VIH , padecían depresión o alguna vez se habían sometido a un aborto con el fin de realizar investigaciones para buscar mejores resultados en diversas condiciones de salud. [118] [119]
Se presentó una denuncia ante la Oficina del Comisionado de Información (ICO), argumentando que los datos deberían ser seudonimizados y cifrados. [120] En mayo de 2016, New Scientist publicó otro artículo afirmando que el proyecto no había logrado obtener la aprobación del Grupo Asesor de Confidencialidad de la Agencia Reguladora de Medicamentos y Productos Sanitarios . [121]
En 2017, la ICO concluyó una investigación de un año de duración que se centró en cómo Royal Free NHS Foundation Trust probó la aplicación Streams a finales de 2015 y 2016. [122] La ICO descubrió que Royal Free no cumplió con las normas de protección de datos. Act cuando proporcionó detalles del paciente a DeepMind y encontró varias deficiencias en la forma en que se manejaban los datos, incluido el hecho de que los pacientes no fueron informados adecuadamente de que sus datos se utilizarían como parte de la prueba. DeepMind publicó sus pensamientos [123] sobre la investigación en julio de 2017, diciendo "tenemos que hacerlo mejor" y destacando varias actividades e iniciativas que habían iniciado para la transparencia, la supervisión y el compromiso. Esto incluyó el desarrollo de una estrategia de participación pública y de pacientes [124] y ser transparente en sus asociaciones.
En mayo de 2017, Sky News publicó una carta filtrada de la National Data Guardian, Dame Fiona Caldicott , revelando que en su "opinión meditada" el acuerdo de intercambio de datos entre DeepMind y Royal Free se llevó a cabo sobre una "base legal inapropiada". [125] La Oficina del Comisionado de Información dictaminó en julio de 2017 que el hospital Royal Free no cumplió con la Ley de Protección de Datos cuando entregó datos personales de 1,6 millones de pacientes a DeepMind. [126]
En octubre de 2017, DeepMind anunció una nueva unidad de investigación, DeepMind Ethics & Society. [127] Su objetivo es financiar investigaciones externas sobre los siguientes temas: privacidad, transparencia y equidad; impactos económicos; gobernanza y rendición de cuentas; gestionar el riesgo de la IA; Moralidad y valores de la IA; y cómo la IA puede abordar los desafíos del mundo. Como resultado, el equipo espera comprender mejor las implicaciones éticas de la IA y ayudar a la sociedad a ver que la IA puede ser beneficiosa. [128]
Esta nueva subdivisión de DeepMind es una unidad completamente separada de la asociación de empresas líderes que utilizan IA, el mundo académico, organizaciones de la sociedad civil y organizaciones sin fines de lucro denominada Partnership on Artificial Intelligence to Benefit People and Society, de la que DeepMind también forma parte. [129] La junta de Ética y Sociedad de DeepMind también es distinta de la Junta de Ética de IA debatida que Google acordó formar originalmente al adquirir DeepMind. [130]
DeepMind patrocina tres cátedras de aprendizaje automático:
{{cite news}}: CS1 maint: bot: original URL status unknown (link)