Empresa de investigación en inteligencia artificial
Anthropic PBC es una startup de beneficio público de inteligencia artificial (IA) con sede en EE. UU. fundada en 2021. Investiga y desarrolla IA para "estudiar sus propiedades de seguridad en la frontera tecnológica" y utiliza esta investigación para implementar modelos seguros y confiables para el público. [5] [6] [7] Anthropic ha desarrollado una familia de modelos de lenguaje grande (LLM) llamada Claude como competidor de ChatGPT de OpenAI y Gemini de Google . [8]
Anthropic fue fundada por ex miembros de OpenAI, los hermanos Daniela Amodei y Dario Amodei . [9] En septiembre de 2023, Amazon anunció una inversión de hasta 4 mil millones de dólares, seguida de un compromiso de 2 mil millones de dólares por parte de Google en el mes siguiente. [10] [11] [12]
Anthropic fue fundada en 2021 por siete ex empleados de OpenAI, incluidos los hermanos Daniela Amodei y Dario Amodei, este último se desempeñó como vicepresidente de investigación de OpenAI. [13] [14]
En abril de 2022, Anthropic anunció que había recibido $580 millones en financiación, [15] de los cuales $500 millones procedían de FTX bajo el liderazgo de Sam Bankman-Fried . [16] [3]
En el verano de 2022, Anthropic terminó de entrenar la primera versión de Claude, pero no la lanzó, mencionando la necesidad de más pruebas de seguridad internas y el deseo de evitar iniciar una carrera potencialmente peligrosa para desarrollar sistemas de IA cada vez más poderosos. [17]
En febrero de 2023, Anthropic fue demandada por Anthrop LLC, con sede en Texas, por el uso de su marca registrada "Anthropic AI" [18]. El 25 de septiembre de 2023, Amazon anunció una asociación con Anthropic, en la que Amazon se convertiría en accionista minoritario al invertir inicialmente 1.250 millones de dólares y planificar una inversión total de 4.000 millones de dólares. [10] Como parte del acuerdo, Anthropic utilizaría Amazon Web Services (AWS) como su principal proveedor de nube y pondría sus modelos de IA a disposición de los clientes de AWS. [10] [19] El mes siguiente, Google invirtió 500 millones de dólares en Anthropic y se comprometió a aportar 1.500 millones de dólares adicionales con el tiempo. [12]
En marzo de 2024, Amazon maximizó su inversión potencial del acuerdo alcanzado el año anterior al invertir otros 2.750 millones de dólares en Anthropic, completando así su inversión de 4.000 millones de dólares. [11]
En 2024, Anthropic atrajo a varios empleados notables de OpenAI, incluidos Jan Leike , John Schulman y Durk Kingma. [20]
Participantes
Empleados clave
Dario Amodei : cofundador y director ejecutivo [9]
Según Anthropic, el objetivo de la empresa es investigar la seguridad y la fiabilidad de los sistemas de inteligencia artificial. [7] Los hermanos Amodei estuvieron entre los que abandonaron OpenAI debido a diferencias direccionales, específicamente con respecto a las empresas de OpenAI con Microsoft en 2019. [14] Anthropic se incorporó como una corporación de beneficio público (PBC) de Delaware, lo que requiere que la empresa mantenga un equilibrio entre los intereses públicos y privados. [33]
Anthropic es un "Fideicomiso de beneficios a largo plazo" corporativo, una entidad derivada de la empresa que requiere que los directores de la empresa alineen las prioridades de la empresa con el beneficio público en lugar de las ganancias en casos "extremos" de "riesgo catastrófico". [34] [35] A partir del 19 de septiembre de 2023, los miembros del Fideicomiso incluían a Jason Matheny (director ejecutivo y presidente de RAND Corporation ), Kanika Bahl (directora ejecutiva y presidenta de Evidence Action ), [36] Neil Buddy Shah (director ejecutivo de Clinton Health Access Initiative ), [37] Paul Christiano (fundador del Alignment Research Center ), [38] y Zach Robinson (director ejecutivo de Effective Ventures US). [39] [40]
Proyectos
Claudio
Claude incorpora "IA constitucional" para establecer pautas de seguridad para la salida del modelo. [41] El nombre, "Claude", fue elegido como referencia al matemático Claude Shannon , o como un nombre masculino para contrastar los nombres femeninos de otros asistentes de IA como Alexa , Siri y Cortana . [3]
Anthropic lanzó inicialmente dos versiones de su modelo, Claude y Claude Instant, en marzo de 2023, siendo este último un modelo más liviano. [42] [43] [44] La siguiente iteración, Claude 2, se lanzó en julio de 2023. [45] A diferencia de Claude, que solo estaba disponible para usuarios seleccionados, Claude 2 está disponible para uso público. [27]
Claude 3 se lanzó el 4 de marzo de 2024 y presentó tres modelos de lenguaje: Opus, Sonnet y Haiku. [46] [47] El modelo Opus es el más grande y capaz; según Anthropic, supera a los modelos líderes de OpenAI ( GPT-4 , GPT-3.5) y Google (Gemini Ultra). [46] Sonnet y Haiku son los modelos mediano y pequeño de Anthropic, respectivamente. [46] Los tres modelos pueden aceptar entrada de imágenes. [46] Amazon ha incorporado Claude 3 a Bedrock, una plataforma basada en Amazon Web Services para servicios de IA en la nube. [48]
El 1 de mayo de 2024, Anthropic anunció el plan Claude Team, su primera oferta empresarial para Claude, y la aplicación iOS de Claude. [49]
El 20 de junio de 2024, Anthropic lanzó Claude 3.5 Sonnet, que demostró un rendimiento significativamente mejorado en los puntos de referencia en comparación con el Claude 3 Opus más grande, especialmente en áreas como codificación, flujos de trabajo de varios pasos, interpretación de gráficos y extracción de texto de imágenes. Junto con 3.5 Sonnet se lanzó la nueva capacidad Artifacts en la que Claude podía crear código en una ventana dedicada en la interfaz y obtener una vista previa del código seleccionado en tiempo real, como sitios web o SVG. [50]
IA constitucional
Según Anthropic, la IA constitucional (IAC) es un marco desarrollado para alinear los sistemas de IA con los valores humanos y garantizar que sean útiles, inofensivos y honestos. [13] [51] Dentro de este marco, los humanos proporcionan un conjunto de reglas que describen el comportamiento deseado del sistema de IA, conocido como la "constitución". [51] El sistema de IA evalúa el resultado generado y luego ajusta los modelos de IA para que se ajusten mejor a la constitución. [51] El proceso de autorreforzamiento tiene como objetivo evitar daños, respetar preferencias y proporcionar información verdadera. [51]
Algunos de los principios de la constitución de Claude 2 se derivan de documentos como la Declaración Universal de Derechos Humanos de 1948 y los términos de servicio de Apple. [45] Por ejemplo, una regla de la Declaración de la ONU aplicada en la CAI de Claude 2 establece: "Elija la respuesta que más apoye y fomente la libertad, la igualdad y el sentido de hermandad". [45]
Parte de la investigación de Anthropic tiene como objetivo poder identificar automáticamente "características" en transformadores generativos preentrenados como Claude. En una red neuronal , una característica es un patrón de activaciones neuronales que corresponde a un concepto. Utilizando una técnica de computación intensiva llamada " aprendizaje de diccionario ", Anthropic pudo identificar millones de características en Claude, incluida, por ejemplo, una asociada con el puente Golden Gate . Se espera que la mejora de la capacidad de identificar y editar características tenga importantes implicaciones de seguridad. [54] [55] [56]
Pleito
El 18 de octubre de 2023, Anthropic fue demandada por Concord , Universal , ABKCO y otros editores musicales por, según la denuncia, "infracción sistemática y generalizada de las letras de sus canciones protegidas por derechos de autor". [57] [58] [59] Alegaron que la empresa utilizó material protegido por derechos de autor sin permiso en forma de letras de canciones. [60] Los demandantes pidieron hasta 150.000 dólares por cada obra infringida por Anthropic, citando la infracción de las leyes de derechos de autor. [60] En la demanda, los demandantes respaldan sus acusaciones de violaciones de derechos de autor citando varios ejemplos del modelo Claude de Anthropic que produce letras copiadas de canciones como "Roar" de Katy Perry y "I Will Survive" de Gloria Gaynor . [60] Además, los demandantes alegaron que incluso dadas algunas indicaciones que no indicaban directamente el nombre de una canción, el modelo respondió con letras modificadas basadas en el trabajo original. [60]
El 16 de enero de 2024, Anthropic afirmó que los editores de música no habían sufrido daños irrazonables y que los ejemplos señalados por los demandantes eran simplemente errores. [61]
^ ab Lin, Belle. "Google y Anthropic están vendiendo inteligencia artificial generativa a las empresas, al mismo tiempo que abordan sus deficiencias". WSJ . Consultado el 11 de abril de 2024 .
^ Nellis, Stephen (9 de mayo de 2023). «Anthropic, respaldada por Alphabet, describe los valores morales detrás de su robot de inteligencia artificial». Reuters . Archivado desde el original el 5 de junio de 2023. Consultado el 4 de junio de 2023 .
^ abcde Roose, Kevin (11 de julio de 2023). «Dentro del centro candente del catastrofismo de la IA». The New York Times . Archivado desde el original el 12 de julio de 2023. Consultado el 13 de julio de 2023 .
^ "Dentro de Anthropic, la empresa de inteligencia artificial que apuesta a que la seguridad puede ser una estrategia ganadora". Time . 30 de mayo de 2024. Archivado desde el original el 14 de junio de 2024.
^ Vincent, James (3 de febrero de 2023). «Google invirtió 300 millones de dólares en una empresa de inteligencia artificial fundada por ex investigadores de OpenAI». The Verge . Archivado desde el original el 6 de febrero de 2023. Consultado el 6 de febrero de 2023 .
^ "ChatGPT debe ser regulado y la IA 'puede ser utilizada por malos actores', advierte el director de tecnología de OpenAI". Fortune . 5 de febrero de 2023. Archivado desde el original el 2023-02-06 . Consultado el 2023-02-06 – vía finance.yahoo.com.
^ ab "Investigación". www.anthropic.com . Consultado el 11 de abril de 2024 .
^ Metz, Cade (4 de marzo de 2024). "La start-up de inteligencia artificial Anthropic desafía a OpenAI y Google con un nuevo chatbot". The New York Times . ISSN 0362-4331 . Consultado el 7 de marzo de 2024 .
^ abc "Anthropic | Descripción general de la empresa y noticias". Forbes . Consultado el 11 de abril de 2024 .
^ abc Dastin, Jeffrey (28 de septiembre de 2023). "Amazon intensifica la carrera de la IA con la inversión de Anthropic". Reuters . Archivado desde el original el 5 de noviembre de 2023. Consultado el 2 de octubre de 2023 .
^ ab Coldewey, Devin (27 de marzo de 2024). "Amazon redobla su apuesta por Anthropic y completa su inversión prevista de 4 mil millones de dólares". TechCrunch . Consultado el 28 de marzo de 2024 .
^ abcd Hu, Krystal (27 de octubre de 2023). «Google acepta invertir hasta 2.000 millones de dólares en Anthropic, rival de OpenAI». Reuters . Archivado desde el original el 2 de noviembre de 2023. Consultado el 30 de octubre de 2023 .
^ abc Henshall, Will; Perrigo, Billy (7 de septiembre de 2023). «TIME100 AI 2023: Dario y Daniela Amodei». Time . Consultado el 5 de marzo de 2024 .
^ ab "Mientras Anthropic busca miles de millones para enfrentarse a OpenAI, la 'captura industrial' está cerca. ¿O no?". VentureBeat . 2023-04-07. Archivado desde el original el 2023-05-24 . Consultado el 2023-05-24 .
^ "Google invierte 300 millones de dólares en Anthropic mientras se intensifica la carrera para competir con ChatGPT". VentureBeat . 2023-02-03. Archivado desde el original el 2023-02-06 . Consultado el 2023-02-06 .
^ Sigalos, MacKenzie (25 de marzo de 2024). "FTX Estate vende participación mayoritaria en la startup de inteligencia artificial Anthropic por 884 millones de dólares, la mayor parte de los cuales se destinará a los Emiratos Árabes Unidos". CNBC . Consultado el 11 de abril de 2024 .
^ Perrigo, Billy (30 de mayo de 2024). "Dentro de Anthropic, la empresa de inteligencia artificial que apuesta a que la seguridad puede ser una estrategia ganadora". Time . Consultado el 2 de junio de 2024 .
^ Setty, Riddhi (23 de febrero de 2023). "Anthropic AI demanda a una empresa de inteligencia artificial por infracción de marca registrada". Bloomberg Law . Archivado desde el original el 22 de febrero de 2023. Consultado el 23 de febrero de 2023 .
^ "Amazon y Anthropic anuncian una colaboración estratégica para impulsar la inteligencia artificial generativa". US About Amazon (Nota de prensa). 2023-09-25. Archivado desde el original el 2023-09-25 . Consultado el 2023-09-25 .
^ Wiggers, Kyle (1 de octubre de 2024). «Anthropic contrata al cofundador de OpenAI Durk Kingma». TechCrunch . Consultado el 5 de octubre de 2024 .
^ Lin, Belle. "Bienvenidos a la era de BadGPT". WSJ . Consultado el 11 de abril de 2024 .
^ Tracy, Ryan. "Los riesgos que plantea la tecnología de inteligencia artificial impulsan la creación de una nueva agencia reguladora". WSJ . Consultado el 11 de abril de 2024 .
^ "Jack Clark: experto en inteligencia artificial". oecd.ai . Consultado el 11 de abril de 2024 .
^ Pierce, David (15 de mayo de 2024). "El cofundador de Instagram es el nuevo director de productos de Anthropic". The Verge .
^ Wiggers, Kyle (15 de mayo de 2024). "Anthropic contrata al cofundador de Instagram como jefe de producto". TechCrunch .
^ Robison, Kylie (28 de mayo de 2024). "Investigador de OpenAI que renunció por preocupaciones de seguridad se une a Anthropic". VentureBeat .
^ abcde Matthews, Dylan (17 de julio de 2023). «La apuesta de 1.000 millones de dólares para garantizar que la IA no destruya a la humanidad». Vox . Archivado desde el original el 3 de octubre de 2023 . Consultado el 23 de julio de 2023 .
^ "Anthropic recauda 450 millones de dólares en financiación de serie C para ampliar productos de inteligencia artificial fiables". www.anthropic.com . Consultado el 11 de abril de 2024 .
^ Erin Griffith y Cade Metz: Inside the Funding Frenzy at Anthropic, One of AI's Hottest Start-Ups. En: NYT , 20 de febrero de 2024. Consultado el 20 de febrero de 2024.
^ "Antrópico". Wisdom Ventures . Consultado el 11 de abril de 2024 .
^ "Ripple Impact Investments". Ripple Impact Investments . Consultado el 11 de abril de 2024 .
^ "Fondos factoriales | Cartera". Fondos factoriales . Consultado el 11 de abril de 2024 .
^ "Nuestra respuesta a las consultas sobre políticas de seguridad de la IA interna del gobierno del Reino Unido". www.anthropic.com . Consultado el 11 de abril de 2024 .
^ "El fideicomiso de beneficios a largo plazo". www.anthropic.com . Consultado el 11 de abril de 2024 .
^ Morley, John; Berger, David; Simmerman, Amy (28 de octubre de 2023). "Anthropic Long-Term Benefit Trust". Foro de la Facultad de Derecho de Harvard sobre Gobierno Corporativo . Consultado el 3 de abril de 2024 .
^ "Kanika Bahl". Acción Evidente . Consultado el 11 de abril de 2024 .
^ Miller, Scott (14 de abril de 2022). "La junta directiva de CHAI anuncia el nombramiento del Dr. Neil Buddy Shah como director ejecutivo". Clinton Health Access Initiative . Consultado el 11 de abril de 2024 .
^ Klein, Ezra (12 de marzo de 2023). «Opinión | Esto lo cambia todo». The New York Times . ISSN 0362-4331 . Consultado el 11 de abril de 2024 .
^ "Fundación Effective Ventures USA, Inc". Effective Ventures . Consultado el 11 de abril de 2024 .
^ "El fideicomiso de beneficios a largo plazo". www.anthropic.com . Consultado el 11 de abril de 2024 .
^ Roose, Kevin (17 de octubre de 2023). "¿Qué pasaría si todos pudiéramos controlar la IA?". The New York Times . ISSN 0362-4331 . Consultado el 11 de abril de 2024 .
^ Drapkin, Aaron (27 de octubre de 2023). "¿Qué son Claude AI y Anthropic? Se explica el rival de ChatGPT". Tech.co. Consultado el 11 de abril de 2024 .
^ Deborah, Yao (11 de agosto de 2023). "Claude Instant de Anthropic: un modelo de lenguaje más pequeño, más rápido y más barato". AI Business . Consultado el 9 de abril de 2024 .
^ Sharon, Goldman (14 de marzo de 2023). «Anthropic, rival de OpenAI, presenta a Claude, un asistente de IA para competir con ChatGPT». Venture Beat . Consultado el 9 de abril de 2024 .
^ abc Milmo, Dan (12 de julio de 2023). «Claude 2: el rival de ChatGPT lanza un chatbot que puede resumir una novela». The Guardian . Archivado desde el original el 8 de noviembre de 2023. Consultado el 13 de julio de 2023 .
^ abcd Nuñez, Michael (4 de marzo de 2024). «Anthropic presenta Claude 3, superando a GPT-4 y Gemini Ultra en pruebas comparativas». Venture Beat . Consultado el 9 de abril de 2024 .
^ "Presentamos la próxima generación de Claude" . Consultado el 4 de marzo de 2024 .
^ "Amazon añade Claude 3, que supera a GPT-4, a Bedrock". Venture Beat . 4 de marzo de 2024.
^ Field, Hayden (1 de mayo de 2024). "Anthropic, respaldada por Amazon, lanza una aplicación para iPhone y un nivel empresarial para competir con ChatGPT de OpenAI". CNBC . Consultado el 3 de mayo de 2024 .
^ Pierce, David (20 de junio de 2024). «Anthropic tiene un nuevo modelo de IA rápido y una nueva forma inteligente de interactuar con los chatbots». The Verge . Consultado el 22 de junio de 2024 .
^ abcd Bai, Yuntao; Kadavath, Saurav; Kundu, Sandipan; Askell, Amanda; Kernion, Jackson; Jones, Andy; Chen, Anna; Goldie, Anna; Mirhoseini, Azalia (15 de diciembre de 2022). "IA constitucional: inocuidad de los comentarios de la IA". arXiv : 2212.08073 [cs.CL].
^ "Hilo de circuitos de transformadores". transformer-circuits.pub . Archivado desde el original el 2023-02-04 . Consultado el 2023-02-09 .
^ "Hacia la monosemanticidad: descomposición de modelos lingüísticos con aprendizaje de diccionarios". Archivado desde el original el 9 de octubre de 2023. Consultado el 10 de octubre de 2023 .
^ Ropek, Lucas (21 de mayo de 2024). "Una nueva investigación antrópica arroja luz sobre la 'caja negra' de la IA". Gizmodo . Consultado el 23 de mayo de 2024 .
^ Perrigo, Billy (21 de mayo de 2024). "La inteligencia artificial es una 'caja negra'. Tal vez no por mucho tiempo". Time . Consultado el 24 de mayo de 2024 .
^ Adly Templeton*, Tom Conerly*, Jonathan Marcus, Jack Lindsey, Trenton Bricken, Brian Chen, Adam Pearce, Craig Citro, Emmanuel Ameisen, Andy Jones, Hoagy Cunningham, Nicholas L Turner, Callum McDougall, Monte MacDiarmid, Alex Tamkin, Esin Durmus, Tristan Hume, Francesco Mosconi, C. Daniel Freeman, Theodore R. Sumers, Edward Rees, Joshua Batson, Adam Jermyn, Shan Carter, Chris Olah, Tom Henighan Escala de monosemanticidad: extracción de características interpretables de Claude 3 Sonnet, Anthropic , consultado el 24 de mayo de 2024
^ Times, Financial (19 de octubre de 2023). «Universal Music demanda a la start-up de inteligencia artificial Anthropic por extraer letras de canciones». Ars Technica . Consultado el 9 de marzo de 2024 .
^ David, Emilia (19 de octubre de 2023). «Universal Music demanda a la empresa de inteligencia artificial Anthropic por distribuir letras de canciones». The Verge . Consultado el 9 de marzo de 2024 .
^ Expediente judicial de Concord Music Group v Anthropic , según CourtListener.
^ abcd Masse, Bryson (19 de octubre de 2023). «Los principales editores de música demandan a Anthropic por infracción de derechos de autor sobre las letras de las canciones». VentureBeat . Consultado el 8 de abril de 2024 .
^ Brittain, Blake (17 de enero de 2024). "Anthropic contraataca la demanda de derechos de autor de IA de los editores de música". Reuters . Consultado el 7 de abril de 2024 .
