Anthropic

Anthropic
Histoire
Fondation
Voir et modifier les données sur Wikidata
Cadre
Type
Compagnie, firme, organisation à but non lucratif, entreprise technologiqueVoir et modifier les données sur Wikidata
Domaines d'activité
Intelligence artificielle, intelligence artificielleVoir et modifier les données sur Wikidata
Siège
San FranciscoVoir et modifier les données sur Wikidata
Pays
 États-UnisVoir et modifier les données sur Wikidata
Organisation
Effectif
160 employésVoir et modifier les données sur Wikidata
Fondateurs
Dario Amodei, Daniela Amodei (d)Voir et modifier les données sur Wikidata
Produit
Claude
Site web
(en) anthropic.comVoir et modifier les données sur Wikidata

modifier - modifier le code - modifier WikidataDocumentation du modèle

Anthropic est une entreprise américaine d'intelligence artificielle (IA) fondée en 2021 par d'anciens membres d'OpenAI[1],[2].

Anthropic se spécialise dans le développement d'intelligences artificielles générales et de modèles de langage, avec une philosophie d'entreprise d'utilisation responsable de l'IA. Amazon et Google ont récemment investi plusieurs milliards de dollars dans la société[3].

Historique

Anthropic a été fondée en 2021 par d'anciens membres seniors d'OpenAI dont Daniela Amodei et Dario Amodei, ce dernier ayant été vice-président de la recherche d'OpenAI[4],[5],[6]. Cette décision de quitter OpenAI aurait notamment été motivée par des désaccords sur la vision stratégique de OpenAI et son partenariat avec Microsoft en 2019[7].

Projets

Claude

Anthropic a développé son propre chatbot, nommé Claude[8]. Semblable à ChatGPT, Claude utilise une interface de messagerie où les utilisateurs peuvent soumettre des questions ou des demandes et recevoir des réponses très détaillées et pertinentes[9].

Initialement disponible en version bêta fermée via une intégration Slack, Claude est désormais accessible via l'application Poe de Quora[10].

IA constitutionnelle

Cette section est un extrait de Claude (modèle de langage) § IA constitutionnelle.[modifier].

L'IA constitutionnelle est une approche développée par Anthropic pour entraîner les systèmes d'IA (et en particulier les grands modèles de langage comme Claude) à être utiles, sincères et inoffensifs sans nécessiter de feedback humain[11].

Dans une phase d'apprentissage supervisé, le modèle génère des réponses, s'auto-critique sur la base d'un ensemble de principes (une « constitution »), puis ajuste ses réponses. Ces réponses davantage conformes à la constitution sont ensuite utilisées pour entraîner le modèle[11].

Puis, dans une phase d'apprentissage par renforcement, le modèle génère des réponses et les compare, favorisant celles qui satisfont le plus un principe aléatoire de la constitution. Ces données permettent d'entraîner un modèle de préférences, qui juge des réponses en fonction de leur degré de conformité à la constitution. Claude est ensuite ajusté à satisfaire ce modèle de préférences. Cette technique est similaire à l'apprentissage par renforcement à partir de rétroaction humaine, qui entraîne cependant le modèle de préférences avec des comparaisons humaines, là où avec l'IA constitutionnelle les comparaisons sont faites automatiquement avec l'IA se font sur la base de la constitution[12],[11].

Certains principes de la constitution sont tirés de la Déclaration universelle des droits de l'homme de l'ONU[11].

Recherche en interprétabilité

Anthropic publie également des recherches en interprétabilité des systèmes d'IA (une discipline visant à en comprendre le fonctionnement interne), en se concentrant sur les transformeurs, qui sont des modèles d'IA très utilisés dans le traitement du langage[13].

Notes et références

  • (en) Cet article est partiellement ou en totalité issu de l’article de Wikipédia en anglais intitulé « Anthropic » (voir la liste des auteurs).
  1. ↑ (en-US) « ChatGPT must be regulated and A.I. can be used by bad actors, warns OpenAI’s CTO », finance.yahoo.com (consulté le )
  2. ↑ (en-US) Vincent, « Google invested $300 million in AI firm founded by former OpenAI researchers », The Verge, (consulté le )
  3. ↑ (en) « Grâce aux milliards de Google et Amazon, Anthropic refait son retard sur OpenAI », latribune.fr,‎ (lire en ligne, consulté le )
  4. ↑ (en-US) Papadopoulos, « Google invests $400 million in Anthropic to battle the power of ChatGPT », interestingengineering.com, (consulté le )
  5. ↑ « OpenAI Is Making Headlines. It’s Also Seeding Talent Across Silicon Valley », The Information (consulté le )
  6. ↑ (en-US) « Daniela and Dario Amodei on Anthropic », Future of Life Institute (consulté le )
  7. ↑ (en-US) « As Anthropic seeks billions to take on OpenAI, industrial capture is nigh. Or is it? », sur VentureBeat, (consulté le )
  8. ↑ (en) « ChatGPT must be regulated and A.I. can be used by bad actors, warns OpenAI’s CTO », Fortune (consulté le )
  9. ↑ « Meet Claude: Anthropic’s Rival to ChatGPT | Blog | Scale AI », ScaleAI (consulté le )
  10. ↑ (en-US) « Quora opens its new AI chatbot app Poe to the general public », TechCrunch, (consulté le )
  11. ↑ a b c et d (en) Will Henshall, « What to Know About Claude 2, Anthropic's Rival to ChatGPT », sur Time, (consulté le )
  12. ↑ (en) Lance Eliot, « Latest Generative AI Boldly Labeled As Constitutional AI Such As Claude By Anthropic Has Heart In The Right Place, Says AI Ethics And AI Law », sur Forbes, (consulté le )
  13. ↑ « Transformer Circuits Thread », transformer-circuits.pub (consulté le )

Liens externes

  • (en) Site officielVoir et modifier les données sur Wikidata
  • icône décorative Portail des entreprises
  • icône décorative Portail des États-Unis