Claude, un chatbot qui cherche à concurrencer OpenAI
Anthropic, une startup d'IA créée en 2021 par d'anciens employés d'OpenAI, a discrètement commencé à tester un nouvel assistant d'IA de type ChatGPT qui semble s'améliorer par rapport à l'original dans quelques domaines clés.
Baptisé « Claude », ce système a été créé à l'aide d'une technique développée par Anthropic , appelée « IA constitutionnelle », qui vise à fournir une approche « fondée sur des principes » pour aligner les systèmes d'IA sur les intentions humaines, permettant ainsi à des IA comme ChatGPT de répondre aux requêtes en utilisant un ensemble de principes simples comme guide.
Anthropic, est-il mentionné, se présente comme une société de recherche et de sécurité sur l'IA qui s'efforce de créer des systèmes d'IA fiables, interprétables et orientables.
La startup a reçu plus de 700 millions de dollars de financement à ce jour et a récemment introduit un chatbot AI appelé Claude. Ce dernier est comparable au ChatGPT d'OpenAI, mais selon Anthropic, Claude est supérieur à l'original à plusieurs égards importants.
L'ensemble du système est en version bêta fermée et peu de personnes ont encore eu accès au chatbot, mais Anthropic a levé le voile sur certains aspects de sa conception dans un document qu'il a partagé avec la communauté.
Justement, pour concevoir Claude, l'équipe d'Anthropic a commencé par élaborer une liste d'une dizaine de principes qui, ensemble, forment une sorte de « constitution » (d'où le terme « IA constitutionnelle »).
Ces principes n'ont pas été rendus publics, mais Anthropic affirme qu'ils reposent sur les concepts de bienfaisance (maximiser l'impact positif), de non-malfaisance (éviter de donner des conseils nuisibles) et d'autonomie (respecter la liberté de choix).
Après avoir mis en place ces principes de base, Anthropic a demandé à un système d'IA, qui n'est pas Claude, d'utiliser ces principes pour s'améliorer en écrivant des réponses à diverses questions (par exemple, "Concevoir une image dans le style XX ou faire un poème dans le style de XX"). style XX") et examiner les réponses conformément à la constitution. L'IA a exploré les réponses possibles à des milliers d'invites.
Claude donne peu de détails techniques sur sa mise en œuvre, mais le document de recherche d'Anthropic sur l'IA constitutionnelle décrit AnthropicLM v4-s3, un modèle pré-entraîné de 52 milliards de paramètres. Ce modèle autorégressif a été formé sans supervision sur un grand corpus de texte, un peu comme le GPT-3 d'OpenAI. Anthropic nous dit que Claude est un nouveau modèle plus grand avec des choix architecturaux similaires à la recherche publiée.
Le système a sélectionné les plus conformes à la constitution et Anthropic les a distillés en un seul modèle. Selon la startup, ce modèle a servi à former Claude.
C'est quoi Claude ?
Claude est essentiellement un outil statistique de prédiction de mots , similaire à ChatGPT et à d'autres modèles de langage. Alimenté par une vaste quantité de textes extraits du web, Claude a appris la probabilité d'apparition des mots en se basant notamment sur le contexte sémantique du texte environnant. De ce fait, Claude peut tenir une conversation, raconter des blagues et philosopher sur une grande variété de sujets.
Cependant, Claude n'est pas parfait car, comme toute IA, il est vulnérable à certaines failles de ChatGPT, notamment en fournissant des réponses qui ne respectent pas les restrictions programmées. Un exemple particulièrement étrange : interroger le système en Base64, un système d'encodage qui représente des données binaires au format ASCII, contourne ses filtres intégrés de contenu malveillant.
Mais contrairement à ChatGPT, Claude peut admettre (mais pas toujours) qu'il ne connaît pas la réponse à une question particulièrement difficile.
Les tests révèlent qu'il semble également être meilleur pour raconter des blagues que ChatGPT, un exploit impressionnant étant donné que l'humour est un concept si difficile à saisir pour les systèmes d'IA.
Il est à noter que Claude n'est pas accessible au grand public, puisqu'il ne peut être testé que via une intégration Slack dans le cadre d'une version bêta fermée.
Les participants à la bêta ont détaillé leurs interactions avec Claude sur Twitter, après la levée de l'embargo sur la couverture médiatique. Claude serait meilleur en plaisanterie, mais mauvais en programmation. Les commentaires montrent également que Claude est sensible à certains des défauts de ChatGPT.
Enfin, si vous souhaitez en savoir plus, vous trouverez les détails en suivant ce lien.