Anthropic publie la nouvelle constitution de Claude, son modèle d’IA

L'entreprise d'intelligence artificielle Anthropic a publié la nouvelle constitution de Claude, un document qui établit les principes et valeurs guidant le comportement de son modèle d'IA. Contrairement à la version précédente, qui consistait en une liste de principes indépendants, cette nouvelle approche cherche à ce que Claude comprenne les raisons derrière les normes, plutôt que de simplement suivre des règles spécifiques.

Le document établit quatre priorités fondamentales : être largement sûr, agir de manière éthique, respecter les directives d'Anthropic et être véritablement utile. Ces priorités sont ordonnées de manière hiérarchique afin que Claude puisse les résoudre en cas de conflit. La constitution souligne que Claude doit se comporter comme un ami brillant qui traite les utilisateurs comme des adultes intelligents, maintenant des standards élevés d'honnêteté et de jugement moral.

Anthropic utilise ce document à différentes étapes du processus d'entraînement. Claude emploie la constitution pour construire des données synthétiques qui incluent des conversations où les principes sont pertinents, des réponses alignées avec ses valeurs et des classements de réponses possibles. Cette utilisation pratique a influencé la rédaction du document, qui fonctionne à la fois comme déclaration d'idéaux abstraits et comme outil d'entraînement.

L'entreprise a publié la constitution complète sous licence Creative Commons CC0 1.0, permettant une utilisation libre sans autorisation. Cette décision vise à offrir de la transparence sur les comportements intentionnels de Claude, permettant aux personnes de prendre des décisions éclairées et de fournir des retours utiles.

Le document aborde également l'incertitude concernant une éventuelle conscience ou un statut moral de Claude. Anthropic reconnaît que les modèles d'IA sophistiqués constituent un type d'entité véritablement nouveau qui soulève des questions aux limites de la connaissance scientifique et philosophique actuelle.

L'entreprise considère la constitution comme un document vivant en progrès continu. Durant son élaboration, ils ont sollicité des retours d'experts externes en droit, philosophie, théologie et psychologie. Anthropic maintiendra une version actualisée sur son site web et continuera à solliciter des contributions de la communauté d'experts.

Points clés

• Anthropic publie la nouvelle constitution de Claude, définissant les valeurs et comportements du modèle d'IA
• L'approche passe d'une liste de règles à l'explication des raisons derrière chaque principe
• Elle établit quatre priorités hiérarchiques : sécurité, éthique, directives d'Anthropic et utilité
• Claude utilise la constitution pour générer des données d'entraînement synthétiques
• Le document est publié sous licence Creative Commons CC0 1.0 pour utilisation libre
• Il aborde l'incertitude sur la possible conscience ou statut moral de Claude
• La constitution est considérée comme un travail en progrès qui sera continuellement actualisé