Inkling, un modèle ouvert pensé pour être personnalisé, pas pour dominer les classements

Inkling ne cherche pas à être le modèle d'IA le plus puissant du marché, mais un modèle facile à reprendre et remodeler : Thinking Machines Lab le présente comme une base que d'autres entreprises peuvent télécharger et adapter à leurs usages. L'entreprise publie l'intégralité des poids du modèle déjà entraîné -ce que l'industrie appelle des "poids ouverts"-, de sorte que n'importe qui peut le télécharger, l'exécuter sur son matériel et le modifier avec ses données, sans dépendre d'un service fermé. Ce n'est pas la même chose que l'open source traditionnel : l'entreprise n'a publié ni les données ni le processus d'entraînement, mais bien le modèle final.

Le modèle traite nativement le texte, l'image et l'audio. C'est un modèle de grande taille, avec 975 milliards de paramètres au total, dont seulement 41 milliards sont actifs à chaque réponse grâce à une architecture qui répartit le travail entre plusieurs sous-systèmes spécialisés, ce qui réduit le coût de chaque requête. Il admet des contextes allant jusqu'à un million de tokens et a été entraîné sur 45 000 milliards de tokens de texte, d'images, d'audio et de vidéo.

Il permet de régler le temps consacré au raisonnement avant de répondre : plus l'effort demandé est élevé, meilleurs sont les résultats, mais au prix d'un coût et d'une attente plus importants. Selon les tests de l'entreprise, il nécessite moins de ressources que d'autres modèles ouverts pour un rendement similaire ; dans un test de programmation, il égale Nemotron 3 Ultra avec environ un tiers des tokens. Dans une comparaison d'applications évaluées par des personnes, il se situe parmi les modèles à poids ouverts les mieux notés, derrière les systèmes fermés les plus avancés.

Aux côtés d'Inkling, l'entreprise a dévoilé Inkling-Small, une version plus légère aux résultats similaires, pensée pour les tâches où la rapidité compte plus que la puissance. Le modèle peut déjà être ajusté sur Tinker, avec une remise de 50% pour une durée limitée, et téléchargé depuis Hugging Face. L'entreprise a aussi commandé des tests de sécurité externes, où Inkling a mieux rejeté les requêtes dangereuses que des modèles comparables, sans bloquer les requêtes légitimes.

Points clés

• Premier modèle à poids ouverts de Thinking Machines Lab, pensé pour être personnalisé plutôt que pour dominer les classements
• Poids complets publiés, mais pas les données ni le processus d'entraînement : ce n'est pas de l'open source traditionnel
• Traite nativement le texte, l'image et l'audio
• 975 milliards de paramètres au total, seulement 41 milliards actifs par réponse
• Contexte jusqu'à un million de tokens ; entraîné sur 45 000 milliards de tokens
• Effort de raisonnement ajustable pour équilibrer coût et performance
• Égale Nemotron 3 Ultra sur un test de programmation avec environ un tiers des tokens
• Parmi les modèles à poids ouverts les mieux notés dans des comparaisons évaluées par des humains, derrière les systèmes fermés les plus avancés
• Présenté aux côtés d'Inkling-Small, une version préliminaire plus légère et rapide
• A passé des tests de sécurité externes, rejetant les requêtes dangereuses sans bloquer les requêtes légitimes