Thinking Machines

Thinking Machines Lab est une entreprise de recherche et de développement en intelligence artificielle fondée par une équipe ayant une expérience reconnue dans certains des projets d'IA les plus influents de ces dernières années, notamment ChatGPT, Character.ai, le modèle de langage Mistral et des projets open source tels que PyTorch, Fairseq ou Segment Anything.

L'entreprise concentre son activité sur trois domaines principaux. Le premier est la recherche sur les modèles de frontière, avec une attention particulière portée aux domaines de la science et de la programmation. Le deuxième est le développement de systèmes multimodaux orientés vers la collaboration entre humains et IA, plutôt que vers l'autonomie complète des modèles. Le troisième est la publication ouverte de résultats : articles techniques, code et billets de recherche sous le nom Connectionism, dans le but d'élargir la compréhension collective du fonctionnement des systèmes d'IA actuels.

Parmi les principaux axes de travail technique figurent la distillation on-policy, l'ajustement fin via LoRA, l'inférence déterministe dans les modèles de langage à grande échelle et l'exploration d'architectures modulaires. Ces sujets sont abordés aussi bien du point de vue de la recherche fondamentale que de leur application dans des produits concrets.

Thinking Machines Lab travaille également sur des mécanismes de personnalisation permettant d'adapter les modèles à des besoins, des contextes et des valeurs spécifiques, afin d'élargir le champ d'application au-delà des cas d'usage habituels en programmation et en mathématiques.

En matière de sécurité, l'entreprise publie des recettes et des bonnes pratiques pour le développement de systèmes d'IA sûrs, mène des exercices de red-teaming et de surveillance post-déploiement, et partage des jeux de données et des spécifications de modèles pour soutenir la recherche externe sur l'alignement.