TypeSafe AI

TypeSafe AI és un laboratori d'intel·ligència artificial que construeix infraestructura d'intel·ligència nativa per a l'automatització, dissenyada perquè el programari prengui decisions.

Va ser fundada per Diogo Almeida, coinventor de RLHF (el mètode que va impulsar InstructGPT, ChatGPT i GPT-4), juntament amb Sasha Sheng i Erik Gafni. L'empresa té la seu a San Francisco, Califòrnia. El seu equip prové d'OpenAI, Google Brain, Meta/FAIR, Stripe, Airbnb, Plaid i Docker.

El seu primer producte és Jev, el primer model d'una categoria pròpia que l'empresa anomena System One. Està dissenyat per avaluar preguntes sobre l'estat d'un programa i retornar resultats estructurats —una opció d'una llista, una puntuació o una estimació de probabilitat— juntament amb un nivell de confiança en els dos primers casos. A diferència dels models de llenguatge convencionals, no genera text lliure: produeix respostes que el codi pot consumir directament, sense necessitat d'interpretació posterior. L'entrenament es basa en un mètode propi denominat Reinforcement Learning for Calibrated Decisions (RLCD).

TypeSafe AI sosté que el desenvolupament de la intel·ligència artificial s'ha centrat excessivament en assistents conversacionals, mentre que gran part del programari productiu continua depenent de lògica escrita a mà per a tasques de classificació, encaminament o extracció d'informació. La seva proposta consisteix a tractar la intel·ligència com un component invocable des del codi, de manera similar a una consulta a una base de dades, i combinable amb la resta del sistema.