Business, meet agentic AI

El document Confidence in Autonomous and Agentic Systems, elaborat per l'AI Futures Lab de Capgemini per a organitzacions i professionals que busquen implementar aquests sistemes, analitza el paper emergent dels sistemes d'intel·ligència artificial capaços de prendre decisions i actuar pel seu compte. Aquests sistemes marquen un canvi de paradigma: en lloc de programar solucions pas a pas, les persones poden simplement plantejar un problema perquè el sistema el resolgui de forma autònoma. Aquest enfocament representa una transformació profunda en la relació entre humans i tecnologia.

El text explica com s'ha produït aquesta evolució, des dels primers chatbots amb funcions limitades fins als actuals sistemes multi-agent. A través d'aquesta progressió s'observa una major capacitat d'actuació i una integració més complexa. La diferència clau no està només en la quantitat d'agents, sinó en les noves propietats que sorgeixen quan diversos d'ells col·laboren en entorns compartits.

Una de les aportacions principals del document és el marc conceptual basat en tres propietats essencials: autonomia, agència i autoritat. L'autonomia es refereix a la capacitat del sistema per prendre decisions sense intervenció humana. L'agència implica la possibilitat d'executar aquestes decisions i modificar l'entorn. L'autoritat defineix els límits dins dels quals l'agent pot actuar. Aquests conceptes permeten avaluar el funcionament dels sistemes des del disseny fins a la implementació, i s'il·lustren amb analogies humanes per facilitar-ne la comprensió.

Un altre element central és el paper dels models del món, que són les representacions internes que els agents construeixen sobre l'entorn en què operen. Aquests models permeten que els agents comprenguin el context, anticipin conseqüències i actuïn de forma coherent. Un model del món limitat porta a decisions poc fiables, mentre que un model ben estructurat millora la utilitat del sistema i afavoreix la confiança en el seu comportament.

El document examina també com funcionen els sistemes compostos per múltiples agents i les dimensions que afecten el seu comportament, com la seva mida, complexitat, grau d'especialització i forma d'organització. Analitza a més què pot fer realment un agent, diferenciant entre sistemes generalistes o especialistes, i entre aquells amb comportaments predictibles i els que poden adaptar-se a noves situacions.

Un altre aspecte clau és el paper dels models de llenguatge en aquestes arquitectures. Tot i que es tendeix a pensar que un LLM és un agent, el document aclareix que aquests models solen complir funcions d'interpretació, com traduir llenguatge natural, però no prenen decisions ni executen accions per si mateixos.

Finalment, es planteja la importància de definir clarament els objectius de cada sistema i assegurar que el seu comportament estigui alineat amb aquestes finalitats. Una mala definició pot generar resultats inesperats o fins i tot perjudicials. El text conclou que dissenyar i integrar aquest tipus de sistemes requereix no només capacitats tècniques, sinó també un enfocament rigorós en termes de governança, ètica i context organitzatiu.