The Call for AI Governance

"The Call for AI Governance" és un informe de Deloitte que explora com les organitzacions poden gestionar els beneficis i riscos de la intel·ligència artificial (IA) mitjançant estructures de governança efectives. L'IA s'ha convertit en una tecnologia essencial per a les empreses, oferint millores en productivitat, però també presentant desafiaments com ara biaixos en les dades, fallades en els sistemes i riscos de ciberseguretat.

L'informe destaca dos components clau de la governança de l'IA:

1. Sistema de Gestió de Qualitat (QMS): Aquest sistema, dirigit principalment als desenvolupadors d'IA, assegura que els sistemes es construeixin segons estàndards de qualitat. Inclou documentació tècnica detallada, proves rigoroses i avaluacions de conformitat per prevenir defectes des de l'inici del desenvolupament.

2. Sistema de Gestió de Riscos (RMS): Aquest sistema, orientat als usuaris d'IA, se centra en monitorar el rendiment del sistema, registrar problemes i resoldre ràpidament les fallades. Assegura que els sistemes d'IA continuïn funcionant correctament al llarg del temps.

El document també analitza l'AI Act de la Unió Europea, la primera regulació global de l'IA, que categoritza els sistemes d'IA segons el seu nivell de risc i imposa requisits més estrictes per als sistemes de "Alt Risc". Explica la diferència entre els sistemes d'IA d'únic propòsit (SPAI) i els models d'IA de propòsit general (GPAI).

L'informe proposa un enfocament integral per a la governança de l'IA basat en quatre pilars:
- Estructures: Comitès directius, rols i responsabilitats clars.
- Pràctiques: Supervisió, qualificacions i empoderament.
- Processos: Aprovacions, avaluacions de riscos i proves rigoroses.
- Sistemes: Plataformes tecnològiques per automatitzar la governança.

Finalment, el document subratlla que una bona governança de l'IA no només compleix amb els requisits regulatoris, sinó que també aporta beneficis tangibles, com evitar costos associats a defectes de qualitat, interrupcions del negoci, sancions per incompliment i danys a la reputació. Destaca la solució de Gestió de Qualitat i Risc de l'IA de Deloitte com a eina per implementar una governança eficaç i eficient.