Intel·ligència artificial i corrupció pública: un nou desafiament per a la transparència

L'ús creixent de sistemes d'intel·ligència artificial en l'administració pública està generant oportunitats per a millorar l'eficiència en la gestió pública. No obstant això, també planteja nous riscos relacionats amb la transparència i el control democràtic de les decisions administratives.

Cada vegada més administracions utilitzen algorismes per a gestionar subvencions, prioritzar inspeccions o analitzar grans volums de dades. Encara que aquestes eines poden optimitzar els processos administratius, també poden generar problemes si els algorismes no són transparents o auditables.

Diversos experts han advertit que els sistemes automatitzats poden ocultar biaixos, errors o decisions arbitràries si no existeixen mecanismes de supervisió adequats. En aquest context, el principi de transparència adquireix una importància fonamental.

La normativa europea sobre intel·ligència artificial estableix requisits específics per als sistemes considerats d'alt risc, incloent-hi obligacions de traçabilitat, avaluació de riscos i supervisió humana.

La correcta implementació d'aquestes normes serà clau per a evitar que l'automatització de decisions públiques pugui convertir-se en un nou espai d'opacitat administrativa o fins i tot de corrupció.

Garantir la transparència algorítmica i l'accés a la informació sobre els sistemes utilitzats per les administracions serà un dels grans reptes per a la integritat institucional en els pròxims anys.