La innovación y la tecnología son fundamentales para el desarrollo económico y social, pero su implementación debe ser responsable y transparente, especialmente en el sector público. En este sentido, la incorporación de la inteligencia artificial en el diseño y entrega de políticas y servicios por parte de los gobiernos puede mejorar la eficiencia y reducir costos, pero también puede generar sesgos y discriminación. Por ello, es crucial que los gobiernos promuevan la transparencia y la explicabilidad en el uso de la inteligencia artificial y establezcan medidas de rendición de cuentas algorítmicas.
El informe del Observatorio de Innovación Pública de la OCDE destaca la importancia de la responsabilidad algorítmica en el sector público y la necesidad de trabajar en conjunto para maximizar sus beneficios y minimizar sus posibles consecuencias negativas. En este sentido, la OCDE ha liderado la promoción de la responsabilidad algorítmica a través de los Principios de la OCDE sobre Inteligencia Artificial en 2019.
Además, varias agencias reguladoras y iniciativas gubernamentales están trabajando para garantizar el uso responsable de la inteligencia artificial en el sector público. En Europa, el proyecto de Ley de Inteligencia Artificial propone el establecimiento de la Junta Europea de Inteligencia Artificial (EAIB) para supervisar la implementación y aplicación de las normas de IA en toda la Unión Europea. En España, la Agencia Española de Supervisión de Inteligencia Artificial (AESIA) fue creada para supervisar y establecer normas sobre la IA tanto para el sector público como privado.
A pesar de los avances, aún hay retos que abordar. Las iniciativas para mejorar la rendición de cuentas algorítmica son fragmentadas y carecen de coherencia, lo que limita su potencial para el aprendizaje colectivo y la escalabilidad. Se necesitan enfoques para mejorar la coordinación institucional entre sectores y niveles de gobierno, así como la participación de la sociedad civil, académicos y empresas privadas en el ecosistema de responsabilidad algorítmica.
En conclusión, la responsabilidad algorítmica es fundamental para garantizar un uso responsable de la inteligencia artificial en el sector público. Se necesitan medidas de transparencia y rendición de cuentas para minimizar los riesgos y maximizar los beneficios de esta tecnología. Los gobiernos y las agencias reguladoras deben trabajar juntos para establecer marcos éticos y legales que regulen el uso de la inteligencia artificial en el sector público.
fuente: informe reciente del Observatorio de Innovación Pública de la OCDE publicado en febrero de 2023 puedes ver el informe completo aquí