Auditoría algorítmica para sistemas de toma o soporte de decisiones
Fecha
Apr 2022
Un sistema automatizado de toma o soporte de decisiones (ADS por las siglas en inglés de Automated Decision Support) es un sistema computacional que puede, para un determinado conjunto de objetivos definidos por seres humanos, hacer predicciones y recomendaciones o tomar decisiones que inciden en entornos reales o virtuales. Estos sistemas están diseñados para operar con diversos grados de autonomía. Durante los últimos años, los ADS han crecido exponencialmente en número y ámbitos de aplicación. En la actualidad, cada vez interactuamos con una mayor cantidad de ADS, a menudo sin que nos percatemos de ello. Sin embargo, la falta de conciencia acerca de su uso no reduce los riesgos sociales, en caso de que estos sistemas estén mal diseñados o se hayan creado sin tomar las precauciones necesarias.
Esta guía buscar servir de instrumento que ayude a tomar conciencia sobre las implicaciones y consecuencias que conlleva la puesta en marcha de sistemas automatizados en la toma o soporte de las decisiones que afectan las vidas de las personas. Si bien las auditorías se han convertido en un componente fundamental en el campo cada vez más extenso de la gobernanza algorítmica, por sí solas no son suficientes para mitigar los impactos de la implementación y ejecución de un sistema; en esencia constituyen un proceso mediante el cual se determina el cumplimiento de ciertos estándares. Con todo, las auditorías sí desempeñan un papel indispensable en materia de evaluación de impacto y de consecución y disponibilidad de información, tanto en el ámbito de la entidad misma, como en el de los organismos reguladores, así como para los afectados potenciales y para la sociedad en su conjunto.
Esta guía buscar servir de instrumento que ayude a tomar conciencia sobre las implicaciones y consecuencias que conlleva la puesta en marcha de sistemas automatizados en la toma o soporte de las decisiones que afectan las vidas de las personas. Si bien las auditorías se han convertido en un componente fundamental en el campo cada vez más extenso de la gobernanza algorítmica, por sí solas no son suficientes para mitigar los impactos de la implementación y ejecución de un sistema; en esencia constituyen un proceso mediante el cual se determina el cumplimiento de ciertos estándares. Con todo, las auditorías sí desempeñan un papel indispensable en materia de evaluación de impacto y de consecución y disponibilidad de información, tanto en el ámbito de la entidad misma, como en el de los organismos reguladores, así como para los afectados potenciales y para la sociedad en su conjunto.
