La ONU ha presentado un informe en el que se alerta sobre el uso del Big Data que están haciendo los paises. Philip Alston, relator especial para la pobreza de la ONU, ha llevado a cabo el informe para describir el «Estado de bienestar digital». Alston denuncia que el uso creciente de la tecnología en los servicios del Estado puede estar dañando la calidad de vida de los colectivos más vulnerables.
El autor asegura que la opción de usar masivamente algoritmos y la Inteligencia Artificial (AI en inglés) tiene una «atracción irresistible» pero que existe un gran peligro de generar problemas de graves consecuencias. Alston pone como ejemplo los programas que permiten a las autoridades combinar múltiples categorías de datos en base a un «modelo de riesgo» no revelado que teóricamente permite identificar a algunas personas como más propensas a cometer fraude en la solicitud de ayudas.
«Las tecnologías digitales del estado de bienestar no son el resultado inevitable del progreso ‘científico’, sino que reflejan las decisiones políticas tomadas por los seres humanos», continúa Alston. Pone el foco sobre el problema ético que conlleva el uso de sistemas automatizados y de Inteligencia Artificial, asegurando que «se corre el riesgo» de abandonar los principios de los derechos humanos junto «con la toma de decisiones democráticas».
En el informe de la ONU también se menciona a las grandes compañías tecnológicas, a las que se les está permitiendo desregularizarse en «zonas libres de derechos humanos». Alston hace especial hincapié en cómo los presupuestos para «el bienestar social» están siendo recortados y se están imponiendo nuevas sanciones a personas «analfabetas digitales o que no tienen acceso a Internet».
Para Alston, si buscamos garantizar la justicia social, son necesarios «cierto grado de transparencia y garantías de que determinados grupos no están siendo injustamente seleccionados», en referencia al hecho de que el programa SyRI sólo se ha utilizado por ahora para analizar la población de barrios muy concretos.»Este problema se agrava cuando sabemos que, una vez que el programa fue dotado de base legal, prácticamente no hubo debate en el Parlamento holandés, los medios no dedicaron atención al asunto, y no hubo transparencia sobre el funcionamiento del sistema: el resultado es que los criterios [de SyRI] siguen siendo un misterio incluso para aquellos que lo han estudiado con detenimiento».
El informe recomienda que, en lugar de obsesionarse con el fraude, el ahorro de costes, las sanciones y las definiciones de eficiencia, el punto de partida debería ser ver “cómo los presupuestos dedicados a cuestiones sociales pueden transformarse a través de la tecnología para garantizar un nivel de vida más alto para los más vulnerables y desfavorecidos”. El autor del documento advierte que, por contra, a menudo la introducción de los algoritmos y otras soluciones digitales comporta una reducción de dichas partidas presupuestarias.
