Una agencia pública que supervise el uso de los algoritmos y de la IA en España: esto es lo que plantea el gobierno

Una agencia pública que supervise el uso de los algoritmos y de la IA en España: esto es lo que plantea el gobierno

El gobierno de España ha pactado la creación de una Agencia Española de Supervisión de la Inteligencia Artificial, tras la propuesta de Más País-Equo que ha puesto sobre la mesa la necesidad de una entidad que pueda controlar los algoritmos de las redes sociales y supervisar cómo estos se aplican.

La formación que lidera Íñigo Errejón puso esta condición, entre otras varias propuestas y enmiendas, para apoyar los Presupuestos Generales del Estado de 2022 (en los que la tecnología ha estado muy presente) y el gobierno de coalición aceptó la propuesta.

«Proponemos una Agencia Estatal de Algoritmos que regulen, por ejemplo, su uso en su aplicación al trabajo, estudien su impacto en la salud mental y determinen si pueden ser discriminatorios», han dicho desde Más País-Equo sobre su idea respecto a esta agencia estatal que va a comenzar a formularse.

Ha de ser un órgano con «personalidad jurídica pública, patrimonio propio y autonomía en su gestión». Según la enmienda, se encontrará adscrita a la Secretaría de Estado de Digitalización e Inteligencia Artificial, dentro del Ministerio de Asuntos económicos y Transformación Digital.

La función de esta agencia de algoritmos

Inteligencia artificial

De acuerdo con los planteamientos de Más País-Los Verdes Equo, la «Agencia Nacional de Auditoría de Algoritmos» tendrá que encargarse de coordinar e impulsar actuaciones destinadas a ayudar a las autoridades competentes y a las instituciones privadas, que así lo solicite, a auditar todos aquellos algoritmos de inteligencia artifical usados en la administración pública (de acuerdo con Errejón aún no están pero en el proceso de modernización tecnolñogica del sectror público se contempla su implementación) o empresas privadas para garantizar que no reproducen dinámicas de discriminación por motivos de género, raza, orientación sexual, etc.

Este organismo quedará encargado de auditar de forma periódica los algoritmos de las redes sociales para estudiar sus efectos sobre la extensión de discursos de odio, contra la salud pública o la salud mental de la población publicando informes periódicos sobre el mismo. Para esta labor se ha acordado destinar 5 millones de euros en los próximos Presupuestos Generales.

Algoritmos aplicados a trabajadores y repartidores

algoritmos riders

Además de usarse, por ejemplo, para contratar a trabajadores, el algoritmo también se está usando a nivel mundial para controlar si los empleados realizan sus labores a tiempo. En un sector en el que se usa a menudo es en el de los repartidores (también conocidos como riders).

En Genbeta ya publicamos un artículo sobre la situación de los conductores de Amazon en Estados Unidos que alegan que fueron despedidos por la información que un bot da sobre ellos a la empresa, pero que esta algoritmo no contemplaba problemas cotidianos totalmente ajenos al trabajador (como que una urbanización esté cerrada y nadie abra la puerta principal o haya un atasco en la carretera).

Íñigo Errejón, al plantear las ideas de esta agencia, recordó el caso de una empresa rusa donde los algoritmos despidieron a 150 personas tras valorar su rendimiento en el trabajo usando diferentes parámetros y ser declarados improductivos, según el bot.

En España, la Ley Rider aprobada el pasado mes de marzo ya contempla que la tecnología de los algoritmos condiciona el devenir de los trabajadores que se dedican a repartir a domicilio. Esta obliga a las empresas a «informar a las personas trabajadoras sobre los algoritmos o sistemas de inteligencia artificial que incidan en las condiciones de trabajo».

Distintas fuentes de las empresas digitales afectadas explicaron a Xataka que si estaban en contra de esto es porque compartir esta información puede «reducir su competitividad frente a los rivales».

Ahora, la futura Agencia Española de Supervisión de la Inteligencia Artificial será la responsable de velar porque las plataformas digitales cumplen con su nueva obligación de informar sobre cómo aplican la inteligencia artificial al trabajo.

Hay que recordar que en su informe ‘El papel de las plataformas digitales en la transformación del mundo del trabajo’, la Organización Internacional del Trabajo apunta que «si bien las prácticas tradicionales de recursos humanos basan la selección de personal en gran medida en los niveles de formación y la experiencia, la selección algorítmica suele venir determinada por indicadores como las puntuaciones, las reseñas de clientes o consumidores, los índices de cancelación o aceptación de trabajos y los perfiles de los trabajadores».

La función específica de esta agencia es «la minimización de riesgos significativos sobre la seguridad y salud de las personas, así como sobre sus derechos fundamentales, que puedan derivarse del uso de sistemas de inteligencia artificial».

Papel de esta agencia en el uso de algoritmos en redes sociales

Mientras que la propuesta aceptada por el gobierno deja claro que la Agencia Estatal deberá controlar que, efectivamente, se cumpla lo dictado en la llamada «Ley Rider», no se deja tan claro cómo deberá actuar cuando hablamos del uso de los algoritmos en las redes sociales.

Gigantes tecnológicos como el imperio Facebook (que también tiene a Instagram), Twitter o Google usan los algoritmos para llevar a cabo sus labores, pero su funcionamiento es un misterio de cara al público (aunque una reciente filtración de Facebook ha dejado ciertas informaciones al descubierto que no dejan en buen lugar a la empresa).

En su intervención en el congreso, Errejón recordó estas informaciones de Facebook filtradas que mostraron que la empresa ya sabía que el uso de sus redes sociales «perjudicaba la salud mental de las personas más jóvenes y que fomentaba los trastornos alimenticios» en este sector de la población. La futura Agencia deberá encargarse de monitorizar que las publicaciones a las que nos exponemos en redes sociales cumplen con los criterios de las leyes españolas. Pero no se ha especificado cómo se va a conseguir algo así.

Pleanteamientos desde Europa

europa

Contar con mecanismos que controlen los algoritmos no es nada nuevo. No hay que olvidar que la Comisión Europea ya ha hablado de estos temas y en la Directiva de la Unión Europea (2019/1150, que se intentará traer a nuestro cuerpo normativo por aprte del Ministerio de Consumo) quiere que los buscadores como Google sean más abiertos en todo lo que tiene que ver con mostrar de dónde salen los resultados ofrecidos.

Lo que se pide es que los buscadores muestren qué parámetros marcan que muestren los resultados que acaban apareciendo. Lo polémico aquí es que, por ejemplo, Google tenga que mostrar partes de su algoritmo. En unas pautas ofrecidas por la Unión Europea, sin embargo, se explica que lo que los buscadores tienen que detallar son las variables que se tienen en cuenta a la hora de hacer el ranking, pero no el algoritmo en sí.

Además, la Unión Europea ha plantado analizar cada sistema de inteligencia artificial (IA) antes de que se implante, de acuerdo con el borrador de Reglamento sobre IA que la Comisión Europea propuso en verano. El Gobierno de España propuso a nuestro país como un territorio donde probar cómo pueden ejecutarse de forma efectiva regulaciones como esta.

(function() { window._JS_MODULES = window._JS_MODULES || {}; var headElement = document.getElementsByTagName(‘head’)[0]; if (_JS_MODULES.instagram) { var instagramScript = document.createElement(‘script’); instagramScript.src = ‘https://platform.instagram.com/en_US/embeds.js’; instagramScript.async = true; instagramScript.defer = true; headElement.appendChild(instagramScript); } })();


La noticia Una agencia pública que supervise el uso de los algoritmos y de la IA en España: esto es lo que plantea el gobierno fue publicada originalmente en Genbeta por Bárbara Bécares .

Fuente

Deja un comentario

A %d blogueros les gusta esto: