Expertos mundiales en transformación digital y en el impacto socioeconómico de los grandes cambios tecnológicos llaman a avanzar urgentemente en acciones concretas para garantizar la protección y promoción de los derechos de las personas en este ámbito y no quedarse solo en discursos bienintencionados.
Esta concepción compartida protagonizó la jornada Humanism in the digital age: the urban contribution ”, organizada por Digital Future Society y el Ayuntamiento de Barcelona este lunes, donde se creó un gran espacio de debate y reflexión con la participación de 150 entidades y más de 40 ponentes de primer nivel. La gran acogida de la jornada refuerza Barcelona como capital mundial del humanismo tecnológico.
Durante la jornada se celebraron once sesiones centradas en varios aspectos relacionados con los derechos digitales y la ética en la Inteligencia Artificial (IA), con las aportaciones de agentes de la administración pública, responsables políticos, expertos, investigadores y activistas. El papel de las ciudades y zonas urbanas, donde la transformación digital es aún más acelerada, centró las temáticas del evento.
Derechos digitales: mantener el uso de datos y las brechas bajo control
La escritora y filósofa del Instituto de ética en la Inteligencia Artificial en la Universidad de Oxford, Carissa Véliz, abrió la jornada con una reflexión sobre los Derechos Humanos en la era digital. Véliz destacó la importancia de ser conscientes de los datos que compartimos, y advirtió sobre el derecho de protección y control de los datos “hay mucho en juego, nuestra democracia está en juego”. Además, señaló en positivo los pasos en materia de regulación que está haciendo Europa, aunque “hace falta seguir trabajando”.
A continuación, fue el turno de las ciudades y su papel en la construcción de una transformación digital inclusiva, segura y responsable, que reunió a los representantes de los ayuntamientos de Burdeos, Rotterdam y París para reflexionar sobre su papel como actores clave.
En el caso del municipio holandés, Roos Vermeij destacó sus dos principales prioridades: equidad e inclusión digital. “Nuestra principal misión es trabajar en estas prioridades y preparar a las persones para los trabajos del futuro, no sólo en la escuela, sino a nivel local”, apuntó. En el caso de la capital francesa, Arnaud Ngatcha trasladó que “las ciudades están en el centro de la transformación digital, porque son las que dan atención diaria a los ciudadanos”.
Por su parte, la representante de Burdeos, Delphine Jamet destacó la necesidad de que “los servicios digitales deben respetar los derechos y la libertad de los ciudadanos”, aparte de recalcar que “es necesario que estos servicios incluyan a todos, no pueden ser exclusivos para unos pocos”. Por su parte, la moderadora y tercera teniente de alcaldía del Ayuntamiento de Barcelona, Laia Bonet, puntualizó que “para no agravar las desigualdades necesitamos una política atrevida de inclusión digital y trabajar en el contexto del humanismo a nivel local, nacional e internacional».
Asimismo, los responsables tecnológicos de grandes ciudades como Nueva York (John Paul Farmer) y Barcelona (Michael Donaldson), junto con el asesor de la UNU-EGOV, Morten Meyerhoff, y la directora del Observatorio Nacional de Tecnología y Sociedad, Lucía Velasco, dialogaron sobre las políticas públicas para luchar contra las brechas digitales. Meyerhoff se centró en la calidad de datos de qué disponen las administraciones: “vemos que cuanto más ricas son las ciudades, mayor es el número de datos que tenemos a disposición, pero siempre serán limitados, veremos algunos segmentos del usuario, pero faltará contexto”.
Por su parte, Donaldson recordó que “la brecha digital no es nueva, pero que hay que buscar soluciones innovadoras para mitigarla”. Además, destacó el fuerte compromiso de la ciudad Barcelona en la recopilación de datos y expuso que “el 1% de la población no podía acceder a Internet por motivos económicos”, un dato que asegura que se puede abordar a corto plazo. De la misma manera, Farmer incidió que para luchar contra las brechas digitales debemos implementar una estrategia que considere el acceso, la conectividad, la infraestructura y asequibilidad de las nuevas tecnologías, ya que la pandemia “evidenció que la tecnología no es un lujo, más bien una necesidad y la conectividad debe ser universal”.
Por último, Velasco, se centró en la frustración digital e insistió: “pedimos a los ciudadanos que interactúen con las administraciones digitales independientemente de los usuarios y su experiencia o acceso”. Como resultado, alejamos a la población de la tecnología y aumentamos su frustración, reacción “contraria de lo que busca la digitalización”.
Una de las sesiones de keynote más destacadas fue a cargo de la directora ejecutiva de la Alianza para un Internet Asequible, Sonia Jorge, que incidió en la necesidad de entender las consecuencias de la brecha digital, especialmente en brechas geográficas y de género. Jorge destacó que “la brecha de género en las zonas rurales es brutal, hablamos del 52%” y, según sus cálculos, “el mundo ha perdido una oportunidad de 1 billón de dólares por no haber incluido a las niñas en las sociedades digitales”, advirtiendo además que cuando excluimos, estamos alimentando las desigualdades.
Asimismo, Núria Oliver, directora de Data Science de la Alianza Data-Pop, en su keynote también reflexionó sobre la falta de mujeres en el proceso de desarrollo de nuevas tecnologías. Oliver manifestó su preocupación por la falta de estudiantes en materias STEM y afirmó que “cualquier campo que carezca de diversidad no desbloqueará todo su potencial y las soluciones nunca serán totalmente inclusivas”.
Inteligencia Artificial: de la interpretación a la regulación
Las tecnologías de reconocimiento facial y su uso responsable en entornos urbanos ha sido un gran punto de debate con las intervenciones de voces internacionales como la asesora senior de políticas en la Iniciativa de Derechos Digitales Europeos, Sarah Chander, el eurodiputado y relator de regulación sobre IA, Brando Benifei y el investigador senior en Human Rights Watch, Amos Toh.
Todos coincidieron en la necesidad de nuevas regulaciones que preserven y garanticen los derechos fundamentales de la ciudadanía. Chander se centró en la concienciación sobre el impacto de la tecnología “necesitamos un mecanismo de conocimiento para entender el riesgo humano, quiénes serán impactados, cómo y por qué”. Asimismo, Benifei afirmó que el Parlamento europeo es la voz más fuerte a favor de los derechos fundamentales, por ello “es importante que adopte medidas firmes para prohibir estas tecnologías o que declare una posición clara”.
El eurodiputado destacó que, en la actualidad, su uso está restringido con un texto legal, pero sigue “teniendo muchas interpretaciones”. Una afirmación que coincide con la reflexión de Amos Toh, donde destacó que aspiramos a “empoderar a los ciudadanos para entender cómo se diseña la tecnología y marcar sus límites”. Toh concluyó que la tecnología a veces es necesaria para la prestación de servicios básicos, pero también “una plataforma para facilitar el debate y la toma de decisiones políticas».
La ética operacional en Inteligencia Artificial centró otra de las sesiones, abordando los estándares de regulación con el miembro del gabinete de la vicepresidenta Margrethe Vestager de la Comisión Europea, Werner Stengg, que aseguró el compromiso de la institución para crear un marco legal eficaz y recordó que “las regulaciones no son necesariamente el enemigo de la innovación tecnológica”.
Por su parte, el profesor de la UOC, Agustí Cerrillo, se centró en la complejidad de los algoritmos, ya que “cambian con el tiempo a medida que recuperan nuevos datos”. También hay que sumar la falta de privacidad, un riesgo que, como expuso la CEO de Open Knowledge Foundation, Renata Ávila, debería “establecerse por defecto, pero no es suficiente, necesitamos otros valores como la innovación abierta”, la cual afirma tiene un gran impacto.
Otro enfoque sobre la Inteligencia Artificial fue el aspecto de la discriminación y su uso desde el punto de vista de parcialidad, género, raza y pobreza. Según el fundador y director de investigaciones en OptIA, Ricardo Baeza-Yates, no podemos considerar los datos recopilados como algo negativo, más bien neutral, y afirmó que “el bucle de interacción entre el sistema y el usuario puede afectarnos a todos”.
Como respuesta la responsable de transformación digital en lafede.cat, Judith Membrives, aseguró que “la tecnología puede ayudar a resolver problemas sociales”, pero debemos incluir a la ciudadanía para “dar voz a los afectados por los resultados de los sesgos de los algoritmos”. Asimismo, la investigadora y profesora en la Universidad de Södertorn, Anne Kaun, consideró que “los ciudadanos son más conscientes del sesgo tecnológico” y reflexiona sobre el hecho de que estamos probando tecnología en colectivos muy vulnerables.
Por último, el profesor de la UPC, Cecilio Angulo, posó una reflexión sobre la definición de un algoritmo y aseguró que “siempre va a ser discriminatorio. Su trabajo es discriminar y no todos discriminan en un mal sentido”.
De la misma manera, la democracia algorítmica fue otra de las sesiones organizadas bajo el marco de ActivosTech, que trató de explorar soluciones para comprender el papel de las tecnologías de Inteligencia Artificial y su integración frente a los Derechos Humanos.
La consejera delegada y fundadora de ETICAS, Gemma Galdón, inició el debate con una reflexión sobre la concentración de poder y pidió que “dejen de estar en manos de unos pocos y se replantee, incluso, si se necesitan otras infraestructuras para rediseñar el entorno digital”. Asimismo, la analista de políticas de tecnología, digital del Real Instituto Elcano, Raquel Jorge Ricart, declaró que “la gobernanza algorítmica se está limitando a una serie de países, ya que, ¿dónde están los países de América Latina, los del África subsahariana, incluso algunos de la Unión Europea?».
Como respuesta, la investigadora del Barcelona Centre for International Affairs, Andrea G. Rodríguez, concluyó que “no existe un esquema compartido por parte de los actores relevantes sobre qué hacer y qué no hacer con el código” y pidió transparencia y responsabilidad por parte de las empresas. Por otro lado, la directora de inteligencia artificial en Singular, Nerea Luis, se centró en los usuarios y pidió concienciación por parte de los ciudadanos y reiteró que «los datos son un negocio, pero te das cuenta de lo desprotegidos que estamos».
Por último, se trataron los riesgos asociados con la recopilación de estos datos también han aumentado sustancialmente en los últimos años a medida que la informática generalizada se convierte en una realidad.
Este fenómeno ha tenido nuevas consecuencias como expuso el experto en gobernanza de datos en UIA y profesor invitado en SciencesPo, Simon Chignard, que reflexionó sobre el papel de las ciudades para “luchar contra la resignación digital que parece ser una preocupación creciente”. Ante esto el líder de equipo y experto en InTouchAI.eu, Gianluca Misuraca respondió que debemos “utilizar la tecnología a favor de los ciudadanos”, por ello expuso que “tenemos que preguntarnos qué se puede hacer para garantizar que se salvaguarde la resiliencia digital y cómo podemos gobernar la Inteligencia Artificial”.
Por su parte, la asesora de la Secretaría de Estado de Digitalización e Inteligencia Artificial, Belén Santa Cruz, se enfocó en las nuevas regulaciones y afirmó que “necesitamos estudiar el impacto en los derechos digitales, como hacemos en otros aspectos” e ilustró el caso español con la presentación de la Carta de Derechos Digitales del Gobierno de España.
El acto concluyó con el cierre institucional a cargo del comisionado de Innovación Digital del Ayuntamiento de Barcelona, Michael Donaldson y el CEO de la Fundación Mobile World Capital Barcelona, Carlos Grau, que recalcó el compromiso firme para pasar a la acción y aseguró “construir y ampliar más alianzas y colaboraciones para avanzar en todos los retos discutidos durante la jornada”.
Asimismo, recordó que la respuesta más eficaz a la complejidad de estos desafíos es “trabajar juntos y fomentar la cooperación y la colaboración entre todos los actores y partes interesadas clave”.
La jornada “Humanism in the digital era: the urban contribution” se puede volver a ver en el siguiente enlace: https://www.youtube.com/playlist?list=PLIy7U5iKUMpJqwBYaJO1P-FElHfGvbLpd
