Esther Paniagua: «La regulación es la herramienta que tenemos para evitar los abusos de poder y las violaciones de derechos humanos»

Publicado en mayo, 2023

Foto por Eloy Muñoz

Esther Paniagua: «La regulación es la herramienta que tenemos para evitar los abusos de poder y las violaciones de derechos humanos»

La pensadora tecnológica Esther Paniagua es una de las expertas que más firmemente, con profundidad y argumentos, está participando de la conversación pública sobre la transformación digital en la que nos encontramos. Su ensayo ‘Error 404. ¿Preparados para un mundo sin internet?’ (Debate, 2021) ofrece un recorrido exhaustivo en torno a los pilares sobre los que se asienta la cuarta revolución industrial, al tiempo que pone en valor los descubrimientos y avances en materia tecnológica que pueden ayudar a conocer al ser humano en esta contemporaneidad y tener una vida mejor. Paniagua, además, despliega una serie de propuestas vinculadas a la regulación y la gobernanza pública, cuestiones inusuales en este pensar lo tecnológico tan obsesionado con la inmediatez y la falta de profundidad en el pensamiento. Está en nuestras manos convertir la tecnología en nuestra aliada, arrojar una mirada crítica sobre la tecnología disruptiva. Parar y pensar antes de entregar nuestras vidas a las corporaciones. Ayudemos a que Internet haga de nuestro mundo un lugar más ligado al conocimiento y oportunidades para los seres humanos.

Soy consciente de la complejidad de abordar tu ensayo, reflejo natural de la complejidad de este tiempo que solicita, cada vez con más urgencia, de soluciones profundas, sosegadas y ligadas al conocimiento. Quiero situar nuestro punto de partida en algo tan sencillo como que tu ensayo no es una obra tecnófoba, al contrario, potencia un internet mejor para construir y participar de un mundo mejor. ¿Por qué tanta resistencia a modificar el imperativo de esta cuarta revolución industrial?

Hay resistencia porque hay muchos intereses creados y grupos de presión (lobbies) muy influyentes luchando contra ese cambio. Los gigantes tecnológicos tienen mucho poder, y lo que más les conviene es mantener el statu quo. Su modelo de negocio se basa en la explotación y mercantilización de la intimidad de los ciudadanos, y en la creación de aplicaciones y plataformas adictivas para alimentar la economía de la atención y de los datos. A su vez, esos datos sirven para entrenar tecnologías de inteligencia artificial, en muchos casos de forma ilegal. Y cuando las liberan al mundo rehúyen de toda responsabilidad ante sus impactos negativos, alegando que escapan a su control.

‘Error 404’ arranca planteando los posibles escenarios que nos lleven a un apagón total. Nos hablas de cinco caminos. De ellos, ¿cuál crees que es el más probable? ¿Y a qué escala?

Diría que un ciberataque que aproveche alguna de las vulnerabilidades del protocolo BGP, que es una especie de GPS del tráfico de internet. Un fallo en la actualización de este protocolo es lo que hizo que todas las aplicaciones de Meta (WhatsApp, Facebook, Instagram, etc.) desaparecieran de internet durante unas horas el 4 de octubre de 2021. También fue la causa de que Siria perdiera la conectividad durante algo más de dos días en 2012, debido a un supuesto error de cálculo de agencia de seguridad estadounidense (NSA). Este protocolo es también la vía que usan decenas de gobiernos en el mundo cuando quieren restringir el acceso a internet a sus ciudadanos. Desde 2019 ha habido más de 400 apagones de este tipo. En el peor de los escenarios, el alcance de un ataque de este tipo (o de un error que hiciera colapsar el BGP) podría llegar a ser global, y se podría tardar días en solucionarlo.

En un planeta totalmente dependiente de la tecnología, de Internet, ¿por qué están tan poco documentados los posibles efectos económicos y sociales de los cortes de sistemas tecnológicos? Resulta profundamente inquietante…

La información de la que disponemos en abierto proviene de informes de firmas independientes o de iniciativas sin ánimo de lucro y es muy limitada e incompleta. Además, suele limitarse a estimaciones de impacto económico, que, por supuesto también realizan (aunque no publican) las teleoperadoras, las empresas tecnológicas y los gobiernos. Hay ataques a los proveedores constantemente. Algunos los notamos y otros no, pero a nadie le conviene que salgan a la luz. Tampoco se ha hecho un trabajo de estimar cuál sería el efecto dominó en caso de colapso total de la red y cómo afrontar una situación así. Es un trabajo complicado, pero hay que hacerlo. En la mayoría de las organizaciones ni siquiera hay procedimientos sobre cómo actuar en caso de perder la conectividad, aunque sea por un mero ciberataque. Ni siquiera se piensa en ello como una posibilidad, por muy a la orden del día que esté.

«Hemos deconstruido todas las estructuras organizativas en la era analógica y las hemos reemplazado por una infraestructura tecnológica más eficiente, pero que nos deja expuestos. Hablamos de dependencia y salimos del coronavirus, aún más dependientes – si cabe- de internet; más digitalizados y, por tanto, más vulnerables ante su derrumbe». Somos muchos, en realidad, muchas, ahora abordaré este asunto del género y la resistencia a la hegemonía tecnológica, las que llevamos tiempo señalando que los procesos de digitalización masiva se han precipitado y acelerado aprovechando el marco de la pandemia. El problema no es únicamente la posible caída de la infraestructura digital, su posible colapso y nuestra dependencia, sino que hay procesos de desigualdad que se han acelerado y que están incrementando, por ejemplo, bolsas de pobreza. Este es el principal asunto que debería preocuparnos.

Sin duda, con este libro quería mostrar la decadencia de internet no solo desde el punto de vista de la seguridad sino desde lo social. Esto es: cómo los modelos de comercialización y privatización de internet, junto con las tecnologías de automatización, están contribuyendo a perpetuar la discriminación y la desigualdad. Hay centenares de casos documentados sobre cómo discriminan la llamada ‘toma de decisiones algorítmica’ (ADM) en educación, trabajo, vivienda, salud, servicios sociales, justicia o información; por razones de raza, género, religión, tendencia sexual, ingresos o capacidad; negando recursos u oportunidades, invisibilizando y esclavizando.

Pongamos como ejemplo el ámbito de la selección y contratación de personal. Hay ADM que escanean millones de webs de empleo y analizan los datos de cada persona para proponer a los mejores candidatos, con una visión distorsionada y que obvia que la vida offline de las personas no se refleja enteramente en internet. Además, estos programas a menudo basan su configuración del candidato ideal en función de las personas que históricamente han ocupado ese tipo de puesto, lo cual se ha demostrado que lleva a un marcado sesgo contra las mujeres (privadas durante siglos de acceso a puestos de poder y a multitud de trabajos) y contra ciertas minorías. Otras veces el problema es que las ofertas de empleo directamente no se muestran a dichos perfiles, que por tanto no podrán presentar su candidatura a las mismas. Este tipo de problema se da también con las ayudas sociales, la concesión de hipotecas y créditos, y un largo etcétera.

Tratemos ya la relación que hay entre género y resistencia al discurso tecnológico. Resulta muy llamativo que todas las personas que están elaborando discursos alternativos al hegemónico sean mujeres. Especialmente llamativo que todas señaléis hacia cómo la tecnología contribuye a la precarización y polarización del empleo…

Hay muchos motivos por los cuales esto puede estar sucediendo. Tal vez tenga algo que ver que el extremo de la brecha digital tiene perfil de mujer mayor, sin empleo, con bajos ingresos, con poca formación y habitante de una zona rural. La desconexión digital suele coexistir, además, con la exclusión social.

Por otra parte, desde los comienzos de internet se ha cultivado una cultura hostil a las mujeres, una cultura machista que sigue expulsando a las mujeres del sector tecnológico a través deformas encubiertas de sexismo. Yo no era tan consciente de esto. Una entrevista que hice a María Sefidari, presidenta de Wikimedia, me abrió los ojos a esta realidad. No solo tratan de apartar a las mujeres de internet, sino que se usa internet para apartar a las mujeres. Es una forma de activismo misógino que han estudiado investigadoras como Adrienne Massanari, desvelando las tácticas de acoso implícito o explícito que estos movimientos emplean.

Otras personas dirán que son las mujeres las que están (estamos) en estas luchas por la capacidad femenina de empatizar con los problemas sociales, la idea de equidad y el sentido de la justicia. Es una explicación no exenta de polémica, por cuanto perpetúa una visión estereotipada de la mujer.

En cualquier caso, mi impresión es que somos sobre todo las mujeres quienes estamos liderando la conversación y la acción en torno a la justicia, la equidad y la ética tecnológica. Me vienen decenas de ellas a la cabeza, muchas españolas, como Gemma Galdon, Nuria Oliver, Emilia Gómez o Lorena Jaume-Palasí o Isabel Valera, entre otras.

En otra parte del ensayo, cuando analizas el apartado del crimen, nos hablas sobre distintos tipos de cibercrimen. Me quiero parar el en apartado que dedicas a los más vulnerables. Como bien indicas, «toda tecnología se diseña con un propósito». En este ahora, cuál es el principal propósito, mantenernos enganchados el mayor tiempo posible, acaparar toda nuestra atención, o maximizar los procesos de desigualdad.

El propósito de la economía de la atención es el de mantenernos enganchados a la pantalla del móvil (o de la televisión conectada, o del ordenador) la mayor cantidad de tiempo posible. Pero este no es sino un medio para un fin: maximizar los beneficios en el marco de un modelo de negocio online basado en la publicidad hipersegmentada, y mantener el monopolio u oligopolio y el poder en el mercado y fuera de él, como superestructuras con mayor capacidad de influencia que muchos gobiernos.

«Los botones ‘Me gusta’ y sucedáneos, las notificaciones, la posibilidad de etiquetar amigos, las recomendaciones de nuevas amistades, los recordatorios de cumpleaños, la creación de grupos privados segmentados por interés, el chat instantáneo, las noticias recomendadas, las listas de tendencias o los puntos suspensivos mientras alguien escribe para que sepas que está al otro lado y no desconectes… Todo está diseñado con el objetivo de que te quedes ahí». Hemos pasado de la lógica de la atención a la economía de la atención. Tú amplías este espectro de reflexión al incorporar el asunto de la adicción, de la hiperactividad del sistema cerebral. Lo que conocemos como bucle lúdico. ¿En qué momento nos encontramos con la aparición de nuevas redes sociales? ¿Y cómo influye este sumatorio a nuestra capacidad cognitiva?

El uso lúdico de las pantallas perjudica todos los pilares del desarrollo. En los primeros años de vida se desarrolla el cerebro. Como explica el neurocientífico Michel Desmurget, toda experiencia sensorial no vivida por dedicar tiempo a una pantalla es una oportunidad perdida. Si justo en esa etapa las neuronas no reciben los «alimentos» adecuados en la cantidad correcta, no podrán aprender de forma óptima; un tiempo que jamás podrá recuperarse.

Por otra parte, la exposición de los menores a las pantallas fomenta su propensión a la distracción. Esto afecta, entre otras cosas, a sus resultados académicos. Se ha demostrado que la mera presencia del móvil reduce la capacidad cognitiva de los alumnos, y que quienes se distraen con el móvil en clase tienden a tomar notas de menor calidad, retener menos información y obtener peores resultados en los exámenes. Además, los alumnos a su alrededor se distraen también.

Hace poco me preguntaban si las redes sociales han muerto. Claramente no. Algunas, como Twitter, pierden relevancia. Otras la ganan. Y nacen alternativas, a menudo como declaración de principios contra lo que está mal en las redes sociales más usadas: contra el postureo, la perfección, la necesidad de parecer feliz, la necesidad de sentirse aceptado/a mediante ‘me gustas’ y gratificaciones instantáneas, y a favor de fomentar la conversación y la generación de capital social.

Ya toca que hablemos de AI, ¿cuáles son los peligros reales de la Inteligencia Artificial?

Antes hablábamos de la perpetuación de la discriminación y la desigualdad, y la polarización y precarización del trabajo. Estos no son solo riesgos, sino consecuencias negativas ya palpables del despliegue de la economía de plataformas y de la automatización descontrolada. Otros efectos igualmente graves son la escalada de la desinformación, amplificada por algoritmos que recompensan lo viral y que se usan de forma interesada para tratar de manipular la opinión pública. A la ecuación se añaden la vigilancia masiva, la censura y otros problemas que describo en Error 404.

Hemos estado conversando en torno al panorama actual desde el punto de vista más amenazante para la actividad de lo humano. Pasemos ahora a la parte que encierra esperanzas. Eres una de las más firmes defensoras de la regulación para que, precisamente, Internet sea la gran plataforma de conocimiento para la que fue concebida. ¿Por qué regular?

La regulación es la herramienta que tenemos para corregir la trayectoria de un mercado incapaz de corregirse a sí mismo, para evitar los abusos de poder y las violaciones de derechos humanos, y para estimular la competencia y la innovación. En ausencia de regulación, son las grandes plataformas las que deciden cómo funcionan las infraestructuras online, sin escrutinio público, sin transparencia, sin responsabilidad y sin el mandato de la gente, en contraposición con un sistema de gobernanza democrática cuyo desarrollo de normas incluya a las múltiples partes interesadas.

Vivimos rodeadas por el acrónimo ODS, la agenda 2030, para entendernos. Estamos a siete años de este cumplimiento y todas tenemos la sensación de que esta agenda se ha convertido más en una campaña de usar y tirar para los gobiernos que una agenda real. ¿Por qué es tan importante?

Los ODS son una declaración de principios que ha acabado por convertirse en un canto de sirena, una bandera que el sector privado y el público enarbolan sin hacerle justicia. Poner fin a la pobreza y al hambre; el acceso universal al agua potable, a la salud, y a una educación de calidad; cerrar la brecha de género; acabar con la desigualdad; garantizar una producción y consumo sostenibles; acabar con el cambio climático; salvar a los océanos, bosques y animales; garantizar la paz y la justicia, y una vida armónica. Son objetivos que muchos calificarían de irrealizables, utópicos y naíf, pero lo cierto es que lo único imposible es lo que no se intenta. Si estos objetivos no son la guía de cada una de nuestras acciones no llegaremos siquiera a acercarnos a su consecución. Sin embargo, la experiencia nos muestra que solo con buenas intenciones no se solucionan los grandes retos. Necesitamos normas vinculantes.

También apuestas, en un momento del ensayo, por los códigos profesionales. ¿En qué consiste?

Me parecen interesantes algunas propuestas que abogan por el impulso de códigos profesionales para los desarrolladores y diseñadores de tecnología. Los médicos tienen el juramento hipocrático, por el que se comprometen a velar por el bienestar de sus pacientes, a respetar su autonomía y dignidad y a evitar cualquier case de discriminación para con ellos. De igual modo, creo necesario un compromiso por un desarrollo y uso ético y justo de las tecnologías digitales, que haga conscientes a quienes las crean del impacto que puede tener su trabajo y que les exija los máximos estándares profesionales.

Quiero terminar esta conversación con la esperanza entre las esperanzas: la Alianza. Cada persona encierra una revolución.

La Alianza Democrática por la Gobernanza digital es la propuesta que hago en Error 404 para hacer frente a los problemas de la digitalización y la automatización y hacer que estas cumplan sus promesas de progreso y bienestar. Se trata de una unión de naciones que garantice el desarrollo democrático del presente y el futuro digital. Esta debe canalizar de forma efectiva la participación ciudadana y contribución de la inteligencia colectiva a la gobernanza. Esa imaginación colectiva es clave para inventar y narrar nuevos futuros luminosos hacia los que dirigirnos en la búsqueda de una prosperidad compartida.

También te puede interesar...

Acerca de
Últimas entradas

Cristina Consuegra

Cristina Consuegra es coordinadora de MaF|Festival de Málaga; coordinadora del Ciclo
‘Anverso/Reverso’ del Teatro Cervantes; programadora de Screen TV|Festival de Málaga;
programadora de los Encuentros con Autores en las Bibliotecas del Ayto. de Málaga;
coordinadora del I Ciclo ‘¿A qué suena?’, del Ayuntamiento de Málaga. Coordinadora del Ciclo
‘El MAE se mueve’ organizado por el Museo Andaluz de la Educación.

Colabora con
programaciones literarias con la Diputación de Málaga. Coordinadora del Ciclo ‘A qué suena’
Huelva de Las Tardes del Foro de la Diputación de Huelva. Programadora de actividades
feministas para distintas entidades públicas y privadas. Vocal de Feminismo del Ateneo de
Málaga. Colabora en Canal Sur Radio con una sección propia en Días D Andalucía y con
entrevistas en secretOlivo. Ha coordinado el ensayo coral ‘Coordenadas. Pensar la sociedad en
clave feminista’ (2017).

Últimas entradas de Cristina Consuegra (ver todo)