¿Controlamos las tecnologías que nos controlan?

Hace ya unos cuantos años, mi amigo Fernando Román Aguilera (matemático) y yo, advertíamos en este artículo en el diario El País de los riesgos y amenazas de la inteligencia artificial y los algoritmos en la democracia, los derechos humanos y la visión ultrasesgada de la realidad que pueden provocar.

Desde entonces, la IA ha avanzado deprisa. Muy deprisa. Tan deprisa que sin darnos cuenta los seremos humanos nos hemos metido de lleno en el camino hacia una reformulación del mundo y de la inteligencia humana. ¿Y hacia dónde nos conduce ese camino? Nadie lo sabe por ahora. Pero lo que sí sabemos hoy, es que las nuevas tecnologías nos han seducido de tal manera que hemos claudicado colectivamente a sus encantos y potencialidades. De modo que ya parece que es imposible mejorar sin avanzar con la IA.

No dudo de que esto pueda ser así. Pero como la claridad es amiga de la verdad, me parece importante sacar los pies de la pantalla y ponerlos en tierra firme. Si somos sinceros con nosotros mismos, compartiereis conmigo que, en conjunto, la cosa no va muy bien. La sociedad está cada vez más polarizada. Emergen guerras sin descanso. Sufrimos crisis climáticas sin precedentes. Vamos perdiendo autonomía personal. Nos cuesta cada vez más pensar y decidir por nosotros mismos. Actuamos más automatizados que nunca. Y, además, vemos la vida pasar con demasiados filtros. En realidades encapsuladas debido al mucho tiempo que nos informamos y relacionamos en el entorno virtual…

Como explico en esta presentación que se puede consultar abierta y libremente, o en esta publicación (realizada gracias a mis amigos del Centro de Investigación por la Paz Gernika Gogoratuz), me parece conveniente que nos paremos a pensar en los retos a los que nos enfrentamos en el desarrollo de la IA en relación con su contribución (o no) a la democracia y los derechos humanos. Que, como podréis ver, son multidimensionales, intersecciones y globales y afectan a cualquier ámbito de la vida y la sociedad. Por ello creo que es tan importante que paremos a reflexionar sobre ello.

La reciente aprobación de la primera ley de inteligencia artificial (AI Act) en la Unión Europea será, seguramente, un gran paso para equilibrar contrapoderes e intereses en la economía, la geopolítica y en lo social y que esto, a su vez, contribuya a garantizar un desarrollo y aplicación de la IA con un mayor sentido de la justicia. Una norma que, en algunas cuestiones como las del uso de sistemas biométricos, sobre los sistemas de puntuación social o la identificación de emociones, a mi juicio, parecen estar bien enfocadas, según la información que ha ido facilitando estos días la Comisión Europea.

Sin embargo, y para que reflexionemos juntos de ahora en adelante, me sigue preocupando el poder de amplificación de prejuicios y sesgos de algunos sistemas de IA, especialmente de los de uso predictivo en el ámbito de la seguridad y la justicia. La deriva de polarización, cámaras de eco y normalización de discursos de odio a través de las redes sociales, que pueden influir tanto en un conflicto o un genocidio, por ejemplo. Cómo se va a proteger la intromisión de la IA en el forum internum (como muy bien desgrana mi amiga Dr. Susie Alegre en su libro “Libertad de pensamiento”). O qué controles políticos y sociales se pueden llevar a establecer (si es que finalmente se establecen) sobre el excedente conductual, el cual es ya, junto a los datos, la nueva fuente de riqueza del nuevo orden económico y social en el que vivimos (como bien explica Shoshana Zuboff en su libro “Capitalismo de Vigilancia”). En todo caso, como don prudente me llama la gente, mejor esperar al texto definitivo de la norma para valorarla en su conjunto como es debido.

Y aunque de poetas y de locos todos tenemos un poco, por favor, no se me vuelvan neoluditas al leer esto. Solo reflexionen y expandan su mente como los sabios (pero los de carne y hueso).

Rafael Merino,

Especialista en drets humans humans, tecnologia i coordinador de projectes de la Fundación Fernando Pombo