Descarga la aplicación para disfrutar aún más
Vista previa del material en texto
LA DEMOCRACIA ALGORÍTMICA: INTELIGENCIA ARTIFICIAL, DEMOCRACIA Y PARTICIPACIÓN POLÍTICA1 Por JORGE CASTELLANOS CLARAMUNT Profesor contratado predoctoral (FPU) Departamento de Filosofía del Derecho y Política Universitat de València jorge.castellanos@uv.es Revista General de Derecho Administrativo 50 (2019) RESUMEN: Este artículo trata de mostrar una visión de la realidad democrática, principalmente de las cuestiones que afectan a la participación política, desde el punto de vista de una creciente incidencia de la tecnología. Los avances de la Inteligencia Artificial, el desarrollo de los algoritmos y su aplicación a las cuestiones empresariales y sociales llevan a considerar que el ámbito político también deberá adaptarse a la entrada de estos nuevos elementos. Por ello se presenta la cuestión desde una perspectiva negativa, con temas como la customización política y la reducción de la capacidad de conocer planteamientos diferentes, como también desde una perspectiva positiva, en base a las posibilidades que pueden derivarse de una mayor robotización de los empleos, con el consiguiente proceso de ampliar el tiempo disponible por parte de los ciudadanos para participar en las cuestiones públicas. En último lugar, se analiza la cuestión legal y ética que conllevan estos avances y la repercusión que pueden tener en los sistemas democráticos futuros. PALABRAS CLAVE: Inteligencia artificial, democracia, algoritmos, customización, participación política. SUMARIO: I. INTRODUCCIÓN. II. PARTICIPACIÓN CIUDADANA E INTELIGENCIA ARTIFICIAL: ASPECTOS POSITIVOS Y NEGATIVOS. 2.1. Perspectiva negativa. 2.1.1. La customización política. 2.1.2. Big Nudging. 2.1.3. Siri, ¿a quién tengo que votar? 2.1.4. ¿Qué problemas políticos solucionan los algoritmos? 2.2. Perspectiva positiva. 2.2.1. La robotización. 2.2.2. Regreso al pasado. 2.2.3. La libertad de los «cibermodernos». III. LA CUESTIÓN LEGAL. IV. LA CUESTIÓN ÉTICA. V. CONCLUSIÓN. VI. BIBLIOGRAFÍA. ALGORITHMIC DEMOCRACY: ARTIFICIAL INTELLIGENCE, DEMOCRACY AND POLITICAL PARTICIPATION ABSTRACT: This article tries to show a vision of the democratic reality, mainly of the issues that affect the political participation, from the point of view of a growing incidence of the technology. The advances of Artificial Intelligence, the development of algorithms and their application to business and social issues lead us to consider that the political sphere must also adapt to the entry of these new elements. Therefore, the question is presented from a negative perspective, with issues such as political customization and the reduction of the ability to know different approaches, 1 Trabajo realizado gracias a la financiación del Ministerio de Ciencia, Innovación y Universidades (FPU014/02451). El presente estudio se realiza en el marco del Proyecto del MINECO excelencia “El avance del Gobierno Abierto. Régimen jurídico constitucional de la implantación de políticas de transparencia, acceso a la información, datos abiertos, colaboración y participación especialmente a través de las TIC y del gobierno electrónico” DER2015-65810-P. mailto:jorge.castellanos@uv.es RGDA ISSN: 1696-9650, núm. 50, Enero (2019) Iustel 2 as well as from a positive perspective, based on the possibilities that can be derived from greater robotization of jobs, with the consequent process of increasing the time available by citizens to participate in public issues. Lastly, we analyze the legal and ethical issues involved in these advances and the repercussions they may have on future democratic systems. KEYWORDS: Artificial intelligence, democracy, algorithms, customization, political participation. SUMMARY: I. INTRODUCTION. II. CITIZEN PARTICIPATION AND ARTIFICIAL INTELLIGENCE: POSITIVE AND NEGATIVE ASPECTS. 2.1. Negative perspective. 2.1.1. The political customization. 2.1.2. Big Nudging. 2.1.3. Siri, who do I have to vote for? 2.1.4. What political problems solve the algorithms? 2.2. Positive perspective. 2.2.1. Robotization. 2.2.2. Back to the past. 2.2.3. The Liberty of Cybermoderns. III. THE LEGAL ISSUE. IV. THE ETHICAL QUESTION. V. CONCLUSION. VI. BIBLIOGRAPHY. I. INTRODUCCIÓN La relación entre la inteligencia artificial (en adelante IA) y la participación ciudadana, la participación política de los ciudadanos en una democracia, guarda, a priori, una lejana y extraña vinculación, puesto que tradicionalmente se tratará de dos ámbitos con pocos nexos. Ahora bien, si se enfoca la cuestión desde el punto de vista del big data2, la acumulación y tratamiento masivo de datos controlados por algoritmos3 y las conclusiones que se pueden extraer de ellos, el escenario que se plantea es bastante más próximo. Porque el algoritmo «gestiona cada vez más no solo recuerdos, sino también decisiones»4. Y la decisión por antonomasia es la del ciudadano en una democracia, que viene a ser una forma de gobierno de decisión permanente, ya en su origen con la democracia ateniense de carácter directo y, también en la actualidad, con las democracias modernas de decisión delegada en representantes. Pero, a fin de cuentas, se trata de tomar decisiones constantemente. Con una herramienta como el big data se pueden rastrear las predilecciones de los ciudadanos. El ejemplo paradigmático se da en las redes sociales (en adelante RRSS), 2 La Resolución del Parlamento Europeo, de 14 de marzo de 2017, sobre las implicaciones de los macrodatos en los derechos fundamentales: privacidad, protección de datos, no discriminación, seguridad y aplicación de la ley (2016/2225(INI)) maneja un concepto de macrodato que se refiere a la recopilación, análisis y acumulación constante de grandes cantidades de datos, incluidos datos personales, procedentes de diferentes fuentes y objeto de un tratamiento automatizado mediante algoritmos informáticos y avanzadas técnicas de tratamiento de datos, utilizando tanto datos almacenados como datos transmitidos en flujo continuo, con el fin de generar correlaciones, tendencias y patrones (analítica de macrodatos). (Considerando A). 3 El término "algoritmo" se usa ampliamente en el contexto de big data, machine learning e inteligencia artificial. Un algoritmo es una secuencia de comandos para que una computadora transforme una entrada en una salida. Por ejemplo, una lista de personas debe clasificarse según su edad. La computadora toma las edades de las personas en la lista (entrada) y produce la nueva clasificación de la lista (salida). European Union Agency for Fundamental Rights, #BigData: Discrimination in data-supported decision making, 2018. 4 Finn, E., La búsqueda del algoritmo: imaginación en la era de la informática (H. Castells Albareda, Trad.), Ediciones Alpha Decay, Barcelona, 2018, p. 87. Análisis monográfico 3 en las que se puede estudiar y analizar la evolución de las respuestas sociales, de forma masiva, a las actuaciones que realicen, por ejemplo, los partidos políticos. Con los datos recabados se puede examinar, en tiempo real, el modo en que reaccionan los ciudadanos a determinadas acciones políticas. Es más. Esos datos permiten estudiar esas reacciones por grupos sociales y segmentos de análisis: edades, poblaciones, sectores de afinidad política, evolución de la población indecisa a muy diversas cuestiones planteadas por los mismos partidos políticos y casi cualquier clasificación que podamos imaginar. Cada vez vemos que la relación que aparentemente era lejana se aproxima rápidamente. Ello es así porque la herramienta que presentamos es rápida, eficiente y, lo más importante, no mide la respuesta a una pregunta, que siempre puede ser falseada a voluntad por el sujeto que da la respuesta5. Lo que concluye la medición del big data es una interacción, una preferencia o predilección que se infiere. Nunca se había tenidoa disposición un instrumento con tantas posibilidades para el estudio del comportamiento y preferencias de las personas6. Su capacidad de predecir es aplastante. Se observa si una corriente de opinión se sostiene en el tiempo, o bien no se consolida, o si varían los estados de ánimo de los ciudadanos. En definitiva, casi cualquier escenario social pasa a ser medible en base a los datos que se recaban de los propios ciudadanos. Es un método mucho más eficaz que las encuestas tradicionales porque no hay margen de engaño. La gente reacciona a hechos, se estudian esas reacciones masivamente y se extraen patrones de conducta o sentimientos de proximidad o rechazo. Todo ello de forma rápida y sobre una muestra que tiene los límites que se deseen establecer. Los algoritmos que procesan toda esa información y que le dan sentido devienen en un arma fundamental en el campo político. A tiempo real se pueden analizar las reacciones de los potenciales votantes ante el posicionamiento frente a determinados hechos. La capacidad de manipular a la ciudadanía también se dispara puesto que se puede extraer la conclusión de que la ciudadanía reacciona positivamente a determinados elementos emocionales y explotarlos en beneficio de una determinada 5 Las encuestas cada vez resultan menos fiables. Un caso palmario se ha mostrado en la irrupción de VOX en las elecciones autonómicas andaluzas del 2 de diciembre de 2018 con 12 diputados autonómicos pese a que los pronósticos, en base a las encuestas realizadas, apenas les daban representación. 6 En el Considerando B de la resolución citada anteriormente se reconoce que algunos casos de utilización de macrodatos implican la capacitación de dispositivos de inteligencia artificial como redes neuronales y modelos estadísticos con el fin de predecir algunos acontecimientos y comportamientos. Y el Dictamen 4/2015, de 11 de septiembre de 2015, Hacia una nueva ética digital: Datos, dignidad y tecnología, del Supervisor Europeo de Protección de Datos, reconoce que uno de los principales valores de los macrodatos para las empresas y los gobiernos deriva de la supervisión del comportamiento humano, a nivel colectivo e individual y reside en su potencial de predicción. RGDA ISSN: 1696-9650, núm. 50, Enero (2019) Iustel 4 ideología o corriente política. Pueden crearse tendencias, polarizar las existentes e, incluso, generar enfrentamientos. También se puede llegar a tocar las teclas adecuadas para recabar adhesiones. Desde este punto de vista, la tecnología resultante de estos avances basados en el big data, los algoritmos y la IA parece una amenaza bastante seria para la libertad de los ciudadanos. En las páginas siguientes no soslayaremos esta cuestión, pero tampoco conviene perder de vista que todo lo expuesto implica un avance en algo que, en muchas ocasiones, ya existía. La manipulación política existe desde que se solicita a los ciudadanos su adhesión a causas públicas. Y el recurso a las emociones7 y la adaptación del mensaje en función del público al que va dirigido no es, ni mucho menos, una solución brillante producto de la IA. Siempre ha sido una opción recurrir a un modelo de lo que podríamos denominar gestión racional/emocional de la política, es decir, se tiene que presentar un programa político a un grupo de ciudadanos concreto, se tienen que explicar las medidas políticas, pero además hay que provocar la emoción del electorado (ejemplos en España observamos de todo tipo y condición: en los mítines del PSOE en los que primero aparecía Alfonso Guerra y luego Felipe González se da un caso paradigmático, y, en la actualidad, sobre todo con la cuestión catalana, Ciudadanos canaliza su discurso con figuras relevantes de la cultura como Vargas Llosa, mientras que los independentistas recurren a otro tipo de elementos famosos y exitosos como el entrenador de fútbol Josep Guardiola). Todo remite a un entorno de gestión emocional de la política puesto que lo que interesa son las emociones del elector y provocar su fidelización. Como ocurre con cualquier producto de marketing, lo que se pretende es que el ciudadano elija la opción que mejor se le «ajuste», y para ello el conocimiento personal de los ciudadanos y el tratamiento computacional de esos datos devienen en pieza clave para presentar al elector su elección «óptima». En base a nuestros intereses y gustos se nos presentarán las ideas fuerza que mejor se ajusten a nuestro modo de pensar y sentir. El algoritmo que trabaja con nuestros datos puede hacerlo. Pero, como veremos, la cuestión tiene bastantes aristas tanto en el ámbito legal como en el ámbito ético. Para muestra lo que alerta Pariser al expresar que «comprar algoritmos es fácil: págale lo suficiente a Amazon y tu libro será promocionado como si se tratara de una recomendación «objetiva» del software de Amazon»8. Si lo trasladamos a la cuestión política y al ámbito democrático las consecuencias serán mucho más graves. 7 Arias Maldonado, M., La democracia sentimental: Política y emociones en el siglo XXI, 1ª ed., Página indómita, Barcelona, 2016. 8 Pariser, E., El filtro burbuja: cómo la red decide lo que leemos y lo que pensamos (M. Vaquero, Trad.), Taurus, Barcelona. 2017, p. 39. Análisis monográfico 5 II. PARTICIPACIÓN CIUDADANA E INTELIGENCIA ARTIFICIAL: ASPECTOS POSITIVOS Y NEGATIVOS En primer lugar vamos a establecer una definición de los términos sobre los que vamos a tratar. Respecto del primero, son innumerables las definiciones de participación ciudadana que se han dado por parte de los autores. Para fijar un criterio, vamos a tratar la cuestión desde la tradicional definición de Verba y Nie que indica que la participación política «se refiere a aquellas actividades de los ciudadanos que están más o menos directamente destinadas a influir en la elección de las personas que gobiernan y/o en las acciones que adoptan»9. Sobre esta definición ya podemos tratar en profundidad la cuestión de la IA que, en términos generales, consiste en elaborar sistemas capaces de resolver problemas y desempeñar tareas mediante la simulación de procesos intelectuales. Se puede enseñar a la IA a resolver un problema, pero ella también puede estudiar el problema y aprender la manera de resolverlo por sí misma sin intervención humana. Los diferentes sistemas pueden alcanzar niveles de autonomía y llegar a actuar de modo independiente. Es lo que se conoce como aprendizaje profundo (deep learning) y consiste en un aprendizaje automático que gestiona grandes conjuntos de datos gracias a niveles adicionales de procesamiento, semejantes a las estructuras neuronales del cerebro. Como resultado, proporciona modelos abstractos de alto nivel y reconoce patrones en conjuntos de datos extremadamente complejos10. Ya solo con esta contextualización podemos deducir que el concepto que se maneja de IA no casa bien con la participación democrática de los ciudadanos en una sociedad. De ahí que la relación de la participación ciudadana y la IA genere controversia, tiene sus partidarios y sus detractores. Entre estos últimos se encuentran aquellos que asocian las campañas políticas con las estrategias de neuromarketing. Y por ello advierten del impacto que puede tener para la democracia la customización. La idea básica es que la customización de buscadores y redes sociales permite generar, no realidades paralelas, pero sí la presentación al elector de una única realidad. Pariser ha denominado «burbuja de filtros» a ese proceso en el que se va acotando la realidad de cada persona en base a sus gustos y los gustos de los que le rodean para tener una visión muy sesgada de su entorno y la realidad. Plantea que los algoritmos que tratan de dirigir nuestra vida lo hacen de la siguiente manera: «Lanueva generación de filtros de Internet observa las cosas que parecen 9 Verba, S. y Nie, N. H.; Participation in America. Political democracy and social equality, Harper & Row, Nueva York, 1972, p. 2. 10 Petit, M., “Por una crítica de la razón algorítmica. Estado de la cuestión sobre la inteligencia artificial, su influencia en la política y su regulación”, en Quaderns del CAC, vol. XXI, núm. 44, 2018, p. 5. RGDA ISSN: 1696-9650, núm. 50, Enero (2019) Iustel 6 gustarte -las cosas mismas, o las que les gustan a las personas como tú- e intenta extrapolar. Son máquinas de predicción cuyo objetivo es crear y perfeccionar constantemente una teoría acerca de quién eres, lo que harás y lo que desearás a continuación. Juntas elaboran un universo de información único para cada uno de nosotros que, en esencia altera nuestra manera de encontrar ideas e información»11. Ese proceso restrictivo de la realidad guarda una íntima relación con un conjunto de estrategias políticas en las que los partidos políticos comienzan comprando campañas en Facebook, pero también, con contratos raros con data brokers12, como ocurrió con Cambridge Analytica. El problema de estos avances es, fundamentalmente, que son imparables. Pero también encontramos posiciones diversas que avisan de los problemas que vienen de la mano de la evolución de la IA, el desarrollo de los algoritmos y la robotización. Y como vamos en la dirección de destrucción de puestos de trabajo por la robotización, plantean que o se proporciona una renta mínima garantizada para la población o se va a generar un problema global. Para solventar ese problema que se anuncia, no es que se presente una perspectiva positiva, necesariamente, pero a fin de cuentas cabe hacer de la necesidad, virtud. Por ello, si las condiciones de la IA reducen los trabajos repetitivos y peligrosos, liberan de horas de trabajo a la población y generan un espacio para el ocio, si además se puede garantizar una renta mínima a la población, ¿podríamos volver a aquel modelo ideal de la polis griega, que trató de imitar la República romana, en el que la población en la polis se reunía y discutía y participaba de los asuntos públicos? Es decir, ¿podría generar un contexto de reducción de la carga de trabajo para la humanidad, junto con una garantía de un mínimo vital digno, un espacio para que la ciudadanía pudiera participar más? Porque tendría tiempo libre de sobra. Y porque se le potenciaría en esa dirección. Cicerón decía que si todo lo que es esencial para nuestras necesidades y comodidades fuese proporcionado por alguna varita mágica, como en las leyendas, entonces todo hombre de excelentes capacidades podría abandonar cualquier otra responsabilidad y dedicarse exclusivamente al conocimiento y a la ciencia13. De modo que el avance tecnológico basado en el desarrollo de la computación algorítmica y la IA puede ser esa «varita mágica» que permita a los hombres dedicarse íntegramente a las cuestiones de orden político. Sería un impulso democrático sin precedentes y sería por consecuencia 11 Ibídem, pp. 18-19. 12 Los data brokers son empresas que recopilan información personal y la revenden o comparten con terceros. Ejemplos de ello son empresas como Cambridge Analytica, o Acxiom. 13 Cicerón, De officiis, William Heineman, Londres, vol. I, xliv, 1913, p. 162. Análisis monográfico 7 del avance tecnológico. He ahí el anverso y reverso de la moneda del escenario que planteamos poniendo en relación la inteligencia artificial y la participación ciudadana. 2.1. Perspectiva negativa En primer lugar vamos a abordar la cuestión de la IA y los algoritmos desde un enfoque completamente negativo. Así, la visión más pesimista es la que considera que su empleo en el escenario político aboca a un autoritarismo digital. Los autores que expresan esta preocupación afirman que con su implantación se conseguiría controlar de manera eficaz a la sociedad, y todo ello a un coste muy bajo. El autoritarismo afianzado en sistemas de IA y en el empleo de algoritmos para controlar la actividad de los ciudadanos desembocaría en una sociedad basada en la censura y la restricción de libertades. Este control exhaustivo de los ciudadanos pondría coto al debate político y supondría, si no la demolición de los escenarios democráticos, por lo menos sí un retroceso considerable14. Y ya algunos autores alertan de las actividades sobre esta cuestión que se han desarrollado en países como China en los que algoritmos de aprendizaje profundo estudian la información de los usuarios en los motores de búsquedas para ejercer un potente control social, llegando a establecer una puntuación entre los ciudadanos, puntuación que es significativa para actividades como pedir un crédito, un empleo o un visado para Europa15. 2.1.1. La customización política Customizar, es decir, personalizar, ha sido tradicionalmente un objetivo de cualquier empresa que quería vender un producto o servicio a la ciudadanía. Obviamente se trataba de una tarea harto compleja ya que implica un trato personalizado del cliente, lo cual logísticamente era inviable. Ahora bien, gracias al big data, al tratamiento de gran cantidad de datos personales y a la inteligencia artificial desarrollada en paralelo con su crecimiento, que permite un tratamiento de datos hasta nuestra Era inverosímil, esa tarea tan deseada como imposible de realizar da un giro. Las herramientas de la IA (bots, algoritmos, etc.), combinadas con el big data, abren la puerta a formas altamente personalizadas de publicidad comercial y política16. A este respecto, y al igual que Google, «redes como Facebook y Youtube se han convertido en empresas de big data capaces de identificar el comportamiento y los gustos de sus usuarios mediante la 14 Wright, N., “Inteligencia Artificial y orden global”, Política Exterior, vol. 32, 185, 2018, p. 41. 15 Helbing, D. et al., “¿Democracia digital o control del comportamiento? Una llamada para garantizar el uso democrático de los macrodatos y de la inteligencia artificial”, IyC, 475, 2016, pp. 78-83. 16 Petit, M., op. cit., pp. 5-15. RGDA ISSN: 1696-9650, núm. 50, Enero (2019) Iustel 8 recopilación de sus datos residuales»17. En algunos casos el usuario es completamente ajeno a esta cuestión como sucede con Google. Cuando realizamos una búsqueda en Google el resultado varía en función de quién realice dicha búsqueda. Obviamente no somos conscientes de ello puesto que damos por hecho que los resultados de la citada búsqueda serán idénticos para todos los usuarios. Pues no. Pariser lo detalla en su obra «El filtro burbuja: cómo la red decide lo que leemos y lo que pensamos» al indicar que cuando buscamos un término en Google desde diciembre de 2009 obtienes el resultado que el algoritmo de Google sugiere que es mejor para ti en particular; y puede que otra persona vea algo totalmente diferente. En otras palabras, «ya no existe un Google estándar»18. Al conocer los datos de las personas se pueden conocer sus gustos, sus aficiones y, por consiguiente, la empresa que quiera suministrar un producto o un servicio a esa persona dispone de las instrucciones necesarias para hacerle más sencilla la elección. Y para el interviniente que proporciona el producto o servicio ese proceso implica una mayor probabilidad de éxito. Por ejemplo, «los televisores conectados del gigante surcoreano de la electrónica LG son tan inteligentes que ya están registrando nuestros hábitos televisivos para ofrecernos anuncios personalizados»19. De hecho sobre el mundo de la televisión Pariser ya sostiene que cuando la televisión sea totalmente digital, los canales serán poco más que marcas, y el orden de los programas estarádeterminado por el interés y la atención de los usuarios, no por el director de la cadena20. Hasta aquí esta cuestión puede atraer más o menos, pero no se puede discutir el avance en cuanto a eficiencia: el destinatario del producto o servicio encuentra lo que desea en un menor tiempo por el cribado previo que se ha realizado en función de sus preferencias conocidas, y el que suministra tal producto o servicio consigue venderlo en menor tiempo al sugerir directamente aquello que ya sabe que el comprador busca. A fin de cuentas la personalización se basaría en un trato consistente en que a cambio del servicio de filtrado, proporcionamos a las grandes empresas una enorme cantidad de información relativa a nuestra vida cotidiana, gran parte de la cual no se la confiaríamos ni a nuestros amigos21. Las ventajas relativas al ahorro de tiempo son innegables. Ahora bien, si salimos de la órbita mercantil y nos adentramos en el escenario político esa visión optimista y amable de la customización languidece ya que, como afirma Sunstein, puede convertirse en algo muy perturbador cuando lo que se hace es animar a los 17 Keen, A., Internet no es la respuesta (Á. Leiva, Trad.), Catedral, Barcelona, 2016, p. 89. 18 Pariser, E., op. cit., p. 12. 19 Keen, A., op. cit., p. 242. 20 Pariser, E., op. cit., p. 72. 21 Pariser, E., op. cit., p. 25. Análisis monográfico 9 individuos a limitar sus horizontes o satisfacer sus gustos de siempre en lugar de inculcarles otros nuevos. Para este autor es un problema político, social y democrático obvio el hecho de que un grupo considerable de personas con una determinada convicción política se dediquen a leer autores que comparten su mismo punto de vista y, por tanto, refuercen sus ideas de siempre, solo porque la mayor parte del material que se les ofrece se expresa de igual modo22. Aun reconociendo que este argumento de Sunstein puede ser fácilmente rebatido por el hecho de que, en función de la ideología, mucha gente optará por leer a determinados autores y desechará la opción de leer a otros que se alejen de su forma de pensar sin necesidad de que actúe la customización ni de la influencia de ningún malvado algoritmo, lo cierto es que en cuestiones políticas genera rechazo, de por sí, que se acoten las posibilidades porque incluso aunque dejemos a un lado la manipulación intencional, el auge del filtrado conlleva una serie de consecuencias imprevistas y serias para los sistemas democráticos. Por eso Pariser llega a afirmar que en lo que él denomina «la burbuja de filtros», la esfera pública, que es el ámbito donde se identifican y abordan los problemas comunes, prácticamente carece de relevancia23. Ello implica que con las nuevas tecnologías, incluyendo claro está a Internet, Sunstein alerte de que está aumentando mucho la habilidad de los individuos para escuchar el eco de sus propias voces y aislarse de los demás24. A este respecto el profesor Cotino señala la consideración que se tiene de la personalización en el sentido de que refuerza las posiciones particulares, sin apertura ni compromiso con lo diferente. Es más, se sostiene que la particularización de contenidos conlleva la desaparición del foro público25. En la misma línea Judt advierte de que si cada uno selecciona los fragmentos de conocimiento e información que le interesan, pero evita el contacto con todo lo demás, formaremos comunidades globales de afinidades electivas, al mismo tiempo que perderemos el contacto con las afinidades de nuestros vecinos26. Si esta selección viene prefabricada por un algoritmo este aislamiento social ya ni tan siquiera es voluntario. Y es que el problema de canalizar la información para recibir solo la más afín a la ideología del destinatario recuerda a una suerte de censura que desde el punto de vista democrático 22 Sunstein, C. R., República.com: Internet, democracia y libertad (P. García Segura, Trad.), Paidós Ibérica, Barcelona, 2003, p. 36. 23 Pariser, E., op. cit., p. 149. 24 Sunstein, C. R., op. cit., p. 55. 25 Cotino Hueso, L., “La selección y personalización de noticias por el usuario de nuevas tecnologías”, en L. Corredoira y Alfonso y L. Cotino Hueso (eds.) Libertad de expresión e información en Internet. Amenazas y protección de los derechos personales, CEPC, Madrid, 2013, pp. 41-56. 26 Judt. T.; Algo va mal (B. Urrutia, Trad.), Taurus, Madrid, 2010, p. 120. RGDA ISSN: 1696-9650, núm. 50, Enero (2019) Iustel 10 no agrada. Es una respuesta natural. Un algoritmo basado en nuestros datos puede ofrecernos el viaje o el producto que necesitemos ahorrándonos tiempo y energía en filtrar las innumerables opciones que se nos presentan en un primer momento. Pero como consecuencia de ello «tu pantalla de ordenador es cada vez más una especie de espejo unidireccional que refleja tus propios intereses, mientras los analistas de los algoritmos observan todo lo que clicas»27. Por este motivo, cuando el cribado en función de nuestros intereses y gustos tiene un componente político o excesivamente personal la visión positiva decae. Porque hay una delgada línea que separa entre aquello que nos facilita la existencia y una intromisión que podemos catalogar de inaceptable. Un ejemplo deleznable de customización sería aquel que explica Finn en el que cuenta la recepción de un sobre remitido por OfficeMax manifiestamente dirigido a un señor con este asunto: «hija muerta en accidente de automóvil»28. Esta macabra personalización, este envío ad hoc, sobrepasa los límites de la moral y el buen gusto. Pero existen. Conocer los datos de los ciudadanos a tal punto que se puedan trazar esos segmentos de mercado no supone un avance deseado. La amoralidad de aprovechar la muerte de un familiar para pretender la venta de productos (en este caso tal vez material conmemorativo o algún tipo de elemento de oficina que pudiera evocar la memoria del ser querido) provoca náuseas. Es un dato que se maneja dentro de una gran cantidad de información y que el algoritmo empleado puede catalogar en un determinado segmento de mercado. En el ámbito político ese dato puede ser usado para atraer a personas en esa situación para generar una corriente de opinión y recabar el apoyo social necesario para endurecer las penas, por ejemplo en cuestiones viales relacionadas con el alcohol. El dato existe y es conocido. Su empleo en aras de obtener un provecho económico o político está latente. Por eso hacemos una distinción clara entre aquellos algoritmos que proporcionan un servicio útil de los que manejan información asépticamente, pese a lo poco neutral o aséptico que pueda ser ese dato concreto. Por eso en el contexto de la customización, el ámbito político reúne los requisitos oportunos para generar rechazo. Si la democracia consiste en el poder del pueblo, y en concreto la democracia representativa en la elección de los representantes políticos de los ciudadanos para gobernarnos de la mejor manera posible, que haya cualquier tipo de orientación invisible, un atisbo de dirección en la decisión democrática en base al conocimiento individualizado que se tiene de la persona hace saltar las alarmas y nos genera la sensación de que los cimientos democráticos basados en última instancia en la elección libre de los ciudadanos se ven amenazados. 27 Pariser, E., op. cit., p. 13. 28 Finn, E., op. cit., pp. 198-199. Análisis monográfico 11 2.1.2. Big Nudging Podríamos definir el Big Nudging como la orientación del modo de obrar de los ciudadanos en base a los datos que se dispone de ellos. El Big Nudging es la macroinsinuación29. Porque los procesos políticos basados en orientar opiniones se construyen sobre aspectos sutiles. No se indica directamente un modode obrar, sino que con la inmensa información que se posee de los ciudadanos se puede redireccionar el comportamiento de las personas. Cuando esa actuación se acomete desde los poderes políticos hablamos de Big Nudging por la combinación masiva de datos de los ciudadanos y el procedimiento sutil que se lleva a cabo para manipular sus comportamientos. Se trata de una cuestión sensible porque la participación ciudadana y el big data combinados pueden proporcionar unos resultados no deseados. Esta conjunción puede devenir en una suerte de participación inconsciente, alentada y encaminada en un determinado sentido por los conocimientos que se tienen del propio elector. Es una forma de vender una determinada opción política. Porque cuando decimos que «los políticos están vendiendo un mensaje, e incluso a sí mismos, estamos tratando el terreno político como si fuera un tipo de mercado, sujeto a la ley de la oferta y la demanda»30. En ese caso, si se puede personalizar tanto la información para el elector, en consecuencia, se puede, incluso, dirigir el voto. Es ir más allá de las encuestas y sondeos de opinión. Es conocer tan en profundidad al objeto en cuestión, al elector, que se puede predecir su respuesta electoral y, por tanto, descartarlo como target de campaña o introducirlo en determinados sectores a los que se pretende captar. Que los datos sirvan para encauzar elecciones democráticas en base a recurrir a los ámbitos más personales del votante no responde a ningún espíritu democrático ni aboga por el bien común. Al punto que Harari afirma que los hábitos liberales como las elecciones democráticas quedarán obsoletos, porque Google podrá describir incluso mis propias opiniones políticas mejor que yo31. Sobre esta cuestión podemos traer a colación el popular caso de la anteriormente mencionada Cambridge Analytica. Esta fue una compañía privada que combinaba la minería de datos y el análisis de datos con la comunicación estratégica para el proceso electoral. Dicha compañía prestó sus servicios en la campaña presidencial de Donald Trump y en la campaña sobre el Brexit en el Reino Unido. El escándalo surgió cuando un ex empleado de la compañía puso de manifiesto que se realizaban prácticas para influir 29 Helbing, D., et al., op. cit., pp. 78-83. 30 Sunstein, C. R., op. cit., p. 52. 31 Harari, Y. N., Homo deus: breve historia del mañana (J. Ros, Trad.), Debate, Barcelona, 2016, p. 370. RGDA ISSN: 1696-9650, núm. 50, Enero (2019) Iustel 12 en las elecciones de los votantes. El proceso consistió en que, para estudiar el comportamiento de las personas, se generó una aplicación para su análisis. Para ello, y mediante una aplicación de Facebook en la que se recopilaba información de los individuos que la usaban y sus contactos, se procedió a ello. Cabe indicar que Facebook permitía dichos estudios, eso sí, para usos con fines académicos. Con la mencionada aplicación, a través de Amazon Mechanical Turk, una plataforma de la compañía para reclutar trabajadores bajo demanda, se consiguió que se descargaran la aplicación unos 270.000 ciudadanos. Y mediante sus datos y contactos se llegó a estudiar los datos de unas 87 millones de personas, aunque en un principio se reconoció solo 50 millones. ¿Qué se estudiaba de esas personas? Se analizaron sus gustos, preferencias y comportamientos de ciudadanos que se vendieron a Strategic Communication Laboratories, germen de Cambridge Analytica. Su uso posterior fue el de generar modelos de potenciales votantes y usar sus temores para conseguir votos con mensajes publicitarios personalizados lanzados sobre todo en Facebook, que jugó un papel indispensable en todo el proceso debido a su potente sistema publicitario, que permite enviar mensajes de forma muy segmentada, lo cual combinado con los modelos de votantes, propició que se convirtiera en un canal publicitario incontrolable. Así se podía manipular a los ciudadanos, hacerles creer determinadas noticias y, en último término, canalizar y orientar su actuación política32. La polémica, obviamente, alcanzó a Facebook en su capacidad de reconocimiento de los intereses y preferencias de los ciudadanos. De hecho las acciones de la compañía cayeron un 7% en Bolsa en el primer día tras conocerse la noticia. A fin de cuentas el problema subyacente es la utilización de los datos personales para orientar o dirigir el voto. Penetrar en la esfera personal del ciudadano conociendo tan en profundidad sus preferencias que se pueda redirigir su voluntad política en un determinado sentido. En cualquier caso, el uso de las RRSS es manifiesto en campañas electorales. De hecho, «las principales redes sociales, especialmente Twitter, fueron utilizadas, no solo como mecanismo para la distribución de informaciones o consignas, sino también como escenarios en los cuales construir artificialmente mayorías sociales que condicionen el posicionamiento de la opinión pública sobre determinadas cuestiones»33. Woolley y Howard realizan un estudio sobre esta cuestión y la forma en la que proceden los bots en las RRSS: 32 Suárez-Gonzalo, S., “Tus likes, ¿tu voto? Explotación masiva de datos personales y manipulación informativa en la campaña electoral de Donald Trump a la presidencia de EEUU 2016”, en Quaderns del CAC, vol. XXI, núm. 44, 2018, pp. 27-36. 33 Torres Soriano, M., “Hackeando la democracia: operaciones de influencia en el ciberespacio”, Documento Opinión, IEEE (Instituto Español de Estudios Estratégicos) 66/2017, junio, 2017. Análisis monográfico 13 “Los bots de las redes sociales son identidades automatizadas que pueden llevar a cabo tareas rutinarias como recopilar información, pero también pueden comunicarse con personas y sistemas. Se pueden emplear para realizar trabajos legítimos como difundir noticias e información. También son usados para actividades maliciosas asociadas al spam y el acoso. Sea cual sea su uso, [los bots] son capaces de desplegar mensajes rápidamente, interactuar con los contenidos de otros usuarios-todo ello haciéndose pasar por usuarios humanos. Los bots políticos, los bots de las redes sociales usados para la manipulación política, son también herramientas efectivas para intensificar la propaganda en línea y las campañas de odio. Una persona, o un grupo reducido de personas, puede utilizar un ejército de bots políticos en Twitter para generar la ilusión de un consenso a gran escala”34. A través de las RRSS se generan debates artificiales35 y los convencidos de una determinada elección política se utilizan como altavoces de las consignas de un determinado partido. Así se convence a los indecisos ya que no reciben un mensaje de un dirigente político, que puede ser muy lejano y totalmente ajeno a su día a día, sino que quien enfoca la cuestión política es alguien similar al sujeto indeciso, con parecidas preferencias sociales, parecido ámbito laboral y profesional y, en consecuencia, con una realidad mucho más próxima al ciudadano indeciso36. Si esa persona, tan similar, que en realidad responde, en consecuencia, a una misma segmentación, tiene ese posicionamiento, la persona indecisa puede decantarse por apoyar a esa misma dirección política. Realmente las posibilidades se multiplican conforme vamos acotando los perfiles y nos alejamos de la moralidad. Un señor jubilado con una exigua pensión, una ama de casa, un joven en paro, incluso una mujer que haya sufrido maltrato o, como vimos antes, unos padres que hayan padecido la pérdida de un hijo… Cuantos más datos de la persona dispongamos más próxima podrá ser la persona que quiera inocular el mensaje político. Reclutando para la causa a personas que respondan estratégicamente a los segmentos sobre los que se persigue el voto se podría llegar, medianteRRSS o con el puerta a puerta, a cualquier votante potencial y tener 34 Woolley, S. y Howard, P., “Computational Propaganda Worldwide: Executive Summary”, Working Paper 2017.11., Project on Computational Propaganda, Oxford, Reino Unido, 2017. [En línea]. «http://comprop.oii.ox.ac.uk/wp-content/uploads/sites/89/2017/06/Casestudies- ExecutiveSummary.pdf» [Consulta: diciembre 2018]. 35 Los expertos sostienen que más del 10% de los contenidos de las redes sociales y un 62% de todo el tráfico en Internet es generado por bots, que son programas informáticos que efectúan automáticamente tareas repetitivas a través de Internet, cuya realización por parte de una persona sería imposible. 36 Hersh, E., Hacking the Electorate: How Campaigns Perceive Voters, Cambridge University Press, Cambridge, 2015, pp. 141-167. RGDA ISSN: 1696-9650, núm. 50, Enero (2019) Iustel 14 herramientas, en base a sus datos, para conseguir su adhesión electoral. Puede contratarse publicidad extremadamente personalizada, inundar las RRSS de mensajes o debates en un mismo sentido, o la mencionada estrategia de proximidad. Cualquiera de ellas tendrá más opciones de éxito al disponer de los datos personales de los potenciales electores ya que los ojos con los que ve la realidad el votante y los de la persona que le proporciona la información son, a efectos del indeciso, muy parecidos. He ahí la clave del proceso de convicción. Conocernos tan en profundidad que nos asesore alguien tan parecido a nosotros que nos infunda toda la confianza. Porque aunque los seres humanos solemos estar muy de acuerdo con nuestras propias opiniones, cuando aparece la duda la capacidad de convencimiento sobre una determinada orientación tendrá más éxito cuanta más afinidad tengamos con la persona que nos trata de convencer. Para ello no hacen falta algoritmos, pero sí para segmentar y cuadrar a los ciudadanos en ámbitos de afinidad. 2.1.3. Siri, ¿a quién tengo que votar? En octubre de 2011, Apple anunció el lanzamiento de Siri, «un asistente inteligente al que basta con preguntarle cosas para que te ayude»37. La inteligencia artificial permite interactuar con el ser humano, preguntar cosas y ordenar acciones. Otras empresas también han desarrollado la tecnología de asistentes virtuales, como Assitant de Google, Alexa de Amazon, o Cortana de Microsoft, por citar los más destacados. Si nos paramos a pensar, el abanico de decisiones que delegamos en elementos externos y artificiales resulta desbordante. Los sistemas computacionales nos dicen adónde ir, cómo ir, también el modo correcto de escribir, qué libro leer, qué película ver e, incluso, qué pensar. Resulta curioso que «los buscadores no responden siempre a lo que buscas: proponen antes productos de pago y sitios conformes con su visión de la sociedad. Puedes incluso recibir por correo cupones de promoción que responden a tus necesidades... ya conocidas»38. Se ha llegado a una relación casi de fe con la cultura algorítmica porque se da por buena y eficiente a grado máximo cualquier sugerencia u orientación que proceda de un ente tecnológico por su aparente neutralidad. Finn considera que hoy los algoritmos forman parte de nuestro entorno, lo hacen como «piezas domésticas de magia técnica a las que confiamos misiones como la de reservar 37 Finn, E., op. cit., p. 109. 38 Pouliquen, T. M., Transhumanismo y fascinación por las nuevas tecnologías: 115 preguntas, Ediciones Rialp, Madrid, 2018, p. 93. Análisis monográfico 15 nuestras vacaciones, sugerir posibles amistades, evaluar pruebas estandarizadas y el desempeño de otras muchas formas de trabajo cultural»39. El siguiente paso lógico es: si damos por sentado que ese elemento externo y artificial maneja tal cantidad de datos, sobre nosotros y sobre el mundo, que nos proporciona la mejor elección posible, ¿por qué no pedirle consejo sobre la madre de todas las decisiones? ¿Por qué no delegar nuestra participación política en alguien que maneje muchas más alternativas? La respuesta es sencilla: no podemos encomendar a otro nuestra condición de personas. Del mismo modo que la dignidad no se puede subastar, que es un elemento inalienable del ser humano y que le dota de humanidad, la condición de ciudadano no permite la delegación del voto en una máquina, por muy inteligente que sea y por muchos datos combinados que maneje. Es del todo punto absurdo. Se puede elegir cualquier orientación política o ideológica, es más, se puede no elegir ninguna, pero lo que no se puede es dimitir de la condición de ciudadano, y de persona, hasta ese extremo. La consecuencia sería la deshumanización de la política, lo cual es un contrasentido en sus términos. Es antitético como se infiere del brocardo latino ubi homo, ibi societas, si hay hombre hay sociedad. La inteligencia artificial eliminaría de este modo la participación ciudadana. Todo ello se basaría en que un algoritmo podría determinar cuál es el mejor gobierno posible, o cuáles son las mejores leyes para una determinada población. ¿Puede la inteligencia artificial acabar, en definitiva, con la democracia? Si los algoritmos pueden determinar la decisión óptima en cualquier escenario por qué no en la decisión por excelencia y en el escenario por excelencia, la de la organización política de una sociedad. Es un tema sobre el que cabe una profunda reflexión y en el que está en juego hasta qué punto estamos dispuestos a traspasar la línea de lo humano. Sería una cuestión para tratar desde el punto de vista del transhumanismo, por ejemplo estudiando la capacidad de conectar nuestro cerebro a la nube y analizar todos los datos disponibles para tomar decisiones óptimas, también en el ámbito de la política40. En todo caso, mientras nos mantengamos en el escenario de lo estrictamente humano, las decisiones políticas deberán seguir siendo propiedad en exclusiva de los ciudadanos. La capacidad de informarse y estar al tanto de los problemas que aquejan a la sociedad es un deber cívico que los ciudadanos llevan a cabo con mayor o menor intensidad, en función de su libre elección, pero nunca deben ser sometidos a elementos tecnológicos externos que determinen sus posicionamientos políticos. En caso contrario lo que perecerá con el tiempo es la democracia. 39 Finn, E., op. cit., pp. 35-36. 40 Castellanos Claramunt, J., “Transhumanismo, algoritmos y nuevas tecnologías: avanzando en la desigualdad”, en Ius et Scientia, vol. 4, núm. 2, 2018, pp. 120-131. RGDA ISSN: 1696-9650, núm. 50, Enero (2019) Iustel 16 2.1.4. ¿Qué problemas políticos solucionan los algoritmos? El quid de la cuestión es la veracidad de los datos. Si los datos son erróneos, voluntaria o involuntariamente, las conclusiones que se alcanzarán serán inadecuadas41. Si se trata de corregir la realidad, y en eso la posverdad juega un papel crucial, pueden modificarse las conclusiones a las que se llega de modo artificial. ¿Cuál sería el papel corrector de eso? Porque no hay que perder de vista que «los algoritmos solucionan los problemas identificados como tales por los ingenieros y los emprendedores que han desarrollado y optimizado su programación»42. Es decir, una pretendida respuesta neutral y objetiva dada por un ente tan aséptico como puede ser un elemento computacional tiene, en su origen, una clara falta de neutralidad. Está completamente dirigido, consciente o inconscientemente desde su propio nacimiento. Broussard denuncia este aspecto al sostener que el mundo digital está reproduciendo las mismas desigualdades que la vida real porque los ordenadores son máquinas que funcionan gracias a millones de cálculos matemáticos que no responden a ningún principio universal o natural, son símbolos que hansido creados por personas y que responden a una construcción social y, por tanto, son el resultado de millones de pequeñas decisiones tomadas por diferentes ingenieros en determinadas empresas43. Este razonamiento que dirige la responsabilidad claramente hacia los ingenieros suele ser esquivado por ellos ya que «la mayoría de las veces, los ingenieros se resisten a la idea de que su trabajo conlleva consecuencias morales o políticas»44. Pero con una aproximación superficial sobre el mundo de la IA y de la importancia en la toma de decisiones que tienen, y aún más tendrán en el futuro los algoritmos, resulta evidente fijar la mirada en aquellos que los programan. No pueden exonerarse de responsabilidad 41 La Resolución del Parlamento Europeo, de 14 de marzo de 2017, sobre las implicaciones de los macrodatos en los derechos fundamentales: privacidad, protección de datos, no discriminación, seguridad y aplicación de la ley (2016/2225(INI)) considera que debe hacerse una distinción entre cantidad y calidad de los datos a fin de facilitar la utilización eficaz de los macrodatos (algoritmos y otras herramientas analíticas); y que los datos y/o los procedimientos de baja calidad en los que se basan los procesos de toma de decisiones y las herramientas analíticas podrían dar lugar a algoritmos sesgados, correlaciones falsas, errores, una subestimación de las repercusiones éticas, sociales y legales, el riesgo de utilización de los datos con fines discriminatorios o fraudulentos y la marginación del papel de los seres humanos en esos procesos, lo que puede traducirse en procedimientos deficientes de toma de decisiones con repercusiones negativas en las vidas y oportunidades de los ciudadanos, en particular los grupos marginalizados, así como generar un impacto negativo en las sociedades y empresas. (Considerando M). 42 Finn, E., op. cit., p. 41. 43 Broussard, M., Artificial Unintelligence. How computers misunderstand the world, The MIT Press, Cambridge (MA), 2018. 44 Pariser, E., op. cit., p. 177. Análisis monográfico 17 porque para bien o para mal, programadores e ingenieros ostentan un extraordinario poder para configurar el futuro de nuestra sociedad45. 2.2. Perspectiva positiva Nos encontramos ante un momento histórico en cuanto al entendimiento de las sociedades tal y como las conocemos. Y es que desde la II Guerra Mundial y la automatización de la producción, al momento actual, en el que se está decidiendo una suerte de automatización de la sociedad, no nos habíamos enfrentado en tanto que colectividad a un desafío tan importante y con tantas repercusiones para el futuro. Sin duda los riesgos son elevados, pero es en este momento crucial en el que se sentarán las bases democráticas y políticas de las próximas décadas. En función de las decisiones que se tomen, y se están tomando, para la instauración de elementos de IA y el desarrollo de algoritmos, el futuro de las sociedades será uno u otro. De ahí que haya que afrontar esta cuestión también desde una perspectiva positiva, subrayar los elementos beneficiosos que pueden traer a las sociedades la implantación de estas tecnologías y, en definitiva, de las mejoras que se pueden aportar a los sistemas democráticos. Porque las hay. Se pueden enriquecer sistemas democráticos si se tiende a una mayor participación, a un entendimiento más complejo y completo de la diversidad humana auspiciado por el desarrollo tecnológico. Trataremos de destacar aquellos aspectos más significativos a continuación. 2.2.1. La robotización La robotización tiene un objetivo claro: reducir costes. El hecho de que una labor tradicionalmente desarrollada por las personas sea acometida por una máquina reduce sideralmente los costes aparejados a dicha actividad. Como el objetivo económico de cualquier negocio es el de producir en mayor medida con el menor coste posible, cualquier actividad que pueda ser robotizada tendrá los incentivos necesarios para que así ocurra. Por eso no podemos predecir cuándo las máquinas lo harán todo y el trabajo o el empleo del ser humano será absolutamente prescindible, pero sin duda ese tiempo llegará46. De hecho la robotización de nuestras sociedades es algo que está sucediendo y que determina nuestra vida cotidiana47. Y su nivel de propensión en nuestras sociedades se intensificará con el paso del tiempo ya que se estima que en los próximos 45 Ibídem, p. 188. 46 Calvo, M., Filosofía para la era digital, Almuzara, Córdoba, 2018, p. 211. 47 Moreno, L. y Jiménez, R., Democracias robotizadas: escenarios futuros en Estados Unidos y la Unión Europea, Los Libros de la Catarata, Madrid, 2018, p. 154. RGDA ISSN: 1696-9650, núm. 50, Enero (2019) Iustel 18 años nuevas y más sofisticadas tecnologías informáticas basadas en la información y en el empleo de los ordenadores llevarán a la civilización a situaciones cada vez más próximas a la desaparición del trabajo48. Los trabajos ya han comenzado a ser compartidos y serán progresivamente sustituidos por los robots. Aquellas ocupaciones bien pagadas en sectores susceptibles de compartir o abandonar el trabajo ante la llegada de la automatización van menguando49. Aunque lo cierto es que el uso de robots en la industria no es nada nuevo ya que la robótica industrial nació en Estados Unidos hace más de 60 años y su aplicación está muy extendida en diversos sectores: alimentación y bebidas, mobiliario y equipamiento, transformación del plástico, el sector metalúrgico, automoción y componentes, químico y farmacéutico, entre otros, lo cierto es que el creciente avance en la robotización genera paro, y cada vez más50. Muchas profesiones se están quedando obsoletas ante la avalancha de avances tecnológicos51. Como expresa Atkinson, desde el punto de vista del empleador, todo son ventajas: «Los robots no hacen huelgas. Con una fuerza de trabajo más pequeña y una producción más mecanizada, la empresa tendrá mayor control y menos necesidad de negociar con los sindicatos»52. En el afán de minimizar costes y destruir, en consecuencia, puestos de trabajo, se llega a casos paradójicos como el de Amazon, que ha invertido elevadas sumas de dinero para automatizar todos sus procesos. Así, «el algoritmo sabe lo que queremos antes de que entremos en la tienda y luego un robot atiende nuestro pedido, el cual, será entregado por nuestro dron personalizado»53. Tras todo lo expuesto la duda razonable que surgirá es cómo se puede presentar la robotización y los avances en IA desde una perspectiva positiva. Aparentemente resulta complicado, por lo que tenemos que combinar este planteamiento con otro tipo de acciones. Así, debemos tener en cuenta que para que la robotización suponga una 48 Rifkin, J., El fin del trabajo (Nuevas tecnologías contra puestos de trabajo: el nacimiento de una nueva era), Ed. Paidós, Barcelona, 2004, p. 57. 49 Moreno, L. y Jiménez, R., op. cit., p. 139. 50 Las instituciones son conscientes de ello puesto que en el seno de la Unión Europea se considera que «la IA está modificando la naturaleza del trabajo: se crearán nuevos empleos, mientras que otros desaparecerán y la mayor parte sufrirá transformaciones» (Comunicación de la Comisión al Parlamento Europeo, al Consejo Europeo, al Consejo, Al Comité Económico y Social Europeo y al Comité de las Regiones. Inteligencia artificial para Europa. Bruselas, 25.4.2018. COM (2018) 237 final. SWD (2018) 137 final). 51 Pérez del Río, F., Ensayo sobre la desigualdad: ¿qué nos queda todavía para ser felices? Universidad de Burgos, Burgos, 2017, p. 155. 52 Atkinson, A. B., Inequality: what can be done? Harvard University Press, Cambridge (MA), 2015, p. 116. 53 Keen, A., op. cit., p. 124. Análisis monográfico 19 oportunidadde mejora y progreso democrático resulta fundamental que se fomente una potenciación de la participación ciudadana, del interés de los ciudadanos por la política. Consecuentemente la labor de concienciación cívica y política será el terreno sobre el que abonar el progreso democrático. La robotización de los empleos permite dedicar más tiempo a lo que se desea, siempre que las necesidades básicas se vean cubiertas, por lo que la fuente fundamental de progreso democrático será una labor de sentimiento colectivo y público de los ciudadanos. 2.2.2. Regreso al pasado Debemos plantearnos si el avance tecnológico puede suponer un avance, también, político y democrático. Y para ello podemos apoyarnos en herramientas de liberación como puede ser la creación de una renta básica: «Una de las soluciones más destacables para mitigar la dramática situación de miles de familias es la implantación de una Renta Básica que les permitiría escapar de la pobreza y de la pobreza extrema simplemente por el mero hecho de ser ciudadanos. Pero no solo debemos anclarnos en esa idea, la realidad nos indica que también se trata de amortiguar las consecuencias de una sociedad más robotizada y tecnologizada que cada vez precisa menos mano de obra»54. La libertad que proporciona el sustento garantizado no es una cuestión baladí. Es fundamental en el desarrollo de cualquier democracia que realmente pretenda serlo. Frankfurt alerta de ello al afirmar que «los ricos están en posición de ejercer más presión que los pobres y de influir en nuestras costumbres y conducta social, así como de determinar la calidad y la dirección de nuestra vida política»55. Si la tecnología destruye el empleo, y más personas se sumergen en la pobreza, crecerá la desigualdad y, de forma proporcional irá reduciéndose la democracia. Garantizar una asistencia social que proporcione alimento y cobijo, como mínimo, amplía los horizontes democráticos de los ciudadanos al no verse obligados a tratar de conseguir su sustento y el de las personas a su cargo como primera y única prioridad. Tampoco pensemos que se trataría de una cuestión novedosa ni transgresora. Autores como Pisarello han escrito y desarrollado ampliamente la propuesta del derecho a una Renta Básica incondicionada, suficiente y universal, reconocida a todos en tanto 54 Pérez del Río, F., op. cit., p. 167. 55 Frankfurt, H. G., Sobre la desigualdad (A. F. Rodríguez Esteban, Trad.), Paidos, Barcelona, 2016, p. 10. RGDA ISSN: 1696-9650, núm. 50, Enero (2019) Iustel 20 que ciudadanos o residentes estables56. Es más, encontramos ejemplos de instauración de rentas básicas ya en la década de los setenta del siglo pasado. Además con resultados positivos, como en el pueblo canadiense de Dauphin, en Manitoba, en el que se llevó a cabo en los años setenta un experimento similar a la renta básica: el mincome. «Los cheques del Gobierno local a más de mil familias sirvieron para erradicar temporalmente la pobreza, disminuir drásticamente los ingresos en los hospitales y mejorar el rendimiento escolar»57. Y «en su campaña de 1972 por la presidencia de los Estados Unidos, George McGovern propuso un demogrant (ingreso básico) de 1.000 dólares al año: financiado por un impuesto al ingreso de base amplia»58. Y también encontramos casos asimilables en el presente, como el programa Alaska Permanent Fund que consiste en un fondo de fideicomiso gestionado por la Alaska Permanent Fund Corporation, propiedad del estado de Alaska y que opera con el dinero procedente de al menos el 25% del capital que genera la explotación de minerales y petróleo en el estado. Con cargo al Fondo se reparte un dividendo a toda persona que resida legalmente durante un mínimo de seis meses59. Para que realmente suponga un avance democrático en relación con la robotización, la propuesta es que el subsidio se pague, no sobre la base de la ciudadanía, sino de la participación en los asuntos públicos, y por esta razón nos tendríamos que referir a esta renta como a una suerte de subsidio compensatorio por la participación política. Sobre esto Atkinson ha dado respuesta a las posibles críticas que vienen aparejadas a este planteamiento: «La condición de participación es controvertida. Los críticos dicen que un subsidio «incondicional» estaría siendo remplazado por un subsidio «condicional», socavando uno de los principios fundamentales del enfoque. A esto replico que, mientras un ingreso básico con frecuencia se describe como «incondicional», tiene que haber una condición de calificación. Un turista no puede llegar del extranjero y solicitar el ingreso básico»60. Entendemos que este planteamiento puede ser acusado de excesivamente optimista. A lo que cabe responder, en primer lugar, que estamos abordando la cuestión desde una perspectiva positiva. El avance tecnológico es imparable y, sin duda, llegará el día en el 56 Pisarello, G., “La renta básica como derecho y como contrapoder”, El vuelo de Ícaro, 2-3, 2002, pp. 91-108. 57 Pérez del Río, F., op. cit., p. 168. 58 Atkinson, A. B., op. cit., p. 218. 59 Moreno, L. y Jiménez, R., op. cit., p. 138. 60 Atkinson, A. B., op. cit., p. 219. Análisis monográfico 21 que el empleo sea sustituido por las máquinas. De modo que debe analizarse la realidad desde un prisma de optimismo para el futuro de la Humanidad. Si solo observáramos el planteamiento futuro desde un punto de vista oscuro y negativo lo único que estaríamos confirmando es el error de dirección en el que se están desarrollando los acontecimientos. De modo que habría que reorientar todo el desarrollo presente y previsión de futuro. Sin embargo, los avances tecnológicos facilitan y alargan la vida de las personas, lo que confirma que no vivimos en el error, sino que debemos pensar y desarrollar dicha tecnología en beneficio de los seres humanos. En un escenario en el que el empleo, y por tanto la capacidad de obtener recursos, va menguando paulatinamente hasta su completa desaparición, dotar a los ciudadanos de una renta garantizada para que puedan desarrollar su vida sin retrotraerse a tiempos remotos en los que la supervivencia diaria era la única meta vital resulta bastante razonable. En segundo lugar, el planteamiento también optimista de que los ciudadanos, liberados de las cargas laborales se dedicarían a la cuestión política estriba en un razonamiento positivo de la condición humana, por descontado, pero también radica en la concepción misma del hombre. El hecho de que la mayoría de los seres humanos nos agrupemos en sociedades también responde a una cuestión humana positiva. Nos reconocemos entre iguales y fundamos comunidades desde el principio de los tiempos. El modo de organizar esas comunidades no nos es ajeno, porque de él depende nuestra forma de vida y la de quienes nos rodean. Si no empleamos el tiempo debido en ocuparnos de las cuestiones públicas no es, en general, porque no nos interesen, sino porque la evolución de las sociedades ha tecnificado al ser humano al punto que hay un segmento de la población específico que se dedica a esos asuntos, siendo los demás, en la mayoría del tiempo, meros espectadores de la realidad política. Pero ello no responde a una figura natural de delegación, sino a la clasificación y configuración humana de las sociedades. Liberados de la cuestión laboral, y dotados de unos medios de subsistencia dignos, lo que generaría el mayor avance tecnológico no es una especialización y tecnificación de las personas, como ahora ocurre, sino de las labores. Empleando las máquinas y los avances informáticos para las cuestiones en las que se han ido especializando progresivamente los ciudadanos, se deja de tecnificar a las personas y, en consecuencia, se les habilita para su fin primigenio, encontrarlos modos de organización óptimos de las comunidades en las que se insertan. Nuestro bienestar es un objetivo principal, el nuestro y el de nuestro entorno, ampliando con ello los límites geográficos que se consideren según el caso. De ahí que la apuesta por una mayor tecnificación implica, paradójicamente, una rehumanización de las personas. Un regreso al pasado, al fin y al cabo. RGDA ISSN: 1696-9650, núm. 50, Enero (2019) Iustel 22 2.2.3. La libertad de los «cibermodernos» Benjamin Constant en su famosa conferencia «De la libertad de los antiguos comparada con la de los modernos» definió la «libertad de los antiguos» como aquella de la que gozaban los ciudadanos en la Atenas de Pericles, momento de mayor esplendor de la democracia en Atenas61. Los ciudadanos eran allí los hombres libres, a diferencia de los esclavos, las mujeres, los metecos (extranjeros) y los niños, y eso significaba que podían acudir a la asamblea de la ciudad, a deliberar y tomar decisiones conjuntamente sobre la organización de la vida de la ciudad62. La libertad de los «modernos» correspondería, por tanto, al ámbito privado, al derecho de cada uno a no estar sometido más que a las leyes, a no poder ser ni arrestado, ni detenido, ni muerto, ni maltratado de manera alguna a causa de la voluntad arbitraria de uno o de varios individuos63. Con ello, el archiconocido escrito de Constant representa un punto de inflexión histórica, que marcará la evolución del concepto que de democracia tenemos, dos modos de entender la participación de los ciudadanos en los actos públicos, del modo de entender la libertad64. En la actualidad son muchas las voces que solicitan una mayor participación de los ciudadanos en los asuntos públicos, volviendo así a una libertad entendida como participación política, que es como entendían la libertad los antiguos en la diferenciación reseñada. Esta libertad consistía en ejercer de forma colectiva pero directa, distintos aspectos del conjunto de la soberanía, en deliberar en la plaza pública65. Ahora deliberar en la plaza pública resulta difícilmente materializable, pero esa demanda de una mayor democracia y participación con los avances de nuestra época dan forma a una libertad que podríamos calificar, jugando con la nomenclatura empleada por Constant, como la libertad de los «cibermodernos». Ya Bobbio mostraba en parte este posible efecto de democracia y avance tecnológico cuando al estudiar la cuestión establecida por Constant indicaba que con respecto a las dos diferencias fundamentales entre la democracia de los «antiguos» y la de los «modernos», tímidamente se puede prever que la democracia del futuro gozará del 61 Constant, B., Escritos políticos, Centro de Estudios Constitucionales, Madrid, 1989, pp. 257- 285. 62 Cortina, A.; Ciudadanos del mundo: hacia una teoría de la ciudadanía, Alianza, Madrid, 1997, p. 231-232. 63 Constant, B., op. cit. 64 Iturbe Mach, A., “Democracia, democracia electrónica y Parlamento Vasco”, en J. Barrat Esteve y R. M. Fernández Riveira (coords.), Derecho de sufragio y participación ciudadana a través de las nuevas tecnologías, 1ª ed., Civitas, Cizur Menor Navarra, 2011, p. 263. 65 Ramírez Nárdiz, A., Democracia participativa: la democracia participativa como profundización en la democracia, Tirant lo Blanch, Valencia, 2010, pp. 98-99. Análisis monográfico 23 mismo juicio de valor positivo que la segunda, si bien regresando en parte, mediante la ampliación de los espacios de la democracia directa hecha posible por la difusión de las computadoras, a la primera66. Y es que realmente podemos encontrar una oportunidad de volver a la esencia de la democracia gracias a la tecnología. Es un tema muy manido el de la desafección política, el desapego de los ciudadanos hacia los dirigentes políticos y lo complicado que resulta involucrar a la ciudadanía en los aspectos públicos, en la toma de decisiones entre todos. Y con este planteamiento se podría incentivar la participación de todos. En el ámbito democrático, y salvando los obstáculos que ahora analizaremos, volver a la polis, a la democracia original y ateniense puede ser un repunte democrático y político en pleno siglo XXI. Y es que en este aspecto democrático podríamos llegar a decir que, en política, y parafraseando a Jorge Manrique, cualquier tiempo pasado, fue mejor67. Cuando decíamos que podíamos remitir a la antigua polis ateniense en sus aspectos democráticos obviamente éramos conscientes de que existían una serie de obstáculos porque «únicamente los varones adultos podían disponer de la ciudadanía. Los esclavos, empero, desempeñaban un papel importante en la forma de gobierno ateniense: su trabajo liberaba a los ciudadanos propietarios de esclavos para participar en la política pública»68. De hecho Ramírez Nárdiz considera que la esencia misma de la democracia griega era la existencia del fenómeno de la esclavitud pues no era otra cosa sino ésta la que permitía a los ciudadanos poder dedicar grandes cantidades de su tiempo a los asuntos políticos haciendo que entre lo privado y lo público no existiese una frontera como al modo actual la hay. Sin la liberación que del trabajo suponía la esclavitud no hubiese sido posible la democracia directa griega por la falta de tiempo que hubiesen padecido los ciudadanos69. No nos vamos a detener en la cuestión obvia de que en la actualidad no solo los varones adultos participan en la vida política. Pero el dato que es relevante en la cuestión que nos atañe es que ello lo podían hacer, podían vivir la democracia en todo su esplendor, porque los esclavos liberaban su tiempo y ellos lo empleaban para la participación ciudadana70. La esclavitud de miles permitía la liberación de una minoría de 66 Bobbio, N., Teoría general de la política (edición de Michelangelo Bovero, A. de Cabo y G. Pisarello, Trads.), Trotta, Madrid, 2003, p. 413. 67 Manrique, J., Poesía (11ª ed. Edición de J. M. Alda Tesán), Cátedra, Letras Hispánicas, Madrid, 1986, p. 148. 68 Tilly, C., Democracia (R. Viejo Viñas, Trad.), Akal, Tres Cantos (Madrid), 2010, p. 58. 69 Ramírez Nárdiz, A., op. cit., pp. 22-23. 70 Held, D., Modelos de democracia (versión española de Teresa Albero), Alianza, Madrid, 1991, p. 50. RGDA ISSN: 1696-9650, núm. 50, Enero (2019) Iustel 24 ciudadanos libres que podían concurrir sin trabas a las asambleas71. Es sencillo inferir la analogía que pretendemos presentar. El robot, la máquina, el algoritmo, la IA… todo ello debe ir dirigido al progreso humano. Pero sobre todo ese progreso debe canalizarse en una mejor calidad de vida en todos los sentidos. Y al aspecto político le aguantan la comparación muy poco otros aspectos de la vida humana. El gran avance tecnológico supera el evidente problema ético y de dignidad que envuelve a la esclavitud. La dignidad del hombre implica que nadie es un medio para otro, sino que participamos en la idea de dignidad y, en consecuencia, el ser humano es un fin en sí mismo72. Pero ese problema desaparece si quien nos libera de las tareas es algo creado para ello, una máquina. III. LA CUESTIÓN LEGAL El Derecho no ha sido ajeno a toda esta evolución tecnológica que permite un tratamiento masivo de datos, también para cuestiones de índole democrática. Así, la Ley Orgánica de Protección de Datos Personales y garantía de los derechos digitales73 blinda a los partidos para «utilizar datos personales obtenidos en páginas web y otras fuentes de acceso público para la realización de actividades políticas durante el periodo electoral». Con ocasión de la tramitación en el Congreso y Senado de esta Ley Orgánica para modificar la ley electoral74, se ha dado luz verde a la «recopilación de datos personales relativos a las opiniones políticasde las personas que lleven a cabo los partidos políticos en el marco de sus actividades electorales» y que «se encontrará amparada en el interés público únicamente cuando se ofrezcan garantías adecuadas». Además, los partidos han establecido que el envío de propaganda electoral «no tendrá la consideración de actividad o comunicación comercial»75. 71 Cristi, R., “Participación, representación y republicanismo”, Anuario filosófico, vol. 36, 75-76, 2003, pp. 53-81. 72 Kant, I., Fundamentación de la metafísica de las costumbres (edición de Luis Martínez de Velasco), Espasa-Calpe, Madrid, 1990. 73 BOE, Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales. «BOE» núm. 294, de 6 de diciembre de 2018. Referencia: BOE-A-2018- 16673. 74 BOE, Ley Orgánica 5/1985, de 19 de junio, del Régimen Electoral General, «BOE» núm. 147, de 20 de junio de 1985. Referencia: BOE-A-1985-11672. 75 Disposición final tercera de la Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales dispone lo siguiente: Modificación de la Ley Orgánica 5/1985, de 19 de junio, del Régimen Electoral General. Se modifica la Ley Orgánica 5/1985, de 19 de junio, del Régimen Electoral General que queda redactada como sigue: Dos. Se añade un nuevo artículo cincuenta y ocho bis, con el contenido siguiente: «Artículo cincuenta y ocho bis. Análisis monográfico 25 La justificación de esta medida estriba en la necesidad de adecuación del Reglamento general de protección de datos76 para salvaguardarse de actuaciones como la de Cambridge Analytica en su uso de Facebook para mercadotecnia electoral, anteriormente descrita. Porque los partidos políticos ya emplean estos datos, la cuestión ahora ha sido regular tal circunstancia para evitar problemas futuros y adecuarse al Considerando 56 del citado Reglamento77. Los partidos políticos son conscientes de que tener conocimiento de las necesidades del votante facilita tanto la elaboración de programas electorales como la definición del voto dudoso. Se abre la posibilidad de segmentar el envío de información electoral y, por consiguiente, mejorar los resultados y la eficiencia del proceso. La cuestión es sencilla: el objetivo es que un posible votante escuche o lea aquello que puede incitarle a votar a un partido, a no votar a otro o, simplemente, ir a votar. Y para ello nutrirse del uso que se hace de las RRSS, las aplicaciones, el envío de emails, y la acción que desarrollan los ciudadanos con todos esos elementos. Porque esa acción genera una cantidad ingente de datos, que si se recopilan, dan unas pautas maestras a aquel que vaya a desarrollar una estrategia electoral. La ley que hemos presentado realiza exactamente eso, la posibilidad de almacenar de forma masiva esos datos por parte de los partidos políticos y de forma legal y, con ello, optimizar las campañas electorales. Se dan una serie de problemas en el análisis de la nueva normativa en la medida en que se aprecia poca concreción en el ámbito de aplicación de este uso político de los Utilización de medios tecnológicos y datos personales en las actividades electorales. 1. La recopilación de datos personales relativos a las opiniones políticas de las personas que lleven a cabo los partidos políticos en el marco de sus actividades electorales se encontrará amparada en el interés público únicamente cuando se ofrezcan garantías adecuadas. 2. Los partidos políticos, coaliciones y agrupaciones electorales podrán utilizar datos personales obtenidos en páginas web y otras fuentes de acceso público para la realización de actividades políticas durante el periodo electoral. 3. El envío de propaganda electoral por medios electrónicos o sistemas de mensajería y la contratación de propaganda electoral en redes sociales o medios equivalentes no tendrán la consideración de actividad o comunicación comercial. 4. Las actividades divulgativas anteriormente referidas identificarán de modo destacado su naturaleza electoral. 5. Se facilitará al destinatario un modo sencillo y gratuito de ejercicio del derecho de oposición». 76 Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo de 27 de abril de 2016 relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE. 77 Reglamento General de Protección de Datos (Considerando 56): "Si, en el marco de actividades electorales, el funcionamiento del sistema democrático exige en un Estado miembro que los partidos políticos recopilen datos personales sobre las opiniones políticas de las personas, puede autorizarse el tratamiento de estos datos por razones de interés público, siempre que se ofrezcan garantías adecuadas." RGDA ISSN: 1696-9650, núm. 50, Enero (2019) Iustel 26 datos personales, lo que deja un gran campo de acción a los partidos. Esa escasa concreción despierta cierto recelo en la medida en que no hay límites explícitos en la recopilación de datos, lo que da pie a futuras reinterpretaciones de la ley. Si se quiere proteger al máximo al elector quizás debiera haberse sido más exhaustivo en la redacción de la norma, limitando, del mismo modo, aquello que se entiende por actos políticos. IV. LA CUESTIÓN ÉTICA La cuestión ética es fundamental para tratar el tema que estamos desarrollando. En realidad este tema y cualquier otro que afecte a la esencia misma del ser humano. Aunque en teoría ninguna cuestión merecería ser tratada si supusiera un menoscabo ético, puesto que si las personas tienden a desarrollar su vida de la manera más adecuada posible, en principio se desenvolverá siempre desde una posición ética. La realidad nos indica en muchas ocasiones otra cosa, por lo que conviene, pese a la teoría, reflexionar sobre la moralidad de algunas decisiones que afectan al hombre. Y el impacto de la IA no es una excepción, desde luego. Es más, Luciano Floridi ha desarrollado una subdisciplina bautizada como Data Ethics, entendida como una nueva rama de la ética que estudia y evalúa los problemas morales relacionados con los datos (generación, grabación, almacenaje, procesamiento, difusión y uso de los datos), los algoritmos (IA, agentes artificiales, aprendizaje automático y robots) y prácticas conexas (innovación responsable, programación y diseño de sistemas de IA, hacking y códigos profesionales)78. Son múltiples los debates éticos que se desencadenan cuando desplegamos las ideas básicas para conjugar la IA, los algoritmos, el aprendizaje profundo, y todo ello aplicado al ámbito de la política. El debate sobre el tratamiento que debe darse a los sistemas de IA va más allá de una cuestión normativa. Cuando estos sistemas pueden tener una incidencia directa en la organización política de una sociedad deben ser examinados desde un prisma moral. Un análisis frío de la situación nos diría que gracias a este desarrollo tecnológico las decisiones políticas pueden ser tomadas con un criterio mucho más coherente y razonado que si se dejan al azar de las personas. Pero es el criterio propio de las personas el que dota de sentido a que exista una organización política, porque esa unión es, por sí misma, fruto de ese criterio colectivo. Pese a la amplitud de posibilidades que se abren en este tema, nos vamos a centrar en dos cuestiones. La primera es si una mejor organización política, al menos más eficiente, es un criterio aceptable sobre el que emprender una progresiva implantación 78 Floridi, L. y Taddeo, M., What is Data Ethics? Philosophical Transactions of
Compartir