CARISSA VÉLIZ
Dónde vives, cómo vives, con quién vives, si estás siendo infiel a tu pareja, dónde trabajas, con quién trabajas, con quién hablas, si hablas con un periodista, con un abogado o con un médico.
Todo esto se sabe, simplemente, con tu localización.
Por JULIA HIGUERAS
Fotografía EDUARDO CANDEL
Nos vigilan.
Saben que estoy escribiendo estas palabras.
Saben que tú las estás leyendo.
Gobiernos y cientos de empresas nos espían: sí, a ti, a mí y a todos nuestros conocidos. Cada minuto, todos los días.
Rastrean y registran todo lo que pueden: nuestra ubicación, nuestras comunicaciones, nuestras búsquedas en internet, nuestra información biométrica, nuestras relaciones sociales, nuestras compras y mucho más.
Quieren saber quiénes somos, qué pensamos, dónde nos duele. Quieren predecir nuestro comportamiento e influir en él.
Tienen demasiado poder. Su poder proviene de nosotros, de ti, de tus datos.
Es hora de volver a tomar el control. Recuperar la privacidad es la única manera de que podamos asumir de nuevo el mando de nuestra vida y de nuestras sociedades.
Internet se financia principalmente mediante la recopilación, el análisis y el comercio de datos: la economía de los datos. Muchos de ellos son personales: datos sobre ti.
La compraventa de estos datos personales como modelo de negocio se está exportando a cada vez más instituciones de la sociedad, que pasa a ser la sociedad (o el capitalismo) de la vigilancia.
Este es un fragmento del libro ‘La privacidad, es poder’, seleccionado y recomendado por la prestigiosa revista ‘The Economist’, como uno de los libros de obligada lectura, una guía definitiva para afrontar uno de los problemas más importantes de nuestro tiempo: la privacidad.
Su autora, Carissa Véliz, es profesora asociada de la Facultad de Filosofía y del Instituto de Ética de Inteligencia Artificial, así como miembro del Hertford College de la Universidad de Oxford.
Carissa, ¿nos vigilan, nos espían?
Sí, definitivamente, nos vigilan, nos espían.
Todos tenemos un espía en el bolsillo.
Si tienes un teléfono, llevas un artefacto que, no solamente trabaja para ti, sino que trabaja para otras instituciones, para otras personas.
Tu teléfono manda datos que tú no le has pedido que mande y, en muchas ocasiones, son datos muy sensibles, datos que, como la localización, pueden parecerte muy aburridos pero que, sin embargo, revelan información muy importante sobre ti: dónde vives, cómo vives, con quién vives, si estás siendo infiel a tu pareja, dónde trabajas, con quién trabajas, con quién hablas, si hablas con un periodista, con un abogado, con un médico, todo esto se sabe, simplemente; con tu localización.
_____________________________________________________________________
TAMBIÉN TE PUEDE INTERESAR:
_____________________________________________________________________
La cantidad de datos que estamos recopilando y la sensibilidad de esos datos es realmente alarmante.
¿Qué es para ti la privacidad en el siglo XXI, por qué no es la misma ahora que para tus abuelos, o para tus tatarabuelos?.
La privacidad, en un sentido muy general, es limitar el acceso que otros tienen a ti para protegerte de posibles abusos de poder.
Y, en ese sentido, la privacidad es muy universal y siempre ha sido la misma.
Limitamos la información que otros tienen sobre nosotros para no ser vulnerables a ellos, pero, claro, conforme cambian las estructuras de poder, conforme cambia el tipo de información a la que se puede acceder, cambian los detalles de cómo protegemos esa privacidad y cambia también cómo perdemos la privacidad.
Ahora podemos recolectar más datos que nunca y tenemos capacidades para analizar esos datos que antes no teníamos, y eso quiere decir que cambia la manera de cómo tenemos que proteger la privacidad y el tipo de amenazas que sufre la privacidad, pero, en su valor fundamental, la privacidad no ha cambiado, porque sigue protegiéndonos de esos abusos de poder frente a otras personas, así como de instituciones y gobiernos.
Tu teléfono manda datos que tú no le has pedido que mande y, en muchas ocasiones, son datos sensibles’
Si recuperáramos esa privacidad, seríamos una sociedad más empoderada.
¿Cómo revertir esta invasión?
Este es un esfuerzo colectivo.
Definitivamente, recuperar la privacidad significaría recuperar parte del poder de la ciudadanía, del poder que ha perdido el individuo, la propia autonomía.
El esfuerzo colectivo va a depender de muchas cosas, te explico:
Por una parte, está el fundamento cultural.
Al final, nuestras leyes y nuestras prácticas se fundamentan en diferentes tipos de cultura.
Sí hemos visto últimamente la cultura de exposición de cuéntanos que comes, cómo te sientes, qué opinas de esta persona, cuéntanos todo… porque eso crea muchos beneficios económicos, pero, claro, conlleva costes sociales muy importantes.
Entonces, por una parte, hay que valorar la privacidad culturalmente y, por otra parte, hay que establecer una combinación de medidas técnicas.
Por ejemplo, la encriptación, que ha sido muy importante para proteger la privacidad y también las alternativas a plataformas que son respetuosas.
Pero además de todo esto, hay que legislar…
Desde luego, la medida más importante sería prohibir la economía de datos entendida como la venta y compra de datos personales, igual que no vendemos los votos porque eso sería una traición a la democracia; por las mismas razones no deberíamos comprar ni vender datos personales de nadie, porque, al final, se utilizan de la misma manera que se utilizó en Cambridge, con el escándalo de Cambridge Analytics.
Los datos personales se utilizan para propaganda personalizada que manipula las elecciones y manipula la esfera pública.
Legislarlo sería una manera de despojarlos de ese poder.
Pero, en el fondo, ese poder se lo damos nosotros.
Ellos tienen más poder mientras nuestras libertades menguan.
Absolutamente.
La tendencia es a tener menos libertad, toda nuestra vida está regida por reglas invisibles que dependen de nuestros datos personales.
Tu móvil, para ser más exactos, recolecta datos y tú no puedes decirle que no lo haga.
Cada vez tenemos menos libertad y menos autonomía, y lo que me parece muy fuerte que a ti y a mí no se nos trata como a ciudadanas iguales, se nos trata dependiendo de nuestros datos, dónde vives, qué ordenador utilizas y, según tus datos, así serán tus oportunidades.
El capitalismo de la vigilancia…
Ese es un término de la socióloga Shoshana Zuboff y que me parece muy interesante y muy atractivo, luego existen otros como el de ‘la sociedad de la vigilancia’, porque no es solamente el capitalismo, esto es ya mucho más amplio que el capitalismo.
Es la economía de la vigilancia, pero no necesariamente del capitalismo. Había más libertad antes de la época de internet, los seres humanos, éramos más independientes, no estábamos tan condicionados como ahora.
Sí, en muchos sentidos, eso es así, porque podíamos tener la libertad de ir a sitios sin que otros supieran que íbamos, pero ya en 2011, cuando yo estaba en Nueva York, viví el momento de las protestas de Ocupa Wall Street y me acuerdo, perfectamente, que muchos de los estudiantes que querían ir a protestar, pero que en el futuro querían ser políticos, se preocupaban, sabían que los estaban filmando y que les podían reconocer y eso podía afectar a su futuro.
Esto, en la época de los ochenta, no era una preocupación tan importante, ¡claro que les podían hacer fotos!, pero era mucho más difícil identificar a alguien que ahora, en la época digital, cuando puedes identificar a cualquiera mediante el reconocimiento facial o, simplemente, porque tiene su móvil en su bolsillo y, claro, sin protesta anónima, ¿cómo va haber una democracia sana?.
La posibilidad de ser anónimo en una ciudad, sobre todo en una manifestación pacífica, es un elemento muy importante en una democracia.
Sí, sí que lo es, ¿crees que ya es tarde o podemos revertir esta tendencia de alguna manera?.
No, no es tarde, porque tuve el privilegio de escribir el libro que escribí y no estoy en la cárcel, si estuviera en China, por ejemplo; sería bastante diferente.
No estaríamos tú y yo aquí, indudablemente.
Me preocupa que la tendencia sea el modelo chino en vez de correr en la dirección opuesta y no, no creo que sea demasiado tarde, porque los datos se pueden borrar y los datos más valiosos son los que se crean más recientemente, dónde estás ahora, en este momento, localizada.
No es demasiado tarde, pero la ventana de oportunidad que tenemos es cada vez más estrecha, demasiado estrecha, y espero que tomemos cartas en el asunto… pronto.
‘Recuperar la
privacidad significaría
recuperar parte del
poder de la ciudadanía,
del poder que ha
perdido’
Es curioso cómo está cambiando el modelo social.
Tengo varias amigas que dirigen revistas femeninas y me han comentado que ya no quieren portadas de mujeres que tengan algo que contar, ni modelos ni actrices, ni mujeres referentes en diferentes ámbitos profesionales, solo quieren influencers.
El mundo influencer está muy relacionado con lo que estamos hablando, porque no tienen una profesión concreta, pero utilizan su imagen para vender cualquier producto, es la cosificación.
Cuántas más personas te sigan, más dinero vas a recibir por tus posts.
Tú que eres una persona joven y digital, ¿qué opinas?.
Sí, así es.
Tengo un artículo escrito en el que hablo de los influencers y que se llama Presentation.
Lo digo con un poco de tristeza, de cómo necesitamos la filosofía, de cómo vivir, de saber qué es una vida buena.
Me preocupa, en el caso de influencers, cuando se entrevista a chavales muy jóvenes que les preguntan qué quieren ser de mayores y dicen: influencer.
No, no es que tengan algo importante que contar, que quieran cambiar esto o lo otro en el mundo, no, es que lo que quieren es influir, tener ese rol.
´Quiero influir’, dicen, pero ¿cómo?
Les da un poco igual, quieren tener este impacto mediático de imagen y un poco descuidar el trasfondo.
Antes había una postura más idealista y comprometida con la sociedad, de que quiero cambiar algo y tener un impacto porque lo he cambiado, no tener un impacto por tener un impacto en sí, por tener una imagen para ser popular.
También es muy interesante leer reportajes sobre la salud mental de los influencers, porque, por una parte, puede parecer que tienen una vida muy glamurosa, ganan dinero, tienen acceso a gente importante, pero -eso no es nuevo- la fama tiene un precio muy alto que se acaba pagando y los influencers muchas veces son muy jóvenes, son chavales que tienen una vida bastante destrozada, la presión de estar todo el día en el escenario, de no tener privacidad, de seguir estando en el escenario incluso cuando están en su casa, con su pareja, y esto no se ajusta a nuestra psicología.
Somos seres biológicos, con cierto tipo de necesidades, igual que necesitamos comer y beber, necesitamos espacio y tiempo de intimidad y cuando no se proporciona ese espacio y ese tiempo de intimidad, el estrés es tal que rompe a las personas.
Hay suicidios entre los influencers, la cabeza, como dices, no está preparada para estar todo el día, expuesta, para tener millones de seguidores.
Por supuesto, y que ese sea, además, el ideal de vida, es altamente preocupante.
Y esto significa que no estamos pensado en qué constituye tener una vida buena y, por otro lado, tampoco se habla de la responsabilidad de los consumidores de los influencers.
El filósofo norteamericano Thomas Nagel tiene un artículo muy interesante sobre el valor de la reticencia (decir solo en parte, comúnmente con malicia, y ocultar otra que debería decirse) para la salud en la esfera pública.
Él habla de que son necesarias ciertas normas para que la salud pública sea más vivible, que no es engañar.
Hoy está la filosofía, muy superficial, de que ser transparente es bueno.
Tienes que contar todo lo que piensas, todo lo que eres, dónde has estado, lo que has hecho y si no lo haces, estás engañando y seguro que tienes algo que ocultar…
El metaverso es un
concepto que ha
creado Facebook para
distraer de todos
sus escándalos, una
táctica de marketing’
Una cosa es mentir y otra preservar tu intimidad.
Por eso Thomas Nagel dice, que no usar ropa no es estar engañando porque debajo estás desnudo…
Comportarse para hacer que la vida social sea más sana para todos.
Sí, en ese sentido, creo que tenemos mucho que aprender de como lidiamos con los influencers.
Muchas veces se les critica porque no son auténticos.
Recuerdo que hubo un caso muy famoso de una chica que era influencer vegana y se le vio comiendo una hamburguesa.
Alguien le sacó una foto mientras comía y fue todo un escándalo.
En vez de reconocer que los seres humanos somos seres humanos que fallamos, que tenemos todo tipo de complejidades, y que, los influencers, son un poco un anuncio, un producto de ‘marketing’ y que sean juzgados por ello, es como juzgar a un actor porque está mintiendo, el actor está actuando, ese es su trabajo.
¿Qué es real y qué no lo es? Ese es el gran dilema.
Todos sabemos que los actores, actúan, representan un papel, son otros, otras vidas, no son ellos mismos, pero los influencers no están representando ningún papel, venden su vida, cuanto más se exponen, más ganan y creo que es bien distinto.
Sí, con los influencers se juega mucho en esa línea de qué es verdad y que no, de qué es autentico y que no.
Cuando vas a ver una película sabes que es una película y sabes que si el actor mata a otro actor no te preocupas por su salud, porque es ficción…
Hay que luchar con esa sensación de verdad que reflejan los influencers en la sociedad.
Por ponerte un ejemplo, todos sabemos que los ingleses son muy educados, pero, a veces, esa educación es superficial y te sueltan lo de:
¡oh, qué interesante!
Y no les está interesando nada.
Lo de los influencers es igual, es como si fueras a Inglaterra y un inglés te dice que interesante es lo que me estás contando y, en realidad, no le interesa absolutamente nada (risas).
Carissa, en tu libro hablas de inteligencia artificial (IA), para qué crees que sirve, qué aporta a los seres humanos y cuál es la parte en que es engañosa o perjudicial para nosotros, dónde le pondrías tú el ‘warning’.
Es una pregunta muy difícil de contestar, pues la inteligencia artificial es muy amplia y se utiliza para muchas cosas.
Por poner un ejemplo positivo de la inteligencia artificial, te diría que se está utilizando para valorar moléculas que pueden dar lugar a nuevos antibióticos.
Es maravilloso, porque lo puede hacer de una forma mucho más rápida que los seres humanos, no trabaja con datos personales y porque necesitamos desesperadamente nuevos antibióticos para atacar a los superbox, a estos súper microbios que son resistentes a los antibióticos…
Pero.
Cuando la IA (inteligencia artificial) se usa para tratar de resolver problemas que son sociales o políticos, es ahí cuando es desastrosa.
La IA es una herramienta y una herramienta puede ser muy útil, pero también muy imperfecta y una de sus imperfecciones es el ‘Machine learning’, lo que en español traduciríamos como aprendizaje automático.
La IA trabaja con muchos datos y, normalmente, cuando se trabaja con temas sociales se hace con datos históricos, y en la historia tenemos todo tipo de sesgos que no queremos perpetuar y, sin embargo, se perpetúan.
Cuando utilizamos la IA, hay sesgos racistas y sexistas y esto pasa todos los días…
Sí, es increíble que todavía no lo tengamos resuelto ni de cerca y también me preocupa mucho antropomorfizar la IA, porque es una manera fácil para que, cuando pasa algo desastroso, muchas instituciones se laven las manos y le echen la culpa a la IA.
Y no, la IA no es culpable de esos fallos, lo es la persona que lo ha diseñado.
La IA no es un agente moral.
También me preocupa que se diseñe la IA para que parezca humana, definitivamente no tiene nada de humano o tiene de humano porque está diseñada por seres humanos, pero de ahí a tratar de hacer que pase por un ser humano es un síntoma bastante preocupante de nuestra era, en donde cada vez es más difícil saber qué es real y qué no lo es y estamos invitando a la confusión y generando desconfianza en la ciudadanía que es uno de los elementos más importantes para la democracia, para que la sociedad funcione bien.
Es crear desconfianza entre el sistema y los ciudadanos y ya sabemos dónde eso nos lleva.
Estamos hablando de IA, de su complejidad, pero ¿qué es el metaverso?
(Risas). A mí el término se me atraganta un poco.
El metaverso es un concepto que ha creado Facebook para distraer.
‘TODOS LLEVAMOS
UN ESPÍA EN EL BOLSILLO’
Facebook se encontraba en medio de muchos escándalos y la creación del concepto metaverso fue una táctica de ‘marketing’ para distraer.
Sí que es verdad que existe el deseo de generar realidad virtual, pero, en este momento, la empresa no está lista para hacer ese anuncio porque no puede desarrollarlo.
Lo hicieron para distraer de todos los escándalos que tenían con la Wilson Brothers y Cambridge Analytics.
En realidad, no se entiende nada porque no tienen nada todavía.
Y se ha probado que Facebook ha perdido millones y millones en este proyecto que todavía no ha dado ningún fruto, hay muchos obstáculos técnicos y muchas preguntas que responder: sobre si se van a respetar los derechos, si te vas a poder olvidar el móvil en casa, por ejemplo, e irte a caminar con alguien…
Si desarrollamos sensores en todas partes, en las calles, en las paredes, en todas las habitaciones, ya no habrá esa posibilidad de olvidarte el móvil en casa, ya sea propósito o por despiste.
Sí, esto preocupa bastante.
La realidad virtual todavía sigue siendo un proyecto para muchas empresas que lo ven como una posible oportunidad de negocio, pero también es una posible amenaza para la privacidad, la libertad y, por supuesto, para la democracia.
Tenemos que pensarlo muy bien para que no nos sorprenda.
Estamos viviendo un momento histórico muy importante, porque todavía no está desarrollada, pero existen ya muchas empresas que están intentando empujar esos limites.
En mi opinión, creo que no estamos aún listos para este cambio, y lo digo desde el punto de vista de la regulación y también cultural.
Aún podemos hacer que sea un cambio positivo y no negativo para la humanidad.
También puede convertirse en la dictadura del metaverso, una dictadura que controle a la mayoría, una serie de ciencia -ficción, pero real.
Esto, lamentablemente, ya se puede ver en ciertos trabajos, sobre todo, en trabajos que no son de muy alto nivel.
Cada vez se vigila más, se controla más, llegando a ser opresivo.
Hay trabajadores que no pueden ir al baño porque están controlados, incluso están controlados en lugares que no están ceñidos a la oficina o a las ocho horas de trabajo, y esto nos debe preocupar, ya sea por decencia, empatía, solidaridad o porque, simplemente, seamos conscientes de que los siguientes seremos nosotros.
Cuando las barbas de tu vecino veas cortar, aúnque sea virtualmente… ¿Dónde está la ética de la IA?
Es un gran desafío paralelo entre la ética médica y la ética digital y que nos sirve para aprender de los éxitos de la ética médica, pero también de sus fracasos.
En los años cincuenta, tú ibas a un médico y te podían pasar muchas cosas que hoy consideraríamos aterradoras, como diagnosticarte una enfermedad y que no te dijeran ni el diagnóstico.
Si tenías suerte, se lo decían a tu familia, y en muchas operaciones, por ejemplo, cuando estabas sedada, los médicos prestaban tu cuerpo, sin tu consentimiento, para un experimento clínico o para que estudiantes practicaran con él.
La ética médica se desarrolló para parar estos abusos y regular los avances científicos, hoy estamos en un sitio similar con la ética digital.
‘Quiero un mundo
en el que la tecnología
realmente contribuya
al bienestar de las
personas. No siempre
es así’
Nunca antes habíamos tenido entre manos tantos datos personales ¿Qué estamos haciendo con ellos?
Sí, por eso la ética digital es un problema mucho mayor que el de la ética médica, porque es mucho más político, porque lo engloba todo.
Pero volviendo a la ética médica, es increíble que hoy una farmacéutica pueda hacer cien experimentos sobre un medicamento y que 99 no funcionen, y esos experimentos nunca se publiquen, y solo se publique el experimento que sí ha funcionado.
Este es el fracaso de regulación de la ética en el ámbito privado y, claro, la mayor parte de la IA se está desarrollando en ese ámbito privado, no en el público, y no tenemos las estructuras de ética necesarias para regular, tenemos aún que desarrollar esas estructuras éticas.
Imaginemos que cada empresa tuviera un comité de ética que estuviese pagado por una fundación independiente, y que esos comités de ética tuvieran conexión entre ellos a ciertos niveles de empresa, ciudad, municipio, país, internacional.
Estas son estructuras que aún no están desarrolladas…
Y es urgente desarrollarlas, anticiparse a todo lo que está viniendo, porque este es un camino sin retorno.
Vivimos un momento muy interesante.
Recuerdo cuando era estudiante de Ética y me daban envidia los fetichistas que desarrollaban la ética médica, me parecían muy atractivos.
Por una parte, ser filósofo es algo bastante abstracto y bastante teórico, y resolver problemas prácticos urgentes, y la ética de la IA lo es, es muchísimo más interesante.
Es un desafío monumental.
Eres la editora del ‘Oxford Handbook of Digital Ethics’.
Sí, es una guía ágil y autorizada sobre cuestiones éticas relacionadas con las tecnologías digitales, con especial énfasis en la IA.
Filósofos con una amplia experiencia cubren treinta y siete temas: desde el derecho a tener acceso a Internet, al ‘trolling’ y la vergüenza en línea, el discurso en las redes sociales, las noticias falsas, los robots sexuales y las citas en línea, la tecnología persuasiva, la alineación de valores, el sesgo algorítmico, la policía predictiva, la discriminación de precios en línea, la IA médica, la privacidad y la vigilancia, la automatización de la democracia, el futuro del trabajo, y la IA y el riesgo existencial, entre otros.
Cada capítulo ofrece un mapa riguroso del terreno ético, aborda de forma crítica los trabajos más destacados en la materia y señala direcciones para futuras investigaciones.
Pues vamos a darle ese pequeño espacio que merecen los sueños, ¿con qué sueñas tú?
Sueño con un mundo en el que podamos disfrutar de nuestros derechos como nuestros padres y nuestros abuelos hicieron, si no más, desde luego no menos, y sueño con un mundo en el que sigamos pudiendo publicar libros que desafíen a los poderes actuales y hacerlo sin miedo, con libertad y con confianza.
Quiero un mundo en el que la tecnología realmente contribuya al bienestar de las personas, que no siempre es así…
Que nos genere confianza y bienestar.
Confianza y bienestar, y que soporte la democracia y no la erosione. •
