Deepfakes, sus riesgos y beneficios

El avance de la tecnología ha tenido un crecimiento exponencial durante los últimos años, siendo capaz de ofrecernos herramientas poderosas como la inteligencia artificial, el análisis de datos, la mejora del software, tanto para atacar problemas del cambio climático, para ofrecer mejor calidad en videojuegos o películas y hasta increíbles aplicaciones para el ocio. 

Sin embargo, estas tecnologías son tan nobles que pueden ser utilizadas para mejorar la calidad de vida del ser humano o para fines totalmente opuestos, como el crimen organizado, pornografía, entre muchas otras cosas. 

Las aplicaciones de cámara son cada vez más sofisticadas, ofreciendo a los usuarios unas posibilidades prácticamente infinitas de modificaciones y filtros. Se pueden quitar imperfecciones, reducir kilos de las fotos, o crear videos falsos que se ven absolutamente reales. 

Los deepfakes se refieren a videos manipulados utilizando inteligencia artificial que crean imágenes y audio tan realistas que podrían engañar a cualquiera. Este contenido es creado por poderosas computadores y software de aprendizaje automático, el término viene de la combinación de “deep learning” (aprendizaje profundo) y “fake” (falso). Lo anterior permite a cualquiera manipular videos existentes o fabricar a partir de vídeo y audio digital, mostrando a la gente haciendo y diciendo cosas que nunca hicieron o dijeron.

Esta tecnología está disponible para todos, y este vertiginoso ritmo de desarrollo hace casi imposible mantener las regulaciones y leyes al día, con lo cual se abre la puerta para el uso indebido de las tecnologías. El peligro recae en que puede incriminar a cualquiera de algo y hacer una “prueba” muy realista al respecto. 

Por ejemplo, se han usado para crear videos pornográficos utilizando los rostros de artistas famosas como Emma Watson, Gal Gadot y Taylor Swift. Estos han causado un gran revuelo sobre los deepfakes, al igual que videos muy realistas de Barack Obama y Donald Trump así como de otros funcionarios públicos en Estados Unidos.

 “Son una nueva y poderosa herramienta para aquellos que quieran (usar) información errónea para influir en una elección. Estas falsificaciones están planteando un conjunto de desafiantes problemas políticos, tecnológicos y legales”, dijo John Villaseñor, investigador principal de estudios de gobernabilidad en el Centro para la Innovación Tecnológica en la organización de políticas públicas con sede en Washington.

La preocupación actual es que estos videos puedan ser creados para manipular las elecciones presidenciales del 2020:

“Sería una gran cantidad de dinero tener un deepfake de uno de los candidatos demócratas haciendo y diciendo algo que no podrían desacreditar, que podría [utilizar para] inclinar la elección en la víspera de la elección.” (Citron, 2019)  

Sin embargo, muchos argumentan que no son los políticos o artistas los más vulnerables, ya que ellos cuentan con los recursos para defenderse, sino las minorías como las mujeres, personas de la comunidad LGBT+, entre muchos otros que fácilmente pueden convertirse en víctimas de alguna pareja vengativa que publique un deepfake porno utilizando su rostro. Las únicas cosas que necesitaría son unas cuantas fotos, fácilmente accesibles a través de sus redes sociales y un video en donde la persona salga por varios minutos.  Realmente estas personas estarían prácticamente indefensas ante esa amenaza.

¿Qué podemos hacer al respecto? 

En Europa, la implementación del Reglamento general de protección de datos incluye dos herramientas: el derecho a solicitar la eliminación de datos y el derecho al olvido.

Luke Patel, un especialista en derecho a la intimidad, cree que podrían ayudar “a permitir que un individuo solicite la eliminación o eliminación permanente de sus datos personales (incluyendo imágenes) cuando no hay una buena razón para su publicación continua”, aunque cada caso se decidirá de forma individual. 

“No es un derecho absoluto, pero el caso es más sólido si la imagen no está justificada y causa un sufrimiento considerable”. Aunque, continúa, “todavía son solo herramientas que pueden desplegarse cuando el daño ya está hecho”. No impedirán que suceda.

Por ejemplo, en EUA existe un proyecto de ley que plantea obligar a compañías e investigadores a crear herramientas de deepfakes que agreguen una marca de agua a las creaciones manipuladas. De igual manera, requerirá a las grandes compañías de Redes Sociales que se empleen mejores herramientas para la detección de contenido falso en sus plataformas y finalmente, pretende sancionar con multas o penas de cárcel a todos aquellos responsables de usar o crear los deepfakes para dañar a personas concretas o que pongan en riesgo la seguridad nacional. 

De igual manera se están estudiando más a fondo las implicaciones de los deepfakes en las áreas de ética digital en el Instituto Alan Turing para la IA, en la Alianza del Instituto Hariri para la Seguridad Cibernética, la Ley y la Sociedad, entre muchos otros. Haciendo propuestas sobre cómo abordar la problemática. 

Algunos investigadores recalcan que no todo sobre esta tecnología es malo, sino que representa un avance enorme ya que la tecnología de AI que se usa para hacer los deepfakes más realistas llamada generative adverarial networks (GANs) puede ser también de gran utilidad para la ciencia.

Deepfakes utiliza estas GANs en las que dos modelos de aprendizaje automático (Machine Learning) se enfrentan. Un modelo de ML se entrena en un conjunto de datos y luego crea falsificaciones de video, mientras que el otro intenta detectar las falsificaciones. El falsificador crea falsificaciones hasta que el otro modelo ML no puede detectar la falsificación. Cuanto mayor sea el conjunto de datos de entrenamiento, más fácil será para el falsificador crear una falsificación creíble. 

Christina Hitrova, investigadora de ética digital en el Instituto Alan Turing, explica que los GANs tienen muchos usos interesantes – no son sólo para crear deepfakes:

“Los científicos también están explorando su uso para crear moléculas químicas virtuales”, dice Hitrova, “para acelerar la ciencia de los materiales y los descubrimientos médicos: se pueden generar nuevas moléculas y simularlas para ver lo que pueden hacer”. Los GAN’s se inventaron recién en 2014, pero ya se han convertido en una de las herramientas más emocionantes de la IA.

Por otro lado, algunos cineastas han utilizado los deepfakes como alternativa a las imágenes generadas por computadora (CGI) debido a sus altos costos. En la última película de Star Wars, por ejemplo, se utilizaron para poner el rostro de la actriz Carrie Fisher, quien había fallecido antes de terminar el rodaje, sobre el cuerpo de una doble y poder terminar las escenas restantes. 

Aunque todavía es incierto lo que nos depara el futuro, lo que sí está sucediendo, además del ritmo de crecimiento acelerado que tienen las tecnologías, es que poco a poco vayamos confiando menos en las cosas que vemos en internet pues se ha cambiado la manera en la que percibimos la verdad y la mentira. 

Cuando se hace casi imposible diferenciar la realidad de lo falso, ¿qué es lo que nos queda? “Desconfiar de todo”, dirían algunos, pero los impactos sociales y psicológicos que esto puede llegar a tener son enormes. 

El Internet y el futuro del empleo digital

La cantidad de usuarios de Internet está evolucionando cada día. Hoy, podemos decir que somos más de la mitad de la población del planeta quienes tenemos acceso a las plataformas digitales, y las usamos para todo: investigación, entretenimiento y ocio, enseñanza y aprendizaje, compra y venta de artículos y, por supuesto, en el trabajo. Incluso nos resulta difícil pensar cómo funcionaba el mundo antes de su llegada.

Pero, ¿y si tuviéramos que definir ‘Internet’? ¿O cómo funciona? Definitivamente, la palabra que mejor describiría todo lo que es el internet, sería ‘conexión’.

La conexión de las cosas

Cuando pensamos en cosas que están conectadas a través de la red, realmente podemos referirnos a cualquier cosa. Podemos hablar del despertador, la cafetera en la cocina, el horno, la televisión en la sala, el auto, relojes, sensores y hasta botes de basura y espejos.

El ‘internet de las cosas’ es la traducción de la expresión en inglés ​Internet of Things (IoT), ​que, en esencia, trata de objetos que logran conectarse entre sí a través de la red, intercambiando información para optimizar o crear acciones. Estos dispositivos ‘conversan’ por medio de protocolos dentro de la misma red, almacenando información y acompañando así nuestras actividades cotidianas.

Entonces, cuando los objetos logran detectar y comunicarse unos con otros, la manera en que se toman las decisiones cambia y, sobre todo, quién las toma.

Evolución de las relaciones laborales

Hablamos de que el internet está más que presente en nuestras actividades diarias, y en el ámbito laboral se ha vuelto indispensable. Sacamos fotocopias, conseguimos datos, nos comunicamos a través de pantallas, y, en algunos campos, hasta se puede trabajar a distancia, desde casa, en el transporte público o en cualquier parte del mundo.

Este 2020, la IDC pronostica que el gasto mundial en internet de las cosas (IoT) debería ascender de los 692 600 millones de dólares registrados en 2015, hasta los 1,46 billones de dólares. Y esta es una cifra que solamente va en crecimiento y a una velocidad desmesurada.

La revolución del internet es tan grande que ha cambiado enteramente las relaciones laborales. Hoy en día, es la herramienta que más se utiliza al momento de buscar empleo. Se pueden descargar aplicaciones que funcionan exclusivamente para buscar ofertas de trabajo, ya sea a la redonda o para trabajar a larga distancia. En ella, los trabajadores pueden crearse perfiles en los que destacan sus aptitudes profesionales, logrando que quienes estén interesados los contacten. En redes sociales, incluso, constantemente nos saltan publicaciones en las que las empresas avisan de sus nuevas vacantes, y hasta te piden enviar tu currículum de forma online.

Gracias al internet es que podemos seguir conectados, avanzar en nuestros proyectos y obtener nuevas propuestas de valor en el sector laboral.

Plataformas digitales: ¿hace falta regular el empleo?

Ante el rápido crecimiento de las plataformas digitales y cantidad de usuarios quienes no sólo hacen uso del internet para optimizar la realización de sus actividades laborales, sino para quienes el internet se ha convertido meramente en su área de trabajo, surge una gran duda: ¿Qué les garantiza derechos y estabilidad laboral en internet?

Por supuesto, no es lo mismo hablar de una plataforma de crowdworking, en la que los trabajadores prestan sus servicios a un cliente que puede radicar en cualquier parte del mundo, que de empresas como Uber o Airbnb, en las que cliente y trabajador intermedian físicamente para realizar un servicio; no obstante, ambos modelos sugieren retos muy similares.

Para identificar el problema, es indispensable comprender todo lo que conlleva una relación laboral.

Parte esencial de esta es la subordinación, en la que el patrón tiene la facultad de dar órdenes e instrucciones al trabajador, y este último debe acatarlas. El empleado realiza una serie de actividades que benefician al empleador para el logro de un fin determinado y recibe una remuneración económica o de cualquier tipo.

Sin embargo, al referirnos a la relación laboral no sólo hablamos del intercambio de obligaciones y prestaciones de trabajo a cambio de una retribución garantizada, sino de ciertas normas o condiciones bajo las cuales se debe dar un trabajo para ser considerado justo, digno y productivo, y que pueda proporcionar al trabajador un marco de protección y seguridad social.

Las plataformas obtienen entonces el beneficio económico, pero quienes llevan a cabo el trabajo no siempre son conceptualizados como empleados, ni trabajadores, sino que son considerados ‘prestadores de servicios’. Es decir, la relación laboral no existe y, en consecuencia, no tienen acceso a los derechos que la ley contempla para ellos.

“El debate suele centrarse en si los trabajadores de estas plataformas son autónomos o deberían ser asalariados. La consideración de una u otra figura cambia sus condiciones de trabajo”, explica Elsa Santamaría, directora del máster universitario de Empleo y Mercado de Trabajo de la UOC, España. “También se discute si deberían ser considerados autónomos económicamente dependientes, pero sus condiciones de trabajo afectan también a otras cuestiones menos discutidas, como por ejemplo que los trabajadores no disponen de los recursos, sobre todo colectivos, para negociar las condiciones laborales y establecer mejoras en sus puestos de trabajo”, señala.

Recientemente es que se han empezado a aplicar y dictar distintas leyes a empresas que venden servicios o productos vía electrónica.

“El auge de estas empresas (en línea) plantea nuevos desafíos en materia de regulación y competencia. Las autoridades y los órganos reguladores en todo el mundo están abordándolos a fin de garantizar el mejor resultado para los consumidores”, plantea la Organización para la Cooperación y el Desarrollo Económicos (OECD). “Por ejemplo, en México, el Congreso y las Autoridades Reguladoras y de Competencia están centrando parte de su actividad en las plataformas digitales, al dictar nuevas leyes, adaptar las leyes vigentes y esforzándose en una labor de promoción generalizada”.

Este año 2020 se empezará a cobrar en México el impuesto de renta (ISR) del 1% al 10% dependiendo de los ingresos que obtengan algunas aplicaciones y plataformas que brindan servicios de transporte, venta de productos, entregas a domicilio, o servicios de transmisión (streaming) de audio o video, como Uber, Mercado Libre, Amazon, Netflix, entre otras.

A pesar de que el cobro del ISR ya ha sido establecido y comenzará a aplicarse este año, ​todavía no se ha logrado regular el trabajo que generan estas plataformas​, por lo que existe aún un vacío en la legislación. En otras palabras, hace falta establecer un acuerdo internacional y adoptar leyes que

formalicen qué tipo de relación laboral tienen los ‘prestadores de servicio’ con estas aplicaciones.

El problema radica principalmente en que la población no es consciente del riesgo que conlleva no regularlas, y hasta ahora, lo poco que se ha intentado es aplicar las regulaciones y disposiciones obligatorias de los esquemas tradicionales en estas plataformas, pero se trata de continuar probando alternativas y aprendiendo de errores para evolucionar.

Las plataformas están ayudando al crecimiento de la economía y estimulan el empleo, eso está claro; no obstante, las condiciones de trabajo que algunas suponen siguen siendo muy inestables.

Por tanto, abogar por un mayor control de ellas y regularlas es necesario y urgente para asegurar el ​futuro del trabajo y las plataformas digitales de empleo, con el fin de que sigan representando una oportunidad de trabajo digno y desarrollo socio-económico, poder brindar una oportunidad al mayor número posible de emprendedores de todo el mundo, y que el futuro de la economía digital que se desarrolla en Internet continúe siendo abierta a la colaboración, la inclusión y la seguridad social de una manera controlada.