La tecnología de efectos especiales ha experimentado un verdadero auge en las últimas décadas, con CGI pasando de rudimentariamente rudimentario y primitivo a casi indistinguible de la realidad. Ahora, a medida que la creación de imágenes verosímiles se vuelve cada vez más común, los expertos políticos y los expertos en justicia penal anticipan el pánico en torno a la tecnología llamada 'deep fake', que tiene el potencial de complicar aún más una discusión internacional en curso sobre 'fake news'. Pero, ¿qué es exactamente una 'falsificación profunda' y qué grado de amenaza representará esta tecnología en el futuro?
La tecnología Deep fake (a veces estilizada como 'deepfake') se refiere a imágenes y / o videos sintetizados y / o superpuestos creados por inteligencia artificial utilizando imágenes y videos existentes. Usando el aprendizaje automático, esta tecnología podría, en teoría, crear imágenes convincentes de una persona que realiza un acto que nunca ocurrió en la vida real.
es lucy en el cielo libro una historia real
Owen Williams, un ingeniero de software profesional y artista de efectos visuales, ofreció una explicación simple.
'Es una forma de utilizar un sistema de software automatizado para reemplazar la cara de una persona en un video con otra cara que es mucho más automática y convincente de lo que había sido posible con la tecnología anterior', dijo Williams. Oxygen.com .
Williams señaló que películas populares y convencionales como 'Jurassic Park' y 'Blade Runner: The Final Cut' usaban software de computadora para ciertas escenas de formas que podrían haber sido un precursor de las falsificaciones profundas: 'En la industria del cine, esto es realmente común. Digamos que tienes un personaje que necesita realizar un truco y prefieres que su rostro sea visible. La solución clásica sería que solo los verías desde atrás, o su cabello estaría en su cara, por lo que no podrías decir que era un doble. Pero hay una historia bastante complicada de cineastas que usan computadoras para poner la cara de un actor sobre la de un doble de acción ''.
'Solía ser un proceso muy manual', continuó Williams. 'Ahora, con la tecnología deep fake, alimentas a una computadora con dos cosas: primero el video que vas a reemplazar, y luego un montón de entradas de la cara con la que vas a reemplazar. Tienes que obtener suficientes imágenes de una persona haciendo diferentes expresiones faciales y desde diferentes ángulos. Estás creando una biblioteca de cómo puede verse el rostro de esta persona en diferentes situaciones, y luego la computadora revisa y mira el video. Tampoco necesita una coincidencia exacta. Puede aplastar y transformar lo que tiene en la biblioteca para que se ajuste a lo que necesita. Lo que solía requerir decenas de artistas cientos de horas para intentar ejecutar un efecto realmente complicado ahora es solo presionar un botón '.
Una faceta de esta tecnología que preocupa a la gente es que una persona no necesariamente necesita entregar voluntariamente su rostro para que se ejecute este proceso, considerando cuántas imágenes existen en línea de la mayoría de las personas, especialmente celebridades y figuras políticas.
'Hay suficientes fotografías de cualquier celebridad en ángulos suficientes para que pueda crear esa biblioteca [sin consentimiento]', dijo Williams. 'Se requiere una cierta cantidad de trabajo para hacer eso, pero para cualquier figura marginalmente popular eso va a existir. Mi sensación es que es menos probable que esto sea posible para una persona normal '.
Los primeros videos falsos profundos aparecieron en los foros de Reddit a fines de 2017, según variedad . Un usuario afirmó haber usado su computadora para crear videos pornográficos muy realistas de varias celebridades involucradas en actividades sexuales que nunca sucedieron en la vida real. El usuario afirmó que alimentó a su computadora con miles de fotos de las estrellas, de las cuales la IA pudo obtener las expresiones faciales y los movimientos representados. Una aplicación utilizada por creadores falsos profundos y compartida en Reddit finalmente se descargó más de 100,000 veces. (Reddit eventualmente prohibiría este tipo de contenido, diciendo que violaba su política sobre 'pornografía involuntaria', según The Verge .)
Williams pone en duda el realismo que este medio puede alcanzar en este momento.
'Si alguna vez has visto una de estas falsificaciones profundas ... hay una cierta cantidad de rareza allí', dijo Williams. No están pulidos. Sin embargo, probablemente mejorará cada vez más, especialmente porque Hollywood tiene interés en hacer esto automatizado en lugar de pagar a artistas caros '.
Del mismo modo, Williams supuso que a pesar de el pánico alrededor del porno falso profundo , las actitudes culturales cambiantes sobre la naturaleza de cosas como el porno de venganza o las imágenes de desnudos filtradas significan que es probable que las personas que crean este tipo de medios sean condenadas y no celebradas, incluso dentro de la industria del entretenimiento para adultos.
'Nunca va a ser la corriente principal', teorizó Williams. 'Después ' El Fappening Cuando sucedió algo en Reddit, la gente pudo cambiar la conversación y decir: 'Esto no es un escándalo, es un crimen sexual'. Así que no veo que esto se convierta en un escándalo tanto como la gente cree. Las personas también pueden encontrar con bastante facilidad la pornografía original a partir de la cual se creó la falsificación profunda, lo que significa que es bastante fácil de desacreditar ''.
Pero no solo causa preocupación porque podría usarse para crear pornografía falsa de celebridades. La gente también está preocupada por las ramificaciones políticas.
Los expertos políticos comenzaron a escribir sobre la proliferación de falsificaciones profundas en 2018. Un artículo de The Guardian a partir de noviembre de ese año notó la difusión viral de un video que supuestamente representaba al presidente Donald Trump alentando a la nación de Bélgica a retirarse del Acuerdo Climático de París. Esto catalizó una discusión más amplia sobre el potencial de varios gobiernos para utilizar esta tecnología en campañas de desinformación masiva, una conversación que ya se había iniciado gracias a la investigación en curso sobre la participación de Rusia en las elecciones presidenciales de Estados Unidos de 2016.
El pánico en torno a las falsificaciones profundas incluso inspiró al consejo editorial de Bloomberg Media Group a escribir un artículo de opinión fuertemente redactado sobre el asunto.
'Las pruebas de video se han convertido en un pilar del sistema de justicia penal ... precisamente porque la película parece un registro tan confiable del discurso o las acciones de alguien. Las falsificaciones profundas podrían hacer que tal evidencia sea sospechosa ''. ellos escribieron en junio de 2018. 'Entonces, un desafío primordial será identificar y denunciar estas falsificaciones, si es posible'.
Williams estuvo de acuerdo en que la naturaleza de las falsificaciones profundas amenaza nuestras nociones de 'realidad' con respecto a la evidencia en video, pero señaló que este atolladero legal no es exclusivo de nuestro panorama digital contemporáneo.
“De alguna manera se reduce a la idea de que la gente tiene que el video es igual a la verdad, lo que nunca ha sido el caso. Sabíamos esto desde Rodney King en adelante. O piensa en Eric Garner : La gente pensaba que [el oficial que lo mató] era inocente sin importar qué video del incidente predijera. Para mí [muchos de los temores en torno a las falsificaciones profundas] parecen algo infundados '.
flautista de r & b
Williams enumeró varios otros incidentes que no involucraron tecnología falsa profunda que mostraron las formas en que el video ha sido manipulado audazmente para sesgar la opinión pública sobre un asunto, como El controvertido derribo de ACORN por James O'Keefe y un escándalo reciente que involucró video manipulado que supuestamente muestra al reportero de CNN Jim Acosta atacando a un empleado de la Casa Blanca .
La conclusión final de Williams fue que la histeria que rodea a las falsificaciones profundas es algo exagerada.
'Lo que veo que está sucediendo es que funcionará en ambos sentidos. Si sale un video y es real, la gente dirá que es falso. Si sale un video y es falso, la gente dirá que es real. Cada caso asume una cierta cantidad de verdad asignada al video [en sí]. Es difícil saber en qué dirección irá todo esto. Si La cinta del pis en realidad salió, por ejemplo, sabes exactamente lo que pasaría: la mitad de la gente diría: '¡Esto es una tontería, es un actor!' y la mitad de la gente diría: '¡Ahí está! ¡Es real!' Así que nada cambiaría realmente. Eso suele ser lo que sucede con las nuevas tecnologías: las cosas no cambian tanto como la gente piensa '.
[Foto: SAUL LOEB / AFP / Getty Images]
