Fake News, Deepfake, Fake People: la nueva frontera de la ciberseguridad

(Para Carlo mauceli)
14/07/21

Durante el encierro del año pasado comencé a escribir un artículo que nunca tuvo la luz y que tenía como objetivo hacer reflexionar a la gente sobre el fenómeno de noticias falsas que he tenido la osadía de asociarme con las ciberamenazas más invasivas de los últimos años.

Si se introdujera la palabra "fake news" en los distintos informes relacionados con las ciberamenazas, estoy seguro de que obtendríamos cifras muy interesantes, probablemente superiores a las del suplantación de identidad, por ejemplo, que representa el vector de ataque más utilizado en absoluto según el último informe de Clusit.

Más o menos, el artículo comenzaba así:

Trabajando para una empresa estadounidense, el término "narración de historias" se ha utilizado con mucha frecuencia desde hace algún tiempo. Lo sorprendente, quizás no demasiado, es que a pesar de tener un idioma tan hermoso y rico en términos, es una práctica común y consolidada en Italia, en todos los niveles, confiar en términos extranjeros, la mayoría de las veces en inglés. Debo decir, sin embargo, que hay algo particular en esta palabra, algo que no puedo describir pero que despierta una especie de asombro y asombro en el oyente, tan pronto como es evocado. Solo utilízala para embellecer un razonamiento, valido o no, y aquí, como por arte de magia, los interlocutores se iluminan como si se hubiera expresado el concepto más profundo de todos los tiempos.

Ahora se ha convertido en un lugar común, tanto que ya ni lo notamos, tanto que, quizás, hemos dejado de preguntarnos qué queremos decir realmente cuando hablamos de storytelling o sabemos de qué estamos hablando pero, con toda probabilidad, lo hemos olvidado.

Durante la emergencia del coronavirus, nuestro papel está claro. Nos fue recomendado "Ejecutar pedidos" y hacer nuestra parte respetando las reglas como, además, siempre debe ocurrir en un contexto democrático y comunitario. Mis acciones tienen un impacto no solo en mí sino también en las personas que me rodean y con las que interactúo y así, al contrario.

Sin embargo, durante esta experiencia nunca antes vivida, tenemos una actitud algo asimétrica hacia quienes están tratando de enfrentar y resolver la emergencia y solo podemos obedecer y confiar.

Y esta es la palabra claveconfianza. Veamos lo que nos dice Treccani sobre este término tan importante.

fidùcia sf [de Lat. confianza, der. di fidĕre "confiar, confiar"] (pl., raro, -cie).

Actitud, hacia los demás o hacia uno mismo, que resulta de una valoración positiva de hechos, circunstancias, relaciones, para las que se confía en los demás o en las propias posibilidades, y que generalmente produce un sentimiento de seguridad y tranquilidad: f. en Dios, en los hombres, en la fraternidad humana, en la ciencia, en el progreso social; F. en victoria; F. para triunfar; F. en su propia estrella, en su propia fuerza; F. en el resultado de un negocio; mira con f. Al futuro; detener f.; F. ilimitado, absoluto, incondicional; tener, nutrir f.; perder el f.; dar un certificado, una prueba de f.; inspirar f.; ganar, merecer, disfrutar, tener el f. de alguien; guarda tu f. bien o mal; abuso de f. de otros. De uso com. las expresiones: gente de f., mía, de los tuyos, de su f., gente de confianza que se utiliza en asuntos delicados e importantes; médico, abogado de f., el que el cliente elija libre y habitualmente; puesto, puesto, puesto de f., de responsabilidad, delicado, que se apoya solo en personas seguras y de confianza. 

En derecho constitucional, voto por f. Voto por el cual el parlamento aprueba (o, si el voto da un resultado negativo, desaprueba) los lineamientos políticos y la correspondiente acción del gobierno; moción de f., la propuesta, hecha por una de las Cámaras, de recurrir al voto de confianza; cuestión de f., solicitud del gobierno para recurrir al voto de confianza para la aprobación o rechazo de enmiendas y artículos de proyectos de ley: el gobierno ha decidido plantear la cuestión de la confianza. 

En derecho civil, f. testamentaria (o disposición fiduciaria testamentaria), disposición de testamento por la cual el sujeto que recibe el bien es el aparente beneficiario, teniendo la obligación de transmitir ese bien a otra persona (que normalmente no podría ser el heredero directo del testador).

Confianza es una palabra “pesada” que abarca amplios escenarios y que representa una responsabilidad importante en quienes la dan y en quienes la reciben.

Es decir, debemos confiar en quienes intentan, con no pocas dificultades, afrontar un problema para el que nadie estaba preparado. Por lo tanto, debemos tener confianza en las instituciones centrales, las administraciones locales, los médicos, los científicos y, por último, pero no menos importante, en quienes nos cuentan lo que está sucediendo, es decir, los periodistas y los conductores. 

Confianza ... ¿debemos tenerla incondicionalmente, especialmente considerando el mundo en el que vivimos? ¿Un mundo en el que nos bombardean todos los días con una enorme cantidad de noticias que dicen todo y todo lo contrario?

Aquí, quizás, esté el punto fundamental: gestión de la comunicación.

Tanto por parte de las instituciones como por parte de los medios de comunicación, especialmente al inicio de la pandemia, la forma en que se comunicó provocó una filtración de noticias que generó profundas discusiones pero también reacciones irracionales hacia todo y todos, comenzando por Tanto es así que, a medida que pasaban los días, nos dimos cuenta de que esa reacción irracional seguía desencadenada por un gesto igualmente irresponsable el célebre episodio relativo a quienes abarrotaron las estaciones del norte para escapar hacia el sur.

Por tanto, parecía haber una oportunidad para reflexionar sobre cómo, en paralelo a los esfuerzos médicos, el coronavirus debería y podría abordarse en términos de comunicación, pensando precisamente en uno. la narración de la emergencia.

En cambio, la narrativa de la crisis continuó en pistas que se basaron en términos, prácticas y hábitos que, desafortunadamente, han caracterizado negativamente la comunicación durante algún tiempo, mucho antes de la propagación de Covid-19.

Il sensacionalismo, laanálisis bruto, la búsqueda apresurada de lo bueno y lo malo, de héroes y enemigos de la patria. En un momento en que los italianos no pueden evitar confiar en lo que se les dice, el confusión y desinformación se han extendido tanto como el virus, dificultando cada vez más la comunicación y, de hecho, casi anulando la oportunidad de proponer finalmente una narrativa de calidad, nunca tan vital como ahora.

Y todo esto porque hoy, la lectura, el estudio en profundidad, la búsqueda de la veracidad de la noticia es privilegio de unos pocos mientras la mayoría de la gente escucha a los pregoneros políticos y periodistas partidistas que, para recoger votos, sobre por un lado, y influir en la opinión pública por otro lado, incluso en una situación tan crítica como ésta, utiliza la comunicación de manera fraccionada e instrumental.

Todo esto, te guste o no, entra en la categoría de noticias falsas.

"Fake" o "fake news" siguen siendo términos que no hacen justicia a la magnitud del fenómeno que vivimos porque sería más correcto hablar de manipulación o desinformación que sin duda no son conceptos nuevos pero que, en comparación con el pasado, se enriquecen con mayores implicaciones.

Habiendo constatado que, a estas alturas, la mayoría de la población prefiere conocer cualquier tipo de información de las "redes sociales", independientemente de la importancia del tema, es posible afirmar que entre los principales riesgos está el que puede considerarse válido. e información claramente falsa.

Esta situación se ve agravada aún más por la llamada "Efecto contraataque" ese es el fenómeno según el cual "Cuando impugnas información falsa pero ya consolidada, terminas confirmándola aún más porque, lamentablemente, eres reacio a cambiar de opinión".

Podemos afirmar que todos los sectores culturales de la sociedad contemporánea son víctimas de las "fake news" aunque la mayor concentración parezca estar en el contenido científico.

El punto de vista personal es que la desinformación en este sector encuentra un terreno fértil para difundirse porque se basa principalmente en el desconocimiento de conceptos básicos.

El hecho de que el lenguaje científico sea extremadamente específico permite que quienes generen desinformación obtengan un éxito inmediato y notable, afectando negativamente al mundo académico que corre el riesgo de perder credibilidad. También es emblemático que cuando surgen falsedades sobre la salud, el daño causado corre el riesgo de volverse irreparable.

Se han realizado muchos estudios al respecto y lo que emerge es que hay una creencia de muchos en definir el papel de las "empresas tecnológicas" como empresas tecnológicas centrales que, lejos de funcionar como meras "plataformas", juegan un papel fundamental. rol más acorde con las características y requerimientos de las empresas.

El gran poder de estas empresas no acaba en subir contenido a una plataforma sino que, por el contrario, se eleva gracias al control selectivo y puntual de lo que vemos ya que este es su modelo de negocio.

Y el objetivo final, en cuanto a la política, después de todo, sigue siendo aumentar su audiencia de usuarios, alisando su cabello, por usar un eufemismo algo "francés", modificando el flujo de información a pesar de su supuesta neutralidad.

Para ello, hacen un uso extensivo de sofisticados algoritmos, análisis de datos, técnicas de cotejo de datos y elaboración de perfiles gracias a las cuales se procesa una gran cantidad de información recopilada, cedida a terceros sin, muy a menudo, el consentimiento de los interesados ​​o con un inconsciente. consentimiento; datos que se utilizan, junto con la recopilación, en promoción publicitaria y micro focalización a través de las redes sociales.

I bot son otra herramienta que se utiliza de manera notable. Como sabemos, se trata de programas que acceden a la red a través del mismo tipo de canales que utilizan los usuarios humanos y que permiten, entre otras cosas, mediante algoritmos específicos, realizar tareas precisas como actividades de datos. raspado e Raspado web que dan lugar a la extracción de datos e información presentes en una determinada página para utilizarlos en otros contextos.

En la plaza virtual se oculta información falsa o incorrecta, ya sea de carácter comercial o político, enviada a un micro target de personas a partir de datos recogidos por poderosas empresas web marketing, sin que los interesados ​​lo tengan conocimiento.

Cada vez con mayor frecuencia el "debate público", centrado en cuestiones de alta complejidad y difícil solución, que conciernen al futuro de todos, se distorsiona y se transforma en campañas reales de marketing de consentimiento, hecha solo de eslóganes que llenan el espacio público.

Básicamente, el empresas de tecnología se les estimula, incluso desde el punto de vista económico, a priorizar contenidos sensacionalistas, ya que es más probable que llamen la atención y que favorezcan la polarización y radicalización de los debates.

La sensación generalizada es que la desinformación que circula en las plataformas es el resultado de un proyecto organizado y liderado por actores que han entendido muy bien algunos principios básicos de la economía digital a través de los cuales obtener grandes ingresos publicitarios.

Todo esto siguió propagándose incontrolablemente por lo que, en octubre de 2018, las principales plataformas digitales firmaron un "código de conducta" para combatir la desinformación online. Este es un comienzo, pero representa un paso fundamental en la lucha contra un problema que potencialmente puede amenazar la confianza de los ciudadanos en las instituciones, como se reafirma en la UE.

El objetivo de la Unión Europea, entre otras cosas, es gestionar un paquete de normas de autorregulación de forma voluntaria, adecuado para combatir la desinformación en la web.

De hecho, al unirse a este proyecto, todas las empresas web se han fijado reglas para combatir la desinformación en todos los estados miembros de la UE.

De todo esto se desprende que la información se ha transformado en "comunicación" y que, al mismo tiempo, se ha desarrollado la desinformación, que sin duda representa un fenómeno complejo y cambiante, y que puede ser utilizado como una nueva arma, para fines políticos, económicos. o con fines militares.

Hoy en día, las técnicas de desinformación son tantas y tan refinadas que representan una amenaza para la seguridad y la estabilidad de un país. Por esto, como anticipé, tengo la audacia de que podemos considerarlos como uno amenaza cibernética.

No es casualidad, de hecho, que cuando se cuestiona la integridad y estabilidad de un país, los servicios de inteligencia juegan un papel fundamental en la lucha contra estas formas de amenaza. Además, los propios servicios de inteligencia se han interesado por una transformación que les ha llevado a asumir una connotación capaz de afrontar los nuevos retos de seguridad.

Sin entrar en los detalles de lo que se entiende por inteligencia y consciente de que el lector puede, sin embargo, aprenderlo de diferentes fuentes (v.link), precisamente porque es necesario hacer frente a nuevas amenazas híbridas y, sobre todo, asimétricas, su papel se vuelve fundamental.

La inteligencia está íntimamente ligada a lo que ocurre en el ámbito internacional, especialmente en lo que respecta al equilibrio de poder entre los estados pero también al mercado global.

Este vínculo es aún más cierto si pensamos en aquellas zonas del mundo donde no existen conflictos de carácter tradicional pero que sufren los fenómenos de vulnerabilidad derivados de conflictos económicos, formas avanzadas de terrorismo de matriz diversa y ataques implementados con nuevas metodologías. que necesitan formas específicas de inteligencia.

Las tradicionales "amenazas a la seguridad" han evolucionado hasta llegar a ciberamenazas más complejas operadas por actores que, fundamentalmente, se pueden dividir en dos macrogrupos:

- actores gubernamentales que son muy estructurados y extremadamente peligrosos por el hecho de que cuentan con enormes recursos económicos y humanos. Podemos representar las amenazas de las que son autores en dos clases: guerra cibernética que también es una especie de guerra digital espionaje cibernético que representa el espionaje digital.

- actores no gubernamentales de qué grupos terroristas pertenecenterrorismo cibernético), organizaciones criminales (delitos cibernéticos) y otros actores atribuibles a individuos movidos por impulsos religiosos, políticos e ideológicos.

Todo esto nos lleva a pensar que las acciones delictivas harán uso cada vez más de herramientas tecnológicamente avanzadas como la inteligencia artificial, cuya finalidad será desestabilizar las relaciones internacionales y tener una percepción inducida de seguridad, por así decirlo.

Un arma posible es la del "Deepfake", basado en procesos que explotan los principios de la inteligencia artificial para modificar y superponer imágenes y videos a partir de los originales para elaborar otros en los que los sujetos realizan acciones, hablan y se mueven en contextos absolutamente no reales, gracias a técnicas de aprendizaje automático como "Red generativa contradictoria".

Luego están los "Gente falsa", personas que no existen en la realidad pero que son protagonistas de videos virtuales que generan fuertes sentimientos como enfado, desconfianza, compasión, miedo o malestar según los fines que persiguen.

El desarrollo de un inteligencia cibernética Efectiva es una realidad incontrovertible que debe adaptarse a escenarios cambiantes basados ​​en el análisis de fuentes abiertas, en el procesamiento de big data, en el desarrollo de técnicas de inteligencia artificial con las que hacer frente a la guerra cibernética y garantizar la defensa de la comunidad.

A partir de aquí es evidente el vínculo con lo que este artículo ha pretendido resaltar, a saber: "Noticias", "información", "desinformación" entran e impregnan el sistema de "medios" y el sistema de "inteligencia" y para evitar que tecnologías tan penetrantes puedan "hacer estallar" el sistema de comunicación e información con repercusiones inimaginables en la propia sociedad, Es fundamental que la inteligencia juegue un papel central en la garantía de la seguridad.

En resumen, nos encontramos ante un sistema extremadamente complejo dentro del cual es casi imposible establecer la fuente de una noticia o verificar su veracidad. Esto es porque quien genera noticias falsas tiende a equiparar cualquier opinión u opinión sobre un tema determinado con el resultado de que todos se sienten como "los mejores expertos". Además, está extremadamente amplificado por las redes sociales.

El drama es que ante todo esto, la mayoría de los usuarios están indefensos también y sobre todo en virtud de que, a estas alturas, aceptan cualquier noticia que les faciliten los periódicos, la televisión o las redes sociales.

Parece haber una similitud sombría entre los tiempos en que la censura, independientemente del poder político del país en el que operaba, se preocupaba por bloquear información y el momento actual en que otros órganos de poder tamizan, evalúan, modifican y construyen una enorme cantidad de información. de información inútil e irrelevante al confundir y manipular al destinatario de esta información, es decir, al usuario medio, lamentablemente incapaz de resistir.

Creo que es fundamental, en este punto, invertir en uno moderno y eficaz. inteligencia cibernética capaz de desarrollar habilidades contrainteligencia cibernética que va más allá del mero rol defensivo y es, por el contrario, mucho más proactivo y orientado a poder operar en la ciberdimensión incluso con ataques y simulaciones, cuyo propósito puede ser obstaculizar a los oponentes que paulatinamente se materializan en este escenario. .

Por último, pero no menos importante, y no nos cansaremos de enfatizarlo, debemos invertir en la formación de todos los usuarios hacia una sensibilidad cada vez mayor de la seguridad informática, de modo que se puedan detectar, analizar y abordar riesgos cada vez mayores y cada vez más complejos.

Para obtener más información:

Papa Francisco: "Las tecnologías son un regalo, utilícelas correctamente" - CorCom (corrierecomunicazioni.it)

Inteligencia - Sistema de información para la seguridad de la República (sicurezzanazionale.gov.it)

Protección de los derechos humanos en la era de la guerra cibernética Primera página

Web y desinformación: el papel de la inteligencia (diricto.it)

Noticias falsas: la nueva era de la guerra cibernética | Trizio Consulting

Videos deepfake y manipulados: como funciona el lado oscuro de la inteligencia artificial - Il Sole 24 ORE

¿Cuál es el efecto contraproducente, que no nos hace cambiar nuestras creencias erróneas? - Wired

Red generativa opuesta - Wikipedia

Personas falsas, qué son y por qué deberían ser vigiladas | El Bo Live UniPD

Foto: Guardia Nacional Aérea de EE. UU. / Oficina del Primer Ministro / Twitter / web