La IA sabrá si estás preparado para salir de Matrix.

Estamos en la era de la digitalización. Ahora muchas de nuestras interacciones con otras

personas son digitales, tanto en el ocio como en el trabajo, la familia, etc.. A la par de esto también estamos en la era de la globalización. No me refiero al tema industrial, que también, sino a las relaciones interpersonales.

Esto ha provocado que nuestros gobiernos estén preocupados por nuestra seguridad supuestamente. El alcance global de todo hace que un grupo criminal, terrorista, o de otra índole no necesite estar físicamente cerca para poder ponerse de acuerdo.

Con todo esto los gobiernos tienen que desarrollar nuevas técnicas de vigilancia. Para el ciudadano medio esto se traduce en más cámaras por las calles para monitorear , pasaportes sanitarios, o lo que se les ocurra de aquí en adelante. Pero los gobiernos ya han dado pasos para que la vigilancia sea mucho mayor a esto. Un limbo donde nuestros derechos pueden ser vulnerados en alas de una supuesta seguridad mayor.

Aquí es donde entran otras maneras de vigilancia y control. Métodos que ni siquiera se nos

han ocurrido.

Entre estos modelos están los de “ CIBERSEGURIDAD POR MODELOS DE LENGUAJE” que es el que quiero explicar, de una manera sencilla, hoy.

El hecho de la globalización ha provocado ciertos problemas pero a la vez les ha dado una herramienta de control a las instituciones y organizaciones de diversa índole que deseen obtener información o clasificar a los ciudadanos.

Hasta ahora no existía la tecnología para manejar, de una manera eficiente, toda esta información que es inmensa y la mayoría no sirve para nada. Aquí es donde entran los “modelos de lenguaje”.

Sin entrar en detalles técnicos, estos modelos son “loros estocásticos”, es decir, se basan en un principio que se descubrió en los años 50: las palabras funcionan mediante asociaciones.

Por ejemplo: si uso la palabra ajo lo más normal es que nos encontremos palabras como perejil, cocina u otras de tema culinario. Todo esto es almacenado en un servidor, mediante cadenas de palabras probables que estén asociadas al ajo.

Ahora, imaginemos la siguiente situación: imaginemos que usamos la palabra ajo, seguido casi inmediatamente con la palabra judía. O quizá, como ocurría en las “cloacas” Españolas se habla de alguna persona y se dice “aquí va a llover”.

Cuando un sistema automático detecta estas asociaciones poco probables, salta una alarma.

Esta alarma hace que haya que revisar todo lo que haya disponible sobre ese sujeto. En este momento esto es cada vez más fácil debido a la tecnología actual. De hecho dado que la mayor parte de las comunicaciones son digitales eso se ha facilitado mucho, hay mucha más información accesible sobre cada sujeto de la que ha habido nunca.

Pensemos en las redes sociales, Twitter, Instagram, Tiktok, Facebook. Si alguien recoge toda esa información y la reúne para analizarla el conocimiento que va a tener sobre nosotros es inmenso. A eso hay que sumarle la geolocalización o los gustos que tenemos y compartimos en redes.

Todo esto parece ciencia ficción pero es una realidad. Pongo un ejemplo: si por ejemplo no quiero emplear la palabra vacuna y digo banderilla en una frase que contenga la palabra políticos ya se ha producido una incongruencia. En este caso ya se ha levantado una alarma sobre que estamos hablando de algo que queremos ocultar, y nosotros ni nos damos cuenta.

Cruzado con geolocalizaciones, contactos, por ejemplo pueden llegar a inferir donde nos podemos reunir con gente que piense igual que nosotros.

Todo esto se puede usar por cuerpos de seguridad para prevenir delitos pero también puede ser usado por organizaciones para encontrar disidentes o gente potencialmente peligrosa para ellos, incluso por organizaciones que quieran manipular a un sector de la población que sea más manipulable, enviándoles memes o mostrando noticias para acabar cambiando su comportamiento.

Es por eso por lo que hay que ser conscientes de esta realidad, unirnos y dificultar, en equipo, estas situaciones. Primero conociendo la situación y lo segundo:

Saliendo de Matrix.

Post Colaboración con @john_rab