Sistemas adaptativos y conciencia situacional

27/09/21

El mundo está cambiando a una velocidad increíble ... en todos los sectores. 

¿Qué diría si de la noche a la mañana ya no tuviera que perder el tiempo entendiendo los cambios realizados por el fabricante de la hoja de cálculo que utiliza para llevar la contabilidad de su tienda? 

¿Qué dirías si de repente ya no tuvieras que preocuparte por cambiar al nuevo Sistema Operativo de Microsoft o la nueva versión de Linux o la nueva software control de su lavadora-secadora inteligente?

Para que quede claro, no estoy diciendo que no habrían más variantes o modificaciones en los sistemas, sobre todo cuando estos están relacionados con aspectos de seguridad o aumentos de funcionalidad, estoy hablando de aquellas variantes que consisten en mover un botón o una función de un menú a otro o la modificación del símbolo o la descripción de un botón o la visualización de una ventana en la parte inferior derecha o superior izquierda ... estoy hablando de todas esas variantes que, para quienes no tienen ganas ni tiempo de residuos, son absolutamente nocivos y, a menudo, no hacen más que crear desafección hacia el producto por parte de quienes lo usan ... ¡tal vez durante años!

Si quisiéramos traducir la pregunta utilizando lenguaje científico, podríamos decir: "¿Por qué los sistemas informáticos que usamos no son adaptables?", y en este contexto me refiero a que los sistemas informáticos deben poder adaptarse al usuario o, mejor aún, que el sistema informático y el usuario deben convertirse en un sistema adaptativo.

Para hacer esto, en mi opinión, las tecnologías ya existen. En el mundo de los videojuegos, por ejemplo, la Inteligencia Artificial se ha utilizado durante algún tiempo para "adaptar" la dificultad del juego al jugador. Pero estoy hablando de otra cosa.

La Inteligencia Artificial, cada vez más extendida, tarde o temprano empezará a formar parte de los sistemas informáticos básicos, como los sistemas operativos. 

En mi sistema ideal será su tarea estudiar mi comportamiento, estudiar los cambios realizados a lo largo del tiempo para software Uso y propongo, o no, me explique o no, la utilidad de la nueva función. En la práctica, el sistema operativo tendrá que cuidarme (como usuario) y adaptar los sistemas que utilizo a mi sistema de conocimiento en función del uso que haga de ellos.

El segundo concepto importante que surge es el de conocimiento de la situación, que dijo en italiano sería conocimiento de la situación. 

El término "Conciencia situacional" se usa generalmente para describir el estado de conocimiento y conciencia de una persona u organización con respecto a un tema específico o situación operativa en un momento específico y con respecto a objetivos bien establecidos. 

En el caso específico, dado que requiero que el Sistema Operativo (puesto en el sistema conmigo como usuario) sea un sistema adaptativo, asumo que el Sistema Operativo está equipado con capacidades de conciencia situacional, es decir, es capaz de crear y mantener un cierto conocimiento y conciencia del uso que el usuario (yo) hace del sistema y del software instalada.

Para dar un ejemplo claro supongamos que soy el único usuario de un portátil en el que solo tengo instalado el Sistema Operativo (al que llamo WinAI solo para darle un nombre), un navegador para navegar por internet, un editor de texto y un antivirus. 

Mi sistema operativo, el fiel amigo WinAI, comienza a estudiar mi comportamiento desde el momento en que enciendo la PC por primera vez y se hace una idea de cómo me comporto, "grabando" en su "red neuronal" mis hábitos, mis interacciones con yo software, mis hábitos de navegación, horarios, la frecuencia con la que uso la tecla "enter" mientras escribo un texto, la longitud de las frases pero también cómo me comporto frente a una nueva versión de mi navegador o antivirus. 

Después de un breve período de aprendizaje, mi fiel WinAI debería, teóricamente, estar listo para sugerirme opciones, influyendo así en mi comportamiento, pero también para tomar decisiones él mismo basándose en el conocimiento que ha adquirido sobre mí. Gracias al conocimiento de los programas que se instalan (y con los que habla constantemente) también debería poder ayudarme, simplificando mi vida, en caso de que se dé cuenta (y aquí el concepto de Conciencia Situacional aplicado esta vez a la IA de mi sistema operativo) que no quiero cambiar mi comportamiento o que el período de adaptación al nuevo sistema podría llevar a una disminución de la productividad o simplemente a un estrés adicional.

Por supuesto que estoy simplificando mucho. De hecho, el sistema adaptativo, como es fácil de entender, también me incluye a mí como usuario y a muchos otros "objetos" o "entidades" que de alguna manera interactúan con el propio sistema.

Está claro que contarlo así todo parece fácil, pero no es así y ni siquiera se dice que alguna vez lo será. Hay diferentes tipos de motivaciones detrás de esto. 

Uno de ellos se refiere a la seguridad de dicho sistema, que en última instancia queda en manos de cualquier WinAI, del que realmente sabemos muy poco y sobre el que nuestra capacidad de control sería muy baja. La seguridad (entendida como seguridad y protección) de tal sistema sería realmente muy difícil de administrar, en primer lugar porque cuanto más complejo es un sistema, más extensa es la superficie de ataque, en segundo lugar porque una IA puede estar sujeta a ataques. Supongamos que mi querido tutor de WinAI se da cuenta de que en un momento determinado estoy muy estresado (y como hemos visto él es capaz de hacerlo) y, al llegar una comunicación importante, quizás el anuncio de un accidente a un familiar, decide no advertirnos ya que esto aumentaría nuestro nivel de estrés. ¿Cómo tomaremos tal intromisión en nuestra vida privada? O, para volver a cosas más simples, supongamos que el antivirus requiere una actualización de seguridad de un nuevo tipo, aún no catalogado por nosotros y por lo tanto ni siquiera conocido por nuestra WinAI. Ahora supongamos que basándonos en nuestro comportamiento habitual con respecto a las actualizaciones software nuestra WinAI decide no continuar porque esta actualización distorsiona sobre todo (según su evaluación exclusiva) el aspecto gráfico de la interfaz y por lo tanto no es relevante. Y que esta cadena de eventos, en última instancia, tiene como resultado comprometer el sistema. ¿Cómo lo tomaremos? ¿Cómo lo tomaría un oficial de seguridad de la empresa para la que trabajo? 

Otro motivo probablemente esté ligado a la imprevisibilidad del usuario, que en unos momentos se comporta de determinada manera mientras que en otros, sometido a impulsos emocionales o estrés, se comporta de forma diferente. Nuestro amigo WinAI, debería conocernos muy bien para tomar decisiones que realmente nos faciliten y, quizás, a nadie le gustaría que una IA nos conociera demasiado, además porque básicamente somos seres sospechosos y básicamente nos gusta guardar secretos para nosotros.

En cualquier caso, siempre desde el punto de vista teórico, las tecnologías para hacer estas cosas ya existen, solo necesitamos entender si alguien ya las está usando para crear sistemas operativos adaptativos, siempre y cuando eso sea lo que queramos, al menos en ciertos sectores.

Alessandro Rugolo

Viñeta: Simone Domini

Para obtener más información:

Sistemas adaptativos: una descripción general | Temas de ScienceDirect

(PDF) Endsley, MR: Hacia una teoría de la conciencia de la situación en sistemas dinámicos. Revista de factores humanos 37 (1), 32-64 (researchgate.net)