Siempre buscamos estar a la vanguardia de los adelantos tecnológicos, por eso desde hace un tiempo trabajamos activamente en temas relacionados con Inteligencia Artificial (IA) para mejorar y actualizar permanentemente nuestras soluciones.
La IA es algo muy potente. Todavía no se tiene plena dimensión de sus alcances, pero existe una potencialidad enorme. Por eso en VISMA hemos definido políticas y ciertos estándares para su utilización en la organización y en la concepción de nuestros productos y servicios. Si esta tecnología no se maneja de forma consciente, puede llegar a traer dificultades que -hoy- no hay manera de calcular.
Es un hecho que la IA ya forma parte de nuestra vida. Hoy hay IA aplicada en muchos aspectos dentro de la empresa. Utilizamos soluciones de terceros con IA o bien implementamos IA en los procesos que llevamos adelante desde la organización, por ejemplo: implementar un chatbot para la mesa de ayuda o utilizar una solución de terceros con soporte de IA en el ciclo de vida de los desarrollos.
Específicamente en lo que se refiere al plano de la seguridad, también estamos adoptando la IA de manera muy consciente, de lo contrario, se podrían cometer grandes errores. Trabajamos concienzudamente en la definición e implementación de políticas y procedimientos para una utilización cuidadosa de la IA en la empresa y en la concepción de nuestras soluciones.
La seguridad de nuestra Cloud y del ciclo de vida de desarrollo de nuestras aplicaciones involucra la adopción de una serie de herramientas que en su mayoría ya tienen adaptados mecanismos de machine learning e IA. También usamos esas herramientas para monitoreo de actividades e información en la dark web, de esta forma, podemos detectar patrones o comportamiento de actividades sospechosas en la red, en los end points, y mitigar riesgos.
Algunas de las herramientas que estamos utilizando son, por ejemplo, Darktrace, que utilizando algoritmos de machine learning hace monitoreo permanente de todo el tráfico de la red buscando patrones y tratando de identificar actividades sospechosas.
Asimismo, usamos SentinelOne, una plataforma con tecnología XDR que adopta IA para prevenir, detectar y responder a las modernas amenazas. Se instala como un agente en los servidores o laptops; tiene una consola sincronizada para hacer seguimientos de las alertas que se detectan. Funciona como un antivirus, pero además tiene otros features que analizan determinadas acciones de modo que, si se detectan actividades sospechosas, se generen alertas para hacer una investigación o poner en cuarentena determinados archivos.
Copilot es una herramienta muy útil para el desarrollo, sin embargo, hay que ser cuidadosos, ya que la primera devolución puede llegar a ser algo totalmente inseguro… Por eso, si en una organización se va a usar IA en el ciclo de vida de desarrollo, se debe estandarizar y regular muy bien cómo utilizar estas herramientas. Por ejemplo, supervisar el código generado por las IAs por un rol senior.
Actualmente, uno de los problemas con la IA Generativa se centra en la falta de legislación para regular las distintas etapas involucradas en la implementación de dichas tecnologías. Por ejemplo, al consultar a la IA qué tipo de material se puede utilizar en el entrenamiento de un modelo de IA; una respuesta podría incluir material con copyright. Otra situación podría estar asociada a cómo la IA hace uso de la información que los mismos usuarios le proporcionan durante la utilización de la IA. Si un usuario ingresa a la IA datos personales propios o ajenos, dichos datos pueden ser utilizados posteriormente por la IA en alguna respuesta. Por eso la utilización de la IA tiene que ser consciente, que no se pasen por alto estas cuestiones “nuevas” (porque la tecnología es también nueva) que a muchos se les están escapando.
Por otra parte, en VISMA utilizamos software para hacer Inteligencia de amenazas, como SOC Radar o Recorded Future. Una de sus funciones radica en recorrer distintas fuentes de información utilizadas por los hackers para intercambiar opiniones, herramientas y comercializar información exfiltrada, como por ejemplo foros en la dark web, canales de telegram o de discord, etc. Estas herramientas generalmente buscan si existen determinadas menciones de información clave de la organización para establecer si hubo robo de tarjetas de crédito o datos personales o corporativos, por ejemplo.
Se trata de tecnología que usa machine learning o deep learning para aprender de los datos y de las acciones humanas. Otra funcionalidad que normalmente incluyen es la capacidad de detectar cuáles son las vulnerabilidades que los hackers están compartiendo, las que más suenan entre ellos, lo que permite poner especial atención en eso y solucionarlo. Si la información ya está en esos canales, probablemente esos datos estén a la “venta”, pero el descubrirlo rápidamente sirve para mitigar posibles amenazas.
A nivel de potencialidad de la IA y de legislación sobre el tema, todavía hay un largo camino por recorrer. Mientras tanto, hay que ser muy cautelosos.