Cuando pienso en el desafío único al que se enfrentan los investigadores de IA en Seguridad, recuerdo un extracto de la serie de Harry Potter. Al comienzo del Libro 6, el Ministro de Magia visita al Primer Ministro humano (muggle) para advertirle sobre las malas acciones que están llevando a cabo los magos oscuros. El Primer Ministro humano está comprensiblemente asustado y confundido. Frustrado, él implora: "¡Pero, por el amor de Dios, ustedes son magos! Tu puedes hacer magia !Seguramente puedes resolver, bueno, cualquier cosa!". El Ministro de Magia responde pragmáticamente: "El problema es que el otro lado también puede hacer magia".
En estos días, la exageración alrededor de la IA hace que parezca casi mágico. Si bien el asombroso ritmo de avance en IA nos ha dado excelentes resultados en visión, audio y programación neurolingüística (PNL), ninguno de estos casos de uso está deliberadamente tratando de evadir los algoritmos. La seguridad es el único dominio para la IA donde tenemos un oponente verdaderamente adversario. Afirmaré que este es un desafío único, ya que el otro lado ¡también puede hacer IA! Esta carrera de armamentos entre los blackhats y los whitehats continúa fascinando a los practicantes de seguridad.
En verdad, la IA utilizada para la seguridad defensiva tiene que superar varias desventajas inherentes. En primer lugar, un buen sistema de inteligencia artificial a menudo se basa en un gran conjunto de datos bien etiquetados, que es raro obtener en nuestro dominio. En segundo lugar, un sistema de aprendizaje automático (Machine Learning, ML) puede aumentar su precisión a costa de pocos casos de identidad errónea ("falso positivo" en la jerga). Pero el mundo del software es implacable con los anti-virus que bloquea incorrectamente algunas buenas aplicaciones y exige tasas de falsos positivos mucho menores al 1%. En tercer lugar, los sofisticados algoritmos de ML, como las redes neuronales, a menudo son difíciles de explicar en términos legibles para los humanos; sin embargo, el dominio de seguridad requiere que los resultados sean "explicables". Por lo tanto, la carrera armamentista se siente sesgada en la dirección opuesta, ya que a menudo es más fácil aplicar la IA a fines ofensivos que a fines defensivos. Como tal, vale la pena analizar las áreas de seguridad donde la IA ha encontrado un uso efectivo: en el pasado, presente y futuro.
Histórico - spam y fraude con tarjetas de crédito
En la última década, los servidores de correo electrónico han implementado algoritmos de detección de spam eficientes, de modo que rara vez recibimos un correo no deseado hoy: esta es una exitosa historia de implementación de IA. En el mundo financiero, las compañías de tarjetas de crédito identifican automáticamente los cargos anómalos en su tarjeta de crédito en una fracción de segundo y bloquean la actividad fraudulenta. Estos algoritmos de inteligencia artificial se implementan en todo el mundo y protegen a millones de consumidores de tarjetas de crédito diariamente.
Actual - Detección de errores y malware
Un dominio que ha tenido un éxito considerable en la implementación de IA es la detección de malware en la nube. Los principales proveedores de seguridad, como Avast, despliegan motores de Inteligencia Artificial que detectan consistentemente más del 99% del malware que sale a la luz. En el espacio móvil, Google Play y Apple AppStore implementan eficaces motores de inteligencia artificial basados en la nube para evitar el malware. De hecho, el modelo de tienda de aplicaciones centralizada ha funcionado bien para proteger a los usuarios de dispositivos móviles del malware. El fuzzing, o la detección automática de errores de seguridad en el software, también ha visto un amplio uso de las técnicas de ML. Con la explosión de líneas de código escritas cada día, estas herramientas automatizadas son el único método realista para permitir que las empresas detecten nuevos errores. Además, pueden identificar de forma rápida y confiable otros ejemplos del mismo error, una vez que se ha detectado un nuevo error.
Raro - Análisis de comportamiento en el dispositivo
Los dispositivos se han vuelto eficientes y potentes por un tiempo. Por lo tanto, ahora es factible implementar una tubería completa ML (observación - extracción de características - análisis) en el dispositivo. Al poner el cerebro en el dispositivo, podemos garantizar que esta capa de protección esté omnipresente, que pueda ver cada acción que emprenda un programa malicioso y evaluarla en tiempo real. El desafío clave aquí es la sobrecarga, no solo debemos mantener un motor ML funcionando todo el tiempo, sino que el costo dominante se deriva de observar suficientes eventos. La solución es ejecutar un modelo super eficiente pero poco profundo (pocas características) constantemente, mientras se lanza un modelo más preciso según sea necesario. Este modelo preciso también puede ser consciente del contexto, por lo que el motor ML puede incorporar el contexto inmediato del dispositivo en la toma de decisiones. Este es un área prometedora con resultados interesantes, pero aún hay mucho trabajo por hacer.
Nuevo: Seguridad en red para el IoT
Esta es la nueva frontera para la seguridad, con millones de dispositivos IoT conectados y accesibles en Internet. Muchos de estos dispositivos tienen un software antiguo que rara vez, o nunca, tiene parches. Además, estos dispositivos no permiten la instalación de software de seguridad en ellos. Entonces el desafío para el proveedor de seguridad es proteger estos dispositivos vulnerables mientras solo los observa desde la red. Definitivamente es una pregunta difícil, pero también una gran oportunidad en la que la IA puede proporcionar los máximos beneficios. La clave es que la mayoría de los dispositivos IoT tienen un rango muy limitado de acciones y, por lo tanto, son fáciles de modelar. Como tal, las técnicas eficaces de detección de anomalías implementadas en la red ayudarán a proteger estos dispositivos.
Como puede ver, la seguridad es un desafío único para la IA, ya que este es el único caso de uso contradictorio, con los hackers que tienen las mismas herramientas de IA a su disposición. Sin embargo, el dominio ha tenido éxitos importantes, como la prevención de spam y el fraude con tarjetas de crédito. La detección de malware también es un arte bastante avanzado donde las tasas de éxito son impresionantes (> 99%). ML en el dispositivo es raro, pero ha demostrado un potencial significativo. Y finalmente, la seguridad de IoT en la red es la próxima gran frontera, donde la IA es la mejor apuesta defensiva.