Inteligencia artificial aplicada · Investigación

Modelo inteligente de priorización explicable de alertas de ciberseguridad

Investigación en desarrollo

Investigación orientada al diseño de un modelo inteligente para priorizar alertas de ciberseguridad mediante aprendizaje automático y mecanismos de inteligencia artificial explicable.

Contexto

Investigación orientada al diseño de un modelo inteligente para priorizar alertas de ciberseguridad mediante técnicas de aprendizaje automático y mecanismos de inteligencia artificial explicable.

El objetivo es apoyar a los analistas de seguridad en la identificación de eventos que requieren mayor atención, proporcionando información comprensible sobre los factores que influyen en la priorización.

Problema

Los sistemas de monitorización de seguridad pueden generar grandes volúmenes de alertas. Su revisión manual requiere tiempo y dificulta establecer prioridades cuando coinciden múltiples eventos. Ordenar las alertas puede ayudar a organizar la revisión, pero una puntuación aislada aporta poco contexto para interpretar su significado.

La investigación estudia cómo combinar la estimación de prioridad con explicaciones útiles para quien debe examinar el evento y decidir su tratamiento.

Objetivo

Diseñar y evaluar un enfoque que permita analizar características relevantes de las alertas, estimar su prioridad y ordenar los eventos para facilitar su revisión. La propuesta incorpora la explicación de los factores que contribuyen a esa prioridad y su interpretación por parte de analistas humanos.

La prioridad estimada se plantea como apoyo a la toma de decisiones: corresponde al analista valorar el contexto y determinar la respuesta.

Enfoque técnico propuesto

Se plantea estudiar métodos de aprendizaje automático para relacionar las características de las alertas con criterios de prioridad. La explicabilidad formará parte del diseño y de la evaluación, junto con la calidad de la clasificación y del ordenamiento.

Enfoque propuesto de apoyo al analista
  1. Características de alertas
  2. Estimación de prioridad
  3. Explicación de factores
  4. Revisión del analista

Las técnicas concretas, los datos y las herramientas de implementación se definirán durante el desarrollo. La propuesta no presupone un modelo ya entrenado ni una integración con sistemas de seguridad operativos.

Metodología prevista

  1. Delimitar el problema, el alcance y las decisiones que se pretende apoyar.
  2. Estudiar los datos disponibles y las características relevantes de las alertas.
  3. Seleccionar y comparar métodos de aprendizaje automático.
  4. Definir criterios de prioridad y evaluar la calidad del ordenamiento.
  5. Incorporar mecanismos de explicabilidad y analizar su interpretación.
  6. Establecer un protocolo de evaluación y sus indicadores.
  7. Examinar limitaciones, riesgos y condiciones de uso.

Estas actividades describen la ruta de investigación; no representan etapas completadas.

Explicabilidad y supervisión humana

El interés no se limita a producir una prioridad. El enfoque busca que el analista comprenda qué factores influyen en ella y pueda contrastarlos con el contexto del evento. Una explicación debe aportar elementos para revisar el resultado, no solo una justificación aparentemente convincente.

La selección de técnicas de explicabilidad y la valoración de sus límites forman parte del trabajo en desarrollo.

Evaluación prevista

La evaluación se organizará en cuatro dimensiones: clasificación de las alertas, calidad de su ordenamiento, explicabilidad y utilidad para el analista. Cada dimensión aborda una pregunta diferente: distinguir categorías, ordenar prioridades, comprender factores y apoyar la revisión humana.

La definición de indicadores, datos de prueba y condiciones de comparación forma parte del protocolo por desarrollar. No se presentan mediciones ni mejoras de rendimiento.

Limitaciones

El alcance actual corresponde al diseño de investigación. No constituye un sistema de detección de intrusiones terminado ni una implementación productiva. La disponibilidad y calidad de los datos, los criterios de prioridad y la interpretación de las explicaciones condicionarán la evaluación.

Estado actual

Investigación en desarrollo. La siguiente tarea es concretar el alcance, los datos y el protocolo experimental para estudiar la propuesta de forma reproducible.