Curso de IA para Ciberseguridad para Empresas y Equipos Técnicos

Phishing hiperpersonalizado adaptado al lenguaje, contexto, cargo, relaciones y actividad de la víctima.

Business Email Compromise asistido por IA y generación de conversaciones e hilos convincentes.

Deepfakes de voz, vídeo e imagen.

Suplantación de directivos, proveedores, candidatos, clientes y empleados.

Fraude financiero, facturas, cambios de cuenta, compras, RR. HH. y procesos administrativos.

Fraudes multimodales combinando email, mensajería, voz y videollamada.

Desinformación corporativa, manipulación de marca y ataques reputacionales.

Riesgos específicos para finanzas, RR. HH., recepción, ventas, soporte y call centers.

Señales de alerta lingüísticas, contextuales, procedimentales y de comportamiento.

Verificación fuera de banda y procedimientos de doble aprobación.

Protocolos de verificación para pagos, contratación, cambios de proveedor, accesos y autorizaciones.

Límites de los sistemas automáticos de detección de deepfakes.

Procedencia y autenticidad de contenidos mediante Content Credentials y estándares como C2PA.

Etiquetado y trazabilidad de contenido generado o manipulado mediante IA.

Coordinación entre seguridad, comunicación, legal y dirección.

Registro y reporte de intentos de fraude y suplantación.

Análisis defensivo de comunicaciones sospechosas mediante IA sin exponer información sensible.

Checklists y procedimientos de escalado para usuarios no técnicos.

Simulaciones de fraude y campañas de concienciación.

Diseño de un protocolo corporativo frente a phishing, BEC, deepfakes y suplantación.

NIST AI Risk Management Framework.

Cybersecurity Framework Profile for Artificial Intelligence de NIST y su evolución.

ENISA Threat Landscape y conexión de las amenazas europeas con las prioridades corporativas.

OWASP GenAI LLM Top 10 en su edición vigente.

OWASP Top 10 for Agentic Applications.

MITRE ATLAS para amenazas y técnicas adversariales contra sistemas de IA.

ISO/IEC 42001 y relación entre gobierno de IA y sistemas de gestión de seguridad.

AI Act: alfabetización, obligaciones organizativas, transparencia, supervisión humana y ciberseguridad.

Riesgos sistémicos de modelos de propósito general, evaluación, adversarial testing e incident reporting.

Relación del uso corporativo de IA con NIS2, Cyber Resilience Act, DORA y otras obligaciones aplicables.

Plan europeo de Ciberseguridad e Inteligencia Artificial y evolución de las prioridades regulatorias.

Diferenciación entre riesgo tecnológico, legal, operativo, reputacional, de terceros y de derechos.

Aplicación de marcos a herramientas, agentes, modelos, proveedores y casos de uso.

Matrices de riesgo, cumplimiento, controles, responsables y evidencias.

Documentación mínima para auditoría y trazabilidad.

Prompt injection directo e indirecto.

Sensitive information disclosure.

Supply chain vulnerabilities.

Data and model poisoning.

Improper output handling.

Excessive agency.

System prompt leakage.

Vector and embedding weaknesses.

Misinformation y unbounded consumption.

Controles preventivos, guardrails, validación, mínimo privilegio, logging y pruebas adversariales.

Shadow AI por empleados, departamentos, proveedores y colaboradores.

Shadow agents, aplicaciones generadas con IA y automatizaciones no autorizadas.

Riesgos de fuga de datos, propiedad intelectual, contratos y trazabilidad.

Copia de documentos internos, contratos, información de clientes, código y secretos.

Inventario de herramientas, modelos, agentes y aplicaciones IA utilizadas en la organización.

Descubrimiento y monitorización del uso no autorizado.

Clasificación de usos permitidos, condicionados y prohibidos.

Datos que nunca deben introducirse en determinadas herramientas.

Herramientas corporativas aprobadas y canales oficiales.

Evaluación y solicitud de nuevas herramientas.

Roles de usuario, propietario de proceso, IT, seguridad, legal, DPO y dirección.

Procedimientos para incidentes, excepciones y consultas.

Políticas que equilibren productividad, seguridad y adopción.

Comunicación y formación para reducir el uso oculto.

Métricas de adopción segura.

Revisión continua de las políticas según cambian modelos, agentes y servicios.

Diseño de una política corporativa integral de IA segura.

Datos personales, categorías especiales, información confidencial, secretos y datos regulados.

Minimización, finalidad, base jurídica, transparencia, seguridad, conservación y derechos.

Riesgos al transmitir datos a modelos y proveedores externos.

Anonimización, pseudonimización, reducción de contexto y datos ficticios.

Análisis de impacto de protección de datos cuando resulte necesario.

Retención de prompts, conversaciones, archivos, logs y memoria.

Utilización de información para entrenamiento y mejora de modelos.

Residencia y localización de los datos.

Gestión de proveedores, subencargados y transferencias.

Canales de fuga: prompts, archivos, respuestas, logs, conectores, plugins, MCP, memoria y exportaciones.

DLP, clasificación y controles de prevención de pérdida de información.

Gestión de credenciales, tokens, claves API y secretos.

Riesgos de extensiones, aplicaciones móviles y conectores no autorizados.

Diferencia entre privacidad aparente y gobierno corporativo real.

Trazabilidad y auditoría de utilización de datos.

Coordinación entre IT, seguridad, DPO, legal y negocio.

Gestión, contención y comunicación de incidentes de filtración.

Evaluación de los controles de privacidad de herramientas empresariales.

Checklists previos a compartir información con una IA.

Clasificación de información según su utilización permitida.

Diseño de prompts corporativos seguros, verificables y auditables.

Prompt injection directo, indirecto y persistente.

Instrucciones maliciosas embebidas en documentos, webs, emails, tickets y fuentes externas.

Validación y sanitización de inputs y outputs.

Separación entre hechos, inferencias, hipótesis y recomendaciones.

Seguridad de system prompts e instrucciones privilegiadas.

Concepto de agente: modelo, instrucciones, herramientas, memoria, contexto, identidad y capacidad de acción.

Agent goal hijacking y manipulación de objetivos.

Tool misuse & exploitation.

Identity & privilege abuse y gestión de identidades no humanas.

Unexpected code execution.

Memory & context poisoning.

Insecure inter-agent communication.

Cascading failures.

Human-agent trust exploitation y automatización complaciente.

Rogue agents y comportamiento fuera de política.

MCP como capa de conexión entre agentes, herramientas, APIs y fuentes de datos.

Seguridad de servidores MCP, clientes MCP y herramientas de terceros.

Autenticación, autorización, permisos delegados, validación y aislamiento de sesiones en MCP.

Supply chain de herramientas, plugins, servidores MCP y componentes agentic.

Mínimo privilegio, permisos just-in-time y segmentación de capacidades.

Human-in-the-loop y human-on-the-loop según criticidad.

Confirmaciones antes de acciones irreversibles.

Límites de consulta, propuesta, ejecución y escalado.

Kill switches, revocación y aislamiento de agentes.

Inventario, identidad, propietarios y ciclo de vida de agentes.

Logging, trazabilidad y observabilidad de acciones y decisiones.

Monitorización y enforcement de políticas en runtime.

Agent Control Standard y controles portables para sistemas agentic.

Pruebas adversariales y red teaming antes y después del despliegue.

Clasificación de datos por sensibilidad.

Público, interno, confidencial, restringido, regulado y secreto.

Fuentes autorizadas para asistentes y agentes.

Gobierno del conocimiento utilizado por RAG.

Permisos heredados en repositorios.

Documentos obsoletos, duplicados o no aprobados.

Indexación, actualización, eliminación y versionado.

Chunking, embeddings y recuperación de información.

Vector and embedding weaknesses.

Filtración entre usuarios, tenants, áreas o dominios.

Prompt injection documental e indirecto.

Documentos envenenados e instrucciones ocultas.

Data poisoning y contaminación de bases de conocimiento.

Memoria de agentes: persistencia, ámbito y caducidad.

Memory poisoning y propagación de contexto malicioso entre sesiones.

Controles de acceso por usuario, documento, área y caso de uso.

Validación de fuentes, citas y evidencia.

Prevención de respuestas basadas en información desactualizada.

Auditoría de consultas y accesos.

Pruebas adversariales de RAG y asistentes documentales.

IA para generación y adaptación de malware, scripts y tooling ofensivo.

Capacidades reales frente a exageraciones sobre autonomía ofensiva.

Reconocimiento, investigación y priorización de objetivos asistidos por IA.

Interpretación de vulnerabilidades y CVEs.

Generación y adaptación de pruebas de concepto y payloads.

Riesgos en legacy, exposición pública, parcheado lento e inventario incompleto.

Uso defensivo para analizar indicadores y comportamientos.

Análisis seguro de código, scripts y muestras.

Aislamiento y entornos controlados para análisis.

Relación entre phishing, malware, credenciales y movimiento lateral.

Gestión de vulnerabilidades con apoyo de IA.

Criticidad, exposición, explotación activa, activo afectado y compensating controls.

Priorización según contexto de negocio.

Control de alucinaciones al interpretar CVEs o advisories.

Planes de remediación, responsables y fechas.

Gestión de parches y hardening.

Controles de higiene para reducir superficie de ataque.

Playbooks frente a vulnerabilidades críticas.

Informes técnicos y ejecutivos.

Límites éticos y de autorización para usos ofensivos.

Resumen, clasificación y correlación de alertas.

Enriquecimiento de contexto y reducción de carga cognitiva.

Triage, indicadores, hipótesis e investigación asistida.

Gestión de falsos positivos y priorización.

Threat Intelligence generada y enriquecida mediante IA.

Validación y procedencia de inteligencia generada automáticamente.

Hunting asistido y generación de consultas.

Creación de resúmenes técnicos y ejecutivos.

Microsoft Security Copilot como plataforma de apoyo a operaciones de seguridad.

Agentes de seguridad integrados en Defender, Entra, Intune, Purview y Sentinel.

Evolución desde copilotos interactivos hacia agentes especializados.

Inventario, identidad, permisos y postura de seguridad de agentes.

Validación humana antes del cierre o modificación de incidentes.

Medición de calidad de recomendaciones y acciones agentic.

Integración con SIEM, XDR, SOAR y playbooks.

Identificación, contención, erradicación, recuperación y lecciones aprendidas.

Checklists para phishing, malware, ransomware, fuga de datos y cuentas comprometidas.

Cronologías y reconstrucción de incidentes.

Evidencias y preservación para análisis forense.

Comunicaciones internas y externas.

Postmortems y planes de mejora.

Coordinación entre IT, SOC, legal, comunicación, dirección y negocio.

Transformación de información técnica en lenguaje ejecutivo.

Matrices de riesgo: probabilidad, impacto, controles, responsable y estado.

Priorización según impacto de negocio.

Dashboards narrativos y comités de seguridad.

Argumentarios de inversión y roadmaps.

Organización de evidencias y documentación.

Checklists de auditoría de IA y ciberseguridad.

Entrevistas, cuestionarios y matrices de control.

Clasificación de hallazgos por severidad, responsable y fecha.

Trazabilidad de recomendaciones y evidencias.

Validación antes de emitir conclusiones.

KPIs de triage, falsos positivos, tiempos de respuesta y calidad.

Shadow AI, fugas evitadas, herramientas aprobadas y usuarios formados.

Métricas de phishing, deepfakes y cumplimiento.

Métricas específicas para agentes: errores, escalados, acciones bloqueadas, permisos y anomalías.

Observabilidad de agentes y automatizaciones.

KPIs de calidad, seguridad y comportamiento del modelo.

Detección de métricas engañosas.

Revisiones periódicas de madurez.

Vinculación de métricas con NIST, OWASP, ENISA y gobierno corporativo.

Compartición excesiva, permisos heredados, enlaces públicos y cuentas comprometidas.

Shadow IT y shadow AI dentro de plataformas colaborativas.

MFA, acceso condicional, RBAC, DLP, logs y retención.

Riesgos de información compartida y repositorios sobredimensionados.

Microsoft Copilot, Gemini, ChatGPT Enterprise, Claude y otros asistentes empresariales.

Seguridad de copilotos conectados con SharePoint, Drive, Teams, CRM y repositorios.

Riesgo de descubrir mediante IA información que el usuario técnicamente podía consultar pero difícilmente encontraba.

Limpieza documental y revisión de permisos antes de desplegar asistentes.

Evaluación de conectores, plugins y agentes.

IA aplicada a políticas y configuraciones cloud.

Permisos excesivos, recursos públicos, claves expuestas y falta de logging.

Identidades humanas, identidades de workload e identidades de agentes.

Tokens, secretos y credenciales temporales.

Integraciones SaaS conectadas a datos empresariales.

Automatizaciones y agentes capaces de modificar recursos.

Postura de seguridad de aplicaciones y agentes de IA.

Inventario y descubrimiento de agentes.

Monitorización, logs y auditoría de actividad agentic.

Informes de postura y planes de remediación.

Checklist de preparación antes de desplegar un copiloto o agente corporativo.

Revisión de código asistida por IA.

Riesgos del código generado: vulnerabilidades, secretos, dependencias inseguras y patrones obsoletos.

SAST, SCA, secret scanning e IaC scanning.

Seguridad de pipelines CI/CD.

Prompts defensivos para revisión de código.

Threat modeling de aplicaciones con IA.

Historias de abuso y casos de prueba adversariales.

Seguridad del ciclo de desarrollo de aplicaciones GenAI.

MLSecOps y controles de seguridad alrededor del ciclo de vida de modelos.

Dependencias de modelos, datasets, frameworks, plugins y componentes.

Inventario y trazabilidad de componentes de IA y conceptos de AI Bill of Materials.

Integridad y procedencia de modelos, artefactos y dependencias.

Gestión de propiedad intelectual del código generado.

AI red teaming, jailbreak testing y evaluación adversarial.

Guardrails de entrada, salida, herramientas y acciones.

Evals de seguridad antes de producción y de forma continua.

Hardening de endpoints, servidores, correo, nube y aplicaciones.

MFA, mínimo privilegio, cifrado, backups, actualización y logging.

Riesgo de aplicar configuraciones o comandos generados sin validación.

Validación humana y técnica antes de implementar cambios.

Uso de IA en phishing, selección de objetivos y extorsión asociada a ransomware.

Automatización de comunicaciones y operaciones de adversarios.

Preparación defensiva de runbooks y planes de continuidad.

Backups inmutables y pruebas de restauración.

Segmentación, MFA, EDR, actualización y mínimo privilegio.

Escenarios de sistemas caídos, cifrado, exfiltración y presión reputacional.

Comités y roles de crisis.

Planes de comunicación.

Tabletop exercises asistidos por IA.

Checklists de recuperación.

Lecciones aprendidas.

Campañas sobre phishing, deepfakes, datos y herramientas IA.

Formación diferenciada para dirección, finanzas, RR. HH., IT, seguridad y usuarios.

Microcasos, cuestionarios y simulaciones.

Uso de IA para personalizar formación sin exponer datos reales.

Guías rápidas de actuación y reporte.

Cultura no culpabilizadora y reporte temprano.

Integración en onboarding y formación continua.

Medición de cambios de comportamiento.

Programas recurrentes adaptados a amenazas emergentes.

Cuestionarios de seguridad para proveedores.

Tratamiento, entrenamiento, retención y eliminación de datos.

Cifrado, ubicación y residencia.

Subprocesadores y terceros.

SSO, MFA, RBAC, logs y APIs.

Integraciones con correo, documentos, CRM, ERP, repositorios y bases de datos.

Propiedad intelectual y confidencialidad.

Certificaciones y evidencias de seguridad.

Continuidad, disponibilidad y respuesta a incidentes.

Modelos propietarios, open source y servicios de terceros.

Riesgos de datasets, modelos, checkpoints, frameworks y dependencias.

Supply chain de agentes, plugins, MCP y herramientas.

Manipulación o sustitución de componentes.

Inventario y procedencia de componentes de IA.

Evaluación y red teaming de proveedores y modelos cuando corresponda.

Matrices de riesgo de terceros.

Aprobación, rechazo y aprobación condicionada.

Gestión de incidentes originados en proveedores.

Roadmap de adopción segura.

Comité de gobierno y stakeholders.

Proceso para aprobar nuevas herramientas, agentes y modelos.

Integración con gestión de riesgos corporativos.

Medición de adopción, seguridad, incidentes y valor generado.

Revisión continua ante cambios de modelos, plataformas y amenazas.

Selección de un caso empresarial completo: adopción de IA, phishing asistido, copilotos, agentes, SOC o gobierno de IA.

Inventario de modelos, herramientas, agentes, datos, MCP, conectores y proveedores involucrados.

Mapa de amenazas, activos, datos, usuarios, proveedores y procesos.

Aplicación combinada de NIST, OWASP, ENISA, MITRE ATLAS y marco regulatorio aplicable.

Threat modeling del sistema de IA.

Análisis específico de riesgos LLM y agentic.

Política de uso seguro y clasificación de datos.

Diseño de permisos, identidad y mínimo privilegio para agentes.

Controles sobre prompts, RAG, memoria, herramientas y MCP.

Protocolo contra phishing, BEC, deepfakes y fraude.

Evaluación de proveedores y supply chain.

Plan de pruebas adversariales y red teaming.

Logging, observabilidad, auditoría y controles en runtime.

Plan de respuesta a incidentes relacionados con IA.

Campaña de concienciación.

KPIs de seguridad, adopción y comportamiento.

Responsables, calendario y evidencias.

Roadmap de mejora y madurez.

Presentación final de riesgos, arquitectura de controles, gobierno, formación, respuesta y hoja de ruta.