GSEC Málaga presenta novedades en ciberseguridad ante la nueva era de la IA

Hoy se ha celebrado en el Centro de Ingeniería de Seguridad de Google en Málaga (GSEC Málaga) el ‘GSEC Cybersecurity Summit: Ciberdefensa en la era de la IA’, un evento que ha reunido -previamente al Foro de Comandantes Cibernéticos de la OTAN- a expertos en industria y el Gobierno para explorar soluciones de IA en el ámbito de la ciberdefensa y debatir cómo se puede transformar la ciberseguridad en esta nueva era de la IA.

Entre las novedades anunciadas durante el evento:

• VirusTotal ha llevado a cabo una nueva investigación en la que se describe cómo los modelos de grandes lenguajes (LLM) pueden propiciar avances prometedores en el análisis de malware.
• Los modelos LLM agilizan el análisis de grandes volúmenes de código binario de malware, reduciendo enormemente el trabajo manual. Todavía quedan retos por resolver, debido sobre todo a las técnicas de ofuscación y ocultación a las que recurren los desarrolladores de malware, pero estos modelos simplifican un primer análisis, agilizando el trabajo de los analistas humanos.
• La eficacia de los LLM en el análisis de malware depende de varios factores:
  • Las indicaciones: Es esencial elaborar indicaciones (prompts) que guíen a los LLM, de modo que proporcionen análisis precisos y exhaustivos.
  • El contexto: La precisión de los análisis mejora si existe contexto adicional, como fragmentos de código, resultados de la ejecución de malware en entornos tipo sandbox e inteligencia sobre amenazas.
  • Las técnicas de ofuscación: Los LLM pueden tener dificultad para analizar código fuertemente ofuscado.
  • El tipo de código: Los LLM dan mejores resultados con el código descompilado que con el desensamblado. Sin embargo, el código desensamblado puede aportar más información, cuando la descompilación se ve dificultada por técnicas de ofuscación.

• La Universidad de Málaga ha sido la primera en ser seleccionada como parte de nuestro programa de Seminarios de Ciberseguridad.
  • Uno de los desafíos en el campo de la ciberseguridad es localizar y contratar a personas con los conocimientos y habilidades necesarias para hacer de internet un lugar más seguro.
  • El año pasado, con el propósito de abordar la falta de profesionales de la ciberseguridad en Europa, Google.org, en colaboración con la Incubadora Europea de Investigación sobre Ciberconflictos (ECCRI), lanzó un programa de Seminarios de Ciberseguridad con una dotación de 15 millones de dólares.
  • El objetivo de esta iniciativa es mejorar el desarrollo y aprendizaje de competencias avanzadas en ciberseguridad (incluyendo el papel de la IA en el panorama de las amenazas), así como apoyar a las organizaciones locales comunitarias para que implementen sus propias protecciones online.
  • La Universidad de Málaga ha sido la primera institución en ser seleccionada como parte de este programa y recibirá una dotación de 1 millón de dólares, contenidos lectivos en español y formación intensiva por parte del ECCRI para ayudarles a poner en marcha los Seminarios de Ciberseguridad. El objetivo es formar, al menos, a 200 estudiantes y apoyar a unas 250 organizaciones locales.

Otras noticias y contenidos relevantes recientes:

• Secure AI Framework
  • Creado en junio de 2023 para centrar nuestros esfuerzos, y los de la comunidad en general, en áreas clave de colaboración.
  • SAIF se inspira en las mejores prácticas de seguridad que Google ha aplicado al desarrollo de software, al tiempo que incorpora nuestra comprensión de las megatendencias de seguridad y los riesgos específicos de los sistemas de IA.
  • SAIF ofrece un conjunto de principios para organizaciones de todos los tamaños -tanto empresas como organizaciones gubernamentales- sobre cómo aprovechar las personas, los procesos y la tecnología para desplegar la IA de forma segura y protegida.
  • En julio de 2024 cofundamos la Coalition for Secure AI (CoSAI) como un consorcio abierto para avanzar en medidas de seguridad integrales para abordar los riesgos únicos que conlleva la IA.
    • Entre los miembros fundadores se encuentran: Amazon, Anthropic, Chainguard, Cisco, Cohere, GenLab, IBM, Intel, Microsoft, NVIDIA, OpenAI, Paypal y Wiz.
    • Alojada en OASIS Open, el consorcio internacional de normas y código abierto.
      • Iniciativa de ciberdefensa con IA de Google

         

        • Anunciada a principios de este año, establece nuestro plan para invertir en colaboración, investigación e innovación, aprovechando nuestras décadas de práctica en seguridad utilizando la IA para inclinar la balanza a favor de los defensores de hoy frente a los cibercriminales.
        • En nuestro informe «Secure, Empower, Advance: How AI Can Reverse the Defender's Dilemma» presentamos una agenda política y de investigación para guiar el desarrollo de la IA con tres recomendaciones para los responsables políticos y la industria:

           

          • Proteger la IA desde el principio dando prioridad a las prácticas de diseño seguro y desarrollando barreras de seguridad autónomas en las ciberdefensas.
          • Dar más poder a los defensores que a los atacantes promoviendo un enfoque regulador equilibrado del uso y la adopción de la IA para evitar un futuro en el que los atacantes puedan innovar pero los defensores no.
          • Fomentar la cooperación en investigación para generar avances científicos que permitan nuevos paradigmas de seguridad y desarrollo de software.

• La ventaja del defensor

   

  • El 18 de septiembre de 2024, Mandiant (parte de Google Cloud) publicó la segunda edición del libro electrónico The Defender's Advantage, un marco para ayudar a las organizaciones a mejorar sus ciberdefensas. Este estudio detalla cómo la inteligencia sobre amenazas impulsa las funciones críticas de la ciberdefensa: Detectar, Responder, Validar, Cazar y Controlar la Misión.

     

    • También se ha publicado un suplemento sobre IA, en el que se describen las formas en que la IA generativa puede utilizarse para ayudar a la ciberdefensa, aumentando la eficacia, reduciendo el trabajo y mejorando las capacidades.