IA, Informática y Ciberseguridad

Nuevas Amenazas potenciadas por IA generativa redefinirán la ciberseguridad

• Expertos anticipan que surgirán nuevas amenazas como la suplantación de identidad en tiempo real y el envenenamiento de códigos en sistemas de inteligencia artificial.

Impacto de la IA Generativa

La IA generativa contribuirá a un aumento de la sofisticación de los ataques que se volverán más precisos, personalizados y difíciles de detectar.

Los atacantes podrán crear agentes automatizados que lleven a cabo ataques sin intervención humana y la  Shadow AI expondrá al riesgo que los modelos de IA utilizados fuera del control de la organización expongan los datos internos de las empresas.

Las organizaciones tendrán que proteger sus sistemas operativos, TI, áreas de negocio y datos de la cadena de suministro, todo ello expuesto por la expansión de la IA generativa que está generando una nueva dimensión en la seguridad organizacional.

La adopción de IA en la industria multiplica los blancos y las superficies de ataque, incluyendo áreas operativas, cadenas de suministro y áreas de TI.

Sectores de riesgo

Se identifica a la industria financiera como el objetivo principal, pero se amplía a los sectores productivos, especialmente la minería, la manufactura avanzada y la energía, particularmente en países como Chile.

Los ciberatacantes priorizan las empresas con mayor cantidad de información sensible, con capacidad económica para pagar chantajes y que tengan una alta valoración pública.

Multiplicación de la modalidad de ataques

Se múltiplicará el número de ataques a  medida que se va amplíando la modalidad de amenazas:

• Deepfakes en tiempo real: Uso de videos, imágenes o audios falsos que imitan la apariencia y la voz de una persona. Se espera que la detección sea cada vez más difícil.
• Phishing Potenciado: La IA generativa permitirá crear correos de phishing más realistas, adaptados a la respuesta y comportamiento de la víctima.
• Correos maliciosos con retroalimentación: Los correos aprenderán del comportamiento de la víctima, mejorando sus tácticas para lograr el objetivo, similar a los modelos de IA como ChatGPT.
• Zoombombing con Deepfakes: Suplantación de identidad de trabajadores o ejecutivos en reuniones virtuales, usando deepfakes en tiempo real.
• Shadow AI: Uso de modelos de IA no controlados por la organización, lo que puede exponer datos sensibles de las empresas.
• Envenenamiento de códigos en modelos de lenguaje: Inserción de datos manipulados en los sistemas de IA para alterar su comportamiento, afectando su precisión y funcionamiento.
• Códigos maliciosos automatizados: Creación de agentes de IA que puedan ejecutar ataques de forma automática.

Tendencias Clave para el Futuro

• Uso del aprendizaje continuo: Los correos maliciosos y otros vectores de ataque se perfeccionarán de forma continua mediante la IA generativa.
• Ataques más dirigidos: Se dejarán de lado los ataques masivos para enfocarse en campañas específicas contra organizaciones, utilizando inteligencia artificial para personalizar los ataques.
• Ataques a través de Shadow AI: La descarga y uso de modelos de IA no controlados por las empresas expone a las organizaciones a nuevos riesgos, ya que los atacantes pueden acceder a estos modelos y usarlos para robar datos.

En conclusión, en la evolución de la ciberseguridad, la inteligencia artificial generativa no solo potenciará las capacidades de los atacantes, también facilitará el trabajo de los defensores.

La IA generativa necesita de las personas para hacer su trabajo

• La inteligencia artificial se está convirtiendo en una mercancía accesible y necesaria para todas las empresas. Sin embargo, su adopción no significa una reducción de la necesidad de los humanos.

De hecho, la IA necesita tanto de los humanos como los humanos de la IA y para aprovechar todo su potencial, las empresas deben crear y mantener bases de conocimiento organizadas y actualizadas, lo que requiere la intervención activa de los empleados.

La automatización basada en IA está eliminando ciertos empleos, pero al mismo tiempo está creando nuevos roles relacionados con la organización, curación y gestión de la información; de hecho, la IA moderna no puede operar de forma autónoma, sino que requiere el soporte constante de humanos que organicen y estructuren los datos; revisen y corrijan los resultados de la IA; y actualicen las bases de conocimiento utilizadas por los modelos de IA.

Nuevas funciones laborales

Lo anterior genera la necesidad de crear nuevas profesiones:

• Curadores de datos que dividen manuales y documentos en secciones más manejables para que la IA pueda acceder a la información de manera más eficiente.
• Gestores de la base de conocimiento encargados de mantener la base de conocimiento actualizada y relevante, para que la IA ofrezca respuestas más precisas.
• Supervisores de modelos de IA cuyo rol es verificar la precisión de las respuestas generadas por la IA y reducir errores o alucinaciones.

¿Necesitan las empresas un gerente de inteligencia artificial?

• Consultores especializados en Inteligencia Artificial y sus implicaciones en las empresas señalan que  la creciente importancia de la IA en las operaciones y estrategias de las organizaciones harían necesario un liderazgo especializado y estratégico.

Su función principal sería

• Desplegar la estrategia de IA,
• Gestionar los proyectos de IA,
• Capacitar a los colaboradores,
• Asegurar el cumplimiento ético y legal,
• Mitigar riesgos y
• Garantizar la integración efectiva de la IA en la organización.

Características y perfil del nuevo ejecutivo

• Habilidades estratégicas: Visión estratégica enfocada en extraer valor de los datos y alinear la IA con los objetivos del negocio.
• Habilidades técnicas: Conocimiento en visualización de datos, estadística avanzada, machine learning, desarrollo de modelos de IA, aprendizaje profundo y escalabilidad.
• Dimensión ética: Gestión ética de la IA, cada vez más relevante para mitigar riesgos y asegurar el cumplimiento normativo.
• Habilidades interpersonales: Liderazgo colaborativo y capacidad para comunicar el impacto de la IA a diversos stakeholders de la empresa.

Impacto competitivo de la adopción de la IA

• Sectores más beneficiados: Las empresas que operan en sectores con operaciones altamente basadas en datos pueden lograr grandes beneficios en eficiencia operativa y toma de decisiones basadas en datos.
• Ventaja competitiva: La adopción temprana de la IA puede proporcionar una ventaja significativa frente a otras empresas que demoren en adoptar esta tecnología.

Perspectivas

Los expertos recomiendan considerar la incorporación de una gerente especializado en la materia para antes que la IA se consolide como una herramienta esencial para el desarrollo de las organizaciones.