Se dijo sobre IA, informática y ciberseguridad esta semana
Riesgos y prevención al usar IA generativa en las empresas
La inteligencia artificial (IA) generativa ofrece a las empresas la posibilidad de lograr una mayor eficiencia en sus procedimientos y una mayor productividad en sus operaciones.
Sin embargo la aplicación de esta herramienta digital no está libre de riesgos que se derivan tanto de la forma en que los programas procesan los datos como de la interpretación que los usuarios dan a las respuestas que las aplicaciones entregan.
De aquí que algunas empresas han recurrido a desarrollar programas propios para permitir que los empleados utilicen la IA generativa en forma más segura.
Pero para las empresas (y personas) que usen los programas abiertos, he aquí algunas advertencias a considera:
Proteger la información sensible
- Es crucial no compartir información de negocios delicada con programas de IA generativos públicos, ya que estos programas almacenan toda información ingresada para luego dar respuesta a cualquier pregunta de cualquier usuario que haga un requerimiento relacionado al tema.
- Se debe, por tanto prevenir que información sensible pueda quedar expuesta a un uso público, tales como intercambios de correos electrónicos, datos financieros o de ventas, código de computadora, información de clientes, transcripción de reuniones internas y cualquier información interna de la empresa.
Ser riguroso en la selección del programas de IA a utilizar
- Las empresas deberían preferir modelos de IA de grado empresarial, que al ser programas por los que se paga a reconocidos proveedores de soluciones informáticas, ofrecen mayor seguridad de datos.
- No obstante, las empresas deben asegurarse de comprender bien cómo se almacenarán los datos que se introducen en los programas, cómo se manejarán los datos ingresados y quiénes tendrán acceso a esos datos.
Verificación de la Precisión de la IA
- Se debe ser muy cauteloso antes de usar las respuestas que genera la IA, puesto que, como recurren a grandes volúmenes de datos, pueden incluir información falsa, inexacta o sacada de contexto.
- Se debe cotejar y verificar la fuente de información antes de usar contenido generado por IA.
Cuidado con los Derechos de Autor
El contenido generado por IA podría basarse en trabajos con derechos de autor, lo que podría ocasionar problemas legales.
Las empresas deben ser proactivas en examinar el contenido de IA para evitar problemas de derechos de autor y considerar la posibilidad de buscar indemnización legal de los proveedores de programas de IA generativa.
IA y criterios ESG
La IA generativa, al recurrir a una amplia base de datos, puede generar respuestas que reflejan prejuicios de razas, credos y exclusiones que van en contra de la equidad, inclusión, derechos de las personas y principios ESG que deben incorporar las empresas en sus prácticas.
Resulta esencial someter las respuestas al juicio humano para revisar el contenido generado por IA.
Compañía minera sufre ciberataque y suscriptores de su newsletter reciben insólito mensaje
- La compañía minera Anglo American sufrió un ciberataque contra su proveedor de sitio web externo y los suscriptores del newsletter de la compañía recibieron un mensaje grosero acompañado de un meme con una imagen inapropiada que involucraba a Elon Musk.
Newsletter
Si bien el jefe de asuntos corporativos de la empresa se disculpó públicamente en las redes sociales y dijo estar está investigando el incidente, el hecho pone de relieve la creciente preocupación sobre la seguridad digital en la industria minera, con ejemplos de ataques similares a otras compañías como Copper Mountain Mining y Aurubis.
Mineras
Una encuesta EY Global Information Security reveló que el 54% de las empresas de minería y metales han experimentado ataques cibernéticos significativos y el 55% de los ejecutivos expresaron preocupación por la capacidad de manejar tales amenazas.
Informe de Trellix
Por su parte, la empresa de ciberseguridad Trellix, resultante de la fusión entre McAfee y FireEye, reportó en su informe «Chile Cyber Threat Activity- Q3-2023«, que empresas y corporaciones chilenas recibieron más de 740 mil ciberataques entre enero y septiembre, entre las que se encuentran la cuprífera estatal Codelco y la compañía de telecomunicaciones GTD Manquehue.
El informe dice que la mayoría de estos ciberataques provienen de grupos de hackers chino y que los sectores más afectados han sido la banca y los servicios financieros, seguido de entidades y agencias gubernamentales.
Naturaleza de los Ciberataques
Los ataques incluyeron direcciones IP, archivos y URL maliciosos, con 26.178 campañas específicamente dirigidas a organizaciones en Chile y 6.623 detecciones de varias familias de ransomware.