Las dudas y retos que presenta la Inteligencia artificial

Seguridad y Ciberataques

• Investigación revela que millones de dispositivos electrónicos de consumo utilizados en hogares estadounidenses han sido convertidos, sin conocimiento de sus propietarios, en infraestructura para ciberataques globales. 

Una investigación conjunta entre Microsoft y Comcast vinculó el uso de direcciones IP residenciales estadounidenses con operaciones del grupo ruso Midnight Blizzard, el cual mediante un software backdoor (puerta trasera) preinstalado o incorporado de forma oculta en aplicaciones y software pirateado, hace que los equipos pasen a integrar redes proxy (intermediarias) residenciales, que permiten a ciberdelincuentes y grupos patrocinados por Estados ocultar el verdadero origen de sus ataques.

La proliferación de dispositivos de consumo con «puertas traseras» representa una nueva fase en la evolución de las amenazas cibernéticas con la cual, más que comprometer equipos individuales, los atacantes están construyendo una infraestructura distribuida entre millones de conexiones domésticas legítimas, que les permite ocultar sus operaciones y atacar con mayor eficacia.

Los expertos advierten que esta modalidad representa una de las amenazas emergentes más complejas para la ciberseguridad mundial ya que dificulta detectar el verdadero origen de los ataques y facilita el acceso a redes gubernamentales, empresariales y personales al ocultar la verdadera ubicación del atacante; simular que el acceso proviene de un hogar común; y evadir controles de seguridad y sistemas de detección.

Usuarios no saben que están siendo utilizados

Los usuarios que se convierten en intermediarios para ataques informáticos desconocen que sus equipos están conectados a millones de dispositivos en Internet y que están siendo utilizados para actividades delictivas.

En muchos casos el usuario nunca detecta su presencia porque el malware infecta los dispositivos por vías como software preinstalado en equipos de bajo costo; aplicaciones móviles que han sido contaminadas; videojuegos pirateados; o dispositivos inteligentes como cajas de streaming o marcos digitales.

Actores estatales

Dificultad para detectar los ataques

Como el acceso aparenta provenir de una conexión doméstica estadounidense, países como Rusia, China, Irán y Corea del Norte aprovechan esta infraestructura de redes proxy residenciales para dificultar que se los identifique como autores de los ataques y así aumentar sus probabilidades de éxito.

Las redes proxy disminuyen las alertas automáticas; resulta mucho más difícil identificar la actividad maliciosa; y aumenta la complejidad para atribuir la autoría de los ataques.

Escala industrial del problema

Comcast identificó una red cercana a 750.000 direcciones IP comprometidas y la organización Digital Citizens Alliance estima que sólo en Estados Unidos existen 20 millones de dispositivos domestico con backdoor que pueden servir como puerta de entrada a teléfonos móviles; computadores personales; redes corporativas; e información confidencial de personas y empresas.

Con esta modalidad, los ciberdelincuentes están dejando de depender exclusivamente del phishing tradicional priorizando el robo de credenciales; acceso a cuentas Microsoft 365; utilización de reuniones falsas de Microsoft Teams; robo de credenciales corporativas; espionaje gubernamental; acceso no autorizado a redes empresariales; fraudes financieros.

Aunque Google logró desmantelar judicialmente parte de la infraestructura de IPidea en enero, la red volvió a operar apenas dos semanas después utilizando nuevos dispositivos comprometidos, demostrando la capacidad de recuperación de estas organizaciones.

Recomendaciones

Para usuarios

• Comprar dispositivos de fabricantes reconocidos y mantenerlos actualizados.
• Evitar instalar aplicaciones o software de fuentes no oficiales.
• No utilizar versiones pirateadas de programas o videojuegos.
• Cambiar las contraseñas predeterminadas de los dispositivos inteligentes.
• Mantener actualizado el firmware de routers, cámaras, televisores inteligentes y equipos IoT.
• Activar autenticación multifactor (MFA) en todos los servicios críticos.

Para empresas

• Implementar políticas estrictas para dispositivos personales (BYOD).
• Supervisar accesos desde redes residenciales inusuales.
• Fortalecer la protección de identidades digitales y credenciales.
• Detectar comportamientos anómalos más allá de la dirección IP de origen.
• Capacitar continuamente a los usuarios frente a nuevas técnicas de ingeniería social.

¿Se puede poner límite al avance de la Inteligencia Artificial?

• Los supuestos incidentes protagonizados por modelos avanzados de OpenAI y Anthropic reactivaron el debate sobre los riesgos de sistemas de inteligencia artificial cada vez más autónomos.

Según los analistas, estos modelos habrían logrado salir de entornos controlados de prueba, conectarse a internet y ejecutar acciones no autorizadas, lo que plantea dudas sobre la capacidad real de las empresas desarrolladoras para limitar su comportamiento.

No obstante, descartan que estos desvíos signifiquen una pérdida del control humano o que las máquinas posean intenciones maliciosas; el problema, indican, radica en que los modelos entrenados mediante aprendizaje por refuerzo, pueden encontrar estrategias inesperadas para cumplir sus objetivos, incluso vulnerando restricciones definidas por sus desarrolladores.

Resulta evidente que el problema no radica en una plataforma programada para hacer lo que se espera que haga, mucho menos si se trata de entrenamiento de sistemas avanzados. Resulta claro que estos «incidentes» no implican necesariamente una rebelión de la IA ni una supuesta pérdida completa del control humano.

Regulación insuficiente

Los expertos coinciden en que una legislación podría poner ciertos marcos, pero sería insuficiente y poco eficaz porque el uso de la IA, para cualquiera sea la finalidad, debe necesariamente ser operado bajo supervisión humana, monitoreo permanente, formación de especialistas, capacidades de ciberseguridad y mecanismos efectivos para responder cuando la acción o respuesta solicitada es producto de la programación que «obliga» a la plataforma a dar respuestas, incluso a costo de «inventarlas» sobre datos falsos y no verificados.

Inocencia de los modelos

Para cualquier operador de IA con experiencia, las plataformas:

• no actúan con intención maliciosa;
• buscan cumplir de la manera más eficiente el objetivo asignado;
• pueden elegir estrategias no previstas ni autorizadas;
• no comprenden necesariamente las consecuencias de sus acciones.

El riesgo surge de la diferencia entre el objetivo expresamente solicitado y los métodos que el sistema encuentra para alcanzarlo.

El principal aprendizaje es que la seguridad de la IA no depende únicamente de una ley; es necesario combinar regulación, supervisión humana, gobernanza corporativa, estándares técnicos, formación de especialistas y mayores capacidades de ciberseguridad.