Europol, UNICRI y Trend Micro descubren las amenazas actuales y futuras de la IA y cómo combatirlas

El pasado mes de noviembre salió a la luz un nuevo informe elaborado conjuntamente por Europol, el Instituto Interregional de Investigación sobre Justicia y Crimen (UNICRI) de las Naciones Unidas y Trend Micro que analiza los usos delictivos actuales y previstos de la inteligencia artificial (IA). El informe proporciona a los encargados de hacer cumplir la ley, los legisladores y otras organizaciones información sobre ataques existentes y potenciales que aprovechan la inteligencia artificial y recomendaciones sobre cómo mitigar estos riesgos.

Edvardas Šileris, director del Centro Europeo de Ciberdelincuencia de Europol, afirmó que “La IA promete al mundo una mayor eficiencia, automatización y autonomía. En un momento en el que el público está cada vez más preocupado por el posible uso indebido de la IA, tenemos que ser transparentes sobre las amenazas, pero también analizar los beneficios potenciales de la tecnología de IA”. “Este informe nos ayudará no solo a anticipar posibles usos maliciosos y abusos de la IA, sino también a prevenir y mitigar esas amenazas de manera proactiva. Así es como podemos desbloquear el potencial que tiene la IA y beneficiarnos del uso positivo de los sistemas de IA “, aseguró.

El informe concluye que los ciberdelincuentes aprovecharán la IA como vector y superficie de ataque. Las falsificaciones profundas son actualmente el uso más conocido de la IA como vector de ataque. Sin embargo, el informe advierte que se necesitará nueva tecnología de detección en el futuro para mitigar el riesgo de campañas de desinformación y extorsión, así como las amenazas que apuntan a conjuntos de datos de IA.

Por ejemplo, la IA podría usarse para respaldar:

  • Convincentes ataques de ingeniería social a gran escala;
  • Malware de documentos para hacer que los ataques sean más eficientes;
  • Evasión de reconocimiento de imágenes y biometría de voz;
  • Ataques de ransomware, mediante la evasión y la focalización inteligente;
  • Contaminación de datos, mediante la identificación de puntos ciegos en las reglas de detección.

“A medida que las aplicaciones de inteligencia artificial comienzan a tener un gran impacto en el mundo real, se hace evidente que esta será una tecnología fundamental para nuestro futuro”, aseguró Irakli Beridze, director del Centro de Inteligencia Artificial y Robótica de UNICRI. “Sin embargo, así como los beneficios para la sociedad de la IA son muy reales, también lo es la amenaza del uso malintencionado. Nos sentimos honrados de apoyar a Europol y Trend Micro para arrojar luz sobre el lado oscuro de la IA y estimular un mayor debate sobre este importante tema “.

El documento también advierte que se están desarrollando sistemas de IA para mejorar la efectividad del malware y para interrumpir los sistemas de reconocimiento facial y anti-malware.

“Los ciberdelincuentes siempre han sido los primeros en adoptar la última tecnología y la IA no es diferente. Como revela este informe, ya se está utilizando para adivinar contraseñas, romper CAPTCHA y clonar voz, y hay muchas más innovaciones maliciosas en proceso ”, dijo Martin Roesler, jefe de investigación de amenazas prospectivas de Trend Micro. “Estamos orgullosos de asociarnos con Europol y UNICRI para crear conciencia sobre estas amenazas y, al hacerlo, ayudar a crear un futuro digital más seguro para todos nosotros”.

Las tres organizaciones hacen varias recomendaciones para concluir el informe:

  • Aprovechar el potencial de la tecnología de inteligencia artificial como herramienta de lucha contra el crimen para preparar la industria y la policía de la ciberseguridad para el futuro;
  • Continuar la investigación para estimular el desarrollo de tecnología defensiva;
  • Promover y desarrollar marcos de diseño de IA seguros;
  • Reducir la retórica políticamente cargada sobre el uso de IA con fines de ciberseguridad;
  • Aprovechar las asociaciones público-privadas y establecer grupos de expertos multidisciplinarios.

FUENTE ORIGINAL

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios .