La doble cara de la Inteligencia Artificial: ¿herramienta innovadora o aliada de los ciberdelincuentes?

Esta tecnología avanzada optimiza la detección y prevención de actividades fraudulentas al analizar grandes volúmenes de datos en tiempo real, ya que los sistemas de IA son capaces de identificar patrones inusuales y comportamientos sospechosos, lo que permite a las plataformas actuar de manera ágil para mitigar amenazas antes de que se conviertan en estafas o extorsiones graves. No obstante, también puede ser una herramienta de doble filo.

El desafío de los deepfakes y perfiles falsos

Francisco José García-Ull, docente de la Universidad Europea y autor del artículo 'Deepfakes: el próximo desafío en la identificación de noticias falsas', afirma que "la Inteligencia Artificial ha revolucionado la detección y prevención de fraudes, ofreciendo herramientas efectivas para identificar conductas sospechosas". Sin embargo, advierte que los ciberdelincuentes también están utilizando IA para sofisticar sus ataques, creando deepfakes y perfiles falsos extremadamente realistas.

Un reciente caso de fraude, en el que cinco personas lograron estafar 325.000 euros a dos mujeres haciéndose pasar por el actor Brad Pitt, destaca el nivel de sofisticación de estos perfiles falsos.

En ese sentido, García-Ull explica que la IA se enfrenta a sí misma en una lucha constante entre sistemas que generan contenido engañoso y aquellos que deben detectarlo.

El reto de equilibrar seguridad y privacidad

La implementación de IA para la moderación de contenido y la identificación de acciones malintencionadas en plataformas como Instagram ha constituido un progreso importante.

"Instrumentos como el análisis predictivo posibilitan prever y contrarrestar amenazas antes de que ocurran", sostiene García-Ull aunque estos progresos se presentan con desafíos significativos, tales como el balance entre la seguridad y la privacidad del usuario, y la exigencia de prevenir falsificaciones positivas o violaciones de derechos personales.

Marco regulatorio para un uso ético de la Inteligencia Artificial

La implementación de la Ley de Inteligencia Artificial de la Unión Europea garantiza un uso ético de estas tecnologías.

Según el especialista, "esta normativa está diseñada para promover un uso seguro y responsable de la Inteligencia Artificial, sin comprometer la privacidad ni la eficacia en la identificación de amenazas".

Además, señala que este marco normativo busca asegurar que la IA se convierta en una herramienta poderosa para la ciberseguridad, sin descuidar la protección de los derechos de los usuarios.

Colaboración para un futuro más seguro

De cara al futuro, la ciberseguridad continuará siendo una disciplina en constante cambio, con la Inteligencia Artificial como un elemento esencial en la defensa frente a amenazas en ascenso.

La cooperación entre redes sociales, especialistas en ciberseguridad y entidades reguladoras será esencial para optimizar las tecnologías de detección y prevención.

"El avance constante de la Inteligencia Artificial, sumado a un enfoque de colaboración, será crucial para liderar las amenazas cibernéticas y garantizar un ambiente digital más seguro", concluyó García-Ull.

Podría interesar: María Claudia Lacouture: Talento en tiempos de Inteligencia Artificial