En el actual escenario de rápida transformación digital, la inteligencia artificial ha emergido como un potente catalizador de cambio al incidir en múltiples sectores. Sin embargo, a la par que genera nuevas oportunidades antes impensables, también plantea desafíos de seguridad.
El experto en ciberseguridad, Comisario Pedro Agudo Novo, quien ha resuelto casos importantes en esta área como la conocida estafa ‘El fraude del CEO’, ha analizado los riesgos de seguridad que la inteligencia artificial (IA) plantea a las empresas en el panorama digital en constante evolución.
Los algoritmos de IA, si bien son altamente eficientes para analizar grandes conjuntos de datos y tomar decisiones basadas en su análisis, representan un riesgo de seguridad cuando estas decisiones no se supervisan.
Esto puede dar lugar a errores costosos y consecuencias no deseadas. Además, subraya el desafío de la «caja negra» en la IA, donde el proceso de toma de decisiones no es transparente ni comprensible para los operadores humanos, lo cual crea vulnerabilidades de seguridad difíciles de anticipar y mitigar.
En cuanto a la privacidad de los datos, Pedro Agudo Novo enfatiza que la IA, especialmente modelos como ChatGPT, se alimenta de datos y, cuantos más datos tenga, mejor podrá aprender y funcionar.
Sin embargo, esta necesidad de datos plantea un riesgo significativo para la privacidad. La IA almacena historiales de chat e información personal, que, si no se protegen adecuadamente, pueden convertirse en blancos ideales para ciberdelincuentes y ataques de phishing.
El Comisario, experto en seguridad, advierte que es esencial seguir una política de intercambio de datos consciente, compartiendo solo información necesaria y no confidencial.
El especialista en ciberseguridad señala otro peligro clave: el sesgo en la IA. Los sistemas de IA aprenden de los datos con los que se capacitan, y si estos datos contienen sesgos, esta tecnología puede adoptar y perpetuar esos sesgos, lo que podría dar lugar a prácticas injustas o discriminatorias.
Agudo Novo subraya que esto no solo podría dañar la reputación de una empresa, sino también generar problemas legales y representar un riesgo de seguridad.
Ante estos desafíos, Pedro Agudo Novo ofrece recomendaciones concretas para que las empresas protejan sus datos y sistemas en la era de la IA:
Es importante gestionar de forma consciente y cautelosa los datos compartidos con la IA, tratando esta interacción como si se tratara de un extraño o un competidor. Solo se debe compartir información necesaria y no confidencial.
El experto sugiere elegir proveedores de servicios de IA con sólida reputación en seguridad y privacidad de datos. Es fundamental investigar sus políticas de seguridad, métodos de cifrado y su historial de cumplimiento normativo.
Para preservar la privacidad, se recomienda utilizar lenguaje genérico en lugar de información específica y confidencial al crear tareas para la IA.
Finalmente, el experto destaca la importancia de mantener un escepticismo saludable hacia la información generada por la IA y verificar siempre los resultados a través de investigaciones independientes.
En resumen, Pedro Agudo Novo, como especialista en ciberseguridad, antiterrorismo y antiextorsión, enfatiza que la IA ofrece un futuro prometedor, pero su implementación debe llevarse a cabo de manera responsable y consciente de los riesgos de seguridad.
Al seguir estas recomendaciones, las empresas pueden aprovechar los beneficios de la IA, mientras protegen la seguridad de sus datos, sistemas y reputación en un mundo digital en constante evolución.
