Más Información
Forcepoint, reconocida compañía de ciberseguridad, presentó su visión sobre las tendencias y desafíos que prevalecerán a nivel empresarial en el ámbito de la ciberseguridad para 2024.
El auge en la popularidad y adopción de herramientas de inteligencia artificial (IA) y aprendizaje automático traerá consigo un incremento en los ataques de envenenamiento de datos.
Leer también: Cómo activar el modo invisible de WhatsApp
Jennifer Murillo, líder de la empresa para México, señaló que el último año fue particularmente desafiante, sobre todo por la evolución de las herramientas tecnológicas, lo que incrementó la complejidad de las estrategias de protección de datos.
La IA, especialmente con sus modelos generativos, jugará un rol decisivo en la configuración de las principales tendencias en materia de ciberseguridad durante el próximo año.
Una de las principales recomendaciones de Forcepoint consiste en la adopción de políticas de Zero Trust o Cero Confianza, principalmente en aquellos corporativos que decidan usar los actuales asistentes GPT (Generative Pre-Trained Transformer).
Las firmas que opten por diseñar su propio asistente GPT tendrán que considerar más aspectos.
"Las políticas corporativas y de seguridad generalmente cubren el uso de datos cuando se implementan internamente GPT personalizados", de acuerdo con Murillo.
Otro punto crítico es el tema de los riesgos de seguridad relacionados con el uso de IA por parte de los cibercriminales. Ello ha derivado en la aparición de software malicioso como DarkBERT y FraudGPT, así como en la exploración de las habilidades de los modelos lingüísticos de código abierto, tales como ChatGPT, para crear software avanzado destinado a orquestar ataques complicados, incluyendo phishing y extracción de datos.
Como medida preventiva, Forcepoint sugiere concentrarse en impedir la introducción indebida de información sensible en el vasto mundo de la IA pública.
Al respecto, Murillo señala que "las políticas de seguridad de la IA serán tan fundamentales para salvaguardar la competitividad de una empresa como hoy en día lo son las políticas de confidencialidad".
Finalmente, en referencia al envenenamiento de datos, se reveló que existen tres categorías: ataque de disponibilidad, ataque de puerta trasera y ataques dirigidos.
Forcepoint subraya la dificultad de corregir los ataques, toda vez que demandan un análisis exhaustivo de las entradas de entrenamiento del modelo y la detección de insumos fraudulentos, un procedimiento engorroso y oneroso si el conjunto de datos usado es extenso.
El informe destaca la importancia de un programa de gobernanza de IA exitoso, que defina un uso seguro, garantice inversiones en recursos multifuncionales y demuestre dedicación a la integración y la implementación en todos los departamentos de la empresa.
Leer también: ¿Qué hacer cuando Alexa no te responde?
Recibe todos los viernes Hello Weekend, nuestro newsletter con lo último en gastronomía, viajes, tecnología, autos, moda y belleza. Suscríbete aquí: https://www.eluniversal.com.mx/newsletters
