La integración creciente de la inteligencia artificial en las operaciones empresariales ha llevado a Zoom a delinear su enfoque sobre la seguridad y protección de esta tecnología, subrayando la importancia de salvaguardar los datos y modelos empleados en sus servicios. Este planteamiento resulta fundamental para preservar la confianza de los usuarios y asegurar que las herramientas de IA se apliquen de forma segura y ética.
Seguridad y protección de la IA: dos caras de la misma moneda
La seguridad de la IA se centra en proteger la confidencialidad, integridad y disponibilidad de los datos empleados en los modelos y sistemas de IA. Por otro lado, la protección de la IA abarca consideraciones más amplias, incluyendo la solidez, fiabilidad, y las implicaciones éticas y sociales a largo plazo. Zoom ha adoptado un enfoque integral que abarca ambos aspectos, asegurando que sus prácticas de IA no solo sean seguras, sino también responsables.
Implementación de estándares internacionales
Para abordar los desafíos de seguridad que surgen con las integraciones de IA, Zoom sigue pautas y normas establecidas por instituciones como el Instituto Nacional de Normas y Tecnología (NIST) y la Organización Internacional de Normalización (ISO). Estas directrices ayudan a prevenir amenazas emergentes y a garantizar que los modelos de IA se gestionen de manera segura durante todo su ciclo de vida.
Compromiso con la seguridad en el ciclo de vida del desarrollo
El compromiso de Zoom con la seguridad de la IA se integra en todo el ciclo de vida del desarrollo seguro de Zoom (ZSDLC). Esto incluye la gestión segura de la cadena de suministro, el entrenamiento de modelos, y el diseño y operación segura de sus servicios. Además, Zoom incorpora consideraciones de IA en sus políticas de gobernanza, riesgo y cumplimiento (GRC), asegurando que las pruebas de seguridad y la investigación sean parte integral de su enfoque.
Enfoque federado y control del usuario
Zoom adopta un enfoque federado respecto a la IA, permitiendo a los clientes elegir qué características utilizar y si desean usar modelos alojados en Zoom o de terceros. Este enfoque ofrece a los administradores un mayor control sobre las herramientas disponibles en su organización, garantizando que los datos de los usuarios no se utilicen sin su consentimiento.
IA generativa y su aplicación en Zoom
La IA generativa de Zoom, que incluye herramientas como Zoom AI Companion y Zoom Contact Center Expert Assist, optimiza el tiempo de los usuarios al crear contenido como imágenes y textos. Sin embargo, Zoom asegura que estos modelos se implementen con estrictos controles de seguridad, protegiendo tanto los datos como los modelos subyacentes.
