La compañía ya ha invertido en Anthropic y ha introducido herramientas de IA que resumen reuniones y redactan borradores de mensajes. Sin embargo, a pesar de que Zoom ha dejado claro que no entrenará su IA con datos sin el consentimiento del usuario, no ha incluido una opción de exclusión voluntaria

Zoom ha anunciado que utilizará datos generados por su servicio, en lugar de datos de usuario, para entrenar sus modelos de inteligencia artificial (IA) y mejorar la experiencia del usuario en las nuevas herramientas de reunión basadas en IA.

La compañía ya ha invertido en Anthropic y ha introducido herramientas de IA que resumen reuniones y redactan borradores de mensajes. Estos cambios, que se anunciaron por primera vez en marzo de 2023, aclaran que Zoom puede proporcionar estos servicios sin cuestionar los derechos de uso.

Sin embargo, a pesar de que Zoom ha dejado claro que no entrenará su IA con datos sin el consentimiento del usuario, no ha incluido una opción de exclusión voluntaria.

Maya Sherman, analista sénior de GlobalData, ha señalado que esta actualización plantea preocupaciones éticas en relación con el uso de servicios o datos de usuarios para la formación en IA. Sherman destaca que la capacidad de optar por no participar es un elemento fundamental de las regulaciones de GDPR que garantiza la confianza y el consentimiento del consumidor.

Además, Sherman señala que, debido a los posibles errores técnicos en las herramientas de IA, los datos de los usuarios podrían estar en riesgo debido a políticas poco claras.

Sherman advierte que, debido a la estructura de caja negra de los algoritmos de IA, existe un riesgo de que los datos generados por el servicio sean utilizados por terceros, filtrados o modificados para amplificar los sesgos. Incluso los metadatos indirectos pueden ser utilizados maliciosamente contra los usuarios en un mundo hiperconectado.

En este contexto, Sherman concluye que el comportamiento de los datos de la empresa y la higiene digital están siendo sometidos a un mayor escrutinio ético. Sherman opina que las políticas originales de Zoom deberían haberse publicado con claridad y sin esperar a que los críticos en línea señalaran sus deficiencias.

La confianza del usuario es crucial para la protección de datos y Zoom corre el riesgo de ver una disminución en sus números de suscripción debido a la posible desconfianza que esta política puede generar.

En respuesta a una solicitud de comentario, Zoom afirmó que sus clientes pueden decidir si habilitan las funciones de IA generativa y, por separado, comparten su contenido con Zoom para mejorar el producto. Zoom también aclaró que el contenido del cliente no se utilizará para entrenar la IA sin consentimiento.

EO// Redacción: Joseph Mcgregor Laverde // Con información de: 800 Noticias