Volver a Negocios y economía

Gemini de Google envía archivos y correos personales a revisores humanos

La documentación que publica Google admite ahora que los revisores humanos pueden ver archivos de Drive conectados y mensajes de Gmail en las cuentas personales de Gemini. Es lo opuesto a la promesa de 2023, hecha cuando la empresa lanzó las extensiones de Gemini Workspace, de que el contenido personal de Gmail, Docs y Drive "no es visto por revisores humanos". Un write-up publicado el 9 de noviembre en GitHub documenta el cambio, muestra cómo se dispara y muestra que la ingesta de contenido ocurre sin que vos la pidas explícitamente.

Qué dicen ahora los docs de Google

Cuando Google sacó las extensiones de Gemini Workspace en 2023, las acompañó con una promesa explícita: el contenido personal de Gmail, Docs y Drive no se le mostraría a revisores humanos. Según el write-up, ese compromiso se revirtió en silencio. Una respuesta de Google Help actualizada (la 16836988) y una edición del 16 de octubre al posteo original de 2023 admiten ahora que el contenido de Drive y de email conectado se rutea a pipelines de revisión humana. La documentación trae una advertencia en claro: si las apps que conectás contienen información confidencial que no quieras que un revisor vea, no las conectes a Gemini Apps.

El write-up acota el alcance a las cuentas de consumo. Las cuentas personales de Gmail corren bajo el privacy notice estándar de Gemini Apps, mientras que las cuentas Workspace de Business, Enterprise y Education están bajo un data processing addendum aparte que excluye la revisión humana por defecto.

Cómo funciona la ingesta en los tests del autor

De la sección de tests importan dos cosas. Primera: no hace falta pedirlo explícitamente. Con Connected Apps activado, una mención casual de un tema personal en la conversación (un viaje, una factura, una reserva) puede disparar una búsqueda de Workspace en segundo plano, sin tag @Drive ni @Gmail. Segunda: lo que se extrae es probabilístico. Para reproducir, el write-up te pide que le pidas al modelo que imprima el texto exacto que su herramienta de retrieval inyectó en su prompt. Pruebas repetidas contra un solo email del inbox, una factura de internet, produjeron los cuatro outcomes observados:

  • Zero retrieval: el modelo responde con sus propios pesos o con el historial de la conversación.
  • Metadata o resumen genérico: "tenés 3 emails sobre tu vuelo".
  • Extracción parcial sin redactar: de 2 a 4 frases, a menudo con nombres, números de cuenta y códigos de confirmación.
  • Full file ingestion: el texto completo del email sin redactar, headers incluidos.

La advertencia del autor es que ver el outcome uno o dos en un solo test no desmiente el pipeline. Es un solo tiraje de un sistema no determinista, y el write-up dice que borres la conversación y vuelvas a probar. También argumenta que los scrubbers de regex y NER de Google no desidentifican de forma suficiente los datos narrativos, incluidos números de cuenta, fechas de transacción y combinaciones de nombres, ciudades y eventos que identifican a una persona en conjunto.

Qué significa para tus cuentas

Si usás el Gemini personal con Connected Apps activados, la lectura práctica es que el contenido conectado puede llegar a contratistas humanos en medio de una conversación casual, y que el aislamiento que vendía la integración ya no forma parte de las condiciones de las cuentas personales. Dejá el material confidencial fuera de una cuenta personal conectada, o desconectá las apps. Para los despliegues en Workspace, el write-up dice que la posición contractual es otra: la revisión humana está excluida por defecto. Es lo que dice la documentación hoy, y el lenguaje del DPA que te aplique es lo que conviene verificar antes de apoyarte en cualquier garantía.

Fuente: github.com

Más noticias

Volver a Negocios y economía

¿Tenés algo en mente?

Empecemos a hablar