Asociación de Internautas

Logo 1

La inteligencia artificial como excusa de la falta de privacidad

La inteligencia artificial como excusa de la falta de privacidad


El debate se va sofisticando con el paso del tiempo, pero las excusas siguen siendo eso: meras excusas.


Hace unas horas se lanzaba Google Allo (ES), ese enésimo intento de los de Mountain View por hacerse con un buen trozo del pastel de la mensajería instantánea, ahí donde Talk, Hangouts y compañía no han triunfado (al menos masivamente).

La mayoría de medios se han hecho eco de sus bondades (¡Anda, es la app de mensajería definitiva!), obviando un debate que quizás no sea trascendente en su audiencia, pero que me consta que por estos lares sí lo es: la privacidad.

Porque si bien hace un par de días me tocaba hacer de abogado del diablo defendiendo el negocio de la compañía (sacar $$$ de los datos que gentilmente les ofrecemos a cambio de una serie de servicios a cual más bueno), hoy me toca darles caña.

Hay que dar de comer al monstruo

Cuando se anunció Google Allo en el último IO, se dijo que esta app llegaría haciendo hincapié en la privacidad de los datos expuestos en la misma, ofreciendo un cifrado de punto a punto por defecto y una efimeridad de los mensajes alojados en sus servidores.

Sin embargo, la app que ha llegado hace unas horas al market solo ofrece cifrado de punto a punto en los chats de incógnito, lo que abre la puerta a que la compañía pueda almacenar y tratar permanentemente el historial de conversaciones del usuario, siempre y cuando éste no haya decidido borrarlos.

En TheVerge (EN) se hacen eco del asunto, del que Google parece haberse defendido aludiendo a la necesidad de dar acceso a la inteligencia que permite precisamente la otra funcionalidad presentada en su día para Allo: una suerte de asistencia que estará presente en la misma.

Es decir, que Google se reserva el derecho de almacenar y procesar cualquier conversación realizada por su servicio (a excepción de aquellas que se produzcan mediante canales de Modo Incógnito).

Y ojo, que esto no significa que las conversaciones se realicen mediante protocolos inseguros (texto plano), sino que éstas se llevarán a cabo desde el dispositivo de los usuarios a los servidores de la compañía mediante un cifrado del cual la propia maquinaria de Google tiene la llave. Y esto permite, de paso, que el sistema de ?respuesta inteligente? de Allo tenga un universo de cultivo masivo donde entrenarse.

Lo cual a bote pronto me chirría, máxime siendo conscientes de que Apple, a su nivel, lleva ya un tiempo aplicando inteligencia en sistemas con la llamada Privacidad Diferencial, de la cual ya he hablado con anterioridad, y que en esencia debería permitir la explotación de datos sin identificar el origen de los mismos. Protegiendo la privacidad del usuario, para que nos entendamos.

Dónde están los límites de la privacidad diferencial, y qué beneficios tiene el directamente hacerlo a la vieja usanza es algo que sinceramente, se me escapa.

Entiendo que resulta muchísimo más cómodo trabajar con datos en abierto (dentro de sus fortificados servidores, ojo), y prescindir de ese cifrado punto a punto, que intentar dar de comer a la maquinaria con datos cifrados y anonimizados.

Que seguramente por eso Google está donde está a nivel de servicios, y Apple está donde está en ese mismo mercado, pero cuanto menos es un tema a considerar.

Por mi parte, y a falta de que vea que de verdad esta nueva app me ofrece un cambio crítico en la manera de trabajar en mi día a día (como ha acabado ocurriendo con otros servicios de la compañía como GMail o Google Fotos), no tengo previsto acercarme a Google Allo.

Ya bastante tengo con el maldito WhatsApp y su paulatina apertura a los tentáculos de Facebook, que al menos en ella nos ofrecen cifrado de punto a punto.

Porque de nuevo, el problema no es tanto de confianza con Google (a estas alturas negar que he vendido mi alma a los chicos de Mountain View es pecar de ingenuo), sino del uso tergiversado que podría llegar a tener toda esa información.

Nada que de hecho ya podría estar ocurriendo con los emails , con mi geoposicionamiento (jeje), con mi almacenamiento en la nube y como no, con esas fotos que se sincronizan desde hace meses automáticamente, pero trasladado a otro límite (el de mis continuos envíos de stickers y emotis entre conocidos) que por ahora, me niego a cruzar.

El debate sobre la privacidad es otro

Lo que debería preocuparnos no es tanto que una empresa como Google utilice nuestros datos para alimentar sus sistemas de inteligencia. A fin de cuentas, de Google podemos esperar, como cualquier otra organización de su estilo, que siga a pies juntillos su único objetivo: obtener dinero.

Cosa que le va a llevar a proteger sus recursos (nuestros datos) como oro en paño. Su negocio depende ello.

El problema es qué pasará si el día de mañana descubrimos que otros agentes, como puede ser un gobierno o un grupo criminal, ha conseguido tener acceso a esa información.

En el primer caso, seguramente en base a alguna ley supuestamente creada para proteger la seguridad del país (que no la privacidad del ciudadano). En el segundo caso, en base a alguna brecha de seguridad que quizás ya esté siendo explotada dentro de sus servidores.

Qué pasará entonces cuando esa información aparentemente intrascendente ayude a estos organismos a identificar a un terrorista (¡Bien!), o quizás a un potencial terrorista (menos ¡bien!), o quizás a un miembro de una fe religiosa específica, o quizás a un homosexual?

Y en ese caso, ¿qué objetivos tendrá ese agente para con los nuevos targets? 

Venimos aprendidos de situaciones vividas en las que una base de datos de este tipo, creada con toda la buena fe del mundo, ha acabado por servir de arma para algunos de los mayores crímenes humanos.

De ahí que el discurso de Google no me baste.

No porque desconfíe de ellos, sino porque confío lo suficiente como para saber que esta compañía es capaz de seguir creando productos cada vez más inteligentes sin dar un paso atrás en materia de seguridad y privacidad.

Sé de sobra que pueden hacerlo. Basta con que algunos de los que estáis allí os lo creáis.

Reproducido del blog de PabloYglesias