A lo largo de los últimos dos años, investigadores en China y Estados Unidos han comenzado a demostrar que pueden enviar comandos ocultos — que no son detectables para el oído humano— a Siri de Apple, Alexa de Amazon y al Asistente de Google. En las manos ajenas a la voluntad de los usuarios, esa tecnología podría usarse para abrir puertas, enviar dinero o comprar artículos en línea, simplemente con música que se reproduce en la radio.
Como explicó en un primer avance el diario New York Times, los investigadores han podido activar en secreto los sistemas de inteligencia artificial en teléfonos y altavoces inteligentes y han logrado que marquen números de teléfono o que visiten sitios web.
Las investigaciones se iniciaron cuando en 2016 un grupo de estudiantes de la Universidad de California, Berkeley y la Universidad de Georgetown mostraron que podían ocultar comandos en ruido blanco reproducidos por altavoces y vídeos de Youtube para que los dispositivos inteligentes activaran el modo avión o abrieran un sitio web.
Ahora, algunos de los investigadores de Berkeley han ido más allá y han publicado un trabajo de investigación explicando que podían insertar comandos directamente en las grabaciones de música. Esto significa que mientras una persona está escuchando por ejemplo una canción, el asistente podría estar recibiendo una instrucción para realizar alguna acción.
Uno de los autores del artículo, Nicholas Carlini, dice que aunque no existe evidencia de que estas técnicas hayan sido utilizadas fuera de los laboratorios, podría ser cuestión de tiempo antes de que alguien comience a aprovecharlas. Supongo que la gente con malas intenciones ya usa a otras personas para hacer esto”, comentó.
Esto es un ejemplo de como aunque la inteligencia artificial avance, sigue pudiendo ser manipulada para un uso fraudulento.
Con los ataques de audio, los investigadores están explotando la brecha entre el reconocimiento de voz humano y el de las máquinas. Los sistemas de reconocimiento de voz generalmente traducen cada sonido como una letra y al final las unen para formar palabras y frases. Al hacer cambios leves a los archivos de audio, los investigadores anularon el sonido que el sistema de reconocimiento de voz debía escuchar y lo remplazaron con otro que se transcribía de manera distinta en la máquina mientras que era casi indetectable para el oído humano. Según New York Times.
Los teléfonos y altavoces inteligentes que usan asistentes digitales como Alexa de Amazon o Siri de Apple superarán el número de personas para 2021, según la firma de investigación Ovum. Más de la mitad de los hogares de todo Estados Unidos tendrá por lo menos un altavoz inteligente para entonces, de acuerdo con Juniper Research.
Amazon ha indicado que no revelará medidas de seguridad específicas, pero si ha tomado medidas para garantizar la seguridad de Echo.
Google se escuda alegando que la seguridad es un elemento de contínuo trabajo y que su asistente tiene las características para mitigar los comandos indetectables. Los asistentes de ambas compañías emplean tecnología de reconocimiento de voz para evitar que los dispositivos actúen en ciertos comandos a menos que reconozcan la voz del usuario.
Apple dijo que Homepod, su altavoz inteligente, está diseñado para evitar que a través de comandos se realicen actividades como abrir puertas.
