Basado en materiales de theverge.com
Uno de los momentos más impresionantes de la última conferencia de Google I / O fue la llamada telefónica al peluquero para concertar una cita con el peluquero. La llamada no fue hecha por una persona, sino por el Asistente de Google, que hizo un excelente trabajo: hizo las preguntas correctas, pausas en los lugares correctos e incluso pronunció el 'mmmm' perfectamente apropiado y realista.
La audiencia quedó asombrada. Pero lo más impresionante fue que la persona al otro lado de la línea parecía no tener idea de que se estaba comunicando con inteligencia artificial. Este es sin duda un nuevo avance tecnológico para Google. Pero, además, se le asocia un complejo de problemas éticos y sociales.
Por ejemplo, ¿debería Google decirle a la gente que están hablando con el coche? ¿Podría la tecnología que imita a los humanos destruir nuestra fe en lo que vemos y oímos? ¿O se convertirá en una especie de privilegio tecnológico, donde aquellos que lo poseen pueden trasladar todas estas aburridas negociaciones a la máquina, mientras que aquellos que atienden llamadas (en su mayoría trabajadores de servicios mal pagados) tienen que lidiar con un robot tonto?
En otras palabras, los espectadores vieron una demostración típica de Google que los hace admirar y preocuparse por igual.
El Asistente de Google hace llamadas
El Asistente de Google podrá realizar llamadas telefónicas reales por usted.
Publicado por Circuit Breaker el 8 de mayo de 2018
Pero comencemos por las cosas más simples. Desde el escenario, Google no ha sido muy explícito sobre los detalles de cómo funciona una función llamada Duplex. Pero la publicación de blog adjunta aclara el contexto. En primer lugar, Duplex no es una especie de “hablador inteligente” futurista capaz de mantener una conversación sin restricciones. Como explica Google, solo se puede aplicar a “límites limitados”, en situaciones en las que la conversación es funcional y tiene un marco claro para lo que se puede decir. ¿Quieres reservar una mesa? ¿Cuanta gente? ¿Qué día? ¿Qué hora? Está bien, gracias, adiós. Nada complicado, ¿verdad?
Mark Ridl, profesor asociado de IA en el Instituto de Tecnología de Georgia que se especializa en narrativas informáticas, dijo a The Verge que pensaba que el Asistente de Google solo funcionaría “lo suficientemente bien” en situaciones formales. “Salir de contexto en el diálogo es un gran desafío”, dijo Ridl. “Pero también hay muchos trucos para ocultar malentendidos de la IA o para volver a encarrilar la conversación”.
Una de las demostraciones de Google muestra perfectamente cómo funcionan estos trucos. AI pudo superar los momentos de malentendidos que surgían constantemente, pero lo hizo parafraseando y repitiendo preguntas. Esto es común para los programas de computadora diseñados para comunicarse con las personas.
Extractos de sus conversaciones demuestran lo “inteligentes” que son, pero al analizar lo que se ha dicho, te das cuenta de que estás tratando con patrones programados. El blog de Google tiene una serie de detalles sobre los trucos que utilizará Duplex: confirmación ('Viernes de la semana que viene, 18'), sincronización ('¿Me oyes?'), Abortar ('Número 212-' – 'Disculpe, ¿podría repetir desde el principio?').
Es importante tener en cuenta que Google llama a Duplex un “experimento”. Este no es un producto final, y no hay garantía de que se distribuya ampliamente tal como es, o en absoluto. Actualmente, Duplex solo funciona en tres escenarios: reservar mesa en un restaurante, programar una visita a la peluquería y conocer los horarios de apertura de varios establecimientos. Estará disponible para un número limitado (y desconocido) de usuarios este verano.
Hay una característica más importante. Si algo sale mal en la conversación, la persona interviene. Según Google, Duplex tiene una “capacidad de autocomprobación” que le permite reconocer cuando una conversación está fuera de su alcance. En tales casos, se envía una señal al operador que puede finalizar la conversación. Parece un asistente personal Facebook M: La compañía prometió que usaría IA para atender a sus clientes, pero terminó dándoles a las personas una parte desconocida del trabajo. (En enero Facebook cerró esta parte del servicio)
Todas estas adiciones dan una idea más clara de las capacidades de Duplex, pero no responden a la pregunta de qué efecto causará su uso. Y como la primera empresa en exhibir dicha tecnología, Google es responsable de los posibles problemas.
La pregunta obvia es si una empresa debería notificar a las personas que un robot se está comunicando con ellos. Yossi Mathias le dijo a CNET que es probable que esto suceda. La respuesta de Google a la pregunta de The Verge es más extensa: la empresa definitivamente tiene la responsabilidad de mantener informadas a las personas. No está claro por qué nunca se dijo esto desde el escenario.
Muchos expertos en el campo están de acuerdo con esto, pero ¿cómo se le dice exactamente a esta o aquella persona que están hablando con IA? Si el Asistente inicia la llamada con las palabras “Hola, soy un robot”, es posible que el otro extremo simplemente cuelgue. Usando métodos menos directos, puede, por ejemplo, limitar el grado de realismo de la voz de la IA o usar un tono especial en la llamada. Google dijo que espera desarrollar de forma natural un conjunto de normas sociales que le ayuden a darse cuenta de que la persona que llama es IA, no un ser humano.
Deberíamos hacer que la IA suene diferente a los humanos por la misma razón por la que ponemos un aditivo maloliente en el gas natural normalmente inodoro. https://t.co/2dYmeb70AC
– Travis Korte (@traviskorte) 8 de mayo de 2018
Joanna Bryson, profesora asociada de ética de la inteligencia artificial en la Universidad de Bath, dijo a The Verge que Google está claramente obligado a proporcionar esta información. Si los robots pueden retratar libremente a los humanos, la gama de abusos se vuelve increíblemente amplia, desde estafas telefónicas hasta fraudes graves. Bryson dice que dejar que las empresas se ocupen de esto por sí mismas claramente no es suficiente y que se necesitan nuevas leyes para proteger a la sociedad. “Hasta que comencemos a regular esto, cualquier empresa que sea menos responsable que Google puede beneficiarse de esta tecnología. Google puede estar haciendo lo correcto, pero no todo el mundo hará lo mismo ”.
Y si esta tecnología se generaliza, tendrá otros efectos menos obvios que la ley no puede abordar. En un artículo para The Atlantic, Alexis Madrigal sugiere que una pequeña charla, ya sea por teléfono o en la calle, tiene sutiles implicaciones sociales. Cita a la urbanista Jane Jacobs diciendo que “el contacto público diario a nivel local” crea una “red de respeto y confianza públicos”. ¿Qué perdemos si le damos a las personas otra forma de evitar la interacción social?
El efecto de usar IA en conversaciones puede ser una reacción más grosera a las llamadas. Si no podemos distinguir por voz entre personas y máquinas, ¿no nos hará percibir todas las conversaciones como sospechosas a sabiendas? De esta manera podemos empezar a cortar a personas reales con las palabras “¡Cállate y déjame hablar con una persona!”. Y si nos resulta más fácil reservar una mesa en un restaurante, ¿comenzaremos a abusar de las reservas sin pensar en la probabilidad de que vayamos a visitar un restaurante? (Como dijo Google, limitarán la cantidad de llamadas que una institución puede recibir de un Asistente por día, y la cantidad de llamadas que el Asistente puede hacer para evitar el uso del servicio para correo no deseado).
No hay respuestas obvias a todas las preguntas, pero, como bien señaló Bryson, al menos Google le está haciendo un favor al mundo al llamar la atención sobre la tecnología. Esta no es la única empresa que trabaja en un servicio de este tipo, y no será la única que lo utilizará. “Es muy importante que lo demuestren”, dice Bryson. “Es importante que creen demostraciones y videos que hagan que la gente vea lo que está sucediendo […] Lo que realmente necesitamos es una sociedad informada”.
En otras palabras, necesitamos discutir todo esto entre nosotros, antes de que los robots comiencen a hablar por nosotros.