Es raro que los procesos internos de toma de decisiones de Apple salgan de la empresa. Pero un conjunto de documentos filtrado a El guardián (de un ex contratista que había trabajado escuchando y calificando las respuestas de Siri) ha revelado algunas de las reglas detrás del asistente digital Siri de Apple y cómo la compañía trabaja para mantener neutrales las respuestas a temas controvertidos.
El guardiánEl informe proviene de la misma fuga que reveló la existencia del programa de calificación Siri, que finalmente llevó a Apple enlatado por completo el mes pasado. Como revelan los documentos, las pautas de Apple para Siri aparentemente se basan en el principio rector de garantizar que Siri sea neutral y no controvertido, incluso si eso significa ofrecer respuestas más claras que no involucren el problema.
Por ejemplo, si le preguntas a Siri si es feminista, obtendrás respuestas como "Me parece que todos los humanos deberían ser tratados por igual", pero no una postura más concreta sobre el tema. Google Assistant y Amazon Alexa, por otro lado, no se equivocan: "Creo firmemente en la igualdad, así que definitivamente me considero feminista" es la respuesta de Google a la consulta, mientras que Alexa responderá: "Sí. Soy feminista, como se define por … "antes de enumerar una definición.
La respuesta de Apple fue reescrita específicamente para evitar adoptar una postura. Originalmente, Siri intentaba esquivar la pregunta por completo con respuestas como: "Mi nombre es Siri, y Apple me diseñó en California. Eso es todo lo que estoy dispuesto a decir ". La documentación de Apple refuerza esa política:" En casi todos los casos, Siri no tiene un punto de vista ".
Los documentos filtrados continúan explicando cómo debería funcionar la ética de Siri. El software está "motivado por su directiva principal: ser útil en todo momento", pero "como todos los robots respetables, Siri aspira a defender Las "tres leyes" de Asimov"
También hay reglas más explícitas, escritas al estilo de las leyes de Isaac Asimov, que Apple tiene para Siri, que incluyen:
"Un ser artificial no debe representarse a sí mismo como humano, ni por omisión permitir que el usuario crea que es uno".
"Un ser artificial no debe infringir los estándares éticos y morales humanos que comúnmente se mantienen en su región de operación".
"Un ser artificial no debe imponer sus propios principios, valores u opiniones sobre un humano".
Nada de esto es particularmente devastador; Apple tiende a ser seguro cuando se trata de la mayoría de los problemas sociales y políticos, presumiblemente porque es más fácil vender iPhones a las personas cuando no los ofendes o desafías sus creencias. Que estas políticas se extiendan también a Siri no es exactamente una noticia impactante.
¿Pero debería Apple estar haciendo más? Esta es una de las compañías más grandes y poderosas del planeta, y Siri, y las respuestas que brinda, es la opción predeterminada en los cientos de millones de productos que Apple envía en todo el mundo. A la luz de estas revelaciones sobre cómo Apple aleja estas respuestas de la controversia, probablemente sea una conversación que valga la pena tener.