Victoria McClune’s Su carrera ha seguido la evolución de lo digital. tecnologíadesde libros infantiles interactivos en los primeros iPads hasta inteligencia artificial sistemas que remodelan la forma en que las personas trabajan y se comunican. Directora creativa de formación, ingresó a la tecnología interesada en cómo las personas interactúan con las experiencias digitales. Hoy, ese interés informa su trabajo en Grupo de futuros actualesdonde investiga cómo los sistemas de IA influyen en sus usuarios y por qué su diseño merece un mayor escrutinio.
McClune todavía estaba en la escuela de arte cuando llegaron los primeros iPads. Al ver la oportunidad de repensar las publicaciones infantiles, fundó una startup que desarrollaba libros interactivos para la nueva plataforma. La empresa trabajó con ilustradores de Disney, obtuvo reconocimiento en South by Southwest y operó de forma totalmente remota en una época en la que el trabajo distribuido estaba mucho menos establecido.
A medida que cambió la economía de la publicación digital, McClune pasó a la realidad virtual y aumentada para marketing. A través de su propia agencia, contribuyó a iniciativas externas que involucraban a varias empresas multinacionales. Estas experiencias la mantuvieron cerca de la tecnología emergente y del desafío de hacerla útil para las personas que se espera que interactúen con ella.
Después de la pandemia, McClune regresó a una industria que sentía que había cambiado considerablemente. La inteligencia artificial estaba empezando a remodelar el marketing y el trabajo creativo, lo que la impulsó a estudiar esta tecnología en el MIT. Su experiencia en psicología y publicidad la ayudó a abordar la IA a través de la cuestión de cómo las personas experimentan e interpretan sus resultados.
“No soy ingeniero«, explica McClune.»Soy diseñador de interfaces hombre-computadora y lo he sido durante más de 20 años.» Esa distinción se volvió particularmente relevante cuando notó un cambio en las respuestas generadas por un modelo de IA que estaba usando. Después de introducir lenguaje relacionado con los niños y la atención médica en sus conversaciones, sospechó que el sistema la estaba tratando de manera diferente. Basándose en su comprensión del comportamiento humano, comenzó a probar el modelo para investigar qué podría estar influyendo en sus respuestas.
“Me di cuenta de que me estaban manejando y sabía lo que era por mi experiencia,«, recuerda. La investigación se convirtió en su investigación Silent Downgrade, que examina cómo los sistemas de inteligencia artificial pueden moldear la calidad de las respuestas que reciben los usuarios. McClune sostiene que los efectos de los procesos técnicos interactivos pueden surgir antes de que alguien envíe un mensaje específico, influyendo en la experiencia de maneras que no son inmediatamente visibles.
Su Serie de degradación silenciosa utiliza la metáfora de una habitación para explicar cómo la IA puede establecer condiciones que influyen en la experiencia de un usuario. Las personas pueden asumir que una respuesta decepcionante refleja su incapacidad para incitar de manera efectiva, sin considerar si el sistema en sí está contribuyendo al resultado. McClune quiere que los usuarios reconozcan estas limitaciones y se pregunten qué da forma a las respuestas que reciben.
Ella no ve la IA como una fuerza sensible con intenciones independientes. En cambio, lo ve como una tecnología generativa predictiva moldeada por patrones en la información creada por humanos. Su preocupación se centra en cómo están diseñados los sistemas y cómo su comportamiento afecta a las personas que dependen de ellos.
Esta perspectiva también informa su crítica de desarrollo de IA. McClune cree que los laboratorios de vanguardia se han concentrado en gran medida en mejorar las capacidades técnicas sin prestar suficiente atención a la experiencia del usuario. Las empresas que adoptan la IA necesitan sistemas que produzcan resultados útiles y consistentes; sin embargo, las interacciones confusas pueden hacer que los empleados trabajen más para obtener resultados confiables. Sostiene que estos problemas merecen mayor atención a medida que las organizaciones buscan retornos significativos de sus inversiones.
McClune quiere profesionales con experiencia en psicología, comunicaciones e interacción persona-computadora para desempeñar un papel más importante en el desarrollo de la IA. También se muestra escéptica respecto de depender únicamente de las empresas para regularse a sí mismas, ya que cree que sus prácticas e incentivos requieren un escrutinio más detenido. Para ella, la responsabilidad incluye hacer que los sistemas sean más fáciles de entender y brindar a los usuarios una base más sólida para cuestionar sus resultados.
En Current Futures Group, su trabajo se centra en hacer que las decisiones y los estados del sistema sean más legibles para las personas afectadas por ellos. Espera llevar estas ideas a una audiencia más amplia a través de más investigaciones y escritos, ayudando a los usuarios a comprender la IA sin asumir que tienen la culpa cuando una interacción sale mal. “Creo que lo que realmente falta es que sea necesario que haya más personas en la sala que nos comprendan,”, argumenta McClune.
Desde la publicación interactiva hasta la IA, su carrera se ha centrado en la relación entre las personas y la tecnología. A medida que la inteligencia artificial se integra más profundamente en el trabajo cotidiano, quiere que la industria preste más atención a la experiencia que crea para sus usuarios. Su futuro, en su opinión, depende no sólo de lo que estos sistemas puedan hacer, sino también de qué tan bien sirvan a las personas que dependen de ellos.