El asistente de inteligencia artificial de Meta afirmó incorrectamente que el reciente intento de asesinato del expresidente Donald Trump no ocurrió, un error que un ejecutivo de la empresa ahora atribuye a la tecnología que impulsa su chatbot y otros.
En una publicación de blog de la empresa En un artículo publicado el martes, Joel Kaplan, director global de políticas de Meta, califica de “desafortunadas” las respuestas de su IA a las preguntas sobre el tiroteo. Afirma que Meta AI fue programada inicialmente para no responder a preguntas sobre el intento de asesinato, pero la empresa eliminó esa restricción después de que la gente empezó a darse cuenta. También reconoce que “en un pequeño número de casos, Meta AI siguió proporcionando respuestas incorrectas, incluso afirmando a veces que el evento no ocurrió, algo que estamos trabajando rápidamente para solucionar”.
“Este tipo de respuestas se conocen como alucinaciones, un problema que afecta a toda la industria y que vemos en todos los sistemas de IA generativa, y que supone un desafío permanente para la forma en que la IA gestiona los eventos en tiempo real en el futuro”, continúa Kaplan, quien dirige las iniciativas de cabildeo de Meta. “Como todos los sistemas de IA generativa, los modelos pueden devolver resultados inexactos o inapropiados, y seguiremos abordando estos problemas y mejorando estas funciones a medida que evolucionen y más personas compartan sus comentarios”.
No es solo Meta el que se ve afectado por esto: Google el martes También tuve que refutar las afirmaciones que su función de autocompletar búsquedas estaba censurando los resultados sobre el intento de asesinato. “Aquí vamos de nuevo, ¡¡¡otro intento de MANIPULAR LAS ELECCIONES!!!” Trump dijo en una publicación en Truth Social. “VAYAN A POR META Y GOOGLE”.
Desde que ChatGPT apareció en escena, la industria tecnológica ha estado lidiando con cómo limitar la IA generativa. propensión a las falsedadesAlgunos jugadores, como Meta, han intentado basar sus chatbots en datos de calidad y resultados de búsqueda en tiempo real como una forma de compensar las alucinaciones. Pero, como muestra este ejemplo en particular, sigue siendo difícil superar lo que modelos de lenguaje de gran tamaño están inherentemente diseñados para hacer: inventar cosas.