Yann LeCun, el gurú de la inteligencia artificial de renombre mundial de Facebook, tuvo algunos problemas con un artículo escrito sobre su empresa ayer. Así que hizo lo que cualquiera de nosotros haría, acudió a las redes sociales para ventilar sus quejas.
Solo que no llevó la pelea a Facebook como era de esperar. En cambio, durante un período de horas, mantuvo un intercambio con numerosas personas en Twitter.
No, no lo hace.
Aparentemente, se puede escribir sobre la equidad de la IA sin prestar atención a la equidad periodística.
Uno de esos casos en los que uno conoce la realidad, lee un artículo al respecto y dice «¿WTF?»– Yann LeCun (@ylecun) 12 de marzo de 2021
¿Podemos detenernos un momento y apreciar que, en un jueves aleatorio de marzo, el padre del programa de inteligencia artificial de Facebook se pone Gorjeo discutir sobre un artículo de la periodista Karen Hao, reportera de IA para Technology Review del MIT?
Hao escribió una característica increíble de formato largo sobre el problema de moderación de contenido de Facebook. El artículo se llama «Cómo Facebook se volvió adicto a la difusión de información errónea», y el subtítulo es sorprendente:
Los algoritmos de inteligencia artificial de la empresa le dieron un hábito insaciable de mentiras y discursos de odio. Ahora el hombre que los construyó no puede solucionar el problema.
Citaré solo un párrafo del artículo de Hao aquí que captura su esencia:
Todo lo que la empresa hace y elige no hacer surge de una única motivación: el incansable deseo de crecimiento de Zuckerberg … [Facebook AI lead Joaquin Quiñonero Candela’s] La experiencia en IA impulsó ese crecimiento. Su equipo se encasilló en apuntar al sesgo de la IA, como aprendí en mi informe, porque prevenir tal sesgo ayuda a la empresa a evitar la regulación propuesta que, de aprobarse, podría obstaculizar ese crecimiento. El liderazgo de Facebook también ha debilitado o detenido repetidamente muchas iniciativas destinadas a limpiar la información errónea en la plataforma porque hacerlo socavaría ese crecimiento.
Hay mucho que desempacar allí, pero la esencia es que Facebook está impulsado por el objetivo singular del «crecimiento». Lo mismo podría decirse del cáncer.
A LeCun, aparentemente, no le gustó el artículo. Se subió a la aplicación que Jack creó y compartió sus pensamientos, incluidos lo que parecen ser ataques personales que cuestionan la integridad periodística de Hao:
Sí, por eso tu artículo fue una sorpresa para mí y para muchos de mis compañeros.
Desde mi punto de vista, su pieza está llena de errores fácticos y suposiciones incorrectas de mala intención.
¿Lo que le pasó?
– Yann LeCun (@ylecun) 12 de marzo de 2021
Su resentimiento ayer se extendió a culpar a la radio y al periodismo por los problemas de su empresa:
Más importante aún, el aumento de la polarización es un fenómeno exclusivamente estadounidense (que comenzó antes de que existiera FB)
Muchos otros países han experimentado una * disminución * de la polarización en la última década. Y usan FB igualmente.
Culpo a las noticias por cable y a la radio.– Yann LeCun (@ylecun) 12 de marzo de 2021
¿De verdad Yann? ¿La mayor polarización a través de la desinformación es exclusivamente estadounidense? ¿Has conocido a mi amigo «la razón por la que se ha librado cada guerra en la historia de siempre?»
Estoy divagando.
Esta no sería la primera vez que él llevado a Twitter para argumentar en defensa de su empresa, pero ayer sucedieron más cosas de las que se ven a simple vista. La diatriba de LeCun comenzó con un tweet que anunciaba nueva investigación sobre la equidad del Equipo de Inteligencia Artificial de Facebook (FAIR).
Según Hao, Facebook coordinó el lanzamiento del documento para que coincidiera con el artículo de Tech Review:
La gente ha estado preguntando: ¿FB publicó esto en respuesta a tu historia? No, déjame aclarar. Querían que este artículo estuviera en mi historia y me dieron un borrador inicial. Luego, anticipando que estaría en mi historia, sincronizaron su publicación con mi artículo, esperando que los dos se complementaran. https://t.co/pST8LYsTmG
– Karen Hao (@_KarenHao) 11 de marzo de 2021
Según la evidencia, parece que Facebook quedó absolutamente atónito por los informes de Hao. Parece que la red social esperaba una característica sobre el progreso que ha logrado en el apuntalamiento de sus algoritmos, la detección de prejuicios y la lucha contra el discurso de odio. En cambio, Hao puso al descubierto el problema esencial de Facebook: es una telaraña.
Esas son mis palabras, no las de Hao. Lo que escribieron fue:
Cerca del final de nuestra entrevista de una hora … [Quiñonero] comenzó a enfatizar que la IA a menudo era descrita injustamente como «la culpable». Independientemente de si Facebook usó IA o no, dijo, la gente seguiría arrojando mentiras y discursos de odio, y ese contenido aún se difundiría por la plataforma.
Si tuviera que reformular eso para el impacto, podría decir algo como «independientemente de si nuestra empresa vierte gasolina en el suelo y les ofrece a todos una caja de fósforos, todavía vamos a tener incendios forestales». Pero, de nuevo, esas son mis palabras.
Y cuando digo que Facebook es una telaraña, lo que quiero decir es: las telarañas son buenas, hasta que llegan a ser demasiado grandes. Por ejemplo, si ves una telaraña en la esquina de tu granero, ¡es genial! Significa que tienes un pequeño guerrero arácnido que te ayuda a mantener alejados a los insectos más desagradables. Pero si ves una telaraña que cubre toda tu ciudad, como algo sacado del «Reino de las arañas», eso es realmente malo.
Y es evidente que LeCun lo sabe porque toda su perorata de Twitter ayer fue solo una admisión gigante de que Facebook está fuera del control de cualquiera. Aquí hay algunas cositas de sus tweets sobre el tema:
… Cuando quedó claro que tales cosas estaban sucediendo, FB tomó medidas correctivas [measures] con rapidez…..
ciertamente no lo suficientemente rápido como para evitar que sucedan algunas cosas malas mientras tanto (de ahí esos informes de la ONU).
Pero tomar esas medidas correctivas no es instantáneo, ni fácil, ni barato….
Cuando el gobierno de Myanmar comenzó a difundir información de odio contra los rohingyas, FB eliminó sus cuentas de títeres de calcetines y contrató moderadores de habla birmana….
Pero el volumen era tal que hubo que desarrollar sistemas de IA para automatizar tanto como fuera posible.
Así que FB desarrolló el mejor sistema de traducción birmano-inglés del mundo, de modo que el moderador que habla inglés pudiera ayudar….
Simultáneamente, desarrolló detectores de habla violenta y de odio para los birmanos. Pero los datos eran escasos.
Entonces, en los últimos 2 años, FB desarrolló sistemas multilingües que pueden detectar el discurso de odio en cualquier idioma y no requieren muchos datos de capacitación.
Todo esto requiere experiencia, tiempo, dinero y, en este caso, los últimos avances en inteligencia artificial.
Interesante. La afirmación central de LeCun parece ser que detener la desinformación es realmente difícil. Bien, eso es cierto. Hay muchas cosas que son realmente difíciles que no hemos descubierto.
Como señaló mi colega Matthew Beedham en la publicación de hoy Boletín de turnos, construyendo un automóvil de producción impulsado por un reactor nuclear en su baúl es muy dificil.
Pero, como los científicos que trabajan exactamente en eso para la compañía Ford se dieron cuenta hace décadas, la tecnología nuclear simplemente no está lo suficientemente avanzada como para que sea lo suficientemente segura para alimentar vehículos de producción de consumo. La energía nuclear es ideal para portaaviones y submarinos, pero no tanto para la camioneta familiar.
Yo diría que el impacto de Facebook en la humanidad es casi con certeza mucho, mucho más perjudicial y de mayor alcance que un derrumbe nuclear insignificante en el maletero de un Ford Mustang. Después de todo, solo 31 personas murieron como resultado directo del colapso nuclear de Chernobyl y figura de expertos un máximo de alrededor de 4.000 se vieron afectados indirectamente (en lo que respecta a la salud, de todos modos).
Facebook tiene 2,450 millones de usuarios. Y cada vez que su plataforma crea o agrava un problema para uno de esos usuarios, su respuesta es una versión u otra de «lo investigaremos». El único lugar en el que este tipo de respuesta reaccionaria al desequilibrio tecnológico realmente sirve al público es en un juego de Whac-A-Mole.
Si Facebook fuera una planta de energía nuclear que intenta reparar una fuga que envía desechos nucleares a nuestra agua potable cada vez que alguien hace un mal uso de la red eléctrica: la cerraríamos hasta que tapara las fugas.
Pero no cerramos Facebook porque no es realmente un negocio. Es una máquina de relaciones públicas de un billón de dólares para una entidad autónoma. Es un país. Y debemos sancionarlo o tratarlo como una fuerza hostil hasta que haga algo para evitar el uso indebido de su plataforma en lugar de solo reaccionar cuando la caca golpea el ventilador.
Y, si no podemos mantener los desechos nucleares fuera de nuestra agua potable, o construir un automóvil seguro con un reactor nuclear en su maletero, tal vez deberíamos simplemente cerrar las plantas o echar a perder los planes hasta que podamos. Funcionó bien para Ford.
Tal vez, solo tal vez, la razón por la que periodistas como Hao y yo, y los políticos de todo el mundo no podemos ofrecer soluciones a los problemas que tiene Facebook es porque no hay ninguna.
Quizás contratar a los investigadores de inteligencia artificial más inteligentes del planeta y rodearlos con la máquina de relaciones públicas más grande del mundo no sea suficiente para superar el problema de los humanos que se envenenan entre sí por diversión y ganancias en una red social gigante no regulada.
Hay algunos problemas a los que no se puede simplemente arrojar dinero y comunicados de prensa.
Me quito el sombrero ante Karen Hao por tal excelentes informes y al personal de Technology Review por decir la verdad frente al poder.
Publicado el 12 de marzo de 2021-19: 37 UTC