La «frenología» suena anticuada. Parece que pertenece a un libro de historia, archivado en algún lugar entre derramamiento de sangre y velocípedos. Nos gustaría pensar que juzgar el valor de las personas en función del tamaño y la forma de su cráneo es una práctica que ya quedó atrás. Sin embargo, la frenología vuelve a asomar su cabeza abultada.
En los últimos años, los algoritmos de aprendizaje automático han prometido a los gobiernos y a las empresas privadas el poder de obtener todo tipo de información de la apariencia de las personas. Varias startups ahora afirman poder usar inteligencia artificial (IA) para ayudar a los empleadores detectar los rasgos de personalidad de los candidatos a puestos de trabajo basados en sus expresiones faciales. En China, el gobierno ha sido pionero en el uso de cámaras de vigilancia que identifican y rastrean a las minorías étnicas. Mientras tanto, han surgido informes de escuelas que instalan sistemas de cámaras que sancionan automáticamente a los niños por no prestar atención, basándose en movimientos faciales y microexpresiones como tics en las cejas.
Quizás lo más notorio es que hace unos años, los investigadores de inteligencia artificial Xiaolin Wu y Xi Zhang reclamado haber entrenado un algoritmo para identificar a los delincuentes en función de la forma de sus rostros, con una precisión del 89,5%. No fueron tan lejos como para respaldar algunas de las ideas sobre fisonomía y carácter que circularon en el siglo XIX, en particular del trabajo del criminólogo italiano Cesare Lombroso: que los criminales son bestias subhumanas, sub-evolucionadas, reconocibles por sus frentes inclinadas y narices de halcón. Sin embargo, el intento aparentemente de alta tecnología del estudio reciente de identificar los rasgos faciales asociados con la criminalidad se basa directamente en el « método de composición fotográfica » desarrollado por Francis Galton, un experto en todo el mundo victoriano, que implicaba superponer los rostros de varias personas en una determinada categoría para encontrar las características indicativas de cualidades como salud, enfermedad, belleza y criminalidad.
Reconocimiento facial y frenología
Los comentaristas de tecnología han criticado estas tecnologías de reconocimiento facial como «frenología literal»; también lo han relacionado con la eugenesia, la pseudociencia de mejorar la raza humana alentando a las personas consideradas más aptas para reproducirse. (El propio Galton acuñó el término « eugenesia », describiéndolo en 1883 como « todas las influencias que, por muy remotas que sean, tienden a dar a las razas o cepas de sangre más adecuadas una mejor oportunidad de prevalecer rápidamente sobre las menos adecuadas de lo que tendrían de otra manera haber tenido. ‘)
En algunos casos, el objetivo explícito de estas tecnologías es negar oportunidades a quienes se consideran no aptos; en otros, puede que no sea el objetivo, pero es un resultado predecible. Sin embargo, cuando descartamos los algoritmos etiquetándolos como frenología, ¿cuál es exactamente el problema que estamos tratando de señalar? ¿Estamos diciendo que estos métodos tienen fallas científicas y que realmente no funcionan, o estamos diciendo que es moralmente incorrecto usarlos independientemente?
Taquí hay un largo y enredado historia a la forma en que se ha utilizado la «frenología» como un insulto fulminante. Las críticas filosóficas y científicas del esfuerzo siempre se han entrelazado, aunque su enredo ha cambiado con el tiempo. En el siglo XIX, los detractores de la frenología objetaron el hecho de que la frenología intentó señalar la ubicación de diferentes funciones mentales en diferentes partes del cerebro, un movimiento que se consideró herético, ya que cuestionaba las ideas cristianas sobre la unidad del alma. . Curiosamente, sin embargo, tratar de descubrir el carácter y el intelecto de una persona en función del tamaño y la forma de su cabeza no se percibió como un problema moral serio. Hoy, por el contrario, la idea de localizar funciones mentales es bastante indiscutible. Es posible que los científicos ya no piensen que la destructividad se asienta sobre el oído derecho, pero la noción de que las funciones cognitivas se pueden localizar en circuitos cerebrales particulares es una suposición estándar en la neurociencia convencional.
[Leer:[Read:¿Cómo se construye un dispositivo que admita mascotas? Preguntamos a expertos y dueños de animales]
La frenología también tuvo su parte de crítica empírica en el siglo XIX. Los debates se intensificaron sobre qué funciones residían dónde y si las mediciones del cráneo eran una forma confiable de determinar lo que está sucediendo en el cerebro. Sin embargo, la crítica empírica más influyente de la antigua frenología provino de los estudios del médico francés Jean Pierre Flourens basados en dañar el cerebro de conejos y palomas, de los cuales concluyó que las funciones mentales están distribuidas, en lugar de localizadas. (Estos resultados fueron desacreditados más tarde). El hecho de que la frenología fuera rechazada por razones que la mayoría de los observadores contemporáneos ya no aceptarían hace que sea más difícil averiguar a qué nos dirigimos cuando usamos la «frenología» como un insulto en la actualidad.
Los sesgos estadísticos
Tanto la frenología «antigua» como la «nueva» han sido criticadas por sus métodos descuidados. En el reciente estudio de AI sobre la criminalidad, los datos se tomaron de dos fuentes muy diferentes: fotografías policiales de convictos y fotografías de sitios web de trabajo para no convictos. Ese solo hecho podría explicar la capacidad del algoritmo para detectar una diferencia entre los grupos. En un nuevo prefacio En el artículo, los investigadores también admitieron que considerar las condenas judiciales como sinónimo de criminalidad era un « descuido serio ». Sin embargo, la equiparación de las condenas con la criminalidad parece registrar a los autores principalmente como una falla empírica: usar fotografías de criminales condenados, pero no de los los que se escaparon introduce un sesgo estadístico. Dijeron que estaban «profundamente desconcertados» por la indignación pública en reacción a un documento que estaba destinado «a discusiones puramente académicas».
En particular, los investigadores no comentan el hecho de que la condena en sí depende de las impresiones que la policía, los jueces y los jurados se forman del sospechoso, lo que hace que la apariencia «criminal» de una persona sea una variable confusa. Tampoco mencionan cómo la intensa vigilancia policial de determinadas comunidades y la desigualdad en el acceso a la representación legal sesgan el conjunto de datos. En su respuesta a las críticas, los autores no dan marcha atrás en la suposición de que «ser un criminal requiere una serie de rasgos personales anormales (atípicos)». De hecho, su encuadre sugiere que la criminalidad es una característica innata, más que una respuesta a condiciones sociales como la pobreza o el abuso. Parte de lo que hace que su conjunto de datos sea cuestionable por motivos empíricos es que quién es etiquetado como «criminal» difícilmente es neutral en cuanto a valores.
Una de las objeciones morales más fuertes al uso del reconocimiento facial para detectar la criminalidad es que estigmatiza a las personas que ya están excesivamente vigiladas. Los autores dicen que su herramienta no debe usarse en la aplicación de la ley, pero citan solo argumentos estadísticos sobre por qué no debe implementarse. Señalan que la tasa de falsos positivos (50%) sería muy alta, pero no se dan cuenta de lo que eso significa en términos humanos. Esos falsos positivos serían personas cuyos rostros se parecen a personas que han sido condenadas en el pasado. Dados los prejuicios raciales y de otro tipo que existen en el sistema de justicia penal, tales algoritmos terminarían por sobrestimar la criminalidad entre las comunidades marginadas.
La cuestión más polémica parece ser si reinventar la fisonomía es un juego limpio para los propósitos de la «discusión académica pura». Uno podría objetar sobre bases empíricas: los eugenistas del pasado como Galton y Lombroso finalmente fracasaron en encontrar rasgos faciales que predispusieran a una persona a la criminalidad. Eso es porque no se pueden encontrar tales conexiones. Del mismo modo, los psicólogos que estudian la heredabilidad de la inteligencia, como Cyril Burt y Philippe Rushton, tuvieron que jugar rápido y relajado con sus datos para fabricar correlaciones entre el tamaño del cráneo, la raza y el coeficiente intelectual. Si hubiera algo que descubrir, presumiblemente las muchas personas que lo han intentado a lo largo de los años no se habrían quedado secos.
El problema de reinventar la fisonomía no es simplemente que se haya intentado sin éxito antes. Los investigadores que persisten en la búsqueda de la fusión fría después de que el consenso científico ha avanzado también enfrentan críticas por perseguir unicornios, pero la desaprobación de la fusión fría está muy lejos del oprobio. En el peor de los casos, se considera que están perdiendo el tiempo. La diferencia es que los daños potenciales de la investigación de la fusión fría son mucho más limitados. Por el contrario, algunos comentaristas discutir que el reconocimiento facial debería regularse tan estrictamente como el plutonio, porque tiene muy pocos usos inocuos. Cuando el proyecto sin salida que quieres resucitar se inventó con el propósito de apuntalar las estructuras coloniales y de clase, y cuando lo único que es capaz de medir es el racismo inherente a esas estructuras, es difícil justificar intentarlo una vez más. solo por curiosidad.
Sin embargo, llamar «frenología» a la investigación sobre reconocimiento facial sin explicar lo que está en juego probablemente no sea la estrategia más eficaz para comunicar la fuerza de la queja. Para que los científicos se tomen en serio sus responsabilidades morales, deben ser conscientes de los daños que podrían resultar de su investigación. Es de esperar que decir con más claridad lo que está mal en el trabajo etiquetado como «frenología» tendrá más impacto que simplemente lanzar el nombre como un insulto.
Este artículo se publicó originalmente en Eón por Catherine Stinson y ha sido reeditado bajo Creative Commons.
Publicado el 13 de marzo de 2021-14: 00 UTC