Cómo diferenciar entre IA y BS




La inteligencia artificial es tan importante como la electricidad, la plomería interior e Internet para la sociedad moderna. En resumen: sería extremadamente difícil vivir sin él ahora.

Pero también es, posiblemente, la tecnología más publicitada y tergiversada de la historia, y si elimina la criptomoneda del argumento, no hay debate.

Nos han dicho que la IA puede (o pronto lo hará) predecir crímenes, conducir vehículos sin un respaldo humano, y determinar el mejor candidato para un trabajo.

Se nos ha advertido que la IA reemplazará a los médicos, abogados, escritores y cualquier persona en un campo no relacionado con la informática.

Sin embargo, ninguna de estas fantasías se ha hecho realidad. En el caso de la vigilancia predictiva, la contratación de inteligencia artificial y otros sistemas que supuestamente utilizan el aprendizaje automático para obtener información sobre la condición humana: son BS, y son peligrosos.

La IA no puede hacer nada que un humano no pueda, ni puede hacer la mayoría de las cosas que un humano puede hacer.

Por ejemplo, se alega que la policía predictiva utiliza datos históricos para determinar dónde es probable que ocurra el crimen en el futuro, de modo que la policía pueda determinar dónde se necesita su presencia.

Pero las suposiciones que impulsan tales sistemas son defectuosas en su esencia. Intentar predecir la densidad delictiva sobre la geografía mediante el uso de datos de arrestos es como tratar de determinar el sabor de la comida de un chef mirando sus fotos.

Lo mismo ocurre con la contratación de IA. La pregunta que nos hacemos es «quién es el mejor candidato», pero estos sistemas no tienen forma de determinarlo.

Puede parecer difícil de digerir. Hay decenas de miles de empresas legítimas que venden software de inteligencia artificial. Y una parte significativa de ellos está presionando BS.

Entonces, ¿qué nos hace bien y a ellos mal? Bueno, echemos un vistazo a algunos ejemplos para que podamos averiguar cómo separar el trigo de la paja.

La contratación de IA es un buen punto de partida. No existe una fórmula para contratar al empleado perfecto. Estos sistemas toman los mismos datos disponibles para los humanos y encuentran candidatos cuyos archivos coinciden más con los de personas que han tenido éxito en el pasado (perpetuando así cualquier problema existente o histórico en el proceso de contratación y derrotando el punto de la IA) o utilizar datos no relacionados, como la «detección de emociones» o charlatanería similar basada en pseudociencia para hacer la misma cosa irresponsable.

La conclusión es que la IA no puede determinar más acerca de un candidato que un humano. En el mejor de los casos, las empresas que utilizan la IA de contratación están siendo estafadas. En el peor de los casos, están utilizando intencionalmente sistemas que saben que son mecanismos contra la diversidad.

La forma más sencilla de determinar si la IA es una BS es comprender qué problema está intentando resolver. A continuación, solo necesita determinar si ese problema se puede resolver moviendo los datos.

¿Puede la IA determinar las tasas de reincidencia en ex delincuentes? Si. Puede tomar los mismos datos que un humano y obtener qué porcentaje de presos es probable que cometan delitos nuevamente.

Pero no puede determinar cuales es probable que los humanos vuelvan a cometer crímenes porque eso requeriría poderes psíquicos mágicos.

¿Puede la IA predecir el crimen? Claro, pero solo en un sistema cerrado donde los datos sobre delitos reales estén disponibles. En otras palabras, necesitaríamos saber todos los delitos que suceden sin que la policía esté involucrada, no solo el pequeño porcentaje en el que alguien fue atrapado.

Pero ¿Qué hay de los coches autónomos, los robots cirujanos y los escritores sustitutos?

Todos estos están estrictamente dentro del dominio de la tecnología futura. Los coches autónomos están tan cerca hoy como lo estaban en 2014, cuando el aprendizaje profundo realmente comenzó a despegar.

Estamos en un estado persistente de estar «a un par de años de distancia» del nivel 5 de autonomía que podría durar décadas.

Y eso se debe a que la IA no es la solución adecuada, al menos no es la IA real que existe en la actualidad. Si realmente queremos que los automóviles se conduzcan solos, necesitamos un sistema de rieles digital dentro del cual restringir el vehículo y garantizar que todos los demás vehículos cercanos operen juntos.

En otras palabras: las personas son demasiado caóticas para que un alumno basado en reglas (IA) se adapte al uso solo de sensores y técnicas modernas de aprendizaje automático.

Una vez más, nos damos cuenta de que pedirle a la IA que conduzca un automóvil de manera segura, en los entornos de tráfico típicos actuales, es en efecto darle una tarea que la mayoría de los humanos no pueden completar. ¿Qué es un buen conductor? ¿Alguien que nunca tiene la culpa de un accidente todo el tiempo que conduce?

Esta es también la razón por la que los abogados y escritores no serán reemplazados en el corto plazo. AI no puede explicar por qué un crimen contra un niño indefenso puede merecer un castigo más severo que uno contra un adulto. Y ciertamente no puede hacer con palabras lo que hicieron Herman Melville o Emily Dickinson.

Donde encontramos IA que no es una tontería, casi siempre, es cuando está realizando una tarea que es tan aburrida que, a pesar de que hay valor en esa tarea, sería una pérdida de tiempo para un humano hacerlo.

Tome Spotify o Netflix, por ejemplo. Ambas empresas podrían contratar a un humano para que anote lo que cada usuario escucha o ve y luego organiza todos los datos en pilas informativas. Pero hay cientos de millones de suscriptores involucrados. Los humanos tardarían miles de años en clasificar todos los datos del uso de todo el sitio en un solo día. Así que crean sistemas de IA para hacerlo más rápido.

Lo mismo ocurre con la IA médica. La IA que utiliza el reconocimiento de imágenes para detectar anomalías o realizar microcirugía es increíblemente importante para la comunidad médica. Pero estos sistemas solo son capaces de realizar tareas muy específicas y limitadas. La idea de un cirujano general robótico es BS. No estamos ni cerca de una máquina que pueda realizar una vasectomía estándar, esterilizarse y luego realizar una cirugía ortoscópica de rodilla.

Tampoco estamos cerca de una máquina que pueda entrar a tu casa y prepararte una taza de café.

Otras IA BS de las que desconfiar:

Detectores de noticias falsas. No solo no funcionan, sino que incluso si lo hicieran, ¿qué diferencia haría? La IA no puede determinar hechos en tiempo real, por lo que estos sistemas buscan palabras clave y frases seleccionadas por humanos o simplemente comparan el sitio web que publica el artículo cuestionable con una lista de actores de malas noticias seleccionada por humanos. Además, detectar noticias falsas no es un problema. Al igual que la pornografía, la mayoría de nosotros la reconocemos cuando la vemos. Sin embargo, a diferencia del porno, nadie en las grandes tecnologías o en la industria editorial parece estar interesado en censurar las noticias falsas.

Gaydar: no repetiremos esto, pero la IA no puede determinar nada sobre la sexualidad humana mediante el reconocimiento de imágenes. De hecho, todo el software de reconocimiento facial es BS, con la única salvedad de que los sistemas localizados se entrenan específicamente en las caras que deben detectar. Los sistemas entrenados para detectar rostros en la naturaleza contra conjuntos de datos masivos, especialmente aquellos asociados con la actividad delictiva, están intrínsecamente sesgados hasta el punto de ser defectuosos en la concepción.

Básicamente, desconfíe de cualquier sistema de IA que pretenda juzgar o clasificar a los humanos en función de los conjuntos de datos. La IA no tiene conocimiento de la condición humana y es poco probable que eso cambie en un futuro cercano.

Publicado el 16 de noviembre de 2020-20: 31 UTC





Fuente: TNW

Compartir:

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Esta web utiliza cookies propias y de terceros para su correcto funcionamiento y para fines analíticos y para fines de afiliación y para mostrarte publicidad relacionada con tus preferencias en base a un perfil elaborado a partir de tus hábitos de navegación. Al hacer clic en el botón Aceptar, aceptas el uso de estas tecnologías y el procesamiento de tus datos para estos propósitos. Ver Política de cookies
Privacidad