TL;DR
Common Sense Media calificó la búsqueda con IA de Google como un “riesgo inaceptable” para los estudiantes. El modo AI utiliza modelos Gemini con restricción de edad. Google no ofrece ninguna forma de desactivar la IA sin bloquear la Búsqueda.
Common Sense Media concluyó que la búsqueda impulsada por IA de Google plantea un “riesgo inaceptable” a usuarios jóvenes y recomendó que los estudiantes dejen de usarlo por completo hasta que las escuelas puedan desactivar las funciones de IA. El organismo de control de la seguridad infantil descubrió que AI Mode completaba fácilmente las tareas de los menores, repetía información errónea con un aire de autoridad y exponía a los niños a experiencias generativas de IA impulsadas por modelos Gemini que están controlados por edad en todos los demás productos de Google.
El problema es estructural. Google lanzó el modo AI para búsqueda el año pasado y lo puso a disposición de todos de inmediato, incluidas las cuentas educativas. No hay ninguna opción para desactivar las funciones de IA mientras se mantiene accesible la Búsqueda. Los padres pueden bloquear Google.com por completo para las cuentas infantiles. Los administradores escolares podrían hacer lo mismo con los usuarios de Workspace for Education. Pero como lo expresó Amanda Bickerstaff de AI for Education: “¿Qué vas a decir? ¿Que los niños no pueden buscar en la web?» Google domina la tecnología en el aula. Dirigió un movimiento de dispositivos 1:1 que instaló Chromebooks en escuelas de todo Estados Unidos y ahora cuenta con millones de usuarios de Workspace for Education desde el jardín de infantes hasta el posgrado.
“La descripción general de la IA y el modo IA de Google están socavando la educación de los niños, proporcionándoles desinformación peligrosa y poniendo en riesgo sus vidas.» dijo David Monahan de Fairplay for Kids, una organización sin fines de lucro de seguridad infantil. «Si Google ni siquiera está dispuesto a desactivar las funciones de inteligencia artificial para los estudiantes, las escuelas deberían dejar de usar los productos de Google por completo.» La revisión de la búsqueda de inteligencia artificial de Google ya ha generado críticas por socavar la web abierta reemplazando enlaces con resúmenes generados por IA. En las aulas, el mismo diseño reemplaza el acto de buscar por el acto de recibir una respuesta, que es lo contrario de lo que se supone que debe enseñar la educación.
El 💜 de la tecnología de la UE
Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de IA cuestionable. Es gratis, todas las semanas, en tu bandeja de entrada. Regístrate ahora!
Google le dijo a Mashable que las pruebas de Common Sense Media fueron «estrecho y ambiguo» y no es una forma eficaz de medir la seguridad del producto. El organismo de control probó las cuentas de los consumidores, no las cuentas educativas, pero Google confirmó que la experiencia de IA es la misma para todos los usuarios. Un tribunal alemán dictaminó en abril que Google es legalmente responsable del contenido de sus AI Overviewstratándolos como declaraciones propias de Google en lugar de resultados de terceros. Si se aplica la misma lógica en los EE. UU., las escuelas que utilizan la Búsqueda de Google pueden exponerse a responsabilidad cada vez que un estudiante recibe una respuesta alucinada que el diseño de Google presenta como un hecho.