A principios de esta semana, la oficina del fiscal general de California anunció que estaba investigando a xAI por informes de que el chatbot de la startup, Grok, se estaba utilizando para crear imágenes sexuales no consensuadas de mujeres y menores. El viernes, el gobierno envió una carta de cese y desistimiento a la empresa, exigiendo que tomara medidas inmediatas para detener la producción de imágenes íntimas no consensuadas y CSAM (material de abuso sexual infantil).
«Hoy, envié a xAI una carta de cese y desistimiento, exigiendo a la compañía que detenga inmediatamente la creación y distribución de imágenes íntimas, no consensuales y deepfake, así como material de abuso sexual infantil», dijo el fiscal general de California, Rob Bonta, en un comunicado de prensa. «La creación de este material es ilegal. Espero que xAI cumpla de inmediato. California tiene tolerancia cero con [CSAM].”
La oficina del fiscal general afirmó además que xAI parecía estar «facilitando la producción a gran escala» de desnudos no consentidos, que se «utilizan para acosar a mujeres y niñas en Internet». La agencia dijo que espera que xAI demuestre que está tomando medidas para abordar estos problemas en los próximos cinco días.
En el centro de la reacción está la función del modo «picante» de Grok, que xAI creó para generar contenido explícito. El problema se ha extendido más allá de California; Japón, Canadá y Gran Bretaña han abierto investigaciones sobre Grok, y Malasia e Indonesia han bloqueado temporalmente la plataforma por completo. A pesar de que xAI instituyó algunas restricciones a sus funciones de edición de imágenes el miércoles por la noche, la oficina del fiscal general de California siguió adelante con su carta de cese y desistimiento.
La cuenta de seguridad de X ha denunciado previamente este tipo de actividad de usuario, diciendo: «Cualquiera que use o solicite a Grok que cree contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal». TechCrunch contactó a xAI para hacer comentarios y recibió un correo electrónico automatizado que decía «Legacy Media Lies». TC también contactó a la oficina del fiscal general de California para obtener más contexto.
La llegada de herramientas gratuitas de inteligencia artificial generativa ha provocado una inquietante oleada de material sexual no consensual. Muchas plataformas han estado lidiando con este problema, no solo X. La sórdida actividad ha llamado la atención no solo de los líderes estatales sino también del Congreso. De hecho, el jueves, los legisladores enviaron una carta a los ejecutivos de varias empresas (incluidas X, Reddit, Snap, TikTok, Alphabet y Meta) preguntándoles cómo planeaban frenar la proliferación de deepfakes sexualizados.
También Te Puede Interesar:
Omar Hamdi dice que la IA probará si las empresas de relaciones públicas realmente pueden escalar
Meta, Google y TikTok demandan a California AG por la ley de redes sociales para adolescentes
Meta agrega chat de voz en tiempo real y avatares animados a su aplicación Muse
El New York Times estaría en conversaciones para comprar Letterboxd por 330 millones de dólares
OpenAI se aleja de los NDA para proyectos de centros de datos
Serve Robotics lanza un nuevo negocio para convertirse en el AWS de los robots
Anthropic le permite a Claude leer sus cuentas bancarias, pero no mover dinero
Meta dice que los usuarios de EE. UU. ahora pueden chatear por video con su avatar de Muse AI
SoundCloud permite a los usuarios de ElevenMusic publicar canciones creadas con IA directamente
Harbinger recauda 240 millones de dólares después de expandirse a la defensa
OpenAI dice que GPT-6 Cyber es mejor para encontrar vulnerabilidades sin salirse de los límites
