En el OpenAI DevDay de este año, el director ejecutivo Sam Altman presentó el nuevo agente de inteligencia artificial de la compañía, Dots, y le dijo a la multitud que la compañía quiere «establecer un nuevo estándar de privacidad en la frontera de la inteligencia artificial». OpenAI se pasaría el día atacando veladamente a Meta’s Muse, su principal competidor, por no mantener seguros los datos de los usuarios. Sin embargo, el propio Muse, un par de meses antes, se había lanzado como una alternativa supuestamente más segura a su predecesor OpenClaw, con el CEO Mark Zuckerberg. prometedor fue «construido desde cero para brindar privacidad y seguridad».
En una época en la que las empresas acaparan los datos personales de los clientes y los ciberataques se multiplican, los laboratorios de inteligencia artificial están tratando de convencer a los usuarios de que compartan aún más información con sus agentes. Su última estrategia para lograr el éxito es superar a la competencia prometiendo que, a diferencia de sus rivales, mantendrán los datos de los usuarios lejos de miradas indiscretas. La pregunta es si las empresas podrán cumplir estas promesas.
Nat Friedman, jefe de producto de Meta Superintelligence Labs, escribió en X que el «objetivo de la compañía con muse era construir algo como openclaw que pudiéramos hacer seguro y fácil de usar y escalar para miles de millones de personas». Los datos del usuario se almacenan en una máquina virtual segura, lo que Zuckerberg describió como una «computadora Linux aislada con un navegador, CPU, memoria y almacenamiento». La empresa dicho que la mayor parte del esfuerzo en la construcción de Muse estuvo relacionado con “un diseño e ingeniería cuidadosos para operar [it] más seguro”. La publicación del blog de Meta continúa: «Muse puede y seguirá cometiendo errores, pero esperamos que sean mucho menos frecuentes y causen mucho menos daño debido a los sistemas de seguridad que hemos incorporado».
Pero aunque Muse encabezó las listas de la App Store y, según Apptopia, obtuvo 600.000 usuarios activos diarios en los EE. UU. en cuestión de semanas, las promesas de Meta parecen haberse quedado cortas. Aunque los datos están aislados de otros usuarios, y los planes de la empresa Para introducir una forma de «evitar criptográfica y verificablemente que Meta acceda a los datos en su VM» a finales de este año, Meta aún puede acceder a los datos. Un investigador de seguridad rápidamente expuesto una vulnerabilidad de día cero que podría permitir a alguien tomar el control de Muse (que ya ha sido parcheada), lo que genera temores de ataques externos. Según se informa, surgieron varios problemas de seguridad graves en el último minuto antes del lanzamientouno de los cuales podría haber permitido a los usuarios acceder a las propias bases de datos internas de Meta, según 404 Medios.
Muse también parece recopilar (y en algunos casos, distribuir) datos generosamente. De forma predeterminada, permite que Meta entrene modelos sobre lo que los usuarios ingresan en él, aunque es posible optar por no participar. Un Cª El periodista se quejó de que Muse subió y leer sus mensajes privados sin que él se lo pidiera, y un YouTuber dijo que le había ofrecido su dirección a un extraño a través de Marketplace: en ambos casos, Muse funcionaba aparentemente según lo previsto, pero el usuario no se daba cuenta de hasta dónde llegaría. la plataforma crea «Perfiles detallados de todos tus amigos y familiares», como cableado informó. Nada de esto es necesariamente inesperado por parte de Meta, pero ciertamente no respalda la idea de que Muse sea exclusivamente consciente de la privacidad o la seguridad.
OpenAI aprovechó este hecho cuando anunció Dots a finales de septiembre. Alexander Embiricos, líder de producto Codex de OpenAI, dijo en el escenario en DevDay que OpenAI se centra en tener el «asistente más confiable y seguro», y el CEO Sam Altman demostró formas en que las personas pueden ejercer control sobre sus Dots individuales, como establecer una regla que nunca debe realizar una compra por encima de una determinada cantidad de dólares. «Creo que estamos en una posición diferente a la de Meta en el sentido de que no tienen un producto de inteligencia artificial que tenga 1.200 millones de usuarios». dicho Glen Coates, jefe de plataforma de aplicaciones de OpenAI, agregó que «lanzar algo que cometa ese tipo de errores es algo que intentaríamos evitar con cuidado».
El propio Altman también impulsó la ángulo de privacidad en DevDay. Para cortejar a los clientes comerciales, los ejecutivos presentaron un marco que permite a las empresas tener «controles más estrictos» sobre sus datos y opciones de políticas de retención cero de datos (lo que significa que no se almacenan datos en servidores OpenAI). De hecho, hasta ahora, no ha habido muchos escándalos de privacidad con Dots, aunque como solo está disponible en los niveles de suscripción ChatGPT de $100 o más, es probable que también haya menos personas usándolo.
Es posible que las personas todavía no se sientan cómodas dando a OpenAI sus datos personales, en parte simplemente porque los agentes de IA requieren muchos de ellos. Por ejemplo, El bordeAllison Johnson se sintió incómoda escribiendo su información bancaria cuando el bot preguntó como parte de una tarea relevante (Muse tiene una integración con Stripe para encargarse de eso).
Por supuesto, no todas las empresas hacen promesas de privacidad. El instinto fue criticado públicamente por términos de servicio supuestamente demasiado amplios que le daban acceso ilimitado a los datos; desde entonces, la empresa parece tener hizo ajustes. Por ahora, los laboratorios de IA parecen contar con un enfoque de tres partes para popularizar el uso de agentes de IA entre el público en general: hacerlos útiles, hacerlos lindos y cautivadores para ayudar a contrarrestar lo espeluznante, y hacer promesas sobre privacidad, y esperar que se cumplan.