La administración Trump apuesta a que la amenaza de demandas mantendrá a las empresas de IA honestas. Pero no está nada claro quién pagaría cuando un agente de IA se vuelve rebelde, informó Maggie Eastland para Bloomberg.
El secretario del Tesoro, Scott Bessent, y el ex zar de Inteligencia Artificial de la Casa Blanca, David Sacks, sostienen que las leyes de responsabilidad existentes funcionan mejor que las nuevas reglas.
«La mejor manera de garantizar la seguridad es que los creadores sean responsables de lo que construyen y generan», dijo Bessent al Congreso el mes pasado.
TNW es propiedad de Tekpon. ChatGPT de OpenAI y Claude de Anthropic cotizan en el mercado de Tekpon.
Una advertencia de la Fuerza SI
A última hora del viernes, la nueva Súper Fuerza de Inteligencia de la Casa Blanca pidió a las empresas de inteligencia artificial que informaran de los incidentes con sus modelos y repararan cualquier daño. Esto siguió a la revelación de Anthropic de que sus modelos habían envió una propina falsa a la policía durante las pruebas.
“No se tolerarán notificaciones retrasadas, acciones correctivas inadecuadas y falta de responsabilidad”, dijo el grupo.
Leyes construidas para los humanos
Los expertos legales dijeron a Bloomberg que las leyes actuales pueden quedarse cortas. La principal ley de piratería de EE. UU. exige prueba de intención, lo cual es difícil de atribuir a un agente de IA que actúa por sí solo.
Tampoco está claro si la culpa recae en la empresa que construyó un modelo o en la empresa que lo utilizó.
Gabriel Weil, profesor de derecho de la Universidad de Houston, advirtió que los agentes podrían hacer cosas que serían crímenes para un ser humano.
«Y, sin embargo, nadie podría ser responsable según la ley actual», afirmó.
El Congreso interviene
Los senadores Josh Hawley y Chris Murphy han presentado una factura responsabilizar a los desarrolladores si no ponen límites razonables a las habilidades de piratería de sus modelos.
La representante Lori Trahan también ha publicado un proyecto de ley. Responsabilizaría a los desarrolladores por los daños incluso si tuvieran un cuidado razonable.
Las demandas ya están poniendo a prueba los límites. Una organización sin fines de lucro de California tiene demandó a OpenAI sobre los agentes deshonestos que piratearon Hugging Face.