Anthropic quiere tener las dos cosas. Con su inminente salida a bolsa, quiere aprovechar las vastas riquezas de los mercados públicos e insiste en que no quiere comprometer su misión principal de desarrollar la IA de forma segura y para el beneficio de la humanidad. Pero mayores capacidades de modelo conllevan mayores riesgos, y los accionistas ansiosos de retornos pueden tener poca paciencia para las costosas medidas de seguridad que retrasan el camino de los productos al mercado.
Sam Altman, director ejecutivo del archirrival de Anthropic, OpenAI, ha citado Las presiones de los inversores son una de las razones por las que la empresa no pretende realizar una oferta pública inicial (IPO) este año. Anthropic espera poder resistir las presiones de los inversores con una estructura de gobernanza alucinante.
Elizabeth Pollman, profesora de derecho de la Universidad de Pensilvania, dijo El borde que antrópico tiene propuesto salir a bolsa con una “estructura de gobierno única y complicada que no se ha utilizado antes” y que ha sido “diseñada creativamente para esta empresa dirigida por sus fundadores e impulsada por su misión”. Los expertos dicen que debería darle a Anthropic libertad para buscar ganancias sin permitir que los accionistas la obliguen a tomar atajos en seguridad o apresurar los sistemas antes de que sean probados adecuadamente. Pero incluso las protecciones legales más fuertes sólo pueden llegar hasta cierto punto, y ninguna estructura corporativa, por muy bien diseñada que esté, puede aislar completamente a una empresa pública de las demandas del mercado.
Ante todo, Anthropic es una corporación de beneficio público. En pocas palabras, está legalmente obligado a centrarse en algo más que maximizar los retornos para los accionistas, equilibrándolos con su misión social declarada y los intereses de las partes interesadas, como los empleados y comunidades específicas. Patagonia y Kickstarter se encuentran entre los ejemplos más conocidos, con misiones centradas en la conservación del medio ambiente y el apoyo a comunidades creativas, respectivamente.
Otra salvaguardia clave tiene como objetivo proteger la misión de Anthropic limitando la influencia de los accionistas sobre una de las mayores palancas del poder corporativo: la junta directiva de la empresa. Los directores supervisan la empresa y nombran a sus líderes, incluido el director ejecutivo. Los directores también pueden desempeñar funciones ejecutivas, como es el caso de Anthropic, con el director ejecutivo Dario Amodei y la presidenta Daniela Amodei en el directorio.
Los accionistas suelen tener un control considerable sobre quiénes forman parte del directorio, lo que les brinda un medio para reemplazar a los directores o impulsar cambios si no están satisfechos con la forma en que se administra la empresa. Por ejemplo, si los accionistas no están contentos con lo que perciben como demoras innecesarias en el mercado para pruebas de seguridad opcionales, pueden destituir a los directores y reemplazarlos con otros más alineados con sus intereses, como ganar dinero y ser menos cautelosos.
Según la estructura de gobierno propuesta por Anthropic, los accionistas ordinarios no tendrán mucho que decir sobre quién está en la junta directiva. En cambio, cuatro de los siete directores de la junta serán elegidos por un organismo especial llamado fideicomiso de beneficios a largo plazo, explica Jens Dammann, profesor de derecho comercial y empresarial en la Facultad de Derecho de la Universidad de Texas. Se trata de una configuración muy inusual para una importante empresa de tecnología.
El confianza está formado por “cinco fideicomisarios con derecho a voto financieramente desinteresados” con experiencia en “seguridad de la IA, seguridad nacional, políticas públicas y empresas sociales”. A través de una clase especial de acciones denominadas acciones Clase T, los fideicomisarios pueden nombrar o destituir directores en pos de su propósito declarado: garantizar «que Anthropic equilibre responsablemente los intereses financieros de los accionistas con los intereses de aquellos afectados por la conducta de Anthropic y nuestro propósito de beneficio público». El fideicomiso está diseñado para operar independientemente de las presiones comerciales de la empresa, lo que le permitirá, en teoría, poner la misión de Anthropic en primer lugar.
Los accionistas ordinarios técnicamente tienen voz y voto en los tres puestos restantes de la junta directiva. Sin embargo, Anthropic ha creado otra salvaguarda que mantiene el poder firmemente en manos de sus fundadores, llamada «Founder LLC», que controlará el 50,1 por ciento del poder de voto en asuntos de accionistas. Dado que muchos votos de los accionistas se deciden por mayoría simple, Founder LLC básicamente les da a los fundadores de Anthropic la capacidad de bloquear o forzar decisiones, independientemente de cómo voten otros accionistas. Esto significa que efectivamente elegirán a los tres directores restantes, dijo la profesora de la Facultad de Derecho de Columbia, Dorothy Lund. El Vergomi.
El prospecto dice que Founder LLC será «inicialmente» siete de los fundadores de Anthropic: Dario Amodei, Daniela Amodei, Tom Brown, Jack Clark, Jared Kaplan, Sam McCandlish y Christopher Olah. «Nuestros siete cofundadores serán inicialmente los únicos miembros». Cabe destacar la ausencia de otro cofundador, Ben Mann, quien codirige la rama experimental Anthropic Labs de la compañía, como reportado por El estándar de San Francisco.
En general, los acuerdos darían a los fundadores de Anthropic y a la confianza un «tremendo poder» sobre la dirección de la empresa, protegiéndola de muchas de «las presiones asociadas con ser una empresa pública», dijo Dammann. El borde. «Dada la inusual estructura de gobernanza que Anthropic ha elegido, no veo cómo la salida a bolsa, por sí sola, socavaría su capacidad de priorizar la seguridad sobre los intereses comerciales».
Ann Lipton, profesora de la Facultad de Derecho de la Universidad de Colorado, estuvo de acuerdo y dijo El borde que, legalmente hablando, “Anthropic está completamente aislada de las presiones de búsqueda de ganancias, en el sentido de que los accionistas ordinarios no tienen capacidad para seleccionar la junta directiva o tomar decisiones comerciales”. Pero Lipton advirtió que los propios fundadores tienen intereses financieros en la empresa, lo que podría influir en sus decisiones.
Y hay una gran diferencia entre protecciones legales e inmunidad a las presiones del mercado. Anthropic, como todas las empresas de inteligencia artificial, “necesita capital desesperadamente”, dijo Lipton. «No me queda claro que cualquier estructura de gobierno proteja contra la realidad del mercado de que, a menos que Anthropic aproveche las oportunidades de generar ganancias a un ritmo más rápido que sus competidores, no podrá financiar sus operaciones». Lund expresó preocupaciones similares. Anthropic todavía “necesitará gozar del favor de sus inversores”, dijo, y agregó que “la presión competitiva y las necesidades de capital pueden erosionar los compromisos de seguridad con el tiempo”. Antrópico no respondió a El bordeSolicitud de comentarios sobre si sentía que la compañía realmente podría resistir la presión de los accionistas para acelerar masivamente la IA a costa de la seguridad.
Otra vulnerabilidad potencial surge si los fundadores de Anthropic comienzan a irse. En su prospecto, la compañía dice que su éxito depende «en gran medida del servicio continuo» de su equipo directivo, en particular de sus fundadores. Darío y Daniela son señalados como especialmente “críticos” para avanzar en la investigación y la misión de la empresa. Pero más allá de la pérdida de liderazgo, su partida podría desencadenar cambios significativos en la forma en que está estructurada la empresa, eliminando potencialmente algunas de las salvaguardas que impiden a Anthropic buscar ganancias por encima de la seguridad.
Según la estructura propuesta, Founder LLC “caducaría” si la mayoría de sus miembros se van o el grupo decide disolverlo. Una vez que eso suceda, los accionistas ordinarios podrían obtener el poder de debilitar las protecciones del fideicomiso, incluso en contra de los deseos de los fiduciarios, y sin el apoyo de los fundadores o empleados, que poseen diferentes clases de acciones, dijo Dammann. El borde. También existen otros medios para subvertir la confianza, explicó, incluida la acción coordinada de los accionistas públicos, los accionistas empleados y los fundadores.
Por ahora, parece que Anthropic probablemente pueda tener ambas cosas. Pero las protecciones diseñadas para preservar su compromiso con la seguridad de la IA están lejos de ser estrictas, y mucho depende de las presiones del mercado, de si sus fundadores se quedan y de las direcciones del fideicomiso. Dammann dijo que ve un «dilema fundamental que no puede resolverse de manera totalmente satisfactoria» entre la misión de Anthropic y las demandas de los inversores. Mientras las cosas vayan bien, esta tensión puede ser manejable. «A los inversores puede no importarles su falta de voz, siempre y cuando las cosas vayan bien», dijo Dammann. «Pero si las cosas van mal, es posible que se sientan bastante frustrados».