Los expertos advierten: casi todos en la IA son susceptibles a un esquema de trampa de miel en este momento


A pesar de que las consecuencias para Nvidia por el supuesto escándalo de la trampa de miel de Jensen Huang aún se están desarrollando, Silicon Valley todavía tiene que enfrentarse a una nueva realidad: muchas más personas entre ellos están en riesgo.

«Nadie informa a los fundadores sobre contrainteligencia», dijo a TechCrunch Aaron Brown, ex alto funcionario de la CIA y actual fundador de la empresa de software Lumbra.

Esto se debe a que, históricamente, las trampas de miel se han asociado con los políticos, el ejército y la inteligencia nacional: las personas “detrás de las autorizaciones y una fuerza laboral entrenada para esperar un acercamiento”, de espías y otros atacantes.

Pero ahora muchos de los secretos más valiosos «se guardan dentro de las empresas que construyen chips, modelos e infraestructura», dice Brown, y añade que un espía «quiere lo que el CEO puede tocar. La hoja de ruta, las decisiones de exportación, la lista de clientes, quién obtiene la tecnología. El CEO es el camino más corto para llegar a todo».

Huang ha sido acusado de caer en esa trampa al tener una aventura con Alice Huang. Ella es una ex ejecutiva de una neonube de Singapur que ha sido acusada de ser una espía china y de contrabandear miles de millones de dólares en chips Nvidia restringidos a China.

Después de que surgieron las acusaciones de Huang, los chistes inundaron Internet sobre qué CEO de tecnología será el próximo, pero no son solo los CEO y fundadores los que están en riesgo. El WSJ informó que OpenAI comenzó a advertir a sus empleados sobre personas externas que intentaban acercarse a ellos en busca de secretos de la empresa. Cualquiera que tenga acceso a información confidencial (desde miembros de la junta directiva hasta asistentes ejecutivos) puede ser el objetivo de una trampa.

Y, por lo general, los atacantes no son amantes. La amistad es en realidad el esquema de trampa de miel más antiguo que existe, dijo Brown.

Las trampas de miel obtienen acceso a sus objetivos como inversores, clientes, reclutadores y consultores. Sus solicitudes parecen legítimas sobre el papel y no necesitan que sus objetivos se enamoren. «Necesitan que usted se sienta cómodo hablando», dijo Brown. «Duran más porque nadie mira».

Lo interesante también es la ironía. Muchos fundadores de tecnología están tomando medidas para automatizar y digitalizar gran parte de la vida humana y, sin embargo, siguen siendo vulnerables al error más antiguo que existe: una persona que se aprovecha de la necesidad humana de ser comprendido por los demás.

“¿Por qué luchar a través de un cortafuegos cuando puedes acercarte a la persona que puede abrir puertas, influir en las decisiones o hacer solicitudes que nadie quiere cuestionar?” Perry Carpenter, criminólogo y estratega jefe de engaño de KnowBe4, dijo a TechCrunch.

Una vez que los objetivos se dan cuenta de que han sido comprometidos, la amenaza puede escalar: los atacantes ahora tienen un medio de chantaje.

Otra ironía: la IA ha hecho que la captura de miel sea mucho más fácil y barata. Planificar un plan solía llevar meses o años de investigación, crear una persona, conocer el objetivo y ejecutar un plan. Hoy en día, es fácil utilizar la IA para investigar un objetivo, generar perfiles sociales falsos, fondos falsos e incluso llamadas de voz falsas.

«La IA puede ayudar a sustentar toda una historia ficticia», dijo Carpenter. «La tecnología ayuda a preparar el escenario, pero el engaño en última instancia se manifiesta a través de las relaciones humanas».

La industria de la inteligencia artificial “se convirtió en una industria de seguridad nacional más rápido de lo que su cultura la alcanzó”, dijo Brown.

«Parte de estar atrapado en la miel es no saberlo», añadió. «No se siente manipulación. Se siente genuino, incluso afortunado».

Carpenter dijo que un buen primer paso es buscar patrones inusuales. Tenga en cuenta, por ejemplo, «encuentros coincidentes que ocurren con demasiada frecuencia», dijo. También hay signos obvios, como una curiosidad persistente sobre el trabajo y los compañeros, o solicitar el secreto de la reunión y presionar para que se presente o se informe.

Las señales de alerta más importantes incluyen si las solicitudes de alguien son cada vez mayores, superando los límites de lo que normalmente le resultaría incómodo hacer. “Una simple revisión visceral”, dijo Brown. “¿Esta persona todavía estaría presente si perdieras tu trabajo mañana?”

También ayuda intentar comprender cuándo las emociones pueden estar influyendo en una decisión. Carpenter sugiere establecer un límite claro entre la vida personal y profesional. Dentro de las empresas, también ayuda a «eliminar el excepcionalismo ejecutivo», dijo, la idea de que las reglas no se aplican a las personas que ocupan el poder en la empresa.

Brown añadió que la cultura de la empresa también desempeña otro papel: ¿Se sienten los empleados cómodos planteando inquietudes, cuestionando solicitudes inusuales y aumentando posibles amenazas? «Una de las culturas de seguridad más peligrosas es aquella en la que nadie se siente cómodo cuestionando al director ejecutivo», dijo Carpenter.

«Los fundadores deben asumir riesgos y explorar oportunidades comerciales», dijo Brown. «La paranoia no ayuda. Reconocer que eres un objetivo sí ayuda».

Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.



Fuente: TechCrunch

Compartir:

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Esta web utiliza cookies propias y de terceros para su funcionamiento, análisis, programas de afiliación y para mostrar publicidad personalizada basada en tu perfil y hábitos de navegación. Además, incluye enlaces a sitios externos con sus propias políticas de privacidad, las cuales podrás gestionar al visitarlos. Al hacer clic en Aceptar, consientes el uso de estas tecnologías y el tratamiento de tus datos para estos fines.   
Privacidad