El contratista de defensa Scale AI descartó silenciosamente el acuerdo con TikTok de propiedad china por preocupaciones de seguridad

En el otoño de 2022, el director ejecutivo de Scale AI, Alexandr Wang, vio una gran oportunidad: un acuerdo con TikTok en el que su empresa de etiquetado de datos de IA de 7.300 millones de dólares proporcionaría información a los anunciantes del gigante de las redes sociales. Aunque el piloto inicial valía menos de 1 millón de dólares, Wang estaba convencido de que las ventajas de un contrato más grande podrían ser enormes, según recordaron haber dicho fuentes en posición de saberlo. Pero cuando Wang impulsó el acuerdo, los miembros del liderazgo de Scale entraron en pánico, dijeron a Forbes tres personas con conocimiento directo del asunto. Apenas dos años antes, el expresidente Donald Trump había anunciado planes para prohibir TikTok, argumentando que la aplicación, propiedad de la empresa china ByteDance, representaba una amenaza para la seguridad nacional de Estados Unidos. Y TikTok siguió siendo objeto de una revisión de seguridad nacional en curso inspirada por el temor de que el Partido Comunista Chino pudiera acceder a los datos de los usuarios estadounidenses (una afirmación que TikTok ha negado). No fue una gran mirada. Y a algunos ejecutivos les preocupaba que un acuerdo con TikTok pudiera poner en peligro futuros negocios gubernamentales, dijeron las fuentes. Pero Wang, que entonces tenía 25 años, quien dijo públicamente que vencer a China en la carrera de la IA es una cuestión de seguridad nacional y se ha posicionado ruidosamente como líder en tecnología de defensa, no se dejó convencer: la oportunidad comercial era demasiado buena. para rechazar y lo impulsó a pesar de sus objeciones. “Estratégicamente, tanto desde el punto de vista de la percepción como de la seguridad”, cualquier acuerdo entre un contratista de defensa estadounidense y TikTok es una “mala decisión”. Bill Evanina, exjefe de contrainteligencia del gobierno de Estados Unidos. Bill Evanina, exjefe de contrainteligencia del gobierno de Estados Unidos.
“Alex es muchas cosas. Un experto en seguridad nacional no es uno de ellos”, dijo a Forbes un ex empleado del equipo federal de Scale, que solicitó el anonimato por temor a represalias por parte de la empresa. “Él hizo caso omiso de nuestras preocupaciones y dijo que tenía que centrarse en los objetivos a largo plazo de ambas partes de la empresa, y el acuerdo con TikTok ayudaría a lograrlo”. Pero cuando Forbes dio la noticia de que la empresa matriz de TikTok, ByteDance, había planeado vigilar a los ciudadanos estadounidenses utilizando los datos de ubicación geográfica de la aplicación (un periodista de Forbes estaba entre sus objetivos y el asunto está siendo investigado ahora por el FBI y el Departamento de Justicia), Scale reconsideró la trato. La compañía le dijo a Forbes que puso fin a las conversaciones con TikTok menos de un mes después de que comenzara la asociación. “Estratégicamente, tanto desde una cuestión de percepción como desde una perspectiva de seguridad, es una mala decisión”, dijo a Forbes Bill Evanina, ex director del Centro Nacional de Seguridad y Contrainteligencia del gobierno de Estados Unidos, hablando en general sobre cualquier acuerdo entre un contratista de defensa y TikTok. Al final del día, cuando se asocia con ByteDance, puede ganar 10 veces más dinero que en el Departamento de Defensa. Así que estoy seguro de que habrá gente que dirá que fue una mejor decisión comercial, pero no tanto en términos generales”. Las implicaciones para la reputación o la óptica de hacer esto serían “horribles”, dijo Evanina. “Creo que, en realidad, evitaron una catástrofe” al retirarse del acuerdo. La reversión de Scale en TikTok fue uno de una serie de problemas que a algunos ejecutivos de la compañía les preocupaba que pudieran socavar sus esfuerzos para construir un negocio gubernamental y militar (esfuerzos que el propio Wang ha dicho que son una prioridad), según comunicaciones internas y entrevistas con 11 ex empleados y fuentes de la industria. En entrevistas con Forbes, John Brennan, director general de Scale para el sector público, dijo que la empresa no tiene actualmente un contrato con TikTok; Wang dijo que “nunca se intercambiaron datos ni dinero con TikTok”. Ambos enfatizaron el compromiso de Scale con la seguridad nacional, con Wang promocionando una autorización provisional del Departamento de Defensa que le permite acceder a datos no clasificados y señalando que la compañía fue una de las siete que firmaron el compromiso voluntario de la administración Biden-Harris para garantizar que la IA sea segura y seguro. TikTok declinó hacer comentarios. Scale, que utiliza mano de obra humana para etiquetar los datos en los que se entrena la IA y se ha expandido a otros servicios de análisis de datos, comenzó a trabajar con el gobierno en 2020. La visión original de Wang para la nueva rama de defensa de la compañía, le dijo anteriormente a Forbes, era en parte inspirado en un viaje a China en 2018, durante el cual recorrió las oficinas de ByteDance, matriz de TikTok, y otras empresas de tecnología. Se fue impresionado por la IA que estaban desarrollando, pero le preocupaba que pudiera representar una amenaza para el liderazgo estadounidense: “Se notaba que no servía para nada”, dijo, “y daba mucho miedo”. La startup se encuentra ahora entre un puñado de empresas de tecnología como Palantir y Anduril, y son las que más abiertamente buscan contratos de defensa. Entre 2020 y finales del tercer trimestre de 2023, Scale gastó 1.95 millones de dólares cabildeando ante el gobierno federal, según revelaciones de cabildeo, y generó 90 millones de dólares en contratos del gobierno público durante el mismo período, según muestran los registros de adquisiciones (esta cifra no incluir posibles contratos no públicos). Para 2023, la cantidad de personas que trabajan en el negocio del sector público de Scale había aumentado a más de 100 empleados, dijo la compañía. Brennan dijo a Forbes que Scale tiene actualmente 20 contratos gubernamentales activos. A medida que los asuntos gubernamentales se expandieron, los líderes del equipo federal tuvieron preocupaciones que iban más allá del acuerdo con TikTok. El brazo de defensa de Scale aún palidece en comparación con su negocio comercial, que elevó la tasa de ingresos anualizados de la compañía a finales de 2023 a 750 millones de dólares, según dos personas familiarizadas con el asunto, frente a unos 250 millones de dólares a principios de 2022. Ese crecimiento fue impulsado por la creciente demanda por parte de las empresas de inteligencia artificial de aprendizaje reforzado con retroalimentación humana (RLHF), una técnica de etiquetado de datos para grandes modelos de lenguaje. Hasta la fecha, la compañía ha recaudado 600 millones de dólares de inversores de primera línea como Accel e Index Ventures. (Accel e Index, que forman parte del directorio de Scale, declinaron hacer comentarios). Pero a medida que los negocios del gobierno se expandieron, los líderes del equipo federal tuvieron preocupaciones que iban más allá del acuerdo con TikTok. En dos ocasiones, el personal militar se quejó ante los ejecutivos de Scale por lo que consideraban exageraciones sobre el trabajo de la empresa con el gobierno y el alcance de sus capacidades, según tres fuentes. El año pasado, la compañía anunció el lanzamiento de su producto centrado en la seguridad nacional, una plataforma llamada Donovan que adapta modelos de lenguaje grande (LLM) como GPT-3.5 de OpenAI para su uso con información clasificada. En un comunicado de prensa, Scale afirmó que Donovan sería desplegado para “casos de uso críticos” por el XVIII Cuerpo Aerotransportado del Ejército y que “ayudaría al personal militar a comprender y organizar el volumen cada vez mayor de datos sin entrenamiento ni experiencia en codificación, en minutos”. La compañía dijo que “el ciclo de órdenes de tareas aéreas actualmente toma tres días, y Donovan puede acortar el período de ese ciclo a horas”. Después de que se publicó el comunicado, el coronel Joe O’Callaghan dijo a los ejecutivos de Scale que la compañía había exagerado la naturaleza de la asociación, dijeron a Forbes varias fuentes en posición de saberlo. Dijeron que Scale no tenía acceso a las órdenes de tareas aéreas de la XVIII División Aerotransportada en ese momento y que Donovan no había recibido luz verde para “casos de uso críticos”. Brennan dijo que Scale respalda el comunicado de prensa y que no podía comentar sobre acuerdos contractuales. Meses después, durante una reunión de presentación con otra unidad del Ejército, el Comando Central de Estados Unidos, el líder de la unidad, el general Michael Kurilla, le dijo a Wang que Donovan no estaba listo para la producción, después de ver una demostración en vivo, según dos personas familiarizadas con el asunto. Brennan dijo que Kurilla “no nos dijo eso”. Wang dijo que Donovan es “actualmente utilizado por más de 80 organizaciones gubernamentales”. Dos fuentes dijeron a Forbes que, a finales de 2023, las pruebas y los pilotos constituían la mayor parte del uso de Donovan, pero que Scale estaba luchando por convertirlos en contratos completos. La compañía no respondió a las preguntas sobre si este recuento incluye a las organizaciones que se han inscrito en la prueba gratuita que Scale promueve en su sitio web. El Departamento de Defensa no respondió preguntas sobre el XVIII Cuerpo Aerotransportado o el Comando Central de Estados Unidos. Wang, que estuvo en la portada de Forbes el año pasado y fue homenajeado en la lista 30 Under 30 de Enterprise Tech en 2018, esperaba que los contratos gubernamentales fueran dinero fácil, dijeron tres ex empleados. En 2020, Scale firmó su primer contrato con el Departamento de Defensa. Las negociaciones fueron sencillas y prometieron una ganancia potencial inesperada de alrededor de 100 millones de dólares en cuatro años, según los registros de adquisiciones del gobierno. Ha pagado cerca de 80 millones de dólares hasta ahora, según los registros. La capacidad de Scale para asegurar el contrato se hizo más fácil porque el Departamento de Defensa estaba buscando un nuevo proveedor de etiquetado de datos en el Proyecto Maven, la misma iniciativa de inteligencia artificial contra la que los empleados de Google habían protestado dos años antes porque su tecnología se estaba utilizando para analizar ataques con drones. El Departamento de Defensa le había pedido a Scale que solicitara el contrato, según varias personas familiarizadas con el asunto. El gobierno “preparó ese contrato para Scale y estuvo de acuerdo durante todo el proceso para asegurarse de que Scale estuviera en condiciones de ser competitivo”, dijo una persona con conocimiento del asunto. “Eso influyó en la mente de Alex sobre cómo es realmente trabajar con el gobierno”. Brennan se negó a comentar sobre el Proyecto Maven, citando cláusulas de publicidad que le impedían discutir ciertos contratos gubernamentales. El Departamento de Defensa cumple con las regulaciones sobre adquisiciones y contrataciones, dijo la portavoz Sue Gough; ella se negó a comentar sobre tLas negociaciones del Proyecto Maven. Si bien Scale no habló públicamente sobre el acuerdo del Proyecto Maven, su primer gran anuncio de defensa subrayó las complejidades de ganar contratos militares, cuando en enero de 2022 promocionó una adjudicación de 249 millones de dólares para desarrollar herramientas de prueba y evaluación y proporcionar su solución de IA “extremo a extremo”, al Departamento de Defensa. Pero el anuncio fue engañoso: no mencionó que otras 70 empresas eran elegibles para recibir el mismo dinero. Hasta la fecha, Scale no ha recibido ningún pago por ese contrato, según los registros de adquisiciones del gobierno y la confirmación de dos personas con información privilegiada de la empresa. Brennan dijo que la compañía actualmente tiene varios contratos en curso bajo “varios vehículos contractuales diferentes”. El negocio de defensa de Scale todavía depende del Proyecto Maven, su primer contrato, que representó la mayor parte de sus ingresos federales a partir de 2023, según tres fuentes. Ese acuerdo expirará esta primavera, cuando la empresa tendrá que competir por él nuevamente. Brennan le dijo a Forbes que los ingresos comerciales federales han crecido un 160% desde 2021 y se negó a comentar sobre los detalles de los contratos de Scale, citando acuerdos de confidencialidad. Servir a los intereses de seguridad nacional de Estados Unidos sigue siendo una prioridad para Wang. Durante un foro sobre IA organizado por el senador de Nueva York Chuck Schumer en diciembre, volvió a hablar de su viaje a China: “Después de regresar”, dijo, “sabía que tenía que hacer parte de la misión de Scale hacer todo lo posible para apoyar a Estados Unidos”. Alexandra S. Levine contribuyó con el reportaje. Este artículo fue publicado originalmente por Forbes US. Te puede interesar: Estos son los equipos más valiosos de la Major League Soccer 2024