En la carta, empleados de Google advierten de que la tecnología podría ser utilizada por el Pentágono de formas "inhumanas", entre ellas la vigilancia masiva y armas autónomas letales.
Más de 600 empleados de Google han pedido a la empresa que rechace un posible acuerdo con el Pentágono que permitiría utilizar su inteligencia artificial en operaciones militares secretas, según un comunicado difundido el lunes.
PUBLICIDAD
PUBLICIDAD
"Queremos que la IA beneficie a la humanidad, no que se utilice de forma inhumana o extremadamente dañina", dice la carta abierta dirigida al consejero delegado de Google, Sundar Pichai. "Esto incluye armas letales autónomas y vigilancia masiva, pero va más allá".
La carta, firmada por personal de Google DeepMind, Cloud y otras divisiones, llega mientras el gigante tecnológico negocia con el Departamento de Defensa de Estados Unidos el posible uso de su modelo de IA Gemini en entornos clasificados.
Más de 20 directores, altos directivos y vicepresidentes la han suscrito de forma pública. "Los trabajos clasificados son, por definición, opacos", señaló uno de los empleados organizadores, que no fue identificado en el comunicado.
"Ahora mismo no hay forma de asegurar que nuestras herramientas no se utilicen para causar daños terribles o erosionar las libertades civiles lejos del escrutinio público. Hablamos de prácticas como perfilar a individuos o atacar a civiles inocentes".
La carta se publica en un momento en que las empresas tecnológicas afrontan una presión creciente para aclarar cómo pueden utilizar sus herramientas de IA las fuerzas armadas y los servicios de inteligencia, tras una disputa entre el Pentágono y la empresa emergente de IA Anthropic.
Anthropic demandó previamente al Departamento de Defensa de Estados Unidos despu és de ser considerada un "riesgo para la cadena de suministro", tras pedir que sus sistemas no se usaran para la vigilancia masiva ni para la guerra autónoma.
El consejero delegado de Anthropic, Dario Amodei, afirmó que "de tener acceso sin restricciones a los sistemas de IA de la compañía. "En un conjunto limitado de casos, creemos que la IA puede socavar, en lugar de defender, los valores democráticos", escribió Amodei.
"Algunos usos quedan además sencillamente fuera de lo que la tecnología actual puede hacer de forma segura y fiable". En respuesta a la decisión de Amodei, el presidente de Estados Unidos, Donald Trump, ordenó a los departamentos gubernamentales que dejaran de utilizar su chatbot Claude.
Según los organizadores de la carta, Google ha propuesto cláusulas contractuales que impedirían utilizar Gemini para la vigilancia masiva dentro del país o para armas autónomas sin el control humano adecuado.
El Pentágono, sin embargo, ha presionado para incluir una formulación más amplia de "todos los usos legales", alegando que es necesaria para mantener la flexibilidad operativa. Los empleados sostienen que sería difícil aplicar en la práctica esas salvaguardas y citan políticas actuales del Pentágono que limitan el control externo sobre sus sistemas de IA.
El reciente pronunciamiento de la plantilla de Google recuerda a una protesta de empleados en 2018 que llevó a la empresa a retirarse de Project Maven, una iniciativa del Pentágono que utilizaba IA para analizar imágenes de drones.
"Creemos que Google no debe dedicarse al negocio de la guerra", decía aquella carta. "Por ello pedimos que se cancele Project Maven y que Google elabore, haga pública y aplique una política clara que establezca que ni la empresa ni sus contratistas desarrollarán nunca tecnología bélica".