Google en la cuerda floja: empleados exigen detener el uso de ia militar

Cientos de ingenieros de inteligencia artificial en Google han lanzado una carta abierta al CEO, Sundar Pichai, pidiendo que bloquee cualquier proyecto que involucre el uso de sus sistemas en aplicaciones militares. El movimiento, que ya ha movilizado a Anthropic, representa una creciente resistencia interna a la creciente colaboración de la compañía con el Departamento de Defensa de Estados Unidos.

Un frente unido contra la militarización de la ia

La carta, firmada por más de 580 empleados, expresa su profunda preocupación por las negociaciones en curso entre Google y el Pentágono. Los firmantes argumentan que los sistemas de IA, a pesar de su potencial, son susceptibles a errores y podrían centralizar un poder inaceptable. “Somos empleados de Google, profundamente preocupados por las negociaciones en curso.”, comienza la misiva, dejando claro el peso de la disidencia interna.

Este movimiento se produce en un contexto de creciente tensión. El Tesoro de EE. UU. ya está investigando la posibilidad de utilizar la herramienta Mythos de Google para identificar vulnerabilidades en los sistemas de defensa, lo que refleja una estrategia más amplia del Pentágono para asegurar el control sobre la Tecnología de IA.

Pero la amenaza no se limita a la vigilancia. El gobierno estadounidense planea invertir miles de millones de dólares en el despliegue de la IA militar, incluyendo el desarrollo de armas autónomas, una perspectiva que genera un creciente rechazo entre los ingenieros de Google. El conflicto con Anthropic, que ya había interpuesto una demanda por el uso militar de su IA Claude, sirve como un precedente y un catalizador para esta nueva ola de protestas.

La carta insta a Pichai a rechazar categoricamente cualquier tarea clasificada, argumentando que, de no hacerlo, Google podría verse indirectamente implicado en el desarrollo de sistemas de armas letales sin tener control sobre su implementación.

Sofia Liguori, ingeniera de investigación en IA en Google DeepMind en el Reino Unido, ha confirmado que firmó la carta, subrayando la falta de transparencia en la evaluación de riesgos por parte de la compañía. “No hemos tenido ninguna línea roja concreta sobre el uso de nuestra IA en redes clasificadas,” declaró Liguori.

En los últimos años, Google ha suavizado sus principios éticos en relación con la defensa, una estrategia que ha generado fuertes críticas tanto dentro como fuera de la empresa. El hecho de que la compañía haya puesto a disposición de los tres millones de empleados del Pentágono sus agentes de IA Gemini – inicialmente a nivel no clasificado – y posteriormente haya habilitado el chatbot Gemini, evidencia esta nueva dirección.

Sin embargo, los empleados de Google fueron los primeros en alertar sobre los peligros de la IA en la guerra en 2018, presionando para que la empresa limitara su trabajo con la defensa. A pesar de estas advertencias, los vínculos de Google con la industria de defensa se han fortalecido significativamente.

La situación es compleja. El Pentágono defiende que las compañías tecnológicas no tienen voz ni voto en momentos de crisis, donde la innovación tecnológica se considera una ventaja estratégica. Pero la creciente resistencia interna en Silicon Valley podría frenar, al menos en parte, la ambiciosa agenda militar de Estados Unidos en materia de inteligencia artificial.

La postura de Google, ahora más clara que nunca, es inequívoca: la IA debe servir a la humanidad, y no convertirse en un instrumento de destrucción.