Líder de hardware de robótica de OpenAI renuncia por preocupaciones sobre el trato con el Pentágono
Puntos clave
- Caitlin Kalinowski, líder de hardware de robótica de OpenAI, renuncia a través de X.
- Ella critica la asociación con el Pentágono por falta de guardrails.
- Cita: "la vigilancia de los estadounidenses sin supervisión judicial" y "la autonomía letal sin autorización humana".
- OpenAI reconoce puntos de vista fuertes y reafirma líneas rojas contra la vigilancia doméstica y las armas autónomas.
- La renuncia sigue a un debate más amplio en la industria desencadenado por la negativa de Anthropic a relajar las guardrails de la inteligencia artificial.
- El CEO de OpenAI, Sam Altman, dice que el trato se enmendará para prohibir el espionaje a los estadounidenses.
Caitlin Kalinowski, líder de hardware de robótica de OpenAI, anunció su renuncia en X, citando la falta de salvaguardias necesarias en la asociación de la empresa con el Departamento de Defensa. Ella advirtió que la vigilancia de los estadounidenses sin supervisión judicial y los sistemas autónomos letales merecen más deliberación. OpenAI confirmó la partida, enfatizando su compromiso con usos responsables de la inteligencia artificial en la seguridad nacional y reafirmando sus líneas rojas contra la vigilancia doméstica y las armas autónomas.
Anuncio de renuncia
Caitlin Kalinowski, quien supervisaba el hardware dentro de la división de robótica de OpenAI, publicó en X que renunciaba a su cargo. En su publicación, criticó la prisa de la empresa al asociarse con el Departamento de Defensa sin establecer guardrails claros.
Preocupaciones específicas planteadas
Kalinowski destacó dos líneas críticas que, en su opinión, merecen más deliberación: "la vigilancia de los estadounidenses sin supervisión judicial" y "la autonomía letal sin autorización humana". Ella explicó además que el anuncio del trato con el Pentágono fue apresurado y carecía de salvaguardias definidas, describiéndolo como una "preocupación de gobernanza antes que nada".
Respuesta de OpenAI
OpenAI confirmó la renuncia de Kalinowski y emitió un comunicado reconociendo que las personas tienen puntos de vista fuertes sobre estos asuntos. La empresa dijo que seguirá interactuando con las partes relevantes y reiteró su postura de que el acuerdo con el Pentágono crea un camino viable para usos responsables de la inteligencia artificial en la seguridad nacional. OpenAI enfatizó sus líneas rojas, afirmando que no habrá vigilancia doméstica ni armas autónomas bajo el trato.
Contexto del trato de defensa
La renuncia sigue a la decisión de OpenAI de firmar un trato con el Departamento de Defensa, un movimiento que ocurrió poco después de que otra empresa de inteligencia artificial, Anthropic, declinara levantar ciertas guardrails relacionadas con la vigilancia masiva y las armas autónomas completamente. El CEO de OpenAI, Sam Altman, indicó intenciones de enmendar el acuerdo para prohibir el espionaje a los estadounidenses.
Implicaciones
La partida de Kalinowski se describe como la más destacada consecuencia del trato de defensa, subrayando desacuerdos internos sobre el equilibrio entre avanzar en las capacidades de la inteligencia artificial y garantizar salvaguardias éticas. El episodio suma a las discusiones en curso en la industria sobre el papel adecuado de la inteligencia artificial en contextos de seguridad nacional y los mecanismos necesarios para proteger las libertades civiles.