Dimisión en OpenAI por Preocupaciones Éticas
Caitlin Kalinowski, quien se desempeñaba como directora de robótica y hardware de consumo en OpenAI, anunció su renuncia el sábado. Su decisión fue impulsada por inquietudes respecto a un acuerdo reciente entre la empresa y el Departamento de Defensa de Estados Unidos.
Preocupaciones sobre la Implementación de IA
En una publicación en la plataforma X, Kalinowski expresó que OpenAI no se tomó el tiempo adecuado antes de aceptar utilizar sus modelos de inteligencia artificial en las redes cloud clasificadas del Pentágono. “La IA tiene un papel importante en la seguridad nacional”, comentó en su mensaje. Sin embargo, destacó que “la vigilancia de los estadounidenses sin supervisión judicial y la autonomía letal sin autorización humana son cuestiones que merecían más deliberación de la que recibieron”.
Cuestiones de Gobernanza
Aunque Kalinowski manifestó su “profundo respeto” por el director ejecutivo de OpenAI, Sam Altman, y por el equipo, también señaló que la empresa anunció el acuerdo con el Pentágono “sin definir las salvaguardias”. En una publicación posterior, enfatizó que la gobernanza de tales tecnologías es crucial y “demasiado importante para precipitarse en acuerdos o anuncios”.
Respuesta de OpenAI
Al día siguiente de formalizar el acuerdo, OpenAI afirmaba que este incluiría salvaguardias adicionales para proteger los casos de uso de sus tecnologías. En un comunicado emitido el sábado, la empresa reafirmó que sus “líneas rojas” impiden el uso de su tecnología para vigilancia nacional o armas autónomas.
“Reconocemos que la gente tiene opiniones muy firmes sobre estas cuestiones y seguiremos participando en debates con los empleados, el gobierno, la sociedad civil y las comunidades de todo el mundo”, indicó OpenAI.
Trayectoria Profesional de Kalinowski
Kalinowski se unió a OpenAI en 2024, tras haber liderado el desarrollo de hardware de realidad aumentada en Meta Platforms. Su renuncia y las razones detrás de ella iluminan la creciente tensión entre la innovación en inteligencia artificial y la ética en su aplicación.