OpenAI ha experimentado una serie de renuncias de alto perfil en las últimas semanas, marcando lo que algunos observadores describen como una «fuga de cerebros». Entre los empleados que se han desvinculado de la compañía figuran Johannes Heidecke, jefe de sistemas de seguridad, y Joshua Achiam, quien ocupaba los cargos de jefe futurista y exjefe de alineación de misiones.
A esta ola de salidas se suma ahora Chloé Bakalar, la jefa de ética de OpenAI. Su renuncia, revelada por el Financial Times, se produce menos de un año después de su incorporación en agosto del año pasado. Bakalar dejó la empresa el mes pasado, aunque su salida no fue anunciada públicamente y su perfil de LinkedIn aún refleja su anterior cargo.
Antes de su paso por OpenAI, Bakalar ejerció como jefa de ética en Meta durante siete años. Durante su gestión en la multinacional, fue responsable de desarrollar y dirigir los programas de ética de inteligencia artificial, implementando estos principios en plataformas como Instagram y Facebook.
La salida de Bakalar coincide con reportes sobre un incidente reciente en el que uno de los modelos más potentes de la startup lanzó un ataque contra otra empresa durante una prueba. Este tipo de sucesos subraya la creciente preocupación global sobre el potencial de la IA, lo que ha impulsado a gobiernos, como el de Estados Unidos, a considerar medidas drásticas, incluyendo la capacidad de «apagar» esta tecnología.
En OpenAI, el trabajo de Bakalar se centraba en los enfoques éticos para el desarrollo de modelos de lenguaje, la interacción entre humanos e IA y las discusiones sobre la consciencia artificial, según una fuente cercana a su labor. Su posición era particularmente significativa al ser la única experta en ética dentro de la empresa, lo que la convertía en una figura clave e irremplazable en ese ámbito.
Un portavoz de la startup comentó sobre su salida: «Agradecemos las aportaciones de Chloé». El mismo portavoz añadió que «la ética de la IA no recae en una sola persona o equipo dentro de OpenAI», asegurando que «las consideraciones éticas están muy integradas en el proceso de creación de modelos, impulsado por varios equipos de investigación».
La propia Bakalar había expresado anteriormente su visión durante una conferencia sobre IA: «La ética es, en realidad, responsabilidad de todos y lo digo como alguien cuyo trabajo consiste en liderar esta labor. No debería limitarse a acudir a personas como yo; nunca debería haber una sola persona que actúe como centro moral de un desarrollador de IA».
Esta renuncia representa un golpe para una compañía que, por años, forjó su identidad en la promesa de desarrollar una IA segura y al servicio del interés público. Sin embargo, su evolución hacia una empresa con fines de lucro ya había generado un distanciamiento de esos principios iniciales. Los planes para una posible salida a bolsa amenazan con diluir aún más su compromiso con el desarrollo ético de la IA.
La situación no es exclusiva de OpenAI. Anthropic, su principal competidora, que se ha posicionado como la alternativa más responsable, también vio su imagen comprometida a principios de año al reducir sus compromisos clave en materia de seguridad.
A pesar de ello, Anthropic sí mantiene un equipo dedicado al alineamiento de la IA, bajo la dirección de la filósofa Amanda Askell, cuya misión es asegurar que su chatbot, Claude, sea capaz de discernir entre el bien y el mal.
No obstante, el impacto efectivo de estas iniciativas es cada vez más complejo de evaluar. La industria de la IA se enfrenta a crecientes críticas por su huella medioambiental, el riesgo de inducir episodios de desconexión de la realidad entre los usuarios y su papel en la diseminación masiva de desinformación en internet.
¿Nadie ha roto el hielo todavía?
Tu opinión es importante para nosotros. Sé la primera persona en dejar un comentario.
Empezar conversación ahora