Jan Leike cree que OpenAI “está asumiendo una enorme responsabilidad en nombre de toda la humanidad”. Y la opinión de Leike es importante, ya que él era, hasta ahora, el encargado de analizar esa responsabilidad y neutralizar sus riesgos. En un largo hilo sobre X, el gerente de seguridad de la empresa que creó ChatGPT dijo que prioriza la creación de productos nuevos y atractivos sobre la seguridad. Y por todo ello ha justificado su salida.
Leike fue codirectora del departamento de superalineación junto con Ilya Sutskever, que dejó la empresa hace unos días. Sus subordinados, William Saunders Leopold Aschenbrenner, completan la lista de bajas. OpenAI desmantela así su equipo de seguridad, que era responsable de garantizar que los potentes sistemas de inteligencia artificial respetaran los valores y objetivos humanos.
Ayer fue mi último día como jefe de alineación, líder de superalineación y ejecutivo. @OpenAI.
– Jan Leike (@janleike) 17 de mayo de 2024
Todo el mundo tecnológico estaba mirando a la empresa de San Francisco, pero por otras razones. Esta semana lanzó ChatGPT-4o, la versión gratuita y mejorada de su chatbot conversacional. Durante la presentación muchos quedaron impactados por la capacidad de los asistentes para coquetear con los presentadores del evento y las referencias que hizo el CEO de la compañía, Sam Altman, a la película Su, en el que un hombre se enamora de una charla conversacional. distopía como marketing.
En este contexto, se ha producido una cascada de víctimas. La de Ilya Sutskever ha sido la más popular, ya que fue uno de los fundadores y, hasta hace poco, miembro del núcleo duro de la empresa tecnológica. Sutskever escribió en la publicación de X anunciando su partida que confiaba en que OpenAI «construirá una AGI segura y beneficiosa» bajo su liderazgo actual.
Sutskever representaba el ala más conservadora de la empresa y por ello, el pasado noviembre, fue uno de los que intentaron el despido repentino de Altman, a quien acusaron de excesiva imprudencia. Altman recuperó su puesto, en un drama empresarial que sigue teniendo consecuencias hasta el día de hoy. Esta idea cobra fuerza ahora con la cascada de dimisiones: en la empresa habría una serie de ingenieros que abogaban por esperar antes de comercializar modelos tan avanzados. Pero lo están abandonando.
Se espera que OpenAI lance próximamente ChatGPT Search, el motor de búsqueda apoyado en IA que pondría patas arriba el sector de los buscadores, hasta ahora controlado por Google, y el esperado ChatGPT5, la nueva versión de su herramienta estrella. La empresa también ha desarrollado otros productos como el generador de imágenes Dall-E y el generador de vídeo Sora.
Con todas estas novedades en el mercado y un debate abierto sobre los riesgos de la inteligencia artificial, las reflexiones de Leike son claras y no dejan en buen lugar a su antigua empresa. «He estado en desacuerdo con el liderazgo de OpenAI sobre las prioridades centrales de la empresa durante bastante tiempo», explicó. «Hasta que finalmente llegamos a un punto de ruptura». El ingeniero cree que OpenAI debería invertir más recursos en temas como seguridad, impacto social, confidencialidad y seguridad para su próxima generación de modelos. «Estos problemas son muy difíciles de resolver y me preocupa que no estemos en el camino correcto», escribió.
En la misma red social, Altman ha respondido a su exempleado agradeciendo el servicio prestado a lo largo de estos años y afirmando estar “muy triste” por su marcha. En un mensaje que ha prometido ampliar en los próximos días, ha reconocido que las críticas del ingeniero están justificadas: «Tiene razón, nos queda mucho por hacer y nos comprometemos a hacerlo».
puedes seguir EL PAÍS Tecnología en Facebook y X o regístrate aquí para recibir nuestra boletín semanal.
