La 3️⃣ startup con sede en San Francisco, OpenAI, anunció en un comunicado de blog el martes que ha comenzado a formar 3️⃣ un comité de seguridad y seguridad que asesorará al consejo de administración en "decisiones críticas de seguridad y seguridad" para 3️⃣ sus proyectos y operaciones.
El comité de seguridad llega en medio de un debate en curso sobre la seguridad de la 3️⃣ IA en la empresa, que fue lanzada al centro de atención después de que un investigador, Jan Leike, renunciara y 3️⃣ criticara a OpenAI por permitir que la seguridad "ocupara un asiento trasero en productos relucientes". El cofundador de OpenAI y 3️⃣ científico jefe Ilya Sutskever también renunció, y la empresa disolvió el equipo "superalineación" centrado en los riesgos de la IA 3️⃣ que lideraron conjuntamente.
OpenAI dijo que "ha comenzado recientemente a entrenar su próximo modelo de frontera" y que sus modelos de 3️⃣ IA lideran la industria en capacidad y seguridad, aunque no hizo mención de la controversia. "Damos la bienvenida a un 3️⃣ debate robusto en este momento importante", dijo la empresa.
Los modelos de IA son sistemas de predicción que se entrenan en 3️⃣ vastos conjuntos de datos para generar texto, imágenes, video y conversaciones humanas a pedido. Los modelos de frontera son los 3️⃣ sistemas de IA más poderosos y de vanguardia.
El comité de seguridad está compuesto por insiders de la empresa, incluidos el 3️⃣ CEO de OpenAI, Sam Altman, y su presidente, Bret Taylor, y cuatro expertos técnicos y políticos de OpenAI. También incluye 3️⃣ a los miembros de la junta directiva Adam D'Angelo, que es el CEO de Quora, y Nicole Seligman, ex asesora 3️⃣ general de Sony.
La primera tarea del comité será evaluar y desarrollar aún más los procesos y medidas de seguridad de 3️⃣ OpenAI y presentar sus recomendaciones al consejo de administración en 90 días. La empresa dijo que luego publicará las recomendaciones 3️⃣ que está adoptando "de una manera consistente con la seguridad y la seguridad".
Category
© 2023 Felipe Camilo sitemap