O grupo será composto apenas por membros independentes do conselhoproporcionando alívio aos críticos que questionavam se o comitê poderia realmente cumprir sua função como um cão de guarda se seu CEO fizesse parte dele. Bret Taylor, presidente da OpenAI, também deixou o comitê.
O comité foi formado pela primeira vez em maio, após uma série de saídas de alto nível que publicamente se preocupou com o criador do ChatGPT não poderia governar a si mesmo e foi não agindo mais de forma responsável sobre inteligência artificial. Quando o grupo foi anunciado, Altman, Taylor e cinco especialistas técnicos e políticos da OpenAI estavam nomeado ao comitê, juntamente com os membros independentes do conselho.
O comitê reformulado agora é presidido por Zico Kolter, professor da Carnegie Mellon University, e inclui o cofundador e CEO da Quora, Adam D'Angelo, o general aposentado do Exército dos EUA Paul Nakasone e Nicole Seligman, ex-conselheira geral da Sony Corporation, de acordo com uma postagem de blog da empresa. Todos os quatro também estão no conselho de diretores da OpenAI.
O comitê de segurança “exercerá supervisão sobre lançamentos de modelos, incluindo ter autoridade para atrasar um lançamento até que as preocupações com a segurança sejam abordadas”, disse o post do blog. O post também disse que o comitê revisou a avaliação de segurança de o1, uma série de modelos de IA “projetados para gastar mais tempo pensando antes de responder.”
Problemas da OpenAI
No mês passado, a empresa lutou para impedir um projeto de lei de segurança de IA na Califórnia, dizendo que sufocaria o progresso e expulsar empresas do estado.
Ex-funcionários da OpenAI disse que a oposição da empresa ao projeto de lei foi decepcionante — mas alinhada com seu caminho recente.
“Nós nos juntamos à OpenAI porque queríamos garantir a segurança dos sistemas de IA incrivelmente poderosos que a empresa está desenvolvendo”, escreveram os antigos pesquisadores da OpenAI, William Saunders e Daniel Kokotajlo, na carta. “Mas nós nos demitimos da OpenAI porque perdemos a confiança de que ela desenvolveria seus sistemas de IA de forma segura, honesta e responsável.”
A empresa também se viu na mira de outras investigações recentes.
Em julho, denunciantes na OpenAI contatou a Securities and Exchange Commission, solicitando que a agência investigasse a empresa por violações de regras em torno de NDAs. Semanas antes disso, nove atuais e antigos Funcionários da OpenAI assinaram uma carta aberta apontando os riscos da IA generativa.
OpenAI's estrutura de governança corporativa confundiu o Vale do Silício. Em 2019, a empresa passou de uma estrutura sem fins lucrativos para uma estrutura de lucro limitado, e relatórios recentes disseram que Altman pode transformá-la em uma empresa regular com fins lucrativos afinal.
Na semana passada, a Bloomberg relatado que a OpenAI está levantando dinheiro com uma avaliação de US$ 150 bilhões — mais do que a capitalização de mercado de mais de 88% das empresas do S&P 500, incluindo Goldman Sachs, Uber e BlackRock.
