Altman publica cinco princípios da OpenAI, antecipando que no futuro possam limitar a capacidade do modelo por questões de segurança

Notícias do Coinjie Wang, o CEO da OpenAI, Sam Altman, publicou cinco princípios operacionais da empresa com assinatura pessoal.
Ele anunciou no texto que, no futuro, em certos períodos, a OpenAI pode restringir o acesso dos usuários aos modelos por motivos de segurança, e afirmou que é possível imaginar “a necessidade de sacrificar parte do poder para obter maior resiliência”.
Altman destacou que as decisões-chave de IA devem ser tomadas por processos democráticos, e não apenas pelos laboratórios de IA.
Ele defendeu as recentes ações da OpenAI de comprar grande capacidade de computação, construir centros de dados globais e realizar integração vertical, afirmando que o objetivo é reduzir os custos de IA para que todos possam usar, e que os governos podem precisar explorar novos modelos econômicos para garantir a partilha de valor.
Ele também mencionou um cenário de risco específico: modelos extremamente poderosos podem diminuir a barreira para a fabricação de novos patógenos, exigindo uma resposta de toda a sociedade.
Altman revisou a hesitação anterior em liberar os pesos do GPT-2 publicamente, dizendo que, olhando para trás, foi um excesso de preocupação, mas que isso levou à estratégia de implantação iterativa que a OpenAI mantém até hoje.