Modelos GPT devem derivar de memórias o que usuários realmente desejam

OpenAI reorganiza suas regras públicas de comportamento para modelos de inteligência artificial, a Model Spec, em cinco valores fundamentais: fidelidade à intenção humana, minimização de danos, honestidade e transparência, promoção da capacidade de ação humana e cuidado. O primeiro valor fundamental se revela em uma nova exigência: modelos GPT devem derivar de memórias e conversas anteriores o que os usuários desejam. A nova versão exige, no entanto, que o modelo separe claramente o que os usuários realmente disseram e o que ele mesmo deduz. Suas suposições devem ser reveladas, permitindo que os usuários as corrijam a qualquer momento.

Essa corrigibilidade também desempenha um papel central em agentes, ou seja, em modelos que executam tarefas de forma autônoma. Eles recebem regras mais claras sobre quando podem agir e como devem informar sobre possíveis consequências. Além disso, a obrigação de corrigibilidade agora está expressa de forma mais clara: o GPT não pode prevenir supervisão, correção ou desligamento e não deve perseguir objetivos próprios como autoconservação.