Anthropic estabelece novas regras para uso do Claude

green and red light wallpaper — Pietro Jeng / Unsplash

A empresa de inteligência artificial Anthropic anunciou novas diretrizes para o uso do seu modelo de IA, Claude, que visam coibir comportamentos abusivos por parte dos usuários. As alterações foram feitas na Acceptable Use Policy da empresa, mais de um ano após a última atualização.

Os novos regulamentos estabelecem que o uso repetido e sem justificativa de comportamentos negativos com Claude será considerado uma violação das regras. No entanto, expressar descontentamento com as respostas da IA, discordar, solicitar histórias em temas sombrios ou questionar suas capacidades não está incluído nas restrições.

Anthropic introduziu um recurso que permite ao Claude encerrar conversas com usuários que persistem em comportamentos inadequados. Essa funcionalidade está disponível nas plataformas Claude.ai e Claude Code. A empresa esclareceu que, atualmente, a principal ação em casos de mau comportamento é encerrar a interação, mas não informou se a conta do usuário será permanentemente desativada após repetidas violações.

Além disso, as novas diretrizes abrangem o uso do Claude em contextos relacionados a eleições e armas. Agora é proibido criar contas falsas para promover conteúdo, disseminar informações enganosas em campanhas políticas ou fornecer dados incorretos sobre votação. O uso do Claude para desenvolver tecnologias relacionadas a armas, equipar drones ou realizar atividades armadas também foi banido.

Regras adicionais foram estabelecidas para a supervisão e robótica. O uso do Claude para monitorar indivíduos sem consentimento, rastrear atividades com dados antigos ou criar sistemas de vigilância é agora proibido. Quando ligado a robôs ou máquinas que possam causar danos, é necessária a supervisão contínua por uma pessoa treinada, que deve ser capaz de interromper a máquina imediatamente se necessário.