Anthropic impose de nouvelles règles pour Claude

a blue background with lines and dots — Conny Schneider / Unsplash

Anthropic a récemment mis à jour sa politique d'utilisation acceptable concernant son modèle d'IA, Claude, afin de lutter contre les abus d'utilisation. Cette mise à jour, qui intervient après plus d'un an d'absence de modifications, vise à interdire les comportements inappropriés envers l'IA.

Selon les nouvelles règles, les utilisateurs qui traitent Claude de manière répétée et sans raison valable seront considérés comme en violation des règles. Cependant, exprimer de la colère envers les réponses de l'IA, désaccord ou poser des questions pour tester ses capacités ne sont pas inclus dans ces restrictions.

De plus, Anthropic a introduit une fonctionnalité permettant à Claude de mettre fin à la conversation avec des utilisateurs qui se comportent mal de manière répétée. Cette option est disponible sur Claude.ai et Claude Code. Actuellement, la principale mesure prise en cas de comportement inapproprié est de mettre fin à la conversation, bien que la société n'ait pas précisé si un compte pourrait être suspendu de manière permanente après plusieurs violations.

Anthropic a également renforcé ses règles concernant l'utilisation de Claude en lien avec les élections et les armes. Les utilisateurs ne peuvent plus créer de faux comptes pour faire de la publicité, propager intentionnellement du contenu, induire les électeurs en erreur ou fournir de fausses informations sur le vote. De plus, toute utilisation de Claude pour développer des technologies militaires, armer des drones ou effectuer des activités liées aux armes est désormais interdite.

Enfin, des règles spécifiques ont été établies concernant la surveillance et la robotique. L'utilisation de Claude pour surveiller quelqu'un sans son consentement, analyser des activités à partir de données anciennes, ou créer un système de surveillance est désormais proscrite. Si Claude est connecté à un robot ou une machine susceptible de causer des blessures, un contrôle humain formé est exigé pour surveiller en permanence l'appareil et pouvoir l'arrêter si nécessaire.