AI · 12 oktober 2026
Anthropic introduceert nieuwe regels voor Claude
AI-chatbots kunnen vaak moeilijke vragen krijgen, maar de vraag rijst of er regels kunnen worden ingesteld tegen herhaaldelijk ongepast gedrag jegens AI. De nieuwe richtlijnen van het AI-bedrijf Anthropic roepen deze discussie op.
Anthropic heeft zijn Acceptable Use Policy na meer dan een jaar bijgewerkt. Deze wijzigingen zijn bedoeld om misbruik van AI te voorkomen. De nieuwe regels verbieden herhaaldelijk en onterecht ongepast gedrag jegens het AI-model Claude. Het uiten van woede op antwoorden van AI, het oneens zijn met deze antwoorden, het schrijven van verhalen met een donkere thematiek of het stellen van vragen om de capaciteiten van Claude te testen, vallen echter niet onder deze regels.
Vorige jaar augustus introduceerde Anthropic een functie waarmee Claude het gesprek kan beëindigen met gebruikers die herhaaldelijk ongepast gedrag vertonen. Deze functie is beschikbaar op Claude.ai en Claude Code. Volgens het bedrijf is het voorlopig de belangrijkste manier van handelen om gesprekken te beëindigen in deze gevallen. Of herhaaldelijk overtreden van de regels kan leiden tot een permanente schorsing van het gebruikersaccount is echter nog niet bevestigd door het bedrijf.
Daarnaast heeft Anthropic de regels met betrekking tot het gebruik van Claude in verband met verkiezingen en wapens aangescherpt. Het creëren van valse accounts om met AI te adverteren, het opzettelijk verspreiden van content, het misleiden van mensen in politieke campagnes of het verstrekken van onjuiste informatie over stemmen is nu verboden. Bovendien is het gebruik van Claude voor het ontwikkelen van technologie voor wapens, het bewapenen van drones en activiteiten met wapens via autonome machines ook aan banden gelegd.
Anthropic heeft ook richtlijnen opgesteld over toezicht en robotica in verband met het gebruik van Claude. Het is nu verboden om Claude te gebruiken voor toezicht zonder toestemming, het afleiden van activiteiten op basis van oude gegevens of het creëren van een surveillancesysteem. Wanneer Claude wordt gekoppeld aan robots of machines die letsel kunnen veroorzaken, is het noodzakelijk dat een getrainde persoon constant toezicht houdt en in staat is om de machine onmiddellijk te stoppen indien nodig.