AI-företaget Anthropic har för första gången på ett år gjort flera större förändringar i sina användarregler, uppmärksammar The Verge. Bland annat förbjuds långvarigt och omotiverat kränkande beteende riktat mot AI-assistenten Claude. Verktyget kommer i så fall avsluta konversationen.
Enligt Anthropic gäller regeln endast för extrema fall där användare upprepade gånger behandlar AI-modellen illa utan något tydligt syfte. Vanlig frustration, kritik mot AI:ns svar, mörka kreativa teman och forskning omfattas inte av förbudet.
De uppdaterade reglerna innehåller även skärpta förbud mot att använda Claude för politiska påverkanskampanjer, vilseledande propaganda och valpåverkan. Företaget har även förtydligat sina förbud mot att använda AI:n för att övervaka människor utan deras samtycke och till att utveckla programvara för vapensystem.
Utöver det införs ett krav på att en kvalificierad operatör ska kunna övervaka och stoppa AI-styrd fysisk utrustning som riskerar att skada människor. Anthropic gör samtidigt undantag möjliga för vissa statliga kunder, förutsatt att tillräckliga säkerhetsåtgärder finns på plats.