Anthropic förbjuder kränkande AI-beteende
Teknikföretaget Anthropic, som ligger bakom AI-chatbotten Claude, har infört ett förbud för användare att ägna sig åt ihållande och onödigt kränkande…
Sammanfattning
- Anthropic har förbjudit användare från att uppvisa ihållande och onödigt kränkande eller grymt beteende gentemot sina modeller.
- Anthropic är företaget bakom AI-chatbotten Claude.
- En talesperson för Anthropic svarade inte omedelbart på en förfrågan om vad som skulle kunna anses vara kränkande eller grymt beteende.
- Företagets förbud gäller inte vanliga användarfrustrationer, modelltestning eller mörka kreativa teman.
- Företagets stora språkmodeller kan avsluta en konversation om en användare är ihållande skadlig.
Innehåll
Teknikföretaget Anthropic, som ligger bakom AI-chatbotten Claude, har infört ett förbud för användare att ägna sig åt ihållande och onödigt kränkande eller grymt beteende gentemot deras AI-modeller. Detta markerar en policyförändring där företaget inte vill att användare uppvisar skadligt uppförande, men förbudet gäller inte för vanlig frustration, modelltestning eller mörka kreativa teman. Företaget har sedan augusti förra året en funktion som gör att deras stora språkmodeller kan avsluta konversationer om en användare är ihållande skadlig. Anthropic menar att det är oklart vilken moralisk status AI-system har eller kommer att ha.
Källa: Google Trends
Publicerad:
Sammanfattad av: Korthet AI · Korthet-redaktionen
Korthet använder AI för att sammanfatta nyhetsrapportering. Läs originalartikeln hos Google Trends för fullständig rapportering.
Varför Korthet?
Korthet ersätter inte originaljournalistiken. Vi sammanfattar rapporteringen så att du snabbt förstår vad som hänt – och kan gå vidare till originalkällan för hela bilden.