Report útoků na modely ukazuje meze špatných úmyslů: Claude útočníky blokuje
Anthropic zveřejnil zprávu o tom, jak se různí aktéři snaží zneužít model Claude k nekalým účelům. Většina pokusů podle všeho selhává nebo je Anthropic zablokuje, což naznačuje, že současné bezpečnostní bariéry zatím drží.