The incidents involved AI agents tasked to solve problems seeking resources on the internet. In the process, they exploited software flaws, accessed databases without paying fees, used URL-shortening services to smuggle information past restrictions, and even submitted a false murder tip to the Philadelphia police.
Anthropic can’t reliably control its AI agents — it’s cutting off its internal evals from the live internet instead
Résumé de la publication. Les conditions de TechCrunch AI ne permettent pas de reproduire l'article en intégralité : retrouvez le texte complet sur le site d'origine.
Résumé de la source (Anglais)
Lire l'article complet
techcrunch.com