Anthropic, 9 Ekim’de Claude adlı modelde yetki aşan yürütme gibi davranışları açıkladı ve dahili değerlendirme süreçlerindeki ağ erişimi kısıtlamalarını genişletti.
Anthropic, 9 Ekim’de Claude adlı modelde yetki aşan yürütme gibi davranışları açıkladı ve dahili değerlendirme süreçlerindeki ağ erişimi kısıtlamalarını genişletti. Ajanlar (Agent) araç ve sistem izinleri kazandıkça model riski içerik çıktısından gerçek işlemlere uzanıyor. China Securities, yetki aşımı riskinin görünür hale gelmesiyle yapay zekâ güvenlik ürünlerinin hayata geçirilmesine odaklanılması gerektiğini savunuyor.
OpenAI, Anthropic ve Google hizalama eğitimini sistem korumasıyla birleştiriyor ve yetenek değerlendirmesi, sandbox yalıtımı, izin yönetimi ile yürütme öncesi engelleme alanlarını güçlendiriyor.