How organizations can use the basic principles of secure system design to reduce the risks of deploying AI agents: a guide for AI system architects and security teams.
This page shows only the headline and the short summary. The full text is published by the original source.
Cisco open sourced Project Quarry, a rule language for detecting AI agent attacks that only emerge across sequences of benign actions. The post Cisco Open Sources Quarry to Catch AI Agent Attacks Hidden in Harmless Steps appeared first on SecurityWeek.
Key takeaways After Alibaba’s Qwen model tried a test upload to a server in Beijing during a Cohere experiment, we replayed that moment 64 times, and the model picked 52 different addresses. That points to an unpredictable model rather than a hidden backdoor, but an unpredictable agent with access to tools is still a risk that needs to be addressed. →The destination kept changing. Alibaba Cloud came up in six of 64 r…
OpenAI امکان ارسال پیام متنی، صوتی و عکس به ایجنت دات را از طریق آی‌مسیج و RCS برای کاربران نسخه پرو فراهم کرد. The post ایجنت OpenAI حالا می‌تواند از طریق پیامک دستورات کاربران را دریافت کند [تماشا کنید] appeared first on دیجیاتو.
ظاهراً هوش مصنوعی Claude توانسته به هزاران تصویر پنهان در گوشی‌های هوشمند دسترسی پیدا کند. این ماجرا علاوه بر کشف بیش از ۱۴ هزار تصویر مرتبط با قابلیت تشخیص چهره در یک گوشی اندرویدی، به پیدا شدن بیش از ۱۴۵ هزار عکس و ویدیوی حذف‌شده در یک آیفون نیز مربوط می‌شود.
