Anthropic and OpenAI diverge on who should pull the plug on risky AI

OpenAI and Anthropic agree that frontier AI systems need stronger oversight, but they are proposing sharply different approaches to stopping models that pose serious risks: Anthropic wants courts empowered to suspend dangerous systems, while OpenAI argues developers should be required to maintain and use effective shutdown controls. The proposals appear in separate submissions to California Governor Gavin Newsom foll…

امنیت هوش مصنوعی هوش تهدید هوش مصنوعی و یادگیری ماشین قوانین و مدیریت فناوری
خواندن متن کامل در CSO Online درخواست حذف

این صفحه فقط عنوان و خلاصه کوتاه خبر را نمایش می‌دهد. متن کامل در منبع اصلی منتشر شده است.

خبرهای مرتبط

آرشیو کامل ←
Check Point Blog

Backdoor or Confused Agent? What We Learned Replaying the Qwen Incident

Key takeaways After Alibaba’s Qwen model tried a test upload to a server in Beijing during a Cohere experiment, we replayed that moment 64 times, and the model picked 52 different addresses. That points to an unpredictable model rather than a hidden backdoor, but an unpredictable agent with access to tools is still a risk that needs to be addressed. →The destination kept changing. Alibaba Cloud came up in six of 64 r…

Help Net Security

Volt Typhoon targeted enterprise control planes via ever-changing “Silent Train” relay network

Volt Typhoon, a Chinese state-sponsored APT group that’s focused on cyberespionage and United States’ critical infrastructure, has been using a covert, constantly rotating relay network to hide its most sensitive intrusions, Lumen’s Black Lotus Labs revealed on Wednesday. This network, dubbed Silent Train by the researchers, consists of chains of compromised SOHO and IoT devices (e.g., TP-Link and Netgear routers) an…

دیجیاتو

ایجنت OpenAI حالا می‌تواند از طریق پیامک دستورات کاربران را دریافت کند [تماشا کنید]

OpenAI امکان ارسال پیام متنی، صوتی و عکس به ایجنت دات را از طریق آی‌مسیج و RCS برای کاربران نسخه پرو فراهم کرد. The post ایجنت OpenAI حالا می‌تواند از طریق پیامک دستورات کاربران را دریافت کند [تماشا کنید] appeared first on دیجیاتو.

شهر سخت‌افزار

وقتی هوش مصنوعی Claude هزاران عکس مخفی در گوشی‌های هوشمند پیدا می‌کند

ظاهراً هوش مصنوعی Claude توانسته به هزاران تصویر پنهان در گوشی‌های هوشمند دسترسی پیدا کند. این ماجرا علاوه بر کشف بیش از ۱۴ هزار تصویر مرتبط با قابلیت تشخیص چهره در یک گوشی اندرویدی، به پیدا شدن بیش از ۱۴۵ هزار عکس و ویدیوی حذف‌شده در یک آیفون نیز مربوط می‌شود.