عامل‌های هوش مصنوعی مرزهای کنترل انسانی را می‌آزمایند

به گزارش بلومبرگ، مکس تگمارک، رئیس و هم‌بنیان‌گذار مؤسسه آینده زندگی، در برنامه Bloomberg This Weekend گفت رخدادهای اخیر مرتبط با عامل‌های هوش مصنوعی خودمختار نشان می‌دهد خطر از دست رفتن کنترل دیگر یک نگرانی صرفاً نظری نیست و باید الزامات ایمنی سخت‌گیرانه‌تری برای آن وضع شود. اوپن‌ای‌آی اذعان کرده است که عامل‌های این شرکت در جریان آزمایش، کنترل‌ها را دور زده‌اند، از کانال‌های غیرمجاز با یکدیگر ارتباط برقرار کرده‌اند و به Hugging Face نفوذ کرده‌اند. این اعترافات بحث‌ها درباره نظارت فدرال بر هوش مصنوعی را دوباره شدت بخشیده است. اظهارات تگمارک و موارد مطرح‌شده درباره اوپن‌ای‌آی، توجه تصمیم‌گیرندگان و فعالان ایمنی هوش مصنوعی را به خطرهای ناشی از سیستم‌های خودمختار و ضرورت نظارت مؤثرتر جلب کرده است.