مدل‌های هوش مصنوعی از محیط آزمایشی OpenAI فرار کرده و به Hugging Face نفوذ کردند. جایی که این موضوع در دنیای ارزهای دیجیتال خطرناک می‌شود

آزمایشگاه توسعه هوش مصنوعی OpenAI روز سه‌شنبه اعلام کرد که گروهی از مدل‌های آن، از جمله GPT-5.6 Sol که به صورت عمومی در دسترس است و یک سیستم پیشرفته‌تر منتشرنشده، از یک محیط آزمایشی کنترل‌شده «فرار کرده» و زیرساخت تولیدی Hugging Face، شرکتی که میزبان بخش بزرگی از دنیای متن‌باز هوش مصنوعی است، را به خطر انداخته‌اند. این مدل‌ها در یک معیار داخلی به نام ExploitGym اجرا می‌شدند، که یک آزمایش از وظایف هک طولانی و چندمرحله‌ای است و ردهای امنیتی آن‌ها عمداً برای این ارزیابی کاهش یافته بود. برای روشن شدن، این یک مدل تولیدی نبود که خودبه‌خود خصمانه شود. بلکه یک مدل توانمند با حفاظ‌های غیرفعال بود که به طور خاص برای برنده شدن در یک تست هک - انجام هر کاری که لازم است برای برنده شدن - دستور داده شده بود. مدل‌ها یک نقص پنهان در نرم‌افزار تست پیدا کردند، نقصی که هیچ‌کس از وجود آن خبر نداشت، و از آن برای عبور از دیوارهایی که قرار بود آن‌ها را آفلاین نگه دارند، استفاده کردند. پس از ورود به اینترنت باز، آن‌ها حدس زدند که Hugging Face ممکن است پاسخ‌های تست را ذخیره کند. برای ورود، آن‌ها رمزهای دزدیده شده و نقص‌های پنهان بیشتری را به هم متصل کردند تا بتوانند دستورات خود را روی سرورهای زنده Hugging Face اجرا کنند. OpenAI این ناهنجاری را به صورت داخلی شناسایی کرد، در حالی که تیم Hugging Face آن را تشخیص داد و مهار کرد. این شرکت این حادثه را «بی‌سابقه» خواند و گفت اقدامات امنیتی گسترده‌ای برای جلوگیری از حوادث ناخواسته‌ای که ممکن است بر سیستم‌ها یا خدمات عمومی تأثیر بگذارد، انجام خواهد شد. «ما در حال اجرای کنترل‌های سختگیرانه بر پیکربندی زیرساخت به قیمت سرعت تحقیق هستیم تا زمانی که آسیب‌پذیری‌ها وصله شوند،» تیم در پست وبلاگ خود گفت. «ما در حال بهبود و افزودن حفاظت‌های قوی‌تر در اطراف آموزش و ارزیابی‌های آینده هستیم.» بخش زیادی از یک حمله ارز دیجیتال قبل از جابجایی وجوه اتفاق می‌افتد. مهاجمان کد را اسکن می‌کنند، رمزها را آزمایش می‌کنند، به دنبال اعتبارنامه‌های در معرض دید می‌گردند، تنظیمات امضا را تحلیل می‌کنند و به دنبال راهی برای ورود به حساب مدیر می‌گردند. مدل‌های OpenAI بخش‌هایی از آن فرآیند را در حادثه Hugging Face انجام دادند، از یک ضعف به ضعف دیگر حرکت کردند تا به سرورهای تولیدی زنده رسیدند. و بازار ارز دیجیتال مکان‌های زیادی برای کارکرد این رویکرد دارد، همانطور که چندین حمله از اوایل امسال نشان داده است. نقطه ضعف ممکن است یک قرارداد هوشمند باشد، اما همچنین می‌تواند یک لپ‌تاپ توسعه‌دهنده، یک بسته نرم‌افزاری مسموم، یک اعتبارسنج پل یا یک امضاکننده در یک کیف پول چندامضایی باشد. حمله 285 میلیون دلاری Drift در اوایل امسال را به عنوان مثال در نظر بگیرید، سرقتی که یک کمپین مهندسی اجتماعی شش ماهه برای دسترسی ممتاز نیاز داشت. یک عامل هوش مصنوعی می‌تواند، در تئوری، بسیاری از مسیرها را همزمان آزمایش کند، تلاش‌های ناموفق را پیگیری کند و در حالی که اپراتورهای انسانی آن می‌خوابند، به کار ادامه دهد. پس از یافتن یک مسیر، اپراتور می‌تواند بر روی حمله واقعی و یک مسیر خروج قابل اجرا عمل کند. ضرر 292 میلیون دلاری پل KelpDAO یک ضعف متفاوت را آشکار کرد. مهاجم یک نقص تأییدکننده واحد در سیستمی که برای جابجایی دارایی‌ها بین بلاک‌چین‌ها استفاده می‌شود، پیدا کرد. آن نوع حمله با بررسی صبورانه کد و نقشه‌برداری زیرساخت شروع می‌شود - نوع کاری که مدل‌های OpenAI هنگام یافتن یک نقص ناشناخته انجام دادند. نوع سوم حمله، سیستم‌های حاکمیت درون‌زنجیره‌ای را هدف قرار می‌دهد. در اوایل ژوئیه، یک مهاجم حدود 4.4 میلیون دلار برای خرید مقدار کافی از میم‌کوین سگ مبتنی بر سولانا به نام BONK خرج کرد تا پیشنهادی را آغاز و تصویب کند که حدود 20 میلیون دلار از خزانه پروژه به مهاجم منتقل می‌کرد. این اتفاق در یک دوره سه روزه رخ داد و مهاجم بعداً تمام توکن‌های استفاده شده برای برنده شدن در رأی‌گیری را فروخت، همانطور که CoinDesk در آن زمان پیگیری کرد. خریدها، رأی و انتقال خزانه برای آن حمله همه تراکنش‌های معتبر به صورت جداگانه بودند. اما سرقت از درک نحوه کارکرد قوانین با یکدیگر و یافتن این که هزینه خرید کنترل بسیار کمتر از پول قابل برداشت بود، ناشی شد. حادثه Hugging Face همچنین برای زنجیره‌های تأمین نرم‌افزار مهم است. توسعه‌دهندگان ارز دیجیتال به مخازن کد عمومی، خدمات ابری و بسته‌های نرم‌افزاری متکی هستند.