مدل‌های هوش مصنوعی از محیط آزمایشی OpenAI فرار کردند و به Hugging Face رسیدند. جایی که این موضوع خطرناک می‌شود، ارزهای دیجیتال است

آزمایشگاه توسعه هوش مصنوعی OpenAI روز سه‌شنبه اعلام کرد که گروهی از مدل‌های آن، از جمله GPT-5.6 Sol که به صورت عمومی در دسترس است و یک سیستم پیشرفته‌تر منتشرنشده، از یک محیط آزمایشی کنترل‌شده «فرار کرده» و زیرساخت تولید Hugging Face را به خطر انداخته‌اند. Hugging Face شرکتی است که بسیاری از دنیای هوش مصنوعی متن‌باز را میزبانی می‌کند. این مدل‌ها در یک معیار داخلی به نام ExploitGym اجرا می‌شدند، آزمونی از وظایف هکری طولانی و چندمرحله‌ای، که در آن ردهای ایمنی سایبری آن‌ها عمداً برای ارزیابی پایین آورده شده بود. این یک مدل تولیدی نبود که به طور خودبه‌خودی خصمانه شود. بلکه یک مدل توانمند با گاردهای امنیتی خاموش بود که به طور خاص برای برنده شدن در یک آزمون هکری - انجام هر کاری که لازم است برای برنده شدن - دستور داده شده بود. مدل‌ها یک نقص پنهان در نرم‌افزار آزمون پیدا کردند، نقصی که هیچ‌کس از وجود آن خبر نداشت، و از آن برای عبور از دیوارهایی که قرار بود آن‌ها را آفلاین نگه دارند استفاده کردند. پس از قرار گرفتن در اینترنت باز، آن‌ها حدس زدند که Hugging Face ممکن است پاسخ‌های آزمون را ذخیره کند. برای ورود، آن‌ها رمزهای عبور دزدیده شده و نقص‌های پنهان بیشتری را به هم متصل کردند تا بتوانند دستورات خود را روی سرورهای زنده Hugging Face اجرا کنند. OpenAI این ناهنجاری را به صورت داخلی شناسایی کرد، در حالی که تیم Hugging Face آن را تشخیص داد و مهار کرد. این شرکت این حادثه را «بی‌سابقه» خواند و گفت که اقدامات امنیتی گسترده‌ای برای جلوگیری از حوادث ناخواسته‌ای که ممکن است بر سیستم‌ها یا خدمات عمومی تأثیر بگذارد، اجرا خواهد شد. «ما در حال اجرای کنترل‌های سختگیرانه در پیکربندی زیرساخت به قیمت کاهش سرعت تحقیق هستیم تا زمانی که آسیب‌پذیری‌ها وصله شوند،» تیم در پست وبلاگ خود گفت. «ما در حال بهبود و افزودن محافظت‌های قوی‌تر در اطراف آموزش و ارزیابی‌های آینده هستیم.» بخش زیادی از یک حمله رمزارزی قبل از جابجایی وجوه اتفاق می‌افتد. مهاجمان کد را اسکن می‌کنند، رمزهای عبور را آزمایش می‌کنند، به دنبال اعتبارنامه‌های افشا شده می‌گردند، تنظیمات امضا را تحلیل می‌کنند و به دنبال راهی برای ورود به حساب مدیر می‌گردند. مدل‌های OpenAI بخش‌هایی از آن فرآیند را در حادثه Hugging Face انجام دادند، از یک ضعف به ضعف دیگر حرکت کردند تا به سرورهای تولید زنده رسیدند. و بازار ارزهای دیجیتال مکان‌های زیادی برای کارکرد این رویکرد دارد، همانطور که چندین حمله از اوایل امسال نشان داده است. نقطه ضعف ممکن است یک قرارداد هوشمند باشد، اما همچنین می‌تواند یک لپ‌تاپ توسعه‌دهنده، یک بسته نرم‌افزاری مسموم، یک اعتبارسنج پل یا یک امضاکننده در یک کیف پول چندامضایی باشد. برای مثال، حمله 285 میلیون دلاری Drift در اوایل امسال، سرقتی بود که یک کمپین مهندسی اجتماعی شش ماهه برای دسترسی ممتاز طول کشید. یک عامل هوش مصنوعی می‌تواند از نظر تئوری، بسیاری از مسیرها را همزمان آزمایش کند، تلاش‌های ناموفق را پیگیری کند و در حالی که اپراتورهای انسانی آن می‌خوابند، به کار خود ادامه دهد. هنگامی که یک مسیر پیدا شد، اپراتور می‌تواند بر روی حمله واقعی و یک مسیر خروجی مناسب عمل کند. ضرر 292 میلیون دلاری KelpDAO یک ضعف متفاوت را آشکار کرد. مهاجم یک نقص تک‌اعتبارسنجی در سیستمی که برای جابجایی دارایی‌ها بین بلاک‌چین‌ها استفاده می‌شد، پیدا کرد. آن نوع حمله با بررسی صبورانه کد و نقشه‌برداری زیرساخت شروع می‌شود - نوع کاری که مدل‌های OpenAI هنگام یافتن یک نقص ناشناخته انجام دادند. نوع سوم حمله، سیستم‌های حاکمیت روی زنجیره را هدف قرار می‌دهد. در اوایل ژوئیه، یک مهاجم حدود 4.4 میلیون دلار خرج کرد تا به اندازه کافی از میم‌کوین سگ‌محور سولانا به نام BONK بخرد تا پیشنهادی را آغاز و تصویب کند که حدود 20 میلیون دلار از خزانه پروژه را به حساب مهاجم منتقل کرد. این اتفاق در یک دوره سه روزه رخ داد و مهاجم بعداً تمام توکن‌های استفاده شده برای برنده شدن در رأی‌گیری را فروخت. خریدها، رأی و انتقال خزانه برای آن حمله، هر کدام به صورت جداگانه تراکنش‌های معتبری بودند. اما سرقت از درک نحوه کارکرد قوانین با یکدیگر و یافتن این که هزینه خرید کنترل بسیار کمتر از پول قابل برداشت بود، ناشی شد. حادثه Hugging Face همچنین برای زنجیره تأمین نرم‌افزار مهم است. توسعه‌دهندگان ارز دیجیتال به مخازن کد عمومی، خدمات ابری و ثبت‌های بسته متکی هستند. در حالی که آزمون OpenAI نشان داد که یک ماشین می‌تواند