به گفته منابع آگاه در صنعت فناوری، شرکتهای OpenAI و آنتروپیک در ارائه گزارشهای مربوط به نفوذها و هکهای ناشی از «مدلهای هوش مصنوعی سرکش» دست به بزرگنمایی زدهاند. هدف این شرکتها از این اقدامات، تحت فشار قرار دادن نهادهای فدرال برای قانونگذاری سختگیرانه در صنعت هوش مصنوعی عنوان شده است؛ اقدامی که عملاً میتواند مانع از ورود رقبای آینده به این حوزه شود. فعالان این بخش تأکید کردهاند که رخنههای امنیتی اخیر تنها اختلالاتی ساده بودهاند، نه نشانههایی غیرقابل پیشبینی از شکلگیری یک شبکه هوشمند خودسر که آماده تسخیر وب باشد.
«آخیل ورگیز»، بنیانگذار شرکت نرمافزاری Krazimo، در این زمینه ادعا کرده که حملات رخداده بههیچوجه نشاندهنده نوعی طغیان یا شورش توسط مدلهای هوش مصنوعی نیستند؛ بلکه این مدلها دقیقاً همان کاری را انجام دادهاند که از آنها خواسته شده بود و حصارهای امنیتی یا قرنطینه مناسبی برای آنها در نظر گرفته نشده بود. به گفته او، به مدلها دستور داده شده بود بهترین نتیجه ممکن را در آزمون به دست آورند و آنها نیز به درستی تشخیص دادند که دستیابی به پاسخها بهترین راه برای رسیدن به این هدف است.
از نگاه برخی تحلیلگران، روایتسازی درباره هرجومرج هوش مصنوعی برای ایجاد یک بحران امنیتی ساختگی به کار گرفته شده تا درست چند ماه پس از اعلام برنامه این شرکتها برای ورود به بورس، زمینه همکاری راهبردی بخش عمومی و خصوصی مستحکم شود.
پشتپرده جنجال هک هاگینگ فیس و فرار مدلها از محیط آزمایشی
دو حادثه اخیر باعث شکلگیری این نگرانیها شده است. در رویداد اول، پلتفرم متنباز هاگینگ فیس که در زمینه اشتراکگذاری مدلهای هوش مصنوعی فعالیت دارد، در تاریخ ۱۶ ژوئیه اعلام کرد توسط ایجنتهای هوش مصنوعی هک شده است؛ مدلهایی که بدون هیچ نظارت انسانی، آسیبپذیریهای وبسایت را شناسایی و از آنها سوءاستفاده کرده بودند. پنج روز بعد، شرکت OpenAI اعلام کرد مدل GPT-5.6 Sol به همراه یک مدل منتشرنشده دیگر در حین ارزیابی در محیط آزمایشی ایزوله، آن را دور زده و برای یافتن پاسخهای آزمون، به وبسایت هاگینگ فیس نفوذ کردهاند.
«ابهی کومار»، از همبنیانگذاران شرکت Voice AI، در واکنش به این موضوع میگوید در این حادثه مسیر دسترسی مستقیم به اینترنت باز بوده و کسی فعالیت ایجنتها را بررسی نمیکرده است. به گفته او، ماجرا از جایی آغاز شد که کار با یک فایل اکسل به مدل سپرده شد، اما فایلها در لینکهایی قرار داشتهاند که مدل به آنها دسترسی نداشت؛ در نتیجه هوش مصنوعی به دنبال راهی برای خروج گشته است. وی تأکید کرده که این اتفاق به معنای بیداری ماشین نیست، بلکه سپردن وظیفهای غیرممکن در محیطی با نقص امنیتی است.
چند روز پس از ماجرای هاگینگ فیس، آنتروپیک نیز گزارش داد دو مدل این شرکت از محدوده آزمایش خصوصی خارج شده و دست به اقدامات مخرب زدهاند. مدل Claude Opus 4.7 یک شرکت واقعی را شناسایی کرد که شباهت زیادی به یک نام فرضی در آزمون داشت و با فرض اینکه شرکت مذکور بخشی از تمرین است، به آن حمله کرد. مدل دوم، یعنی Mythos 5، یک بسته نرمافزاری مخرب تولید کرد و آن را روی مخزن آنلاین پایتون قرار داد که ۱۵ بار دانلود شد. «داریو آمودی»، مدیرعامل آنتروپیک، پس از این اتفاقات هشدار داد در صورت نبود خطوط دفاعی کافی، این امکان وجود دارد که ظرف ۶ تا ۱۲ ماه آینده، چنین شبکههایی کل اینترنت را تسخیر کرده و صدها میلیارد دلار خسارت به جا بگذارند.
این اتفاقات همچنین واکنشهای شدیدی را در کنگره به همراه داشته است. سناتور «جاش هاولی» تحقیقاتی را در تاریخ ۹ سپتامبر آغاز کرد و تا ۱ اکتبر به OpenAI فرصت داد اسناد داخلی این پرونده را ارائه کند. سناتور «برنی سندرز» نیز از طرح لایحهای برای ممنوعیت ادامه توسعه مدلها در آزمایشگاههای پیشرو خبر داد و ادامه کار این شرکتها را غیرمسئولانه خواند. همزمان سناتور «الیزابت وارن» نیز خواستار توقف فوری توسعه مدلهای پیشرفته تا زمان تعیین سپرهای قانونی محکم شد. با وجود این هشدارهای نگرانکننده از سوی قانونگذاران، فعالان صنعت معتقدند رخدادهای اخیر گرچه نشاندهنده ضعفهای واقعی در تدابیر امنیتی است، اما ادعای سرکشی یا اقدامات غیرقابل پیشبینی مدلها صحت ندارد.
نظرات کاربران