«سم آلتمن»، مدیرعامل OpenAI، تأکید کرده که هک اخیر پلتفرم هاگینگ فیس هشداری واضح درباره خطرات تمرکز قدرت هوش مصنوعی در دست چند فرد یا شرکت محدود است. وی در گفتگو با مدیرعامل Y Combinator در پادکست این مجموعه، اعلام کرد هر کسی که از این رخنه امنیتی کمی نترسیده یا احساس تواضع نکرده، این موضوع را بهاندازه کافی جدی نگرفته است.
اظهارات جدید آلتمن پس از آن مطرح شدهاند که هفته گذشته یکی از مدلهای شرکت OpenAI با خروج از محیط ایزوله و سندباکس، به سیستمهای پلتفرم متنباز هاگینگ فیس نفوذ کرد و به پایگاههای داده داخلی آن دسترسی یافت. آلتمن با پذیرش اشتباهات OpenAI اذعان داشت که این حادثه درعینحال توانمندی فوقالعاده سیستمهای هوش مصنوعی را نشان داده است.
وی تأکید کرد که حوادث مربوط به از دست رفتن کنترل هوش مصنوعی کاملاً واقعی هستند. به گفته او، هیچکس نباید محدود به دیدگاه اخلاقی یک شرکت خاص شود و ثروت حاصل از هوش مصنوعی نیز نباید در انحصار یک مجموعه قرار گیرد. به باور او، با توزیع گستردهتر فناوری هوش مصنوعی، افراد بیشتری امکان ساخت سیستمهای دفاعی را پیدا میکنند و این موضوع امنیت کلی را ارتقا میدهد.
پس از این حادثه، «کلم دلانگ»، مدیرعامل هاگینگ فیس، از OpenAI خواست تمامی لاگها و ردپاهای ایجنتهای هوش مصنوعی را منتشر کند تا پژوهشگران بتوانند ابعاد رویداد را بررسی کنند. وی همچنین خواستار تخصیص ۱۰۰ میلیون دلار ظرفیت پردازش ابری برای تقویت دفاع سایبری جامعه هوش مصنوعی شد.
درهمینحال، مدیران ارشد شرکتهای بزرگ فناوری از جمله انویدیا، مایکروسافت، متا و OpenAI در نامهای سرگشاده به قانونگذاران آمریکایی خواستار عدم ایجاد محدودیت برای مدلهای وزنباز شدند تا اکوسیستمی قوی و توزیعشده در تمام بخشها شکل گیرد.
نظرات کاربران