«مارک زاکربرگ»، مدیرعامل متا، در سخنان اخیر خود با رویکرد کاهش سرعت در صنعت هوش مصنوعی مخالفت کرد و دیدگاهی نزدیک به «جنسن هوانگ»، مدیرعامل انویدیا، را در پیش گرفت. این موضعگیری در تقابل با درخواست «داریو آمودی»، مدیرعامل آنتروپیک، و رهبران دیگری مانند «سم آلتمن» و «ایلان ماسک» قرار دارد که خواستار کاهش سرعت ارتقای قابلیتهای هوش مصنوعی شده بودند.
زاکربرگ با انتشار مطلبی در شبکه اجتماعی ایکس توضیح داد که بازار و سازوکارهای حقوقی خودبهخود انگیزه کافی برای رعایت ایمنی ایجاد میکنند. به گفته او، شرکتهای فعال در حوزه هوش مصنوعی در صورت ایجاد آسیب با مسئولیتهای حقوقی سنگینی روبهرو خواهند شد و همین مسئله آنها را ناچار میکند برای جلوگیری از بروز خطاها بهصورت داوطلبانه گام بردارند. زاکربرگ در همین رابطه به تعویق فناوریهای هوش مصنوعی Muse از سوی متا اشاره کرد و گفت این شرکت عرضه محصول مذکور را به دلایل امنیتی و ایمنی به تأخیر انداخت، بدون آنکه منتظر فراخوان جمعی کل صنعت باشد.
چالشهای ایمنی هوش مصنوعی و انگیزه شرکتها برای همسویی
در بخشی از پست زاکربرگ نوشته شده:
«بحثهای زیادی درباره کند کردن پیشرفت قابلیت مدلها تا زمان دستیابی به ایمنی و همسویی مطرح است؛ اما دیدگاه من این است که اعتماد و همسویی بهسرعت درحال تبدیلشدن به مهمترین قابلیتهایی هستند که عامل تمایز مدلها و ایجنتهای هوش مصنوعی خواهند بود. هر آزمایشگاهی که بر همسویی تمرکز نکند، از رقابت عقب خواهد ماند. علاوهبراین، شرکتها در صورت آسیبزا بودن مدلهایشان با مسئولیتهای حقوقی سنگینی روبهرو میشوند، بنابراین خودشان انگیزه طبیعی و قدرتمندی برای پیشگیری از این مشکلات دارند.»
او تأکید کرده متا بخش عمده منابع پردازشی خود را به توسعه محصولاتی اختصاص داده است که نیازهای فوری کاربران را رفع میکنند، نه پژوهشهای مربوط به خودبهبودی بازگشتی (RSI) که نگرانیهای مرتبط با خارج شدن کنترل هوش مصنوعی را به وجود آورده است. زاکربرگ همچنین اشاره کرده بخش آزمایشگاههای ابرهوش متا هماکنون با ارزیابهای مستقل همکاری میکند و این اقدام را یک رویه استاندارد و برتر در صنعت خوانده که سایر شرکتها نیز میتوانند آن را به کار بگیرند.
بحث درباره ایمنی هوش مصنوعی پس از انتشار یادداشتی از سوی مدیرعامل آنتروپیک به اوج رسید؛ یادداشتی که در آن خواستار کاهش سرعت توسعه توانایی مدلها شده بود تا ایمنی و همسویی متناسب با آن نیز رشد کند. این ایده با همراهی آلتمن و ماسک روبهرو شد، اما «دونالد ترامپ»، رئیسجمهور آمریکا، از آن انتقاد کرد و هشدار داد وضع قوانین بیش از حد و ایجاد تردید در روند توسعه، به نفع رقبایی چون چین تمام خواهد شد؛ دیدگاهی که «جنسن هوانگ» نیز پیشتر با اشاره به توان رقابتی شرکتهای آمریکایی بر آن تأکید داشت.
نظرات کاربران