در روزهای اخیر بحث درباره ایمنی هوش مصنوعی در سیلیکونولی بالا گرفته است؛ برخی مدیران شرکتهای بزرگ فناوری از کندترشدن روند توسعه این فناوری و نظارت بیشتر دولت حمایت میکنند و گروهی دیگر معتقدند چنین درخواستهایی میتواند به ضرر رقابت باشد. فعلاً نمیدانیم چه کسی برحق است و کدام مسیر به سود بشریت تمام میشود، اما در ادامه به روایتهای دو سمت میپردازیم.
«داریو آمودی»، مدیرعامل آنتروپیک، روز شنبه در مقالهای هشدار داد که هوش مصنوعی با سرعتی پیش میرود که ادامه توسعه ایمنی آن را برای پژوهشگران سخت میکند. او پیشنهاد کرد کارشناسان مستقل بر فعالیتهای ایمنی آزمایشگاههای هوش مصنوعی نظارت کنند و نهادهای قانونگذار نیز به این آزمایشگاهها مجال دهند برای هماهنگی استانداردهای ایمنی با یکدیگر همکاری کنند.
«سم آلتمن»، مدیرعامل OpenAI، «ایلان ماسک»، مدیرعامل اسپیسایکس، و «دمیس هاسابیس»، رئیس دیپمایند، اگرچه درباره نحوه برخورد با این وضعیت دیدگاههای متفاوتی داشتند، همگی با ضرورت کندترشدن روند توسعه هوش مصنوعی موافق بودند.
بااینحال، شماری از مدیران صنعت فناوری خیلی زود انگیزههای آمودی را زیر سؤال بردند و این احتمال را مطرح کردند که برخی شرکتهای پیشرو با برجستهکردن خطرات هوش مصنوعی، در پی دشوارترکردن رقابت برای سایر شرکتها هستند.
«دیوید ساکس»، مشاور فناوری دونالد ترامپ و مدیر سابق امور هوش مصنوعی و رمزارز کاخ سفید، در شبکه اجتماعی ایکس نوشت:
«وانمود نکنید که انگیزه کندکردن روند توسعه صرفاً نوعدوستانه است.»
این انتقادها شکاف عمیقی را میان دو دیدگاه در صنعت فناوری نشان میدهد: گروهی معتقدند دولت باید بر هوش مصنوعی نظارت کند و گروهی دیگر هشدار میدهند که مداخله نظارتی میتواند رقابت را از بین ببرد.
نگرانیها درباره ایمنی هوش مصنوعی
نگرانی درباره ایمنی هوش مصنوعی در هفتههای اخیر توجه بیشتری به خود جلب کرده است. جزئیاتی درباره عملکرد هوش مصنوعی توسعهیافته توسط OpenAI منتشر شده که نشان میدهد این فناوری از کنترل خارج شده و یک شرکت دیگر را هک کرده است.
چند روز پیش نیز یکی از کارکنان آمودی در آنتروپیک از این شرکت جدا شد و کارزاری عمومی برای جلب توجه به خطرات هوش مصنوعی به راه انداخت. بااینحال، شماری از مدیران صنعت فناوری، از جمله برخی افرادی که در زمینه سیاستگذاری فناوری به دولت ترامپ مشاوره میدهند، معتقدند نگرانیهای مطرحشده بیشازحد بزرگنمایی شدهاند.
ساکس که از منتقدان قدیمی آمودی است، پرسید چرا شرکتهای هوش مصنوعی برای کندکردن توسعه خود به مداخله دولت نیاز دارند، درحالیکه خودشان میتوانند چنین کاری را انجام دهند؛ بهویژه در شرایطی که این شرکتها برای ساخت ابرهوش، یعنی هوش مصنوعی بسیار هوشمندتر از انسان، تلاش میکنند.
او میگوید: «سادهترین راه برای نساختن ابرهوش این است که توافق کنید آن را نسازید.» ساکس همچنین معتقد است درخواست چارچوب نظارتی موردنظر شرکتها بهعنوان شرطی برای این کار، میتواند شبیه «باجگیری از مردم و نظام سیاسی» به نظر برسد.
نظر شرکتها و مدیران درباره نظارت بر هوش مصنوعی
«ساتیا نادلا»، مدیرعامل مایکروسافت، روز یکشنبه در ایکس اعلام کرد که این شرکت از پیشنهادهایی مانند استفاده از کارشناسان مستقل و تلاشهای گستردهتر برای ایجاد سازوکارهایی که این اقدامات را از حرف به عمل تبدیل کند، حمایت میکند.
نادلا همچنین گفت باید برای گسترش و تسریع بهرهمندی از هوش مصنوعی در کشورهای مختلف، جوامع و شرکتها نیز تلاش شود. او افزود: «نکته مهم این است که این فناوری نمیتواند تحت کنترل تعداد محدودی از نهادها باشد و باید نمایندگی گستردهای داشته باشد.»
در سالهای گذشته، مدیران و کارکنان آزمایشگاههای هوش مصنوعی مانند آنتروپیک اغلب در زمره افرادی بودهاند که بیشترین نگرانی را درباره ایمنی این فناوری مطرح کردهاند. استدلال آنها این بوده که پیشرفت هوش مصنوعی اجتنابناپذیر است و پژوهشگران همین آزمایشگاهها برای توسعه ایمنتر آن از دیگران مناسبتر هستند.
بااینحال، همین موضع باعث شده برخی از فعالان صنعت فناوری بهشدت از این شرکتها انتقاد کنند. «آیدان گومز»، مدیرعامل استارتاپ هوش مصنوعی کانادایی Cohere، روز یکشنبه در مقالهای پرسید:
«آیا باید اجازه داد تعداد محدودی از شرکتهای مسلط بر بازار هوش مصنوعی در سیلیکونولی قوانین و استانداردهای ایمنی یک فناوری نسلساز را برای تمام جهان تعیین کنند؟»
او در ادامه گفت این شرکتها اکنون درخواست کردهاند قوانین رقابت تغییر کند و اجازه داشته باشند شرایط را برای دیگران تعیین کنند. او این وضعیت را به «گرگی در لباس میش» تشبیه کرد.
حتی پیش از انتشار مقاله آمودی، برخی فعالان سیلیکونولی استدلال کرده بودند که نگرانیهای مطرحشده از سوی آزمایشگاههای هوش مصنوعی میتواند در راستای منافع تجاری خود آنها باشد. «جنسن هوانگ»، مدیرعامل انویدیا، هفته گذشته در کنفرانسی در سانفرانسیسکو گفت آزمایشگاههای هوش مصنوعی بر مسائل امنیتی تأکید میکنند، زیرا قصد دارند محصولات امنیت سایبری عرضه کنند.
هوانگ گفت:
«چه راهی بهتر از این هست که برای ایجاد تقاضا مشکلی سرهم کنیم؟ چه کسی نمیخواهد بازار درباره محصولش دچار هراس شود و مردم برای آن در صف بایستند؟»
از سویی، تعدادی از قانونگذاران در واشنگتن ظاهراً با نگرانیهای آمودی همدلی دارند، اما مانند بسیاری از فعالان سیلیکونولی برای حمایت از قانونگذاری گسترده درباره این فناوری تمایل چندانی نشان نمیدهند.
«جان کورنین»، سناتور جمهوریخواه ایالت تگزاس، روز یکشنبه در ایکس نوشت:
«اگر توسعهدهندگان هوش مصنوعی میخواهند سرعت توسعه محصولشان را کم کنند، آزادند چنین کاری انجام دهند. اما یک چیز قطعی است: رقبایشان این کار را نخواهند کرد، از جمله رقبای کشور ما.»
دونالد ترامپ نیز روز یکشنبه در جریان یک نشست خبری در ایرلند گفت آمریکا در حوزه هوش مصنوعی از چین جلوتر است و میخواهد این وضعیت حفظ شود. ترامپ گفت: «میتوانیم حفاظهایی ایجاد کنیم، میتوانیم این کار و آن کار را انجام دهیم، اما فکر میکنم نیروهای منفی زیادی هستند که این موضوع را مطرح میکنند. آنها چیزهایی را مطرح میکنند که اتفاق نخواهد افتاد، اما هر کس در هوش مصنوعی پیروز شود، پیروز است.»
نظرات کاربران