رئیس مایکروسافت: هوش مصنوعی می‌تواند به گونه سیلیکونی رقیب انسان تبدیل شود

توسعه مهارنشده مدل‌های هوش مصنوعی می‌تواند به پیدایش یک «گونه سیلیکونی» جدید ختم شود که در آینده نزدیک رودرروی بشر قرار می‌گیرد و با او رقابت می‌کند. «مصطفی سلیمان»، مدیر بخش هوش مصنوعی مایکروسافت، در گفت‌وگو با رسانه‌ها با اشاره به این موضوع هشدار داده اگر ساخت مدل‌هایی که می‌توانند اهداف مستقل برای خود تعیین کنند، درآمد داشته باشند، کسب‌وکاری را بچرخانند یا دارایی مشخصی را به مالکیت خود درآورند ادامه پیدا کند، عملاً بستری برای رقابت مستقیم این سیستم‌ها با انسان بر سر منابع فراهم خواهد شد.

به گفته سلیمان، چنین سناریویی حتی در صورتی که این ابزارها برای مراقبت از بشریت طراحی شده باشند و به ظاهر به انسان‌ها ابراز علاقه کنند، باز هم رخ خواهد داد. او رویکرد استقلال‌بخشی بیش از حد به سیستم‌ها را نادرست و انحرافی دانست، هرچند معتقد است که باید این مسائل را از طریق آزمون‌های تجربی مورد ارزیابی قرار داد. سلیمان اخیراً همچنین هشدار داده بود که رویکرد آنتروپیک در آموزش هوش مصنوعی برای بشریت فاجعه‌بار خواهد بود.

لزوم فرمانبرداری مطلق هوش مصنوعی از انسان

مدیر هوش مصنوعی مایکروسافت گفته است:

«اگر همه ما سیستم‌های هوش مصنوعی بسازیم که بتوانند مستقل عمل کنند، برای خودشان هدف تعیین کنند، درآمد داشته باشند، دارایی بخرند و کسب‌وکار راه بیندازند، در واقع داریم بذر یک گونه سیلیکونی جدید را می‌کاریم که بی‌تردید بر سر منابع با ما رقابت خواهد کرد؛ مهم نیست این سیستم چقدر به بشریت اهمیت بدهد و چقدر ما را دوست داشته باشد.»

وی تأکید کرده که نگرانی جامعه نسبت به این تحولات کاملاً به‌جا است، اما راهکارهای بسیار عملیاتی و ملموسی برای مهار آن وجود دارد. سلیمان اشاره می‌کند که صنعت نیاز به شفافیت به مراتب بیشتری درباره شیوه آموزش و نحوه ارزیابی سیستم‌ها دارد. این شفافیت باید شامل بررسی مستقل رفتار مدل‌های هوش مصنوعی و طراحی ابزارهای بسیار قدرتمندتر برای پایش و کنترل رفتارهای پنهان این سامانه‌ها باشد تا تصمیماتی گرفته نشود که بعدها پشیمانی به بار بیاورد.

او با اشاره به مفهوم هم‌راستاسازی (Alignment) توضیح داده که سیستم‌های آینده باید بدون چون‌وچرا «زیردست» (Subordinate) انسان باقی بمانند. مایکروسافت که تیم هوش مصنوعی جامع و پیشرفته خود را در ماه اکتبر ۲۰۲۵ راه‌اندازی کرده است، رویکرد متفاوتی را دنبال می‌کند که هدف آن توسعه مدلی است که همواره در چارچوب مشخص بماند، در خدمت رفاه عمومی باشد و حاکمیت نهایی انسان را به چالش نکشد.

به باور سلیمان، نقطه اشتراک همه انسان‌ها این است که فارغ از مرزهای جغرافیایی، مایل هستند مدل‌هایی که تولید می‌شوند مهارپذیر، امن و مطیع باشند. او همچنین با وجود اختلافات اساسی در استراتژی‌های اجرایی، تأکید کرد که انگیزه اصلی پژوهشگران باید رسیدن به ساختار امن برای آینده این فناوری باشد و این مباحث باید شفاف، عمومی و به دور از رفتارهای تقابلی حل‌وفصل شوند.