«جیمز اوتمایر»، دادستان کل ایالت فلوریدا، چند ماه پس از ثبت دادخواست علیه OpenAI پیرامون مسائل ایمنی هوش مصنوعی، اکنون با ارائه درخواستی جدید از قاضی دادگاه خواسته مانع از تظاهر ChatGPT به رفتارهای انسانی شود.
اوتمایر معتقد است این چتبات با شبیهسازی حس همدلی، کاربران را با حس امنیت دروغین گمراه میکند؛ بهطوریکه استفاده ChatGPT از لحن زبانی ویژه، از جمله ضمیرهای اولشخص و خروجیهایی که عواطف و احساسات انسانی را شبیهسازی میکنند، این تصور فریبنده را به وجود میآورد که گویا هوش مصنوعی یک «دوست» قابلاعتماد است. دادستان فلوریدا ادعا کرده تمامی این تصمیمات با هدف افزایش تعامل کاربران و جمعآوری دادههای بیشتر برای آموزش OpenAI گرفته شده و هرچند تعامل را بالا میبرد، از نگاه او اعتمادپذیری ابزار را کاهش میدهد.
الزامات ایمنی و توقف رفتار شبهانسانی ChatGPT
این دادخواست علاوهبر مسئله رفتار ربات، از دادگاه درخواست کرده که جلوی توسعه مدلهای جدید هوش مصنوعی توسط OpenAI را تا زمان دریافت «تأییدیههای ایمنی از مراجع مستقل ثالث» بگیرد. این سند برای اثبات نیاز به نظارت بیشتر، به رخدادهای امنیتی اخیر در پلتفرم هاگینگ فیس، وبسایت دولتی استرالیا، سرویسهای دولت ایالات متحده و هشدارهای پژوهشگران و کارمندان پیشین OpenAI اشاره کرده است.
اوتمایر در سخنان خود تأکید کرده که OpenAI باید به ایمن خواندن این ابزار، تظاهر به انسان بودن آن و همچنین فروش این فناوری به کودکان پایان دهد. این درحالی است که ماه گذشته OpenAI ابزار اختصاصی «ChatGPT for Teens» را با محدودیتهای پیشفرض عرضه کرد و یادآور شد دسترسی نوجوانان باید به نحوی باشد که با مراحل رشدی آنان هماهنگ بوده و از پیوندهای دنیای واقعی و استفاده سالم پشتیبانی کند.
«درو پوزاتری»، سخنگوی OpenAI، در پاسخ به درخواست رسانهها تصریح کرد مردم انتظار دارند هوش مصنوعی با بالاترین استاندارد ایمنی توسعه یابد و این تعهد باید از درون خود شرکتها آغاز شود. به گفته او، فرایند آموزش توانمندترین مدلهای این مجموعه فعلاً متوقف شده و از سرگیری آن به زمان استقرار لایههای ایمنی مضاعف موکول گردیده است. OpenAI همچنین بهتازگی اعلام کرده بود که انتشار مدل Astra 6.1 را به دلیل رفتارهای فریبکارانه لغو کرده است.
نظرات کاربران