انتشار پاسخ‌های خودکار با هوش مصنوعی ChatGPT موقتاً در Stack Overflow ممنوع شد

مدیران Stack Overflow می‌گویند ChatGPT باعث شده است که کاربران به‌راحتی بتوانند پاسخ سؤالات را اسپم کنند. این پاسخ‌ها شاید در ابتدا درست به‌نظر برسند، اما معمولاً وقتی آن‌ها را بررسی می‌کنید، اشتباه هستند.

مدیران این وب‌سایت به همین دلیل می‌گویند: «لازم بود حجم این پست‌ها را کمتر کنیم. به همین خاطر، حالا استفاده از ChatGPT برای انتشار پست در Stack Overflow مجاز نیست. اگر بعد از انتشار این اطلاعیه تشخیص داده شود که کاربری از ChatGPT استفاده کرده، محدودیت‌هایی برای نشر محتوا توسط آن کاربر لحاظ خواهد شد، حتی اگر پست ارسالی از سوی او درست باشد.»

چرا تصمیم Stack Oveflow مهم است؟

تصمیم مدیران Stack Overflow از آن جهت اهمیت دارد که متخصصان حوزه هوش مصنوعی مدتی است در حال گفتگو درباره تهدیدهای بالقوه استفاده از مدل‌های زبانی بزرگ هستند. برای مثال «یان له‌کان»، دانشمند هوش مصنوعی متا می‌گوید این مدل‌ها می‌توانند اطلاعات نادرستی تولید کنند، اما به‌خودی‌خود اشتراک‌گذاری متن را آسان‌تر نمی‌کنند. اما عده دیگری باور دارند که تولید حجم زیادی از محتوا توسط این مدل‌ها می‌تواند ریسک انتشار آن‌ها در آینده را افزایش دهد.

تاکنون شواهد اندکی پیرامون اثرات زیان‌بار مدل‌های زبانی بزرگ در جهان واقعی دیده شده بود. اما اتفاقات اخیر در Stack Overflow می‌تواند چالش‌هایی را نشان بدهد که این سیستم‌ها می‌توانند در مقیاس بزرگ ایجاد کنند.

اگرچه این سایت اعلام کرده است که تصمیم‌گیری دائمی در این خصوص را در آینده با هم‌فکری کاربران خود انجام خواهد داد، ولی به‌نظر می‌رسد که واکنش کلی کاربران در خود این سایت و در انجمن‌هایی مثل Hacker News درباره این تصمیم مثبت بوده است. البته برخی باور دارند که کار مدیران در تشخیص پاسخ‌هایی که توسط هوش مصنوعی تولید می‌شوند، سخت خواهد بود.

ChatGPT بر‌اساس الگوریتم GPT-3.5 ساخته شده است که پیش‌تر برای تولید و تکمیل متن به‌کار می‌رفت. این چت‌بات حالا حتی با نگارش مقاله دانشگاهی، تحسین استاد دانشگاه آریزونا را هم در پی داشته است.