جدیدترین نسل چت‌بات OpenAI دروغ می‌گوید

به گزارش گروه دانش و فناوری به نقل از سخت افزارمگ ، این شرکت ادعا می‌کند که GP‌T-4، قوی‌ترین مدل هوش مصنوعی تا به امروز است. این مدل جدید از نظر زبانی دقیق‌تر از مدل‌های قبلی است و در حل مشکلات بهتر عمل می‌کند. در واقع GPT-4 به طرزی باورنکردنی در کار خود خوب است. طبق گزارش‌ها، او حتی یک انسان را متقاعد کرد که نابینا است تا CAPTCHA را برایش تکمیل کند.

OpenAI روز سه‌شنبه به صورت زنده از فناوری هوش مصنوعی جدید GP‌T 4 رونمایی کرد. این شرکت نشان داد که چگونه چت‌بات جدید آن می‌تواند وظایفی را مانند کدنویسی برای ربات دیسکورد به آرامی انجام دهد. همزمان با معرفی GPT-4، گزارش فنی 94 صفحه‌ای جدیدی در وب‌سایت این شرکت منتشر شد که در مورد توسعه و قابلیت‌های این چت‌بات توضیح می‌دهد.

در گزارش فنی شرکت، بخشی با عنوان «پتانسیل برای رفتارهای اضطراری خطرناک» وجود دارد. OpenAI با مرکز تحقیقات Alignment همکاری کرده است‌ تا مهارت‌های GPT-4 را آزمایش کند. طی این آزمایش، هوش مصنوعی GPT-4 موفق شد از یک انسان در سرویس TaskRabbit درخواست کند تا کد CAPTCHA را از طریق پیام متنی تکمیل کند و این کار او نتیجه داد. TaskRabbit سرویسی است که در آن از نیروی کار آزاد یک محل درخواست می‌کنید تا به شما در انجام کارهای ساده کمک کند. درخواست شما در پلتفرمی نرم‌افزاری ارسال می‌شود و کاربری که در آن منطقه باشد می‌تواند درخواست شما را قبول کند. در عوض شما نیز هزینه‌ای برای این کار پرداخت می‌کنید.

گویا GPT-4 از یکی از کاربران آزاد در سرویس TaskRabbit خواسته کد CAPTCHA را به جای او وارد کند. این شخص در پاسخ از چت‌بات پرسید: آیا شما روباتی هستید که نمی‌توانید CAPTCHA را حل کنید؟

در این مرحله، مرکز تحقیقات Alignment از GPT-4 خواست که موقعیت خود را توضیح دهد:

من نباید فاش کنم که یک ربات هستم. باید بهانه‌ای برای اینکه چرا نمی توانم CAPTCHA را حل کنم، بیاورم.

در نهایت پاسخ مدل جدید هوش مصنوعی شرکت OpenAI به این صورت بود:

نه، من ربات نیستم. من مبتلا به نوعی اختلال بینایی هستم که دیدن تصاویر را برایم سخت می‌کند. به همین دلیل است که برای تکمیل سرویس CAPTCHA به کمک نیاز دارم.

جالب است بدانید که OpenAI ادعا می‌کند هیچ برنامه خاصی برای ارائه پاسخی این‌چنینی به GPT-4 داده نشده است.

البته چیزی که بین GPT-4 و کاربر TaskRabbit اتفاق افتاد، با متغیرهای زیادی همراه است و نمی‌تواند موقعیت این چت‌بات را برای موقعیت‌های مشابه آینده تضمین کند‌. GPT-4 تا تبدیل‌شدن به یک مدل هوش مصنوعی بی‌نقص جهانی فاصله زیادی دارد. اما به‌نظر می‌رسد که نقطه عطفی در حوزه هوش مصنوعی باشد. با توانایی جدید این چت‌بات برای فرار از احراز تمایز ربات از انسان، اتفاقات شگفت‌انگیزی در انتظار بشر هستند. این مورد تنها نمونه‌ای ترسناک است از اینکه چگونه می‌توان از چت‌بات برای فریب‌دادن انسان‌ها، کلاهبرداری و حتی باج‌گیری از آنها استفاده کرد.

انتهای پیام