بدترین ایرادهای هوش مصنوعی ChatGPT که آن را به ابزار نامطمئنی تبدیل می‌کند

به گزارش گروه دانش و فناوری به نقل از گجت نیوز، ChatGPT یک چت‌بات جدید و قدرتمند مبتنی بر هوش مصنوعی است که با ویژگی‌های منحصر به‌فرد خود به‌سرعت خبرساز شد. هر آنچه دوست دارید را از این ربات بپرسید، در مقابل پاسخی دریافت خواهید کرد که گویی توسط یک انسان در آن‌سوی سیستم نوشته شده است. این ابزار انقلابی، دانش و مهارت‌های نوشتاری خود را از حجم انبوه داده‌های موجود در سراسر اینترنت آموخته است. بااین‌حال، با گذشت مدتی از راه‌اندازی این چت‌بات، برخی از کاربران از وجود ایرادهایی جدی در آن خبر می‌دهند. دقیقا مانند اینترنت، ChatGPT نیز در ارائه اطلاعات، عاری از خطا نیست و گاهی اشتباه می‌کند. به‌همین بهانه، در ادامه به مرور بدترین ایرادهای هوش مصنوعی ChatGPT می‌پردازیم.

بدترین ایرادهای فنی و امنیتی هوش مصنوعی ChatGPT

۱. ارسال پاسخ اشتباه

علی‌رغم کارکرد حیرت‌انگیز، ChatGPT نیز جایزالخطا است. این چت‌بات در محاسبه ریاضیات پایه ناموفق عمل می‌کند، گاهی از پاسخ به سوالات منطقی ساده نیز ناتوان بوده و حتی ممکن است حقایق را کاملا نادرست استدلال کند. همان‌طور که کاربران در رسانه‌های اجتماعی گزارش داده‌اند، اشتباهات، بخش انکارناپذیر ChatGPT هستند.

در این باره، OpenAI، شرکت سازنده این ابزار می‌گوید:

ChatGPT گاهی اوقات پاسخ‌هایی با متن معقول اما نادرست یا بی‌معنی را می‌نویسد. این دوبینی میان واقعیت و تخیل، همان‌طور که دانشمندان نیز با آن آشنایی دارند، می‌تواند به‌ویژه در تصمیمات حساس مانند توصیه‌های پزشکی خطرآفرین باشد.

برخلاف سایر دستیاران مبتنی بر هوش مصنوعی مانند سیری و الکسا، ChatGPT از اینترنت برای یافتن پاسخ‌ها استفاده نمی‌کند. در عوض، این چت‌بات یک جمله را به‌صورت کلمه به کلمه ساخته و براساس آنچه آموخته، محتمل‌ترین نشانه را انتخاب می‌کند.

به‌عبارت دیگر، ChatGPT با پردازش یک سری حدس‌ها به پاسخ می‌رسد، زیرا می‌تواند پاسخ‌های اشتباه را به‌گونه‌ای استدلال کند که گویی کاملا درست هستند. در حالی‌که این فناوری در توضیح مفاهیم پیچیده عالی است و آن‌را به ابزاری قدرتمند برای یادگیری تبدیل می‌کند، اما مهم است بدون مطالعه هرآنچه پاسخ می‌دهد را باور نکنیم. ChatGPT فعلا در مرحله آزمایشی است و هنوز جای کار دارد.

2. پاسخ‌های جانبدارانه و تبعیض‌‌آمیز – یکی از ایرادهای ChatGPT

آموخته‌های ChatGPT بر پایه نوشته‌های جمعی از انسان‌ها در سراسر جهان شکل گرفته است. این بدان معنی است که سوگیری‌های خاصی در داده‌های این مدل نیز وجود دارد. گزارش‌های ارسالی کاربران نشان می‌دهد که چگونه ChatGPT می‌تواند پاسخ‌های عجیبی را ارسال کند که ممکن است برای گروه‌‌ها و عقیده‌های مختلف مخرب باشد.

در این راستا، قابلیتی تنظیم شده که کاربران با استفاده از آن می‌توانند خروجی‌های جانبدارانه و تبعیض‌آمیز را به‌عنوان گزارش دهند.

۳. ابزاری برای تقلب در تکالیف زبان انگلیسی دانش‌آموزان

از آنجاکه می‌توان از ChatGPT برای تصحیح نوشته‌ها یا بهبود پاراگراف استفاده کرد، این وسوسه به وجود می‌آید که نگارش تمام متون خود را به این چت‌بات بسپارید. این امر می‌تواند باعث عدم یادگیری صحیح زبان انگلیسی در دانش‌آموزان شود.

معلم‌ها با ارسال تکلیف‌های انگلیسی به ChatGPT، این ربات را امتحان کردند و پاسخ‌هایی را دریافت کردند که در مقایسه با نمونه‌های دانش‌آموزان به مراتب بهتر بود. بدین ترتیب، این ربات انقلابی می‌تواند از نامه‌های اداری گرفته تا توصیف موضوعات یک اثر ادبی را به‌طور کامل برعهده بگیرد.

به‌نظر می‌رسد در صورت افزایش استفاده دانش‌‌آموزان از ChatGPT برای انجام تکالیف خود، مدارس باید به فکر راه‌حلی دقیق باشند. سرعت بالای استقرار هوش مصنوعی در سال‌های اخیر، حوزه‌های مختلف از جمله آموزش را به‌شدت غافل‌گیر کرده است.

4. ChatGPT می‌تواند باعث آسیب به دنیای واقعی شود

پیش از این، اشاره کردیم که چگونه اطلاعات نادرست توسط ChatGPT، می‌تواند به آسیب در دنیای واقعی منجر شود که بارزترین مثال آن، توصیه‌های غلط پزشکی است. اما نگرانی‌های دیگری نیز در این باره وجود دارند. برای مثال، حساب‌های جعلی شبکه‌های اجتماعی که اکنون به معضلی در اینترنت تبدیل شده‌اند، با اضافه شدن چت‌بات‌های AI می‌توانند کلاهبرداری‌های مجازی را آسان‌تر کنند. هم‌چنین گسترش اطلاعات جعلی نیز از آنجاکه این چت‌بات حتی در ارسال پاسخ‌های اشتباه بسیار قانع‌کننده عمل می‌کند، نگرانی بزرگ دیگری است.

5. OpenAI، مغز متفکر ChatGPT، اختیار مطلق این چت‌بات را در دست دارد

هرچه دامنه اختیارات وسیع‌تر باشد، مسئولیت سنگین‌تری نیز ایجاد خواهد شد. OpenAI نیز به‌عنوان شرکت فعال در حوزه هوش مصنوعی که علاوه بر چت جی پی تی، ابزارهای دیگری نظیر Dall-E 2 را توسعه داده، از این قاعده مستثنی نیست.

این شرکت داده‌هایی که برای آموزش این چت‌بات استفاده می‌شود و راهکارها برای جلوگیری از عواقب منفی آن‌را تنظیم می‌کند. بنابراین، چه با روش‌ها موافقم باشیم یا نه، توسعه این فناوری طبق اهداف OpenAI ادامه خواهد یافت.

درحالی‌که این شرکت برای جنبه‌های ایمنی اولویت بالایی را در نظر گرفته، مسائلی در پشت پرده درباره نحوه ایجاد مدل‌ها وجود دارند که از آنها بی‌اطلاع هستیم. کاربران نهایی تنها باید امیدوار باشند که OpenAI به‌نحوی دقیق و مسئولانه در ارتباط با تحقیق و توسعه ChatGPT عمل کند.

OpenAI در ارتباط با ایرادهای موجود در هوش مصنوعی ChatGPT، اذعان کرده که این ابزار می‌تواند پاسخ‌های مضر و مغرضانه ایجاد کند و بدتر آنکه، به‌طرز باورپذیری، حقایق را با شایعات آمیخته و منتشر کند. با چنین فناوری جدیدی، پیش‌بینی مشکلات بعدی امری دشوار است. بنابراین تا نهایی شدن آن، از کاوش در ChatGPT لذت ببرید، اما مراقب باشید گول اشتباهاتش را نخورید!

انتهای پیام