مرکز ملی امنیت سایبری انگلیس نسبت به خطرات ChatGPT هشدار داد

آیا خطرات  ChatGPT  جدی و تهدیدکننده است؟

بسیاری از افراد، چت‌بات شرکت OpenAI را به منظور دریافت پاسخ سوالات خود یا صرفه‌جویی در زمان جستجو، مورد استفاده قرار می‌دهند. عملکرد این هوش مصنوعی در برقراری مکالمه‌های واقعی با افراد، حیرت‌انگیز بوده است و یکی از دلایل اصلی محبوبیت آن به شمار می‌رود. همچنین اخیراً مدل زبانی GPT-4 برای چت‌بات مذکور ارائه شده است که از قابلیت‌های بهبود یافته گوناگونی، بهره می‌برد.

با این حال، کارشناسان مرکز ملی امنیت سایبری انگلیس در پست اخیر وبلاگ خود، خطرات احتمالی ChatGPT و سایر مدل‌های پردازش زبانی عظیم را به مردم، گوشزد کرده‌اند. آنها در پژوهش‌های صورت گرفته، متوجه شده‌اند که پاسخ‌های ارائه شده توسط این چت‌بات و سایر نمونه‌های مشابه آن، می‌تواند گمراه‌کننده و نادرست باشد. همچنین احتمال دارد که برخی از پاسخ‌ها به پرسش‌های کاربران به صورت جهت‌دار،‌ همراه با خشونت و نامناسب تلقی شوند. به همین دلیل کاربران باید قبل استفاده از ابزارهای مبتنی بر هوش مصنوعی، نسبت به مشکلات احتمالی آنها، واقف باشند.

کارشناسان امنیتی معتقد هستند که افراد باید نسبت به اطلاعاتی که در سرویس‌های مبتنی بر هوش مصنوعی به اشتراک می‌گذارند، حساسیت بیشتری نشان دهند. توصیه آنها، عدم به اشتراک‌گذاری داده‌های حساس با ChatGPT یا سایر مدل‌های پردازش زبانی است. شایان ذکر است که این سرویس‌ها معمولاً داده‌های کاربران خود را به خوبی محافظت می‌کنند و در دید سایر افراد قرار نمی‌دهند؛ اما ذخیره حجم عظیمی از اطلاعات و دستورات در آنها می‌تواند موجب جلب توجه هکرها جهت سرقت داده شود.  به همین دلیل بهتر است از مطرح کردن سوالات مرتبط با زندگی شخصی یا کاری خود در چنین پلتفرم‌هایی، خودداری به عمل آورید.