مقام ارشد سایبری کانادا: از هوش مصنوعی برای هک و انتشار اطلاعات نادرست استفاده می‌شود

«سامی خوری»، رئیس مرکز امنیت سایبری کانادا این هفته در مصاحبه‌ای به رویترز گفت که آژانس او شاهد استفاده از هوش مصنوعی «در ایمیل‌های فیشینگ یا ساخت ایمیل‌ها به روشی متمرکزتر، در کدهای مخرب و در انتشار اطلاعات نادرست است».

نگرانی‌های امنیتی مربوط به هوش مصنوعی

هرچند هیچ جزئیات یا شواهدی را ارائه نکرد، اما ادعای او مبنی بر اینکه مجرمان سایبری هم اکنون در حال استفاده از هو‌ش مصنو‌عی هستند، نکته‌ای است که به نگرانی‌های مربوط به استفاده از فناوری در حال ظهور هوش مصنوعی اضافه می‌کند.

در چند وقت گذشته، چند مقام ناظر سایبری گزارش‌هایی را منتشر کرده‌اند که در مورد خطرات احتمالی هوش مصنوعی و به‌ویژه مدل‌های زبان بزرگ (LLM) که از حجم عظیمی از متن برای ایجاد گفتگوها، اسناد و موارد دیگر استفاده می‌کنند، هشدار می‌دهند.

در ماه مارس، یوروپل (Europol) یا آژانس اتحادیه اروپا برای همکاری در اجرای قانون گزارشی را منتشر کرد که نشان می‌داد مدل‌هایی مانند ChatGPT امکان جعل هویت یک سازمان یا فرد را به‌شیوه‌ای بسیار واقعی فراهم کرده است. در همان ماه، مرکز ملی امنیت سایبری بریتانیا در یک پست وبلاگی اعلام کرد که LLMها باعث می‌شوند مجرمان بتوانند فراتر از توانایی‌های فعلی خود حملات سایبری را انجام دهند.

خوری در نهایت اشاره کرد که هرچند استفاده از هو‌ش مصنو‌عی برای ساخت کدهای مخرب هنوز در مراحل اولیه خود قرار دارد و همچنین نوشتن یک آسیب‌پذیری خوب به زمان زیادی نیاز دارد، نگرانی اصلی او این است که کنترل پتانسیل‌های مخرب مدل‌های هوش مصنوعی در حال تکامل پیش از انتشار برای اپراتورها دشوار شود.

انتهای پبام