استفاده از صدای شبیه‌سازی‌شده توسط هوش مصنوعی برای دسترسی به حساب بانکی [تماشا کنید]

کاکس همانطور که در مقاله Vice توضیح می‌دهد، برای دستیابی به هدف خود، از سرویس رایگان تولیدکننده صدای هوش مصنوعی  ElevenLabs  استفاده کرده که صداهای خبرنامه‌ها، کتاب‌ها و ویدیوها را تأمین می‌کند. او پنج دقیقه از صدای خود را ضبط کرد و برای ایجاد نسخه شبیه‌سازی شده، آن را در Eleven Labs آپلود کرد. پس از انجام برخی تنظیمات، صدای تولیدشده نهایی توانست بر امنیت لویدز بانک غلبه کند.

دسترسی به حساب بانکی با کمک هوش مصنوعی

کاکس درباره تجربه خود می‌نویسد:

«باورم نمی‌شد که کار کرده باشد. من از کپی برابر اصل صدای ساخته‌شده با هوش مصنوعی برای نفوذ به یک حساب بانکی استفاده کردم. پس از آن به اطلاعات حساب شامل موجودی‌ها و لیست تراکنش‌ها و نقل‌و‌انتقالات اخیر دسترسی پیدا کردم.»

چندین بانک در ایالات متحده و اروپا از احراز هویت صوتی برای سرعت‌بخشیدن به روند ورود از طریق موبایل استفاده کنند. درحالی‌که برخی بانک‌ها ادعا می‌کنند که سیستم تشخیص صدا به اندازه اثر انگشت کاربرد دارد، این آزمایش نشان می‌دهد که امنیت بیومتریک مبتنی بر صدا چندان قابل اعتماد نیست.

هرچند در طول این آزمایش، کاکس با کمک هوش مصنوعی به حساب خود دسترسی پیدا کرد، اما هیچ تضمینی وجود ندارد که در آینده هکرها از همین روش برای کلاهبرداری و دسترسی به حساب دیگران استفاده کنند.

برای تولید صدا از طریق ابزار رایگان ElevenLabs، کاربران فقط باید نمونه‌هایی از هر صدایی که می‌خواهند شبیه‌سازی کنند را آپلود کنند و برای انجام این کار هیچ نیازی به تخصص فنی وجود ندارد. کاکس می‌گوید که از ابزارهای هوش مصنوعی دیگری برای این کار نیز استفاده کرده، اما هیچ‌کدام به اندازه ElevenLabs قادر به دورزدن احراز هویت نبوده است. قبلاً نیز این ابزار هو‌ش مصنوعی شبیه‌ساز صدا برای ساخت ویدیوهای دیپ‌فیک افراد مشهور مورد استفاده قرار گرفته بود.