رویداد DEFCON امسال هزاران هکر را به جنگ هوش مصنوعی می‌فرستد

به گزارش The Register، این گردهمایی که بزرگ‌ترین رویداد سالانه هکرهاست و در لاس‌وگاس برگزار می‌شود، امسال میزبان هزاران نفر ازجمله صدها دانشجو از مؤسسات آموزشی و جوامع مختلف خواهد بود که جمعی از آن‌ها به‌دنبال کشف نقایص مدل‌های زبانی بزرگ می‌روند. این مدل‌ها همان فناوری پشت ابزارهایی مثل  ChatGPT و بارد گوگل  هستند.

«سوِن کت‌ول»، بنیان‌گذار گروه AI Village که مسئول دعوت‌کننده هکرها به این رویداد بوده است، در بیانیه‌ای می‌گوید: «شرکت‌ها به‌طور سنتی این مشکل را با  تیم‌های قرمز  (Red Teams) تخصصی خود حل می‌کردند. البته این کار معمولاً در خفا انجام می‌شد. اما مشکلات این مدل‌ها تا زمانی که افراد بیشتری از چگونگی تشکیل تیم‌های قرمز و ارزیابی مشکلات آگاه نشوند، برطرف نخواهد شد.»

هکرها در دف‌کان امسال کدام مدل‌های هوش مصنوعی را بررسی خواهند کرد؟

بنابراین دف‌کان امسال در‌واقع تیم قرمزی را تشکیل می‌دهد که برای حل این مشکلات ساخته می‌شود. AI Village برای شرکت‌کنندگان در این رویداد لپ‌تاپ و دسترسی محدود به مدل‌های زبانی شرکت‌های مختلف را فراهم می‌کند. این مدل‌ها درحال‌حاضر شامل مدل‌های شرکت  Anthropic، گوگل، Hugging Face، انویدیا، OpenAI و Stability  است.

افزون‌براین، اعلام شده که این رویداد با مشارکت  مایکروسافت  برگزار می‌شود؛ بنابراین شاید امکان دسترسی به مدل بینگ هم وجود داشته باشد. هکرها قرار است به پلتفرم ارزیابی شرکت  Scale AI  هم دسترسی پیدا کنند تا بتوانند نرم‌افزارها را دقیق‌تر و بهتر بررسی نمایند.

این خبر در شرایطی اعلام می‌شود که «کاملا هریس»، معاون اول رئیس‌جمهور آمریکا و چند مقام ارشد دولتی به‌تازگی با رؤسای OpenAI، مایکروسافت، Anthropic و گوگل درباره تهدیدهای هوش مصنوعی دیدار و صحبت کرده بودند.

رویداد دف‌کان 2023 از 19 تا 22 مردادماه امسال در لاس‌وگاس آمریکا برگزار خواهد شد.

انتهای پیام