آشفته‌بازار تصاویر جعلی در پلتفرم X با ابزار جدید Grok؛ از ماریجوانا کشیدن ترامپ تا قاتل شدن گوفی

به گزارش گروه دانش و فناوری،مثلا، کاربران می‌توانند تصویری از دونالد ترامپ در حال کشیدن ماریجوانا در برنامه جو روگان بسازند و آن را مستقیماً در X منتشر کنند. اما پشت پرده این فناوری نه فقط شرکت ایلان ماسک، بلکه یک استارتاپ نوپای آلمانی به نام Black Forest Labs (آزمایشگاه‌های جنگل سیاه) قرار دارد.

این همکاری که مستقیما از طریق xAI به اشتراک گذاشته شده، اعلام کرد از مدل هوش مصنوعی FLUX.1 شرکت Black Forest Labs برای تولید تصاویر در ” هوش مصنوعی Grok ” استفاده می‌کند.

این استارتاپ که در 1 اوت 2024 (11 مرداد 1403)  تأسیس شده، به نظر می‌رسد که هم‌راستا با دیدگاه‌های ماسک در خصوص ایجاد یک چت‌بات ضد وُک ( ضد وُک به این معنی است که به مسائل اجتماعی حساس نیست) عمل می‌کند؛ مدلی که برخلاف ابزارهای معروفی مثل Dall-E از OpenAI یا Imagen از گوگل، محدودیت‌های سخت‌گیرانه‌ای ندارد. نتیجه این همکاری، سیل عظیمی از تصاویر عجیب و غریب در شبکه‌های اجتماعی است.

Black Forest Labs، که در آلمان مستقر است، به تازگی و با جذب 31 میلیون دلار سرمایه اولیه از سایه بیرون آمده و با پا به عرصه ظهور گذاشته است. به عرصه عمومی قدم گذاشته است. این سرمایه‌گذاری به رهبری Andreessen Horowitz انجام شده و سایر سرمایه‌گذاران مطرح شامل Garry Tan، مدیرعامل Y Combinator، و Brendan Iribe، مدیرعامل سابق Oculus، نیز در آن حضور دارند. بنیان‌گذاران این استارتاپ، رابین رومباخ، پاتریک اسسر، و آندریاس بلاتمن، سابقه همکاری در توسعه مدل‌های Stability AI را دارند.

طبق تحلیل‌های انجام شده، مدل‌های FLUX.1 این شرکت در مقایسه با رقبایی مانند Midjourney و OpenAI از نظر کیفیت برتر شناخته شده‌اند. Black Forest Labs اعلام کرده که قصد دارد مدل‌های خود را به صورت عمومی در دسترس قرار دهد و آن‌ها را به صورت متن‌باز در پلتفرم‌های Hugging Face و GitHub منتشر کرده است. همچنین این استارتاپ برنامه دارد در آینده نزدیک مدل‌هایی برای تولید ویدئو از متن نیز ارائه دهد.

در بیانیه‌ای که Black Forest Labs در روز آغاز به کار خود منتشر کرد، اعلام شد که هدف این شرکت «افزایش اعتماد به ایمنی این مدل‌ها» است. با این حال، بسیاری معتقدند که سیل تصاویر تولید شده توسط هوش مصنوعی Grok به همراه ابزارهای Black Forest Labs این اعتماد را خدشه‌دار کرده است.

بسیاری از تصاویری که با استفاده از این ابزارها تولید می‌شوند، مانند تصویری از پیکاچو که یک تفنگ در دست دارد، با استفاده از ابزارهای گوگل یا OpenAI قابل تولید نیستند. احتمالاً از تصاویر دارای حقوق کپی‌رایت برای آموزش این مدل‌ها استفاده شده است.

به نظر می‌رسد یکی از دلایلی که ایلان ماسک این همکاری را انتخاب کرده، نبود محدودیت‌های سخت‌گیرانه در این مدل‌هاست. ماسک معتقد است که چنین محدودیت‌هایی ممکن است ایمنی مدل‌های هوش مصنوعی را کاهش دهد. او در توییتی که در سال 2022 منتشر کرد، گفت: «آموزش هوش مصنوعی به گونه‌ای که دروغ بگوید، می‌تواند بسیار خطرناک باشد.»

اما این نبود محدودیت‌ها ممکن است برای ماسک مشکلاتی ایجاد کند. شبکه اجتماعی X به دلیل انتشار تصاویر تقلبی و جنجالی، مانند تصاویری از تیلور سوئیفت که به سرعت در این پلتفرم پخش شد، مورد انتقاد قرار گرفته است. همچنین هوش مصنوعی Grok گاهی تیترهای خیالی و گمراه‌کننده تولید می‌کند که باعث شده انتقادها به این پلتفرم بیشتر شود.

به نظر می‌رسد ماسک مصمم است که به کاربران اجازه دهد تا تصاویر تولید شده توسط هوش مصنوعی Grok را بدون محدودیت در X به اشتراک بگذارند، حتی اگر این کار باعث انتشار گسترده اطلاعات نادرست شود.

انتهای پیام