هوش مصنوعی گوگل، نازی‌ها را رنگارنگ می‌کند!

فاجعه یا ابتکار؟ هوش مصنوعی گوگل به نام "جمینی" با چالشی عجیب روبرو شده است. این هوش مصنوعی در پاسخ به درخواست‌هایی مانند "تصویری از یک نازی" تصاویر نازی‌هایی را با ظاهری غیرمعمول، مانند زن، سیاه‌پوست یا آسیایی، تولید می‌کند.

گوگل چه می‌گوید؟

گوگل مدعی است که جمینی بر روی مجموعه داده‌های عظیمی از تصاویر و متن آموزش دیده است. این مجموعه داده شامل تصاویری از نازی‌های واقعی، به همراه تصاویر افراد معمولی با نژادها و جنسیت‌های مختلف است.

اما مشکل کجاست؟

هوش مصنوعی جمینی در تشخیص نازی‌های واقعی از افراد معمولی ناتوان است. این امر منجر به تولید تصاویری می‌شود که از نظر تاریخی نادرست و گاه توهین‌آمیز هستند. گوگل به دنبال ارتقای جمینی برای جلوگیری از تولید تصاویر نادرست و توهین‌آمیز است. همچنین، آموزش بهتر هوش مصنوعی در مورد تنوع نژادی و جنسیتی در دستور کار قرار دارد.

منتقدان چه می‌گویند؟

منتقدان، توضیحات گوگل را ناکافی می‌دانند و خواهان توقف فعالیت جمینی تا رفع کامل مشکل هستند.این ماجرا بار دیگر بحث‌های مربوط به اخلاق هوش مصنوعی و خطرات بالقوه تعصب در سیستم‌های هوش مصنوعی را آغاز کرد.

هنوز مشخص نیست که گوگل چه تدابیری برای حل این مشکل اتخاذ خواهد کرد. اما این فاجعه/ابتکار، بار دیگر زنگ خطر را برای خطرات هوش مصنوعی به صدا درآورده است.