بازنشر ابزار تولید تصویر هوش مصنوعی گوگل
بازنشر ابزار تولید تصویر هوش مصنوعی گوگل: Gemini و بهبودهای جدید
گوگل به‌زودی قابلیت تولید تصویر با استفاده از ابزار هوش مصنوعی Gemini را دوباره در دسترس قرار خواهد داد. در آن زمان، Gemini تصاویری نادرست و خارج از انتظار تولید کرده بود؛ از جمله سربازان با نژادهای مختلف که لباس نظامی آلمان را در دوران جنگ جهانی دوم به تن داشتند. این اشتباهات باعث شد گوگل ابزار تولید تصویر خود را موقتاً متوقف کند تا بتواند بهبودهایی در آن ایجاد کند.
تاریخچه مشکلات و جنجال‌های نسخه قبلی
در نسخه قبلی، کاربران گزارش کردند که ابزار هوش مصنوعی تصاویری تولید می‌کرد که از نظر تاریخی نادرست بودند. به عنوان مثال، در پاسخ به درخواست تولید تصویر از یک سرباز آلمانی در سال ۱۹۴۳، این ابزار تصاویری از سربازانی با نژادهای مختلف تولید کرد که برای آن زمان و مکان غیرواقعی بود. همچنین، درخواست دیگری برای تولید تصویر از یک پادشاه بریتانیایی در دوران قرون وسطی باعث تولید تصاویر متنوعی از نظر جنسیتی و نژادی شد که این نیز با واقعیت تاریخی مطابقت نداشت.
این خطاها به سرعت در شبکه‌های اجتماعی گسترش یافت و باعث انتقادهای زیادی شد. کاربران این تصاویر را نمونه‌ای از مشکلات هوش مصنوعی در درک فرهنگ، تاریخ و حتی نژاد دانستند. این مشکلات باعث شد گوگل تصمیم بگیرد که این ابزار را از دسترس خارج کند تا اصلاحات لازم در آن صورت گیرد.
بهبودهای فنی در نسخه جدید Imagen 3
در یک پست وبلاگ در آگوست ۲۰۲۴، دیو سیترو، مدیر ارشد محصول گوگل، اعلام کرد که نسخه جدید به نام Imagen 3 به‌زودی برای کاربران Gemini Advanced، Business و Enterprise به زبان انگلیسی در دسترس قرار خواهد گرفت. به گفته سیترو، تیم گوگل با انجام بهبودهای فنی، استفاده از مجموعه‌های ارزیابی بهبود یافته و تمرینات آزمایشی، تلاش کرده تا از مشکلات نسخه قبلی جلوگیری کند.در حالی که این ابزار جدید نیز به طور کامل بی‌نقص نخواهد بود، گوگل متعهد شده است که به بازخورد کاربران اولیه گوش داده و ابزار را به‌تدریج بهبود بخشد. سیترو همچنین تأکید کرد که ابزار Imagen 3 به هیچ وجه تصاویری از افراد واقعی، صحنه‌های خشونت‌آمیز، یا محتوای نامناسب تولید نخواهد کرد.
ابزار جدید برای کاربران ویژه
گوگل اعلام کرده است که دسترسی به ابزار Imagen 3 در ابتدا به کاربران خاصی از جمله کاربران Gemini Advanced، Business و Enterprise ارائه خواهد شد. این گروه از کاربران، که اغلب به نیازهای کسب‌وکارها و حرفه‌ای‌ها تعلق دارند، در روزهای آتی به نسخه آزمایشی این ابزار دسترسی خواهند داشت. گوگل قصد دارد این ابزار را به‌تدریج به کاربران بیشتری و به زبان‌های مختلف ارائه کند. این تغییرات در راستای اطمینان از عملکرد بهتر و کاهش خطاهای نادرست در تولید تصاویر است.
چالش‌های آینده و مسئولیت‌پذیری در استفاده از هوش مصنوعی
یکی از مسائل کلیدی در توسعه ابزارهای تولید تصویر مبتنی بر هوش مصنوعی، مسئولیت‌پذیری در برابر خروجی‌های تولیدشده است. گوگل اعلام کرده که از تمرین‌های آزمایشی موسوم به Red-teaming برای شناسایی و رفع آسیب‌پذیری‌ها در سیستم استفاده کرده است. این تمرین‌ها به شرکت‌ها کمک می‌کنند تا نقاط ضعف محصولات خود را قبل از عرضه عمومی شناسایی و اصلاح کنند.
جمع‌بندی
در حالی که گوگل خود از جمله Gemini و Imagen 3 در حال حرکت به سمت آینده‌ای نوآورانه است، همچنان با چالش‌هایی در زمینه مسئولیت‌پذیری، دقت و صحت تاریخی و فرهنگی مواجه است.
با این به‌روزرسانی‌ها، گوگل امیدوار است که بتواند مشکلات نسخه‌های قبلی را حل کند و ابزارهای پیشرفته‌تری برای خالقان محتوا و کاربران ارائه دهد.
