با افزایش روزافزون کیفیت و واقعگرایی تصاویر تولیدشده توسط مدلهای هوش مصنوعی، تمایز قائل شدن میان محتوای واقعی و ساختگی به یک چالش جدی تبدیل شده است.
گوگل با درک این نیاز، قابلیت جدیدی را در اپلیکیشن جمینای معرفی کرده است که میتواند به عنوان یک سایت تشخیص عکس هوش مصنوعی عمل کند و مشخص سازد که آیا یک تصویر توسط ابزارهای خود گوگل تولید شده است یا خیر. این ابزار، به ویژه پس از عرضه مدل پیشرفته هوش مصنوعی نانو بنانا پرو که بر پایه جمینای ۳ ساخته شده، اهمیتی دوچندان پیدا کرده است.
ابزار SynthID Detector: واترمارک نامرئی و تشخیص تصاویر تولیدشده توسط هوش مصنوعی
گوگل برای مقابله با چالش تشخیص تصاویر ساختگی، از فناوری SynthID استفاده میکند. این فناوری، محتوای تولید یا ویرایش شده توسط ابزارهای هوش مصنوعی گوگل را با واترمارکهای نامرئی علامتگذاری میکند.
- واترمارک غیرقابل تشخیص برای انسان: علامتهای SynthID به گونهای هستند که برای چشم انسان قابل رؤیت نیستند و کیفیت بصری تصویر را تحت تأثیر قرار نمیدهند.
- تشخیص تصاویر تولیدشده توسط هوش مصنوعی نانو بنانا پرو: این علامتها به طور خاص برای مدلهای هوش مصنوعی مانند هوش مصنوعی نانو بنانا پرو طراحی شدهاند و توسط ابزار SynthID Detector که در اپلیکیشن جمینای ادغام شده، بهراحتی قابل شناساییاند.
از زمان معرفی این فناوری در سال ۲۰۲۳، بیش از ۲۰ میلیارد محتوای تولیدشده با هوش مصنوعی توسط گوگل علامتگذاری شدهاند و اکنون تمام تصاویر تولیدی مستقیماً در جمینای قابل شناسایی و علامتگذاری هستند. این اقدام به کاربران در تشخیص هوش مصنوعی کمک شایانی میکند.
محدودیت کلیدی و نحوه استفاده از برنامه تشخیص عکس هوش مصنوعی
این قابلیت جدید در جمینای، در راستای ایجاد شفافیت در اکوسیستم محتوای گوگل طراحی شده است. با این حال، یک محدودیت اساسی وجود دارد: این ابزار فقط میتواند تشخیص دهد که آیا تصویر مورد نظر توسط ابزارهای خود گوگل تولید یا ویرایش شده است یا خیر. بنابراین، در حال حاضر برای تشخیص عکس فیک با هوش مصنوعی که توسط مدلهای شرکتهای دیگر مانند سایت تشخیص فیلم هوش مصنوعی و سایر مدلها تولید شده باشند، کارایی ندارد.
نحوه استفاده از ابزار تشخیص تصاویر تولیدشده توسط هوش مصنوعی جمینای
برای استفاده از این قابلیت، فرآیند بسیار ساده است. این روش برای بررسی صحت انواع محتوا، از جمله تلاش برای شناسایی اشیا در عکس با هوش مصنوعی و یا تشخیص چهره با هوش مصنوعی (در صورت ساخت با ابزارهای گوگل) کاربرد دارد:
- تصویر مورد نظر خود را در اپلیکیشن جمینای آپلود کنید.
- سؤال کنید: «آیا این تصویر توسط هوش مصنوعی تولید شده؟»
- اگر تصویر دارای واترمارک SynthID باشد، جمینای به شما اطلاع میدهد که تصویر توسط ابزارهای گوگل ساخته شده است.
این قابلیت، کاربران را قادر میسازد تا با اطمینان بیشتری محتوای تولیدی را مصرف کنند و در برابر اطلاعات بصری گمراهکننده، آگاهی بیشتری کسب نمایند. مصنوعی و محتوای جعلی، یک گام رو به جلو محسوب میشود.
اگر به هوش مصنوعی و دنیای اپلیکیشن ها علاقهمند هستید، با ای بازی همراه شوید تا از جدیدترین اخبار مطلع بمانید.
ابزارهای هوش مصنوعی مانند موز نانویی برای جان بخشیدن به نقاشیهای کودکان، به خوبی نشان میدهد که چگونه ابزارهای هوش مصنوعی به بخشی از سرگرمیهای روزمره ما تبدیل شدهاند. بسیاری از کاربران پس از خلق چنین تصاویری، به سراغ هوش مصنوعی برای ساخت ریلز میروند تا این تحولات جادویی را به صورت ویدیوهای کوتاه و جذاب به اشتراک بگذارند.
