امکان حذف واترمارک ظاهری در تولیدات هوش مصنوعی Gemini

گوگل در اوت ۲۰۲۶ با به‌روزرسانی سیاست‌های محتوایی پلتفرم‌های Gemini و Flow، امکان حذف واترمارک Gemini را برای کاربران فراهم کرد تا بتوانند نشان‌های ظاهری و قابل‌مشاهده را در تصاویر، ویدیوها و فایل‌های صوتی تولیدشده توسط هوش مصنوعی غیرفعال کنند؛ با این وجود، این شرکت تأکید کرده است که به‌منظور حفظ اصالت و ردیابی منشأ محتوا، نشان‌های نامرئی و رمزنگاری‌شده نظیر SynthID و استانداردهای C2PA همچنان در لایه‌های پنهان فایل‌های خروجی تعبیه خواهند شد.

این تصمیم بازتاب‌دهنده یک چالش بزرگ در صنعت فناوری است: ایجاد تعادل میان تجربه کاربری (UX) و شفافیت دیجیتال. در حالی که واترمارک‌های ظاهری به سرعت ماهیت مصنوعی محتوا را به مخاطب اعلام می‌کنند، بسیاری از کاربران و تولیدکنندگان محتوا آن‌ها را مزاحم زیبایی‌شناسی بصری و کیفیت نهایی اثر می‌دانند. در ادامه به بررسی ابعاد فنی، کاربردی و مقرراتی این تغییر سیاست در گوگل می‌پردازیم.

جزئیات تغییر سیاست گوگل در Gemini و Flow

بر اساس گزارش‌های منتشرشده، تنظیمات جدید «Media watermark» به زودی در دسترس کاربران پلتفرم‌های محصولات جدید هوش مصنوعی گوگل قرار خواهد گرفت. تا پیش از این، گوگل به صورت پیش‌فرض یک واترمارک بصری (مانند لوگوی کوچک یا بافت خاص) را روی خروجی‌های تصویری و ویدیویی Gemini قرار می‌داد. این اقدام با هدف آگاه‌سازی فوری مخاطبان نهایی از ساختگی بودن محتوا انجام می‌شد.

با اعمال تغییرات جدید، کاربران این اختیار را پیدا می‌کنند که در صورت تمایل، این نشان‌های ظاهری را خاموش کنند. این ویژگی به ویژه برای طراحان گرافیک، تولیدکنندگان محتوای بصری و کسب‌وکارهایی که از هوش مصنوعی برای ساخت دارایی‌های دیجیتال استفاده می‌کنند، یک مزیت بزرگ محسوب می‌شود. آن‌ها دیگر نیازی به استفاده از ابزارهای ویرایش تصویر برای حذف دستی واترمارک‌ها نخواهند داشت.

تفاوت واترمارک ظاهری و نامرئی؛ فناوری‌های SynthID و C2PA

نکته کلیدی در این به‌روزرسانی آن است که حذف واترمارک ظاهری به معنای حذف کامل ردپای هوش مصنوعی نیست. گوگل تأکید کرده است که فناوری‌های واترمارک نامرئی همچنان به کار خود ادامه می‌دهند. در این بخش، دو فناوری اصلی که گوگل برای این منظور استفاده می‌کند را بررسی می‌کنیم:

فناوری SynthID گوگل

سینت‌آیدی (SynthID) یک سیستم واترمارکینگ دیجیتال اختصاصی گوگل است که مستقیماً در سطح پیکسل‌های تصویر یا فریم‌های ویدیو و حتی در موج‌های صوتی ادغام می‌شود. این نشان‌ها با چشم غیرمسلح قابل مشاهده نیستند و بر کیفیت بصری یا شنیداری محتوا تأثیری نمی‌گذارند. با این حال، ابزارهای تشخیص مخصوص گوگل می‌توانند این پیکربندی‌های پنهان را شناسایی کرده و تأیید کنند که محتوا توسط مدل‌های هوش مصنوعی گوگل تولید شده است.

استاندارد C2PA و ائتلاف اصالت محتوا

علاوه بر SynthID، گوگل از استانداردهای ائتلاف Coalition for Content Provenance and Authenticity (C2PA) نیز پشتیبانی می‌کند. این استاندارد یک چارچوب فنی باز است که اطلاعات مربوط به منشأ محتوا، ابزارهای استفاده‌شده و ویرایش‌های اعمال‌شده را در قالب متادیتای امن در فایل ذخیره می‌کند. این رویکرد به پلتفرم‌های اجتماعی و مرورگرها اجازه می‌دهد تا در صورت نیاز، برچسب‌های «ساخته شده با هوش مصنوعی» را به صورت خودکار روی محتوا نمایش دهند.

چرا واترمارک‌های ظاهری حذف می‌شوند؟

تصمیم گوگل برای قابل‌غیرفعال‌کردن واترمارک‌های ظاهری ریشه در بازخوردهای منفی کاربران و فشارهای اکوسیستم تولید محتوا دارد. دلایل اصلی این تغییر عبارتند از:

• حفظ زیبایی‌شناسی بصری: واترمارک‌های ظاهری اغلب ترکیب‌بندی تصاویر را مختل کرده و ارزش هناری یا تجاری آن‌ها را کاهش می‌دهند.
• تجربه کاربری یکپارچه: کسب‌وکارها و برندها نیاز دارند محتوای تولیدشده توسط هوش مصنوعی را به صورت یکپارچه در کمپین‌های تبلیغاتی خود استفاده کنند و واترمارک ظاهری این یکپارچگی را از بین می‌برد.
• رقابت با سایر پلتفرم‌ها: بسیاری از ابزارهای رقیب هوش مصنوعی واترمارک ظاهری قرار نمی‌دهند. گوگل با این تغییر، از نظر تجربه کاربری در برابر رقبای خود عقب نماند.

چالش‌های شفافیت دیجیتال و مقررات جهانی

با وجود مزایای تجربه کاربری، حذف واترمارک‌های ظاهری نگرانی‌هایی را در زمینه شفافیت دیجیتال و مبارزه با اخبار جعلی (Disinformation) ایجاد کرده است. وقتی مخاطب نتواند با یک نگاه ساده تشخیص دهد که یک تصویر یا ویدیو ساختگی است، خطر فریب خوردن و سوءاستفاده از آن افزایش می‌یابد.

این موضوع به ویژه در bốiست مقررات سخت‌گیرانه‌ای مانند الزامات قانونی واترمارک هوش مصنوعی در اتحادیه اروپا اهمیت می‌یابد. قانون هوش مصنوعی اروپا (EU AI Act) ارائه‌دهندگان سیستم‌های هوش مصنوعی را ملزم می‌کند که خروجی‌های تولیدشده را به گونه‌ای علامت‌گذاری کنند که قابل تشخیص باشد. گوگل با تکیه بر واترمارک‌های نامرئی و متادیتای C2PA استدلال می‌کند که همچنان به روح این قوانین پایبند است، هرچند که بار تشخیص را از دوش کاربر عادی برداشته و به عهده ابزارهای نرم‌افزاری و پلتفرم‌های میزبان می‌گذارد.

تأثیر بر اقتصاد دیجیتال و اعتماد به محتوا

در اقتصاد دیجیتال، اعتماد به محتوا یک کالای ارزشمند است. با گسترش استفاده از هوش مصنوعی مولد، مرز میان واقعیت و ساختار در حال کمرنگ شدن است. پلتفرم‌های بزرگ مانند کاربران فعال گوگل در یوتیوب، جست‌وجو و شبکه‌های اجتماعی باید زیرساخت‌هایی را توسعه دهند که بتوانند به صورت خودکار واترمارک‌های نامرئی SynthID و C2PA را اسکن کرده و در صورت نیاز، برچسب‌های شفافیت را به کاربر نهایی نشان دهند.

این رویکرد نشان‌دهنده یک تغییر پارادایم از «شفافیت مبتنی بر کاربر» به «شفافیت مبتنی بر پلتفرم» است. به عبارت دیگر، به جای اینکه از کاربر خواسته شود واترمارک را ببیند، از پلتفرم‌ها انتظار می‌رود که با استفاده از APIهای تشخیص، اصالت محتوا را در پس‌زمینه بررسی کرده و در صورت نیاز هشدار دهند.

جمع‌بندی

تصمیم گوگل برای افزودن تنظیمات غیرفعال‌سازی واترمارک ظاهری در Gemini و Flow، یک حرکت عمل‌گرایانه برای بهبود تجربه کاربری و رقابت در بازار ابزارهای تولید محتوای هوش مصنوعی است. با این حال، این شرکت با حفظ لایه‌های نامرئی SynthID و C2PA، تلاش کرده است تا تعادل ظریفی میان زیبایی‌شناسی بصری و شفافیت دیجیتال برقرار کند. در نهایت، موفقیت این رویکرد به توانایی پلتفرم‌های دیجیتال و شبکه‌های اجتماعی در خواندن و تفسیر این نشان‌های پنهان و اطلاع‌رسانی شفاف به کاربران نهایی بستگی خواهد داشت. آینده اعتماد دیجیتال نه در واترمارک‌های ظاهری، بلکه در زیرساخت‌های نامرئی و استانداردسازی متادیتا نهفته است.

سؤالات متداول (FAQ)

1. آیا با غیرفعال کردن واترمارک ظاهری، ردپای هوش مصنوعی کاملاً از بین می‌رود؟
   خیر. گوگل همچنان از فناوری‌های نامرئی مانند SynthID و استانداردهای C2PA برای علامت‌گذاری محتوای تولیدشده استفاده می‌کند.
2. فناوری SynthID چگونه کار می‌کند؟
   SynthID یک واترمارک دیجیتال است که در سطح پیکسل‌های تصویر یا فریم‌های ویدیو ادغام می‌شود و با چشم غیرمسلح قابل مشاهده نیست، اما توسط ابزارهای مخصوص گوگل قابل تشخیص است.
3. چرا گوگل این تغییر سیاست را اعمال کرد؟
   این تغییر عمدتاً به دلیل درخواست کاربران و تولیدکنندگان محتوا برای حفظ زیبایی‌شناسی بصری و بهبود تجربه کاربری در خروجی‌های هوش مصنوعی انجام شده است.
4. استاندارد C2PA چیست؟
   C2PA یک ائتلاف صنعتی است که استانداردهای فنی را برای ثبت اطلاعات منشأ محتوا و ویرایش‌های اعمال‌شده در قالب متادیتای امن توسعه می‌دهد.
5. آیا این تغییر با قوانین اتحادیه اروپا مغایرت دارد؟
   گوگل معتقد است با حفظ واترمارک‌های نامرئی و متادیتای C2PA، همچنان الزامات شفافیت قانون هوش مصنوعی اروپا (EU AI Act) را برآورده می‌کند.

برای دنبال کردن تحلیل‌های بیشتر درباره فناوری‌های هوش مصنوعی، اقتصاد دیجیتال و تحولات پلتفرم‌های بزرگ، گزارش‌های تخصصی پی‌کار را در بخش مقالات مطالعه کنید.

گزارش‌های اخیر نشان می‌دهد که واترمارک‌های ظاهری در تصاویر تولیدشده توسط هوش مصنوعی Gemini گوگل قابل حذف هستند؛ موضوعی که چالش‌های جدیدی را در زمینه اصالت محتوا و اعتماد دیجیتال در اقتصاد نوین ایجاد می‌کند. برای مطالعه تحلیل‌های بیشتر درباره فناوری‌های هوش مصنوعی و تأثیر آن‌ها بر اکوسیستم دیجیتال، به بخش مقالات مراجعه کنید و گزارش کامل فنی را در وب‌سایت ورج دنبال نمایید.