افزودن واترمارک نامرئی به Claude برای محتوای هوش مصنوعی

شرکت آنتروپیک در تاریخ ۱۹ مرداد ۱۴۰۵ (۱۱ آگوست ۲۰۲۶) رسماً از ادغام قابلیت «واترمارک نامرئی هوش مصنوعی» در مدل پیشرفته Claude خبر داد؛ تحولی استراتژیک که مستقیماً در پاسخ به الزامات قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) و با هدف علامت‌گذاری پنهان محتوای متنی و تصویری این مدل طراحی شده است. این فناوری با تزریق نشانه‌های دیجیتال غیرقابل‌رویت به خروجی‌های مدل، زیرساخت لازم برای افزایش شفافیت، ردیابی دقیق منشأ محتوا و احراز اصالت آن را فراهم می‌کند و به عنوان یک استاندارد نوین، چالش‌های مربوط به کپی‌رایت، امنیت داده‌ها و انتشار اطلاعات ساختگی در اکوسیستم دیجیتال را هدف قرار داده است.

این تصمیم آنتروپیک تنها یک به‌روزرسانی فنی نیست، بلکه یک گام عملی در جهت همسوسازی محصولات هوش مصنوعی با چارچوب‌های نظارتی در حال ظهور در سطح جهانی است. با گسترش استفاده از مدل‌های زبانی بزرگ و ابزارهای تولید تصویر، مرز میان محتوای انسانی و مصنوعی به شدت کمرنگ شده است. واترمارک‌های نامرئی به عنوان یک لایه حفاظتی جدید، به پلتفرم‌ها، نهادها و کاربران اجازه می‌دهند تا منبع و اصالت محتوا را تایید کنند.

جزئیات اجرای استاندارد C2PA در مدل Claude

آنتروپیک برای پیاده‌سازی این قابلیت، از استاندارد ائتلاف اصالت و منشأ محتوا (C2PA) استفاده کرده است. این استاندارد که توسط شرکت‌های بزرگ فناوری و رسانه‌ای توسعه یافته، یک چارچوب فنی برای امضای دیجیتال و ثبت متادیتای محتوای رسانه‌ای است. در مورد Claude، این واترمارک‌ها به گونه‌ای طراحی شده‌اند که برای کاربر نهایی کاملاً نامرئی باشند، اما توسط ابزارهای تشخیص مخصوص قابل خواندن و تایید باشند.

برای محتوای متنی، واترمارک نامرئی معمولاً از طریق تغییرات بسیار ظریف در توزیع آماری کلمات یا توکن‌ها اعمال می‌شود، به طوری که کیفیت، روانی و مفهوم متن تغییری نکند. در مقابل، برای تصاویر تولیدشده، این واترمارک‌ها می‌توانند به صورت نویزهای پیکسلی نامحسوس یا متادیتای رمزنگاری‌شده در فایل تصویر گنجانده شوند. این رویکرد دوگانه تضمین می‌کند که هم خروجی‌های متنی و هم بصری Claude دارای یک شناسه دیجیتال قابل اثبات باشند.

الزامات قانون هوش مصنوعی اتحادیه اروپا

تصمیم آنتروپیک را نمی‌توان جدا از قانون هوش مصنوعی اتحادیه اروپا بررسی کرد. این قانون که در سال‌های اخیر به تدریج در حال اجرایی شدن است، الزامات شفافیت سخت‌گیرانه‌ای را برای مدل‌های هوش مصنوعی عمومی (GPAI) و سیستم‌های تولید محتوای مصنوعی (deepfakes) در نظر گرفته است. بر اساس این مقررات، ارائه‌دهندگان هوش مصنوعی موظفند محتوای تولیدشده توسط سیستم‌های خود را به گونه‌ای علامت‌گذاری کنند که برای کاربران و نهادهای نظارتی قابل تشخیص باشد.

این قوانین به ویژه برای جلوگیری از انتشار اطلاعات نادرست، دستکاری در افکار عمومی و کلاهبرداری‌های سایبری طراحی شده‌اند. آنتروپیک با پیش‌دستی در اعمال واترمارک‌های نامرئی بر اساس استاندارد C2PA، نه تنها انطباق خود با قوانین اروپا را تضمین کرده، بلکه خود را به عنوان یک بازیگر پیشرو در زمینه هوش مصنوعی مسئولانه و قابل اعتماد در سال ۲۰۲۶ posicion می‌کند.

تأثیر شفافیت هوش مصنوعی بر امنیت فین‌تک و بانکداری دیجیتال

اگرچه خبر اعمال واترمارک به Claude مستقیماً یک خبر مالی نیست، اما پیامدهای آن برای صنعت فین‌تک، بانکداری دیجیتال و امنیت سایبری بسیار عمیق است. یکی از بزرگترین چالش‌های فعلی نهادهای مالی، مقابله با کلاهبرداری‌های مبتنی بر هوش مصنوعی، به ویژه هویت‌های مصنوعی (Synthetic Identities) و دیپ‌فیک‌های صوتی و تصویری است.

در فرآیندهای احراز هویت بیومتریک و KYC، مجرمان سایبری از مدل‌های تولید تصویر و صدا برای دور زدن سیستم‌های امنیتی بانک‌ها استفاده می‌کنند. وجود استانداردهایی مانند C2PA و قابلیت‌هایی نظیر واترمارک نامرئی، به نهادهای مالی اجازه می‌دهد تا در لایه معماری اعتماد در فین‌تک و اقتصاد دیجیتال، اصالت مدارک و محتوای ارائه‌شده توسط کاربران را بررسی کنند. اگر یک تصویر یا سند متنی دارای واترمارک هوش مصنوعی باشد، سیستم‌های بانکی می‌توانند به صورت خودکار آن را به عنوان محتوای ساختگی شناسایی کرده و از پردازش آن جلوگیری کنند.

علاوه بر این، با حرکت به سمت امنیت پرداخت بیومتریک فراتر از رمزهای عبور، تشخیص محتوای جعلی تولیدشده توسط AI به یک ضرورت حیاتی تبدیل شده است. بانک‌ها و شرکت‌های پرداخت باید بتوانند تفاوت بین یک ویدیوی تماس واقعی از مشتری و یک ویدیوی دیپ‌فیک تولیدشده توسط مدل‌هایی مانند Claude را در کسری از ثانیه تشخیص دهند. توسعه مدل‌های امنیت سایبری هوش مصنوعی در کنار ابزارهای اثبات اصالت محتوا، دو بال اصلی برای محافظت از زیرساخت‌های مالی در برابر تهدیدات نوظهور هستند.

نسبت این موضوع با اکوسیستم مالی و فین‌تک ایران

در اکوسیستم فین‌تک ایران، که در سال ۱۴۰۵ با رشد چشمگیر پرداخت‌های دیجیتال، نئوبانک‌ها و سرویس‌های وام‌دهی آنلاین مواجه است، تهدیدات سایبری نیز همگام با فناوری‌های جهانی در حال تکامل هستند. گزارش‌های داخلی نشان می‌دهد که تلاش‌ها برای مهندسی اجتماعی و استفاده از ابزارهای هوش مصنوعی برای کلاهبرداری از مشتریان بانکی در ایران رو به افزایش است.

اگرچه ایران مستقیماً تحت قوانین اتحادیه اروپا نیست، اما شرکت‌های فین‌تک و بانک‌های ایرانی که به دنبال ارتقای سطح امنیت سایبری و انطباق با استانداردهای بین‌المللی هستند، باید این تحولات را جدی بگیرند. نهاد ناظر (بانک مرکزی و پلیس فتا) و همچنین شرکت‌های خصوصی فعال در حوزه امنیت و احراز هویت، نیازمند توسعه یا بومی‌سازی ابزارهای تشخیص اصالت محتوا (Content Provenance) هستند. عدم توجه به لایه‌های شفافیت هوش مصنوعی می‌تواند در آینده‌ای نزدیک، حفره‌های امنیتی بزرگی را در فرآیندهای احراز هویت غیرحضوری (e-KYC) و تایید تراکنش‌های کلان در ایران ایجاد کند.

جمع‌بندی و چشم‌انداز آینده

افزودن واترمارک نامرئی به Claude توسط آنتروپیک، نشان‌دهنده یک تغییر پارادایم در صنعت هوش مصنوعی است؛ گذار از تولید محتوای نامحدود و بدون شناسنامه، به سمت تولید محتوای قابل ردیابی و مسئولانه. این اقدام که تحت تأثیر قوانین اتحادیه اروپا انجام شده، به احتمال زیاد به یک استاندارد صنعتی تبدیل خواهد شد و سایر توسعه‌دهندگان مدل‌های زبانی و تولید تصویر را نیز به پیروی از آن وادار خواهد کرد.

برای صنعت فین‌تک و بانکداری، این یک فرصت است تا با ادغام ابزارهای تشخیص واترمارک در سیستم‌های امنیتی خود، سد محکمی در برابر کلاهبرداری‌های مبتنی بر هوش مصنوعی ایجاد کنند. با این حال، چالش‌های فنی همچنان باقی است؛ از جمله اطمینان از اینکه واترمارک‌ها در برابر حملات حذف یا دستکاری مقاوم باشند و اینکه استانداردهای مختلفی مانند C2PA در سطح جهانی با یکدیگر سازگار شوند.

سؤالات متداول

۱. واترمارک نامرئی هوش مصنوعی چگونه کار می‌کند؟

واترمارک‌های نامرئی با استفاده از تغییرات ظریف در سطح داده‌ها (مانند توزیع آماری کلمات در متن یا نویزهای پیکسلی در تصویر) یا افزودن متادیتای رمزنگاری‌شده اعمال می‌شوند. این تغییرات برای چشم انسان نامرئی هستند اما توسط الگوریتم‌های تشخیص مخصوص قابل خواندن می‌باشند.

۲. چرا آنتروپیک این قابلیت را به Claude اضافه کرد؟

این اقدام عمدتاً برای رعایت الزامات شفافیت قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) انجام شده است که ارائه‌دهندگان AI را ملزم به علامت‌گذاری محتوای تولیدشده توسط سیستم‌هایشان می‌کند.

۳. استاندارد C2PA چیست و چه نقشی دارد؟

C2PA (Coalition for Content Provenance and Authenticity) یک استاندارد فنی باز است که برای ایجاد یک روش قابل اعتماد و مقیاس‌پذیر جهت تایید منشأ و تاریخچه محتوای رسانه‌ای و متنی توسعه یافته است.

۴. واترمارک‌های هوش مصنوعی چه کمکی به بانک‌ها و فین‌تک‌ها می‌کنند؟

این واترمارک‌ها به نهادهای مالی کمک می‌کنند تا محتوای ساختگی (مانند تصاویر دیپ‌فیک یا اسناد متنی جعلی تولیدشده توسط AI) را در فرآیندهای احراز هویت و بررسی اسناد شناسایی کرده و از کلاهبرداری‌های سایبری جلوگیری کنند.

۵. آیا این واترمارک‌ها قابل حذف یا دستکاری هستند؟

استانداردهایی مانند C2PA از تکنیک‌های رمزنگاری برای ایجاد زنجیره اعتماد استفاده می‌کنند که دستکاری آن‌ها را بسیار دشوار می‌سازد. با این حال، تحقیقات برای مقاوم‌سازی این واترمارک‌ها در برابر حملات عمدی برای حذف آن‌ها همچنان در جریان است.

برای دنبال کردن تحلیل‌های بیشتر درباره فین‌تک، بانکداری دیجیتال، امنیت سایبری و اقتصاد نوآوری، گزارش‌های تخصصی پی‌کار را در بخش فین‌تک و اقتصاد دیجیتال بخوانید.

شرکت آنتروپیک با فعال‌سازی واترمارک نامرئی مبتنی بر استاندارد C2PA در خروجی‌های متنی و تصویری کلود، گامی عملی در جهت شفافیت هوش مصنوعی و ردیابی منشأ محتوا برداشته است. این رویکرد نشان‌دهنده حرکت جدی توسعه‌دهندگان مدل‌های زبانی به سمت مسئولیت‌پذیری در برابر چالش‌های محتوای جعلی است. برای مطالعه تحلیل‌های بیشتر درباره تحولات فناوری و اقتصاد دیجیتال، به بخش مقالات پی‌کار مراجعه کنید و برای بررسی جزئیات این خبر، گزارش کامل The Verge را بخوانید.