نحوه کار واترمارک جدید کلود و الزامات قانون هوش مصنوعی

در ۲۴ مرداد ۱۴۰۵، شرکت آنتروپیک با انتشار گزارشی در وبلاگ رسمی خود، جزئیات فنی نحوه پیاده‌سازی واترمارک هوش مصنوعی بر متون تولیدشده توسط دستیار کلود (Claude) را تشریح کرد. این اقدام در راستای انطباق با «کد شفافیت» قانون هوش مصنوعی اتحادیه اروپا صورت گرفته است؛ مقرراتی که توسعه‌دهندگان را ملزم به استفاده از سیستم‌های قابل ردیابی برای شناسایی محتوای ماشینی می‌کند. انتشار این گزارش فنی، ضمن شفاف‌سازی رویکرد آنتروپیک، واکنش‌های متفاوتی را در میان کاربران و فعالان اکوسیستم فناوری برانگیخته و بحث‌های گسترده‌ای را پیرامون چالش‌های نظارتی و آینده تولید محتوای ماشینی شکل داده است.

مکانیزم فنی واترمارک کلود؛ الگوهای پنهان در انتخاب کلمات

آنتروپیک در توضیحات جدید خود، ابتدا یک نمای کلی از مفهوم واترمارک‌گذاری ارائه داد. بر اساس این توضیحات، هنگامی که مدل زبانی با «انتخاب‌های کم‌ریسک» مواجه می‌شود — مانند انتخاب بین کلمات «ابری» (overcast) و «خاکستری» (grey) برای توصیف وضعیت آب‌وهوا — کلود می‌تواند الگویی را در پاسخ‌های خود ایجاد کند. این الگو برای خواننده انسانی کاملاً نامرئی است، اما توسط هر کسی که کلید رمزنگاری‌شده آن را در اختیار داشته باشد، قابل تشخیص خواهد بود.

این شرکت تأکید کرد که «واترمارک‌گذاری هیچ تأثیری بر کیفیت خروجی کلود ندارد» و «برای یک خواننده، یک پاسخ واترمارک‌شده کاملاً با یک پاسخ بدون واترمارک غیرقابل تمایز است.» این ویژگی از اهمیت بالایی برخوردار است، زیرا نشان می‌دهد که مهندسان آنتروپیک توانسته‌اند بدون کاهش کارایی یا طبیعی بودن متن، لایه‌ای از شفافیت را به مدل اضافه کنند. برای درک عمیق‌تر این رویکرد، می‌توانید گزارش پیشین پی‌کار درباره واترمارک نامرئی و شفافیت در مدل‌های زبانی را مطالعه کنید.

استفاده از فناوری SynthID-Text و تمایز آن از تشخیص هوش مصنوعی

به‌طور مشخص‌تر، آنتروپیک اعلام کرد که از رویکرد SynthID-Text استفاده خواهد کرد؛ فناوری‌ای که تیم گوگل دیپ‌مایند (Google DeepMind) پیش‌تر در سال ۲۰۲۴ آن را تشریح کرده بود. این فناوری بر پایه تغییرات آماری ظریف در احتمال انتخاب توکن‌ها (کلمات یا بخش‌های کلمات) کار می‌کند. علاوه بر این، آنتروپیک اشاره کرد که قصد دارد یک API (رابط برنامه‌نویسی کاربردی) برای تشخیص واترمارک را نیز منتشر کند تا توسعه‌دهندگان و نهادهای نظارتی بتوانند به‌راحتی اصالت متون را بررسی کنند.

نکته حائز اهمیت این است که آنتروپیک تأکید کرد واترمارک‌گذاری با «تشخیص هوش مصنوعی» (AI Detection) تفاوت ماهوی دارد. ابزارهای تشخیص هوش مصنوعی معمولاً بر اساس حدس و گمان و تحلیل الگوهای آماری کار می‌کنند و ممکن است دچار خطا شوند، اما واترمارک یک امضای دیجیتال قطعی و رمزنگاری‌شده است که وجود آن را با قطعیت ریاضی اثبات می‌کند. این تمایز در عصری که محصولات جدید هوش مصنوعی با سرعتی خیره‌کننده در حال توسعه هستند، برای حفظ اعتماد عمومی ضروری است.

واکنش کاربران؛ از تئوری توطئه تا لغو اشتراک‌ها

با وجود توضیحات فنی، این تصمیم آنتروپیک بدون چالش نبود. کاربران کلود از زمان اعلام این خبر در اوایل هفته، در حال بحث و جدل درباره این حرکت بوده‌اند. در پلتفرم ردیت (Reddit)، یکی از کاربران این اقدام را «توطئه‌ای علیه کاربران بی‌گناه کلود» توصیف کرد، در حالی که کاربر دیگری نوشت: «تنها دلیلی که کسی نمی‌خواهد این کار انجام شود، این است که بخواهد به مردم دروغ بگوید.»

در همین حال، پایگاه خبری بیزنس اینسایدر (Business Insider) گزارش داد که «ده‌ها» کاربر در شبکه اجتماعی ایکس (X) ادعا کرده‌اند که به protest به این موضوع، اشتراک‌های پولی کلود خود را لغو کرده‌اند. این واکنش‌ها نشان‌دهنده حساسیت بالای کاربران نسبت به حریم خصوصی، مالکیت داده‌ها و احساس نظارت شدن توسط شرکت‌های فناوری است، حتی زمانی که این نظارت صرفاً برچسب‌گذاری روی خروجی‌های تولیدشده باشد.

اهمیت موضوع برای اقتصاد دیجیتال و صنعت فین‌تک

چرا این موضوع برای صنعت فین‌تک و اقتصاد دیجیتال اهمیت دارد؟ با گسترش استفاده از هوش مصنوعی در بخش‌های مالی، از تولید گزارش‌های تحلیلی خودکار تا تعامل با مشتریان، مسئله «اصالت و مسئولیت محتوا» به یک چالش نظارتی بزرگ تبدیل شده است. نهادهای مالی باید بتوانند تضمین کنند که اطلاعات ارائه‌شده به سرمایه‌گذاران یا مشتریان، توسط هوش مصنوعی تولید شده و نیازمند بررسی انسانی است.

علاوه بر این، با ظهور تراکنش‌های مبتنی بر عامل‌های هوش مصنوعی، که در آن‌ها بات‌ها به‌طور خودکار پرداخت‌ها و قراردادهای مالی را مدیریت می‌کنند، وجود یک لایه تایید هویت دیجیتال برای متون و دستورات تولیدشده توسط این عامل‌ها، به یک ضرورت امنیتی تبدیل می‌شود. واترمارک‌ها می‌توانند به عنوان یک مکانیزم ضدجعل (Anti-spoofing) در تراکنش‌های مالی خودکار عمل کنند و از دستکاری دستورات مالی توسط بازیگران مخرب جلوگیری نمایند.

نسبت این موضوع با اکوسیستم فناوری و فین‌تک ایران

اگرچه ایران در حال حاضر تحت پوشش مستقیم قانون هوش مصنوعی اتحادیه اروپا قرار ندارد، اما اکوسیستم فین‌تک و بانکداری دیجیتال ایران به‌شدت در حال ادغام ابزارهای هوش مصنوعی در سرویس‌های خود است. بانک‌ها و شرکت‌های پرداخت ایرانی از مدل‌های زبانی برای پشتیبانی مشتریان، تحلیل ریسک اعتباری و تولید محتوای بازاریابی استفاده می‌کنند.

از آنجا که بسیاری از این شرکت‌ها از زیرساخت‌ها و APIهای شرکت‌های خارجی بهره می‌برند یا قصد دارند در آینده محصولات خود را به بازارهای منطقه صادر کنند، آشنایی با استانداردهای جهانی شفافیت هوش مصنوعی برای آن‌ها ضروری است. نهادهای رگولاتوری ایران، مانند بانک مرکزی و سازمان فناوری اطلاعات، باید از همین حالا چارچوب‌هایی را برای استفاده مسئولانه از هوش مصنوعی در بخش مالی تدوین کنند تا از بروز چالش‌های حقوقی و امنیتی در آینده جلوگیری شود. همچنین، توسعه‌دهندگان بومی باید به فکر ایجاد راهکارهای مشابه برای مدل‌های زبانی فارسی باشند تا اصالت محتوای تولیدشده در پلتفرم‌های داخلی قابل راستی‌آزمایی باشد.

جمع‌بندی و پرسش‌های پیش‌رو

اقدام آنتروپیک در پیاده‌سازی واترمارک برای کلود، نقطه عطفی در حرکت به سمت هوش مصنوعی قابل‌ردیابی و مسئولیت‌پذیر است. اگرچه این امر با مقاومت برخی کاربران به دلیل نگرانی‌های حریم خصوصی مواجه شده، اما برای انطباق با قوانین جهانی و حفظ اعتماد در اکوسیستم دیجیتال، به‌ویژه در بخش‌های حساسی مانند فین‌تک، اجتناب‌ناپذیر به نظر می‌رسد. پرسش اصلی که در ماه‌های آینده باقی می‌ماند این است که آیا سایر شرکت‌های بزرگ هوش مصنوعی نیز رویکردهای مشابهی را اتخاذ خواهند کرد و آیا استاندارد واحدی برای این واترمارک‌ها در سطح جهانی شکل خواهد گرفت یا خیر.

سؤالات متداول

• واترمارک هوش مصنوعی کلود چگونه کار می‌کند؟
  این سیستم با ایجاد الگوهای آماری ظریف در انتخاب کلمات کم‌ریسک (مانند انتخاب بین مترادف‌ها) کار می‌کند که برای انسان نامرئی اما با کلید رمزنگاری قابل تشخیص است.
• آیا واترمارک بر کیفیت خروجی متن تاثیر می‌گذارد؟
  خیر، آنتروپیک تأکید کرده است که این فرآیند هیچ تأثیری بر کیفیت، روانی یا دقت خروجی‌های مدل کلود ندارد.
• تفاوت واترمارک با ابزارهای تشخیص هوش مصنوعی چیست؟
  واترمارک یک امضای دیجیتال قطعی و رمزنگاری‌شده است که وجود آن اثبات می‌شود، در حالی که ابزارهای تشخیص هوش مصنوعی بر اساس حدس و تحلیل آماری کار می‌کنند و ممکن است خطا داشته باشند.
• چرا برخی کاربران به این ویژگی جدید واکنش منفی نشان دادند؟
  برخی کاربران نگران مسائل حریم خصوصی هستند و این اقدام را نوعی نظارت یا محدودیت می‌دانند، که منجر به لغو اشتراک برخی از آن‌ها شده است.
• این موضوع چه تاثیری بر شرکت‌های فین‌تک و اقتصاد دیجیتال دارد؟
  این فناوری به نهادهای مالی کمک می‌کند تا اصالت گزارش‌ها و ارتباطات تولیدشده توسط هوش مصنوعی را تایید کنند و در تراکنش‌های خودکار مبتنی بر عامل‌های هوش مصنوعی، امنیت و ضدجعل بودن دستورات را تضمین نمایند.

برای دنبال کردن تحلیل‌های بیشتر درباره فین‌تک، بانکداری دیجیتال، اقتصاد نوآوری و تنظیم‌گری هوش مصنوعی، گزارش‌های تخصصی پی‌کار را در بخش مقالات بخوانید.

آنتروپیک جزئیات فنی مکانیزم واترمارک جدید کلود را جهت انطباق با الزامات شفافیت قانون هوش مصنوعی اروپا منتشر کرد؛ این سیستم ردیابی محتوا، چالش‌های نظارتی جدیدی را برای اقتصاد دیجیتال و فین‌تک ایجاد می‌کند. برای بررسی بیشتر تحولات فناوری به بخش مقالات مراجعه کنید و گزارش کامل فنی را در تک‌کرانچ مطالعه کنید.