آنتروپیک، واترمارک مدل را به خروجیهای کلود اضافه کرد
واترمارکها بهطور پیشفرض بر روی مدلهای منتشر شده پس از ۲ اوت ارسال خواهند شد، اما مقاومت در برابر ویرایش هنوز مشخص نشده است.
آنتروپیک میگوید که متن تولید شده توسط مدلهای هوش مصنوعی خود، از جمله کلاود، را با واترمارک علامتگذاری خواهد کرد تا با کد شفافیت قانون هوش مصنوعی اتحادیه اروپا که از ۲ اوت ۲۰۲۶ به اجرا درآمد، مطابقت داشته باشد. این شرکت در حال پیشبرد واترمارکگذاری به لایه مدل در تمام سطوح کلاود است، در حالی که میزان ویرایش کاربر که میتواند تشخیص را مختل کند، همچنان باز است.
آنتروپیک تأیید کرده است که متن تولید شده توسط مدلهای هوش مصنوعی خود، از جمله کلاود، را با واترمارک علامتگذاری خواهد کرد و این راهاندازی را مستقیماً به الزامات شفافیت اروپایی تحت کد شفافیت قانون هوش مصنوعی اتحادیه اروپا که از ۲ اوت ۲۰۲۶ به اجرا درآمد، مرتبط کرده است. این شرکت تغییرات را در یک صفحه پشتیبانی بهروزرسانی شده افشا کرد.
اجرای این فرآیند مرحلهای است. آنتروپیک گفت که تمام مدلهایی که پس از ۲ اوت منتشر میشوند، بهطور خودکار شامل فناوری واترمارکگذاری برای متن و فایلهای تولید شده توسط کامپیوتر خواهند بود و برنامهریزی کرده است که پشتیبانی از واترمارکگذاری را به مدلهای قدیمیتر در طول زمان گسترش دهد.
انتخاب طراحی کلیدی این است که کنترل در کجا قرار دارد. آنتروپیک واترمارکگذاری را به عنوان یک ویژگی مدل در نظر میگیرد نه یک ویژگی برنامه، که باعث میشود تغییر مسیر آن با تغییر از یک رابط کلاود به دیگری دشوارتر شود.
چگونه واترمارک در سطوح کلاود کار میکند — و C2PA کجا قرار میگیرد
توضیحات صفحه پشتیبانی آنتروپیک، واترمارک متن را به عنوان بخشی از خروجی خود توصیف میکند، نه به عنوان یک برچسب UI متصل. "زیرا واترمارک بخشی از متن است، با متن هنگام کپی و چسباندن به مکانهای دیگر سفر خواهد کرد و ممکن است از طریق برخی ویرایشها باقی بماند. واترمارکگذاری در سطح مدل اعمال خواهد شد، به این معنی که در هر کدام از محصولات یا سطوح کلاود که متن از آنجا میآید، وجود خواهد داشت," این شرکت نوشت.
این زبان "سطح" برای تیمهایی که نقاط پایانی کلاود را ترکیب و تطبیق میدهند، اهمیت دارد. آنتروپیک گفت که واترمارکگذاری به پلتفرم کلاود اعمال خواهد شدAPI, کلاود، کد کلاود، همکار کلاود و برچسب کلاود، که بیشتر مسیرهای رایج را که فروشگاههای بومی کریپتو یادداشتهای تحقیقاتی، نظرات بازار، پاسخهای پشتیبانی و خلاصههای داخلی تولید میکنند، پوشش میدهد.
برای فایلها، آنتروپیک گفت که از استاندارد باز C2PA استفاده میکند. C2PA یک فرمت منشأ و متاداده است که برای خواندن ماشین در ابزارها طراحی شده است، که این جهتگیری است که تنظیمکنندگان زمانی که از محتواهای تولید شده یا ویرایش شده توسط هوش مصنوعی میخواهند به گونهای علامتگذاری شود که "سیستمهای دیگر بتوانند شناسایی کنند"، به آن فشار میآورند.
زمینه گستردهتر این است که منشأ به یک مشکل پلتفرم تبدیل میشود، نه فقط یک ترجیح مدل-تأمینکننده. آنتروپیک به یک تغییر وسیعتر در صنعت به سمت واترمارکگذاری و برچسبگذاری اشاره کرد و شرکتهای دیگری را نام برد که متعهد به رعایت کد اتحادیه اروپا هستند، از جمله Black Forest Labs، Google، Meta، Microsoft، OpenAI و Synthesia.
آنچه که معاملهگران و تیمهای کریپتو باید به آن توجه کنند: قابلیت شناسایی در مقابل مقاومت در برابر ویرایش
سؤال فنی حلنشده، استحکام در برابر بازنویسی است. آنتروپیک میگوید که واترمارک ممکن است از طریق برخی ویرایشها باقی بماند، اما مشخص نکرده است که چه سطح یا نوع ویرایشی شناسایی را مختل میکند و آستانهها، معیارها یا مثالهایی را منتشر نکرده است که به کاربران پاییندستی اجازه دهد حالت شکست را مدلسازی کنند.
این فاصله از نظر عملی مهم است زیرا بسیاری از خطوط توزیع کریپتو به طور طراحی شده ویرایشمحور هستند. یادداشتهای تحقیق به رشتهها بازنویسی میشوند، خبرنامهها برای انطباق اصلاح میشوند و نظرات خودکار اغلب پس از پردازش برای مطابقت با سبک خانه ویرایش میشوند. اگر بازنویسیهای مختصر سیگنال را حذف کند، واترمارک به برچسب پیشفرض نزدیکتر میشود برای "خروجی خام کلاود".
اگر از ویرایشهای رایج جان سالم به در ببرد، به یک نشانگر پایدار منشأ تبدیل میشود که میتواند محتوا را به سمت توزیع دنبال کند.
دو جزئیات در مورد راهاندازی نیز تعیین میکند که این برای جریانهای کاری موجود چقدر واقعی است. اول زمانبندی برای مدلهای قدیمی کلاود و نقاط پایانی قدیمی است، زیرا بسیاری از اتوماسیونها به نسخههای خاصی متصل هستند و مگر اینکه مجبور شوند، حرکت نمیکنند.
دوم رفتار پلتفرم پاییندستی است که با بلوغ اجرای کد شفافیت اتحادیه اروپا، شامل اینکه آیا سیستمهای بزرگ انتشار و تعدیل به طور خودکار محتوایی را که واترمارک کلاود را دارد علامتگذاری میکنند یا خیر.
در سمت فایل، پذیرش C2PA نشانه دیگری است. اگر خطوط محتوای رایج و ابزارهای انطباق شرکتی شروع به بررسی سیگنالهای C2PA به طور پیشفرض کنند، منشأ فایل به جای متاداده اختیاری، در عمل قابل اجرا میشود.
دیدگاه من: واترمارکگذاری به یک محدودیت پیشفرض در محتوای بازار تولید شده توسط AI تبدیل میشود.
قسمتی که در اینجا مهم است، محل کنترل است. واترمارکگذاری در سطح مدل، منشأ را به یک ویژگی پیشفرض از خروجیهای کلاود در سراسر API و سطوح محصولی که آنتروپیک فهرست کرده است، تبدیل میکند، که "فقط از یک رابط متفاوت استفاده کن" را به یک راه فرار کاهش میدهد که تلاشهای برچسبگذاری قبلی را سطحی احساس میکرد.
آستانهای که مهم است، مقاومت در برابر ویرایش است. اگر آنتروپیک بتواند نشان دهد که واترمارک از انواع بازنویسیهایی که تیمها واقعاً قبل از انتشار انجام میدهند، جان سالم به در میبرد، آنگاه منشأ دیگر یک انتخاب UI نخواهد بود و شروع به رفتار مانند یک محدودیت قابل اجرا در نحوه حرکت محتوای بازار تولید شده توسط AI از طریق سیستمهای توزیع و تعدیل خواهد کرد.
