آنتروپیک بهتدریج و بدون اعلام رسمی، اثر انگشت نامرئی و قابل خواندن توسط ماشین را در تمام متونی که مدلهای جدید کلود تولید میکنند، وارد میکند. این تغییر برای مدلهایی که از اوت ۲۰۲۶ در اتحادیه اروپا عرضه شدهاند اجرایی شده و قرار است به صورت سراسری در سطح جهان اعمال شود.
شوه تناقض در این است که آنتروپیک پس از امضای قانون شفافیت هوش مصنوعی اتحادیه اروپا، برنامهاش برای درج این علامت را در یک مقاله پشتیبانی توضیح داده است. در نتیجه، این اقدام نوعی تعهد نیست، بلکه بیشتر نوعی پاسخ به الزامات قانونی است. اثر انگشت مذکور در تمامی سطوح خدمات، از چتبات و API گرفته تا کدهای کلود و شرکای ابری مانند AWS، Google Cloud و Microsoft Foundry قرار میگیرد.
نحوه کار اثر انگشت در متون
آنتروپیک اعلام کرده است که با تولید هر متن، یک اثر انگشت نامرئی و غیرقابل مشاهده در آن ادغام میکند که نه در ظاهر قابل دیدن است و نه تأثیر در معنی یا خوانایی دارد. این اثر انگشت بهگونهای است که در فرآیند کپی و چسباندن متن، همراه آن باقی میماند و حتی ممکن است پس از ویرایشهای جزئی نیز ظاهر شود.
این اثر انگشت در قالب متادیتای امضا شده کنار متن قرار میگیرد که استاندارد باز C2PA آن را تایید میکند. روش دقیق ساخت این اثر انگشت مخفی نگه داشته شده است، اما فرض بر این است که این روش یک امضای آماری است که در تصمیمگیریهای کلمات مدل اثر میگذارد و مطابق با روشی است که گوگل در SynthID Text استفاده میکند.
چالشهای کشف و حذف اثر انگشت
برخی محققان و توسعهدهندگان به سرعت دست به آزمایشاتی زدهاند و توسعه ابزارهایی برای شناسایی و حذف این اثر انگشتهای پنهان مشابه زدهاند. پروژههایی مانند mikiane/claude-watermark-cleaner و guillaumemeyer/watermarks-remover در گیتهاب بهکار گرفته شده و ابزارهایی برای پاکسازی اثر انگشت و علامتهای مصنوعی در فایلهای تصویری و متنی ارائه کردهاند.
این پروژهها معتقدند که یک امضای آماری در متن اعتبار چندانی ندارد و بیشتر کاربران را به تکرار و پاکسازی متن خود با مدلهای مختلف ترغیب میکند. در حالی که آنتروپیک هنوز ابزارهای تشخیص و اعتبارسنجی اثر انگشت خود را منتشر نکرده است، تاریخچه شرکت نشان میدهد که این شرکت سابقا یک مکانیزم مخفی در کد کلود داشت که اطلاعاتی مانند مکان کاربر و استفاده از پروکسیها را بدون اطلاع کاربر ردیابی میکرد.
آنتروپیک اعلام کرده است که بررسیهای گستردهتر بر روی کیفیت و موفقیت این اثر انگشت در آینده صورت خواهد گرفت، اما هنوز زمان مشخصی برای ارائه ابزارهای تشخیص عمومی اعلام نکرده است. در حال حاضر، این شیوه جدید نشان میدهد که حساسیتها درباره حفظ حریم خصوصی و شفافیت در توسعه هوش مصنوعی افزایش یافته است.
