شرکت OpenAI اعلام کرد برای کاربران اتحادیه اروپا به چت جی پی تی و ابزار برنامه‌نویسی Codex واترمارک نامرئی اضافه می‌کند. واترمارک جدید OpenAI می‌تواند شناسایی متن‌های نوشته‌شده با هوش مصنوعی را آسان‌تر کند، اما کاملا قابل‌اعتماد نیست. در ادامه‌ی این مقاله سایت فری لرن، با جزئیات این خبر آشنا می‌شویم.
واترمارک نامرئی به چت جی پی تی اضافه می‌شود
شرکت OpenAI اضافه‌کردن یک اثر انگشت نامرئی به محتوای تولیدشده توسط ChatGPT و Codex را در اتحادیه اروپا آغاز کرده است. این طرح در واکنش به الزامات قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) اجرا می‌شود.
شرکت OpenAI در توضیح این اقدام اعلام کرده است: «ما رویکرد خود در زمینه تعیین منشأ محتوا را گسترش می‌دهیم تا متن را نیز در پاسخ به الزامات قانونی اتحادیه اروپا شامل شود؛ در عین حال محدودیت‌های قابل‌توجه فناوری‌های فعلی واترمارک‌گذاری متنی را نیز در نظر داریم.»
واترمارک نامرئی متن OpenAI چگونه کار می‌کند؟
OpenAI این سیستم واترمارک‌گذاری هوش مصنوعی را textGrain می‌نامد. این فناوری از طریق انتخاب کلمات توسط مدل، یک سیگنال آماری پنهان در متن ایجاد می‌کند که بعدها یک ابزار تشخیص می‌تواند آن را جست‌وجو و شناسایی کند.
OpenAI می‌گوید textGrain در آزمایش‌های این شرکت عملکردی هم‌سطح یا بهتر از روش‌های دیگری داشته که مورد بررسی قرار گرفته‌اند؛ از جمله SynthID شرکت گوگل برای متن.
با این حال، خود OpenAI نیز اذعان دارد که تشخیص واترمارک همیشه موفقیت‌آمیز نیست.
در آزمایش‌های انجام‌شده، ابزار تشخیص توانست واترمارک را در حدود ۸۰ درصد از متن‌های روان‌شناسی ۲۰۰ توکنی شناسایی کند. این میزان برای متن‌های ۴۰۰ توکنی به حدود ۹۵ درصد افزایش یافت.
OpenAI می‌گوید ویرایش متن می‌تواند این سیگنال را به شکل قابل‌توجهی تضعیف کند. برای مثال، اگر ۱۰ درصد از کلمات با مترادف‌هایشان جایگزین شوند، نرخ تشخیص از حدود ۹۲ درصد به ۶۶ درصد کاهش پیدا می‌کند. اگر ۲۵ درصد از متن تولیدشده توسط هوش مصنوعی جایگزین یا تغییر داده شود، نرخ تشخیص به تنها ۱۷ درصد می‌رسد.
همچنین بخوانید:
شرکت OpenAI تبلیغات ChatGPT را افزایش خواهد داد
سم آلتمن: برای بهره‌مندی از هوش مصنوعی باید برخی اتفاقات بد را بپذیریم