گوگل ابزار واترمارک دیجیتال خود برای خروجی‌های هوش‌مصنوعی را متن‌باز کرد

گوگل ابزار واترمارک دیجیتال خود برای خروجی‌های هوش‌مصنوعی را متن‌باز کرد

ابزار SynthID یکی از قابلیت‌های بخش هوش مصنوعی گوگل است که به توسعه‌دهندگان اجازه می‌دهد به خروجی‌های تولیدشده توسط مدل‌های مولد، واترمارک دیجیتال اضافه کنند. واترمارک می‌تواند برای تشخیص چنین متن‌هایی هم مورد استفاده قرار بگیرد و حتی نوع مدل مورد استفاده را هم مشخص کند.

فناوری SynthID گوگل چه کاربردی دارد؟

گسترش استفاده از مدل‌های زبانی مولد برای تولید متن، نیاز به ابزارهایی برای تشخیص اینگونه از محتوا را محسوس‌تر کرده است. گوگل به همین منظور از فناوری SynthID خود برای واترمارک گذاشتن روی متن‌های ساخته شده با هوش مصنوعی استفاده می‌کند تا بتوان آنها را به‌آسانی شناسایی کرد. اکنون گوگل اعلام کرده است که ابزار مذکور به‌صورت متن‌باز در اختیار سایر توسعه‌دهندگان هم قرار خواهد داشت تا از آن برای ثبت واترمارک روی خروجی مدل‌های خود بهره بگیرند.

ابزار SynthID گوگل از طریق کیت توسعه Responsible Generative AI این شرکت در اختیار علاقه‌مندان قرار گرفته است که امکانات و قابلیت‌های دیگری را هم در اختیار توسعه‌دهندگان قرار می‌دهد. سرپرست بخش دیپ‌مایند گوگل اشاره کرده که هدف از چنین اقدامی، آسان‌تر ساختن توسعه هوش مصنوعی اخلاقی و مسئولیت‌پذیرانه بوده است.

اهمیت واترمارک در خروجی مدل‌های زبانی به‌شدت افزایش یافته است و حتی ایالت کالیفرنیا به‌دنبال این است که استفاده از واترمارک را برای همه شرکت‌ها اجباری کند. به‌کمک این قابلیت، می‌تواند از پخش شدن اخبار غلط به‌خصوص در حوزه سیاست یا محتوای غیراخلاقی جلوگیری کرد. دولت چین هم از سال گذشته میلادی، توسعه‌دهندگان را مجبور به استفاده از واترمارک روی ابزارهای هوش مصنوعی مولد متن کرده است. درحال‌حاضر چت‌بات جمینای به قابلیت SynthID مجهز شده است و متون آن قابل ردیابی و تشخیص است.

گوگل برای اولین‌بار در تابستان امسال از ابزار SynthID رونمایی کرد که با قرار دادن واترمارک‌های پنهان در متن‌ها، عکس‌ها، ویدئوها و فایل‌های صوتی، می‌تواند آنها را قابل شناسایی کند. گوگل ادعا دارد که نسخه مخصوص متن این ابزار،‌ متن را به‌نحوی تغییر می‌دهد که تشخیص آنها برای کامپیوتر ممکن خواهد بود؛ اما خوانندگان متوجه وجود چنین تغییراتی در متن نمی‌شوند. همچنین اشاره شده است که استفاده از واترمارک، تاثیری روی کیفیت، دقت، سرعت و خلاقیت خروجی‌ها نخواهد داشت که در گذشته یکی از مشکلات مهم اینگونه از ابزارها به‌شمار می‌رفت.