ابزار جدید گوگل از برای شناسایی محتوای تولید شده با هوش مصنوعی
ابزار جدید گوگل
در جریان رویداد Google I/O، گوگل از ابزار جدیدی به نام SynthID Detector پردهبرداری کرد؛ ابزاری که میتواند محتوای تولیدشده با ابزارهای هوش مصنوعی گوگل را شناسایی و بررسی کند.
گوگل در جدیدترین اقدام خود برای شفافسازی در حوزه هوش مصنوعی، از ابزاری به نام SynthID Detector رونمایی کرد. این ابزار که توسط تیم DeepMind توسعه یافته، به عنوان یک «درگاه تأیید» عمل میکند و قادر است بهصورت سریع و کارآمد تشخیص دهد که آیا یک محتوای خاص با استفاده از هوش مصنوعی گوگل تولید شده است یا خیر.
به گفته Pushmeet Kohli از تیم DeepMind، این ابزار قابلیت شناسایی واترمارکهای نامرئی SynthID را دارد که در محتوای متنی، تصویری، صوتی و ویدیویی تولیدشده توسط مدلهایی نظیر Gemini، Imagen، Lyria و Veo از سوی گوگل بهکار رفتهاند.
نحوه عملکرد این ابزار به این صورت است که کاربر میتواند یک تصویر، فایل صوتی، ویدیو یا متن را در پورتال بارگذاری کند و سیستم با اسکن آن، بخشهایی را که احتمال وجود واترمارک در آنها بیشتر است، مشخص خواهد کرد. برای مثال، در محتوای صوتی، بخشهایی از ترک که دارای واترمارک هستند هایلایت میشوند و در تصاویر نیز نواحی مشکوک به نمایش درمیآیند.
در حال حاضر، گوگل این ابزار را در اختیار گروهی از کاربران اولیه قرار داده و فاز آزمایشی آن آغاز شده است. Kohli در گفتگو با The Verge اعلام کرد: «پس از پایان فاز اولیه آزمایش، این ابزار به تدریج برای کسانی که در لیست انتظار ثبتنام کردهاند در دسترس قرار خواهد گرفت.»
هدف نهایی گوگل از توسعه این ابزار، ارتقای شفافیت در فضای محتوای دیجیتال و کمک به تشخیص راحتتر محتوای تولیدشده با هوش مصنوعی است. با این حال، مشخص نیست که کاربران عمومی تا چه اندازه از این ابزار استفاده خواهند کرد و عملکرد آن در مقیاس وسیع چگونه خواهد بود.
منبع : theverge
