پلتفرم تشخیص دیپفیک هوش مصنوعی – روشی برای تشخیص خطاهای تولید شده توسط هوش مصنوعی مولد. حمایت گوگل، سونی و اوکتا از تلاش شرکت Resemble AI در زمینه تشخیص دیپفِیک. این شرکت به تازگی ۱۳ میلیون دلار در یک دور جدید سرمایهگذاری استراتژیک برای تشخیص دیپفیکهای هوش مصنوعی (AI) جذب کرده و تامین مالی مجموع سرمایهگذاریهایش به ۲۵ میلیون دلار رسید.
پلتفرم تشخیص مزاحم های فناوری هوش مصنوعی
این سرمایهگذاری در شرایطی انجام میشود که سازمانها تحت فشارند تا صحت محتوای دیجیتال را تأیید کنند.
چالش هوش مصنوعی مولد
این فناوری تولید دیپفیکهای قانعکننده را برای مجرمان آسانتر کرده و درسال ۲۰۲۵ به بیش از ۱.۵۶ میلیارد دلار خسارت ناشی ازکلاهبرداری منجر شده است.
تحلیلگران بر این باورند که هوش مصنوعی مولد میتواند باعث بروز ۴۰ میلیارد دلار خسارت در زمینه کلاهبرداری در ایالات متحده تا سال ۲۰۲۷ شود.
### تهدیدات جدید و ابزارهای تشخیص دیپفیک
حوادث اخیر نشان میدهد که تهدیدات به سرعت در حال تحول هستند.
در سنگاپور، ۱۳ نفر به طور مشترک بیش از ۳۶۰,۰۰۰ دلار سنگاپور را از دست دادند،
زیرا کلاهبرداران خود را به عنوان یک ارائهدهنده خدمات مخابراتی و مقام پولی سنگاپور معرفی کردند.
این حملهکنندگان از تکنیکهای مختلفی مانند جعل شناسه تماس، دیپفیک صدا و مهندسی اجتماعی استفاده کردند.
لذا احساس فوریت ایجاد کردند و از اعتماد عمومی به برندهای دولتی و مخابراتی سو استفاده کردند.
Resemble AI ابزارهای تأیید آنی را توسعه میدهد که به شرکتها درتشخیص محتوای صوتی، تصویری، متنی و دیپفیکهای تولید شده توسط هوش مصنوعی کمک میکند.
این شرکت قصد دارد از سرمایهگذاری جدید خود برای گسترش دسترسی جهانی به پلتفرم تشخیص دیپفیک هوش مصنوعی خود استفاده کند.
پلتفرم کنترل خطاهای فناوری هوش مصنوعی مولد
پلتفرم تشخیص دیپفیک هوش مصنوعی، شامل دو محصول جدید است:
1- DETECT-3B Omni – مدلی برای تشخیص دیپفیک که برای محیطهای شرکتی طراحی شده ودقت تشخیص ۹۸٪ را در بیش از ۳۸ زبان گزارش میدهد.
2- Resemble Intelligence – پلتفرمی که قابلیت توضیحپذیری برای محتوای چندرسانهای وتولید شده توسط هوش مصنوعی رافراهم میکند و از مدلهای Gemini3 گوگل استفاده میکند.
این ابزارها به عنوان بخشی از تلاشهای گستردهتر برای پشتیبانی از تأیید آنی کاربران انسانی وعوامل هوش مصنوعی در تعامل با محتوای دیجیتال معرفی شدند.
تحولات آینده و چالشها
طبق اعلام این شرکت، DETECT-3B Omni هم اکنون در بخشهای مختلفی مانند سرگرمی، مخابرات و دولت استفاده میشود.
نتایج عمومی شاخصها در Hugging Face نشان میدهد که این مدل در بین بهترین عملکردها در زمینه تشخیص دیپفیکهای تصویری و صوتی قرار دارد.
روش جدید نرخ خطای متوسط کمتری نسبت به مدلهای رقیب دارد.
ذینفعان صنعت معتقدند که پیشرفت سریع هوش مصنوعی تولیدی نحوه تفکر شرکتها درباره اعتماد به محتوا و سیستمهای هویتی را تغییر میدهد.
نمایندگان Google’s AI Futures Fund، سونی و اوکتا اشاره کردند، سازمانها به سمت لایههای تأیید، حرکت میکنندکه میتواند به حفظ اعتماد درفرآیندهای احرازهویت کمک کند.
در کنار اعلام سرمایهگذاری، Resemble AI چشمانداز خود را درباره چگونگی تکامل خطرات مرتبط با دیپفیک در سال ۲۰۲۶ منتشر کرد.
انتظارات از پلتفرم تشخیص دیپفیک هوش مصنوعی
این شرکت انتظار دارد چندین تغییر را که میتواند بر برنامهریزی سازمانها تأثیر بگذارد، پیشبینی کند:
1- تأیید دیپفیک ممکن است استاندارد شود.
با توجه به حوادث involving مقامات دولتی، پیشبینی میشود که تشخیص آنی دیپفیک ممکن است در نهایت برای کنفرانسهای ویدیویی رسمی الزامی شود.
2- آمادگی سازمانی ممکن است تعیینکننده موقعیت رقابتی باشد.
بامعرفی قوانین هوش مصنوعی درمناطق مختلف، شرکتهایی که فرآیندهای آموزش، حاکمیت وانطباق را زودتر ادغام کنند، ممکن است بهتر برای تقاضاهای عملیاتی ونظارتی آماده شوند.
3- هویت به عنوان محور اصلی امنیت هوش مصنوعی.
باتوجه به اینکه بسیاری از حملات مرتبط با هوش مصنوعی به جعل هویت وابستهاند، سازمانها ممکن است برروی مدلهای امنیتی متمرکز برهویت تأکیدبیشتری داشته باشند.
4- افزایش هزینههای بیمه سایبری.
افزایش تعداد حوادث دیپفیک شرکتی ممکن است باعث شود که بیمهگذاران سیاستهای خود را مورد بازنگری قرار دهند.
این سرمایهگذاری ضرورت فزایندهای را برای سازمانها به منظور درک چگونگی تغییر ریسکهای ناشی از هوش مصنوعی مولد نشان میدهد.
سازمانها در تمام بخشها در حال ارزیابی این موضوع هستند که:
چگونه تأیید، حفاظت از هویت و آمادگی در برابر حوادث میتواند در استراتژیهای امنیت و انطباق گستردهتر آنها گنجانده شود.
پلتفرم تشخیص دیپفیک هوش مصنوعی، برای جلوگیری از چالش ها و خطاهای هوش مصنوعی.
پنج آسمان مدیر پرویز فروزانی
