استارت‌آپ‌هایی که ابزارهای تولید محتوای جعلی می‌سازند می‌توانند کاربران زیادی را جذب کنند. حجم زیادی سرمایه گذاری به سمت استارت آپ هایی که فناوری‌های دیپ فیک را توسعه می‌دهند در جریان است.
طبق داده‌های پیچبوک، صندوق‌های VC در سال گذشته 187.7 میلیون دلار در این حوزه سرمایه‌گذاری کردند (این رقم در سال 2017 تنها یک میلیون دلار بود). آمارها نشان می‌دهند که سرمایه‌گذاران در سال جاری تاکنون، ۵۰ میلیون دلار دیگر در استارت‌آپ‌های رسانه‌های مصنوعی سرمایه‌گذاری کرده‌اند. با این همه، پولِ در حال حرکت به سمت چنین فناوری‌هایی، متاسفانه پشت هوش مصنوعی مولد قرار می‌گیرد. به گفته شرکت تحقیقاتی جهانی HSRC، بازار جهانی تشخیص دیپ فیک در سال 2022 میزان 3.86 میلیارد دلار بوده و تا سال 2026 با نرخ مرکب سالانه 42 درصد رشد خواهد کرد. بزرگترین دریافت‌کننده پول نقد VC در پنج سال گذشته Runway مستقر در نیویورک بود، شرکتی که از هوش مصنوعی برای تولید تصاویر، ویدیو، ترکیب محتوا و ویرایش آن‌ها استفاده می‌کند و شعارش این است: «نه نور، نه دوربین، فقط اکشن.» طبق گزارش‌ها، Runway پس از یک سرمایه‌گذاری «حداقل» 100 میلیون دلاری، 1.5 میلیارد دلار ارزش پیدا کرد.
پیش از آن، Synthesia مستقر در لندن، که ابزاری برای تولید شخصیت‌های مجازی واقع‌گرایانه از ویدیو و صدای ضبط‌‌‌‌‌شده ایجاد می‌کند، 50 میلیون دلار از سرمایه‌گذارانی از جمله Kleiner Perkins جمع‌آوری کرد. Deepdub، یک شرکت اسرائیلی که از هوش مصنوعی برای تغییر حرکات دهان بازیگران یا مجریان فیلم هنگام صحبت به زبان‌های مختلف استفاده می‌کند، ۲۰ میلیون دلار در معامله‌ای در سال ۲۰۲۲ به رهبری Insight Partners جمع‌آوری کرد. Deep Voodoo، استارت‌آپی که توسط سازندگان South Park تأسیس شد، سال گذشته پس از ارائه افکت‌هایی بر روی یک موزیک ویدئو که در آن چهره کندریک لامار خواننده رپ شبیه او.جی. سیمپسون، کانیه وست و دیگران شد، 20 میلیون دلار جمع‌آوری کرد.
دانشگاهیان و محققان امنیتی سالهاست هشدار می‌دهند که از تصاویر، ویدیو و صداهای جعلی برای ایجاد اطلاعات نادرست و تخریب نهادهای دموکراتیک استفاده می‌شود. در واقع، کمیته ملی جمهوری‌خواهان در ماه آوریل یک دیپ فیک منتشر کرد که نسخه ویرانی از ایالات متحده را نشان می‌داد که جمهوری‌خواهان پیش‌بینی می‌کردند در صورت انتخاب مجدد جو بایدن، به واقعیت تبدیل شود.همچنین مقامات دولتی روسیه، ویدئویی جعلی را تبلیغ کردند که ظاهراً نشان می‌دهد نیروهای اوکراینی به غیرنظامیان حمله می‌کنند یا مثلا محققان ویدئوهایی وایرالی را شناسایی کردند که از حکومت نظامی در بورکینافاسو حمایت می‌کرد، تلاشی آشکار برای تحت تاثیر قرار دادن افکار عمومی در مورد نبرد بر سر کنترل این کشور.
بسیاری از استارت آپ‌های دیپ فیک، اهدافی تا این حد ترسناک ندارند، مثلا برخی از آن‌ها با جمع‌آوری کلیپ‌های ویدیویی از سراسر اینترنت، به دنبال ساخت آگهی‌های بازرگانی هستند. با این حال، این ابزارها می‌توانند در دستان اشتباه، قدرتمند باشند. یکی از خبرنگاران واشنگتن پست اخیراً از فناوری هوش مصنوعی برای ساختن یک ترکیب مصنوعی از خودش استفاده کرد تا ببیند آیا این فناوری قادر به کلاهبرداری از خانواده و دوستانش است یا خیر (که بود!) و حداقل، تصور اینکه صفحه نمایش ما پر از بازیگرانی شبیه‌سازی شده که به ما نوشابه، اتومبیل و بیمه سلامت می‌فروشند، واقعا وحشتناک است.
