Hundreds of everyday AI apps hide deepfake features, WIRED finds
وائرڈ کی تحقیق: 400 سے زیادہ عام اے آئی ایپس میں خفیہ ڈیپ فیک فیچرز
वायर्ड की जांच: 400 से अधिक आम एआई ऐप्स में छिपे डीपफेक फीचर
Key points
اہم نکات
मुख्य बातें
- A WIRED investigation has found more than 400 connected apps and websites that quietly hide tools for making sexually abusive deepfakes.
- The apps pose as everyday services such as pet portrait makers or language tutors, but under certain conditions they load a hidden interface for creating explicit images from uploaded photos.
- Apple removed 19 apps after being contacted, and Google had removed most of the apps before WIRED reached out, raising serious questions about how app stores vet AI tools.
- وائرڈ کی تحقیق میں 400 سے زیادہ منسلک ایپس اور ویب سائٹس ملی ہیں جو خاموشی سے جنسی طور پر نقصان دہ ڈیپ فیک بنانے کے ٹولز چھپاتی ہیں۔ یہ ایپس پالتو جانوروں کی تصویر بنانے یا زبان سکھانے جیسی عام خدمات کا روپ دھارتی ہیں، لیکن کچھ حالات میں وہ اپ لوڈ کی گئی تصاویر سے فحش تصاویر بنانے کا خفیہ انٹرفیس کھول دیتی ہیں۔ رابطہ کرنے پر ایپل نے 19 ایپس ہٹا دیں اور گوگل نے بھی زیادہ تر ایپس پہلے ہی ہٹا دی تھیں، جس سے ایپ اسٹورز کی جانچ پر سنگین سوالات اٹھ گئے ہیں۔
- वायर्ड की जांच में 400 से अधिक जुड़े ऐप्स और वेबसाइटें मिली हैं जो चुपचाप यौन रूप से हानिकारक डीपफेक बनाने के टूल्स छिपाते हैं। ये ऐप्स पालतू जानवरों का चित्र बनाने या भाषा सिखाने जैसी आम सेवाओं का रूप धारण करते हैं, लेकिन कुछ परिस्थितियों में वे अपलोड की गई तस्वीरों से अश्लील तस्वीरें बनाने का छिपा इंटरफ़ेस खोल देते हैं। संपर्क करने पर ऐप्पल ने 19 ऐप्स हटा दिए और गूगल ने भी अधिकतर ऐप्स पहले ही हटा दिए थे, जिससे ऐप स्टोरों की जांच पर गंभीर सवाल उठ गए हैं।
A WIRED investigation has found more than 400 connected apps and websites that quietly hide tools for making sexually abusive deepfakes. The apps pose as everyday services such as pet portrait makers or language tutors, but under certain conditions they load a hidden interface for creating explicit images from uploaded photos. Apple removed 19 apps after being contacted, and Google had removed most of the apps before WIRED reached out, raising serious questions about how app stores vet AI tools.
وائرڈ کی تحقیق میں 400 سے زیادہ منسلک ایپس اور ویب سائٹس ملی ہیں جو خاموشی سے جنسی طور پر نقصان دہ ڈیپ فیک بنانے کے ٹولز چھپاتی ہیں۔ یہ ایپس پالتو جانوروں کی تصویر بنانے یا زبان سکھانے جیسی عام خدمات کا روپ دھارتی ہیں، لیکن کچھ حالات میں وہ اپ لوڈ کی گئی تصاویر سے فحش تصاویر بنانے کا خفیہ انٹرفیس کھول دیتی ہیں۔ رابطہ کرنے پر ایپل نے 19 ایپس ہٹا دیں اور گوگل نے بھی زیادہ تر ایپس پہلے ہی ہٹا دی تھیں، جس سے ایپ اسٹورز کی جانچ پر سنگین سوالات اٹھ گئے ہیں۔
वायर्ड की जांच में 400 से अधिक जुड़े ऐप्स और वेबसाइटें मिली हैं जो चुपचाप यौन रूप से हानिकारक डीपफेक बनाने के टूल्स छिपाते हैं। ये ऐप्स पालतू जानवरों का चित्र बनाने या भाषा सिखाने जैसी आम सेवाओं का रूप धारण करते हैं, लेकिन कुछ परिस्थितियों में वे अपलोड की गई तस्वीरों से अश्लील तस्वीरें बनाने का छिपा इंटरफ़ेस खोल देते हैं। संपर्क करने पर ऐप्पल ने 19 ऐप्स हटा दिए और गूगल ने भी अधिकतर ऐप्स पहले ही हटा दिए थे, जिससे ऐप स्टोरों की जांच पर गंभीर सवाल उठ गए हैं।
Most read
سب سے زیادہ پڑھی گئی
सबसे ज़्यादा पढ़ी गई
- Loading...
Get news in your inbox
خبریں اپنے ان باکس میں حاصل کریں
खबरें अपने इनबॉक्स में पाएं
One email when new stories are published. No spam, unsubscribe anytime.
نئی خبریں شائع ہونے پر ایک ای میل۔ کوئی سپیم نہیں، کسی بھی وقت ان سبسکرائب کریں۔
नई खबरें प्रकाशित होने पर एक ईमेल। कोई स्पैम नहीं, कभी भी अनसब्सक्राइब करें।