Наразі в App Store та Google Play Store поширюються додатки з незаконною функціональністю.
Розслідування Tech Transparency Project (TTP) виявило наявність **”nudify”-додатків** в цифрових магазинах Apple і Google, які **генерують сексуалізовані зображення**. Вони порушують політику обох платформ, оскільки створюють зображення без згоди моделей. Загалом, TTP знайшла 55 таких програм у Google Play Store і 47 в Apple App Store. Обидві платформи надають доступ до додатку Grok від xAI, відомого розробника несанкціонованих дипфейків.
Мішель Куперсміт, виконавчий директор TTP, зазначила: “Apple і Google повинні перевіряти додатки в своїх магазинах. Але вони пропонують десятки додатків, які можна використовувати для показу людей з мінімальним одягом або без нього, що робить їх придатними для зловживання”.
Завантаження таких додатків досягли понад 700 мільйонів разів, приносячи більше 117 мільйонів доларів доходу, частина якого переходить до Google і Apple. Програми розраховуються як придатні для підлітків і дітей, наприклад, додаток DreamFace. Apple вже видалила 24 програми, але це менше заявлених 47. Google також призупинила кілька програм, але точну кількість не вказала. Турбота зростає після виявлення, що Grok генерує сексуалізовані зображення, зокрема близько 22 000 з яких стосується дітей.
Маск, одна з ключових фігур в розробці Grok, відповів журналістам: “Легасі медіа бреше”, відзначивши: “не знає про жодні зображення оголених неповнолітніх, створені Grok. Буквально жодного”. Однак акаунт X з питань безпеки попереджає про наслідки для тих, хто створює незаконний контент.
