Apple retire de l'App Store une application de « nudification » par IA promue sur Meta
Apple a confirmé le retrait de l'application Kromix de l'App Store, après la publication d'une enquête de WIRED révélant que cet outil de « nudification » par intelligence artificielle était promu via des publicités sur les plateformes Meta (Facebook, Instagram).
Ce qu'il faut savoir
L'application Kromix prétendait proposer des fonctionnalités de retouche photo, mais permettait en réalité de générer des images de nus à partir de photos habillées, via une IA. Ce type d'outil entre en contradiction avec les règles de l'App Store qui interdisent les applications facilitant la création de contenu sexuellement explicite non consensuel.
| Élément | Détail |
|---|---|
| Application concernée | Kromix |
| Plateforme de promotion | Publicités Meta (Facebook, Instagram) |
| Source de l'enquête | WIRED |
| Action d'Apple | Retrait confirmé de l'App Store |
| Motif | Violation des règles sur le contenu sexuellement explicite |
Le problème des publicités Meta
L'enquête de WIRED soulève une question plus large : comment une application en violation des règles de l'App Store a-t-elle pu être promue via des publicités sur les plateformes de Meta ? Les modérations automatiques des deux écosystèmes n'ont pas identifié le problème avant l'article journalistique.
Contexte plus large
Ce retrait intervient dans un contexte de multiplication des outils d'IA générative, dont certains détournent les usages prévus pour créer du contenu problématique. Les politiques de l'App Store (guideline 1.1.1) interdisent explicitement les applications facilitant la pornographie ou le contenu sexuellement explicite, y compris les outils de « deepfake » à caractère sexuel.
Apple n'a pas communiqué sur d'éventuelles mesures supplémentaires pour renforcer la détection automatique de ce type d'applications lors du processus de validation sur l'App Store.
Apple retire Kromix et MaskAI de l'App Store après enquête de WIRED
Apple a retiré l'application Kromix de l'App Store. L'entreprise a également supprimé MaskAI, une application similaire, après avoir été contactée par le média WIRED concernant ces outils.
Ces retraits interviennent dans le contexte des applications de « nudification IA » — des outils utilisant l'intelligence artificielle pour générer des images explicites à partir de photos ordinaires. Ces applications contournaient les règles de l'App Store via des techniques d'obfuscation de code.
Ce qui change pour les utilisateurs
| Élément | Détail |
|---|---|
| Applications concernées | Kromix et MaskAI |
| Statut | Retirées de l'App Store (information confirmée) |
| Déclencheur | Enquête du média WIRED |
| Publicités concernées | Certaines passaient par les plateformes Meta Ads |
Comment vérifier si une application est légitime
Si vous avez installé l'une de ces applications avant leur retrait :
- Ouvrez Réglages sur votre iPhone ou iPad
- Accédez à Général → Stockage iPhone
- Recherchez Kromix ou MaskAI dans la liste
- Supprimez l'application si elle est présente
Contexte : la politique de l'App Store
Les lignes directrices d'Apple interdisent explicitement les applications facilitant l'harassment ou la création de contenu sexuel non consensuel. Les développeurs malveillants contournent ces règles en soumettant une version « propre » à la révision, puis activant les fonctionnalités interdites via des mises à jour serveur.
Ce retrait s'inscrit dans une série d'actions récentes d'Apple contre les applications abusant de l'IA pour générer du contenu problématique. L'entreprise collabore désormais plus étroitement avec les médias et les chercheurs en sécurité pour identifier ces violations.
Meta retire les publicités de l'application Kromix après la polémique
Meta a retiré la campagne publicitaire promouvant l'application Kromix de ses plateformes. Ce retrait fait suite aux critiques adressées au géant des réseaux sociaux pour avoir diffusé des annonces pour une application de nudification par IA, en contradiction avec ses propres règles.
Le contexte : publicités incompatibles avec les règles internes
Les publicités en question apparaissaient sur Facebook et Instagram. Elles promouvaient Kromix, une application capable de déshabiller virtuellement des personnes à partir de simples photos, grâce à l'intelligence artificielle. Ce type de contenu viole les standards publicitaires de Meta, qui interdisent la promotion d'outils facilitant le harcèlement ou l'exploitation d'images non consenties.
Position d'Apple et politique de l'App Store
Apple maintient une politique stricte sur les applications recourant à la nudification par IA. Les guidelines de l'App Store (section 1.1.4) bannissent les applications qui facilitent la création de contenu sexuellement explicite sans consentement. Toute application de ce type détectée sur l'App Store est supprimée.
| Plateforme | Statut de l'application Kromix | Politique applicable |
|---|---|---|
| App Store (iOS/iPadOS) | Retirée de l'App Store | Guidelines 1.1.4 — contenu sexuellement explicite non consenti |
| Facebook / Instagram (Meta) | Publicités retirées | Standards publicitaires — interdiction des outils de harcèlement |
| Google Play (Android) | Non confirmé | Politique sur les contenus sexuellement explicites |
Vérifier si une application de nudification par IA est installée sur votre iPhone
Prérequis : iPhone sous iOS 16 ou version ultérieure.
- Ouvrez Réglages sur votre iPhone
- Appuyez sur Utilisation du contenu et de la confidentialité (section Temps d'écran)
- Sélectionnez Activité de l'appareil
- Parcourez la liste des applications installées récemment
- Si une application suspecte est présente, maintenez son icône appuyée sur l'écran d'accueil
Les applications de nudification par IA sur iOS : un problème persistant
Le retrait des publicités Meta pour Kromix illustre un problème plus large. Les applications de nudification par IA contournent régulièrement les filtres de l'App Store en modifiant leur nom, leur description ou leur icône. Apple a renforcé ses contrôles sur iOS et iPadOS, mais la détection reste un jeu du chat et de la souris.
Côté réseaux sociaux, les campagnes publicitaires pour ces applications parviennent parfois à passer les vérifications automatisées de Meta, avant d'être signalées et retirées — comme ce fut le cas pour Kromix.
App Store : l'application Kromix expose les failles du système de contrôle d'Apple
L'application Kromix a été retirée de l'App Store après avoir contourné les mécanismes de validation d'Apple. Selon les faits rapportés, elle a ajouté des fonctionnalités interdites – liées à la nudification par IA – après avoir réussi l'examen initial de validation.
Cet incident met en lumière une limite structurelle du modèle de contrôle d'Apple : l'examen intervient uniquement au moment de la soumission, pas après les mises à jour serveur ou les modifications dynamiques du contenu.
Comment le contournement a fonctionné
Le processus de validation de l'App Store repose sur une analyse du code binaire et des métadonnées au moment de la soumission. L'application Kromix aurait présenté une interface conforme lors de cet examen, puis activé les fonctionnalités problématiques via un serveur distant après validation.
| Étape | Ce qu'Apple vérifie | Limite identifiée |
|---|---|---|
| Soumission initiale | Code binaire, métadonnées, captures d'écran | L'application peut masquer des fonctionnalités |
| Mises à jour | Nouvel examen à chaque version | Les contenus serveur échappent à la vérification |
| En cours d'utilisation | Signalements utilisateurs, rapports automatisés | Réaction a posteriori, pas préventive |
Ce qui change pour les utilisateurs
Apple dispose de mécanismes de suppression à distance pour les applications malveillantes, mais l'activation de fonctionnalités interdites après validation reste difficile à détecter en temps réel. L'entreprise s'appuie sur les signalements utilisateurs et ses propres systèmes de monitoring pour identifier les fraudes.
Les applications de nudification par IA dans le viseur
Les applications promettant de « déshabiller » des photos via l'intelligence artificielle violent explicitement les lignes directrices de l'App Store, qui interdisent les contenus à caractère sexuel explicite et les outils facilitant le harcèlement. Ces apps réapparaissent régulièrement sous de nouvelles identités, forçant Apple à un jeu du chat et de la souris.
Les publicités Meta diffusant ce type d'applications ont également fait l'objet de critiques, les modérations publicitaires n'étant pas synchronisées avec les politiques de l'App Store.
