In de nieuwe regels valt te lezen dat app-makers proactief met AI gegenereerde deepfakes van hun platforms moeten weren. Apple waarschuwt daarbij dat apps die zich daar niet aan houden, mogelijk uit de App Store worden gehaald wanneer ontwikkelaars hier niets aan doen.
Geen naakte deepfakes
Het was al verboden voor apps in de App Store om seksueel getinte content weer te geven, maar hiermee lijkt Apple ook harder op te willen treden tegen deepfakes. Mensen zetten AI in om deze zogeheten deepfakes te maken, waarbij bijvoorbeeld bekende mensen naakt worden afgebeeld - vaak met een lichaam dat niet echt van hen is. Ook apps die foto's van bijvoorbeeld reguliere mensen gebruiken om ze vervolgens naakt af te beelden, worden geweerd.
Daarmee dreigt bijvoorbeeld ook het doek te vallen voor Grok in de App Store. Grok is de AI-bot van het platform xAI, waarmee mensen nog altijd deepfakes kunnen maken. Apple waarschuwde xAI eerder dit jaar al dat Grok uit de App Store gehaald zou kunnen worden als het maken van naakte deepfakes tot de mogelijkheden bleef behoren.
Features die niet in reviewproces zaten
De nieuwe App Store-regels scherpen ook andere zaken aan. Zo kunnen apps uit de App Store gehaald worden wanneer bepaalde functionaliteiten die niet door Apple's reviewproces zijn gegaan toch in de app voorkomen. Ook features die niet officieel zijn gedocumenteerd zorgen er voor dat een app uit de App Store gehaald kan worden.
Met deze nieuwe regels lijkt Apple strenger te willen optreden tegen dit soort zaken om er voor te zorgen dat er geen schadelijke content via apps uit de App Store gemaakt kan worden.
