L’IA peut être un outil puissant, mais elle peut parfois être utilisée à mauvais escient de manière nuisible et inappropriée. Récemment, le outil de suppression d'objets IA de Huawei sur le Pura 70 Ultra a suscité la controverse en permettant aux utilisateurs de retirer des vêtements des images, créant ainsi l'illusion de nudité. Apple a également été confronté à un problème similaire lorsqu'il a supprimé trois applications de l'App Store qui prétendaient « déshabiller n'importe quelle fille gratuitement ».
Ces applications étaient commercialisées comme des « générateurs d’art », mais créaient en réalité des images de nus non consensuelles à l’aide de la technologie de l’IA. Cela porte non seulement atteinte à la vie privée, mais ouvre également la possibilité que les femmes soient embarrassées, humiliées ou soumises à un chantage. Apple a pris des mesures en supprimant ces applications de l'App Store après avoir été portées à leur attention.
Certaines de ces applications étaient disponibles sur l’App Store et le Google Play Store depuis 2022. Bien qu’ils soient répertoriés sur ces plateformes, les développeurs derrière ces applications faisaient la promotion de leurs fonctionnalités pornographiques sur des sites Web pour adultes. Ce n'est que récemment que Google a supprimé l'une des applications du Play Store parce qu'elle continuait à faire de la publicité sur des sites pour adultes.
Alors qu'Apple se prépare à faire des annonces importantes en matière d'IA à la WWDC en juin, notamment des mises à jour liées à iOS 18 et Siri, la société s'efforce de conserver une image positive. Cela inclut l’octroi de licences aux articles des éditeurs pour former son IA générative. En revanche, Google et OpenAI ont été confrontés à des problèmes juridiques liés à l’utilisation d’articles sans autorisation pour la formation en IA. Il reste à voir si Apple fera face à des réactions négatives pour ne pas prendre de mesures rapides contre ces applications problématiques.
En conclusion, même si la technologie de l’IA présente de nombreux avantages, il est essentiel de l’utiliser de manière responsable et éthique pour prévenir les préjudices et les abus. Alors que les consommateurs et les entreprises technologiques continuent d’évoluer dans ce paysage en évolution, il est crucial de donner la priorité à la vie privée et au respect des individus pour façonner un avenir numérique positif.
