Une boîte de Pandore numérique. Dans la course effrénée à l’intelligence artificielle sur mobile, Google vient de franchir un cap avec son Pixel 9. Comme le rapporte Presse Citron, le géant de la technologie a lancé son dernier smartphone équipé de Pixel Studio, une application d’IA générative d’images aux capacités impressionnantes, mais potentiellement problématiques. Cette avancée technologique soulève des questions éthiques cruciales sur l’utilisation et la diffusion d’images générées par l’IA.
Créativité débridée ou dérapage incontrôlé ? L’application phare du Pixel 9 devait être un outil créatif produisant des images stylisées. Cependant, des tests menés par Digital Trends ont révélé une facette plus sombre. Pixel Studio s’est avéré capable de générer des images combinant des personnages protégés par copyright dans des situations choquantes, ignorant allègrement droits d’auteur et bienséance. Des résultats dignes du sulfureux Grok, le chatbot controversé d’Elon Musk.
Quand la réalité devient élastique
La manipulation visuelle à portée de main. Plus inquiétante encore, la fonction Reimagine de l’application Photos pousse l’élasticité du réel à son paroxysme. The Verge a démontré qu’il était possible d’ajouter à des clichés existants des éléments troublants – accidents de voiture, bombes fumantes, ou même cadavres présumés – avec un réalisme confondant. Cette démocratisation de la manipulation visuelle pourrait être à l’origine de redoutables campagnes de désinformation.
Un danger invisible. L’absence de filigrane clair sur les images générées ou modifiées par l’IA du Pixel 9 ne fait qu’aggraver le problème. Seules les métadonnées, rarement consultées, trahissent l’intervention de l’IA. Cette lacune rend la détection des fausses images particulièrement compliquée pour le grand public, mettant en péril la confiance dans l’information visuelle à l’ère numérique.
Face à ces révélations, Google a déclaré, selon Presse Citron: « Nos outils d’IA générative sont conçus pour respecter l’intention des prompts des utilisateurs, ce qui signifie qu’ils peuvent créer du contenu offensant si on leur demande de le faire. Cela dit, tout n’est pas permis. » L’entreprise ajoute : « Nous avons des politiques claires et des conditions d’utilisation concernant les types de contenu que nous autorisons ou non, et nous mettons en place des garde-fous pour prévenir les abus. »
Le Pixel 9 incarne ainsi le dilemme auquel sont confrontés les géants de la tech : comment innover à vitesse grand V tout en garantissant un usage éthique et sécurisé de l’IA ?
Visuel généré via IA par Jean-Michel Falciasecca