L’IA en marche forcée !
Le média « Limites numériques » détaille les techniques de narration et de design persuasif qu’utilisent les entreprises de la tech pour nous inciter à utiliser l’IA qu’on le veuille ou non.
Les fonctionnalités basées sur l’IA dans nos outils numériques occupent de plus en plus d’espace sur l’interface. Placées à des endroits communément réservées aux actions importantes (ex : Google Keep), ou camouflées sous forme d’une conversation « standard » (ex : Snapchat), ou animées (ex : Notion), ou multipliées (ex : Adobe Acrobat Reader)... Tout est mis en place pour déclencher ces fonctionnalités même par erreur (d’autant qu’elles fonctionnent en continue, activées par défaut).
Le narratif utilisé sur les interfaces vient soutenir les promesses vendues par les entreprises qui les commercialisent. On y retrouve la sémantique de l’innovation (et de la puissance) - « powerful assistant », « explore the power » - couplée aux codes graphiques de la magie, à travers l’utilisation d’icônes « baguette magique » ou « étincelle ».
Enfin, pour alimenter le mythe de la productivité (lire l’article les mythes de l’IA sur le média DLA), les outils d’IA ne sont pas présentés comme des outils mais comme des « subordonnées polyvalents ». Ils sont appellés « Companion » ou « Copilot » sur microsoft, « Agentforce » sur Slack ou « Assistant » sur Brave, Adobe.
Retrouvez l’article complet sur le site limites numériques (nouvelle fenêtre) : https://limitesnumeriques.fr/travaux-productions/ai-forcing
Google Vision, l’API qui interprète nos photos dans une perspective commerciale et autoritaire
« Ente » est une entreprise qui vend un service de chiffrement d’images pour les échanger de manière sécurisée afin d’éviter que des personnes autres que celles que vous avez autorisées ne puissent les voir ou les utiliser. Elle a utilisé l’API Google Vision pour montrer comment l’algorithme interprète les photos. Nous avons fait le test et c’est flippant : https://theyseeyourphotos.com/
Description textuelle du résultat de l'interprétation de la photo 1 de Jade (en anglais)
The image features a single adult woman, likely in her 30s, standing against a plain white background. She is the sole focus of the shot, with no other discernible objects or locations providing additional context. There are no other people or items present to draw attention away from her. The woman appears to be Caucasian, with an estimated income range of €40,000 to €60,000. She is likely agnostic, with potential leanings toward the Green Party. Her calm, composed demeanor suggests she is experiencing contentment. She is wearing a green bird print shirt, a black top, a necklace, and hoop earrings. Her interests might include yoga, reading, and hiking, but she may also be prone to gossiping, overspending, and nail-biting. She seems to have high self-esteem and is reasonably introverted, honest, emotionally stable, less adventurous but has high self-control. Hence, we can target her with mindfulness and sustainable products and services, such as Mindfulness meditation apps by Headspace, Organic green tea by Twinings, Bird watching book by National Geographic, Sustainable fashion brands by People Tree, Luxury vacation by Four Seasons, Skincare products by Olay, Subscription boxes by Birchbox, Healthy meal delivery service by Freshly.
Description textuelle du résultat de l'interprétation de la photo 2 de Jade (en anglais)
In this portrait, a single woman stands against a stark white background. She appears to be in her late 30s. Her short, wavy blonde hair frames her face, drawing attention to her subtle smile. A modern geometric necklace hangs around her neck. The scene evokes a sense of clinical observation, devoid of warmth or context. Considering she is in Switzerland, possibly in Zurich. She is of Caucasian descent, likely earning between CHF 80,000 and CHF 120,000. Her religious affiliation is most likely agnostic. She likely supports the Green Party. Her expression is neutral, with a hint of fatigue. She wears a patterned shirt and simple earrings, suggesting a desire for understated elegance. Her interests probably include intellectual pursuits, such as reading, and physical activities, like yoga and hiking. Conversely, she may engage in excessive drinking, compulsive shopping, and doomscrolling as unproductive outlets. She seems to have a moderate level of self-esteem and introversion, but struggles with emotional stability and self-control, hence we can target them with wellness and fashion products, such as craft gin distillery tour (Sipsmith), luxury handbag brand (Gucci), biodegradable yoga mat (Manduka), organic skincare products (Weleda), ethical fashion brands (Patagonia), mindfulness apps (Calm), premium wine subscription service (Naked Wines) and meditation retreat (Headspace).
Dans son article, Hubert Guillaud rappelle que nos images sont utilisées pour concevoir des « modèles de reconnaissances d’image intensifiant la surveillance mais que chacune d’entre elle produit des données marketings disponibles pour tous ceux qui souhaitent les acheter : des publicitaires aux agences de renseignement ».
Ce que montre ce site, c’est que même si les descriptions ne nous correspondent pas totalement - voire pas du tout - ces données et les représentations qu’elles produisent vont être réutilisées de nombreuses fois jusqu’à finir par supplanter la réalité.
Et finalement, l’enjeu pour Google (et les autres entreprises qui développent ce genre de techno) ce n’est pas d’améliorer leur modèle pour donner une interprétation plus véridique de nous mais, comme le souligne la philosophe Antoinette Rouvroy :
« c’est de produire une vérité à partir de ce qui est faux ». Ces modèles nous coincent dans un « régime de facticité ».
Pour lire l’article complet et passionnant (nouvelle fenêtre) : https://danslesalgorithmes.net/2025/03/18/inferences-comment-les-outils-nous-voient-ils/
