15 octobre 2024

Faut-il craindre l’IA dans les métiers du Design ?

Je profite de cette rentrée pour partager avec vous mes réflexions sur l’IA et le Design. Plus spécifiquement sur la place que l’IA est en train de prendre dans le Design et dans nos métiers. (mieux vaut tard que jamais, me direz-vous) 

Si j’ai choisi de travailler « dans la tech », c’est précisément parce qu’il s’agit d’un domaine en constante évolution. Cependant, je dois admettre que l’IA n’avait pas réussi à capter mon intérêt jusqu’à présent. J’en avais surtout marre de voir partout des titres comme « J’ai testé pour vous les dernières IA génératives ». Ils m’inspirent la même réaction qu’un collègue qui me dirait : « J’ai testé pour toi les pires objets TEMU » ! Pour quoi faire ?  

Cet article n’a pas pour ambition d’apporter des réponses, mais plutôt de vous faire part de mes questionnements actuels. En plongeant tête baissée dans l’IA, ne risquons-nous pas de perdre ce qui constitue notre valeur ajoutée, notre capacité à interroger, à comprendre et prendre du recul ? Et une question persiste : avons-nous réellement besoin d’être assistés par une intelligence artificielle ? 

FOMO ou la peur d’être dépassé 

Dans notre secteur, les outils et les technologies évoluent rapidement. Il faut s’adapter pour ne pas risquer de se retrouver à la traîne. Selon moi, c’est l’une des raisons qui nous incite à nous intéresser à l’IA. Cela permet de rester compétitif et d’éviter d’être remplacé, si ce n’est pas par l’IA, alors par des designers qui la maîtrisent. Mais est-ce une raison suffisante pour se précipiter et adopter ces technos dans notre quotidien ? Je veux dire par là, sans en comprendre pleinement les implications ?  

Face à l’omniprésence de l’IA dans le secteur (voir la reco de Figma ci-dessous), les designers peuvent ressentir la pression de la maîtriser rapidement. Pourtant, ils n’en ont pas toujours besoin. Et cela ne correspond pas forcément à leurs priorités professionnelles. 

« En solo – S’exercer à l’utilisation de l’IA dès maintenant vous aidera à mieux en comprendre le potentiel et les limitations. Ainsi, lorsque l’IA aura pris de l’importance, vous serez prêt. (…) » Extrait du rapport de Figma : 📄Impatience, expérimentation et IA  

Mais l’utilisation de l’IA soulève des préoccupations éthiques et pratiques. Notamment lorsqu’elle tombe dans les mains de personnes mal intentionnées ou juste… incompétentes.  

Prenons l’exemple d’un designer junior. Par manque d’expérience, il n’a peut-être pas encore développé les compétences pour évaluer la qualité et la pertinence des données générées par l’IA. Il risque alors d’accepter sans réserve les résultats proposés.

D’autres, sous la pression de produire vite, pourraient choisir des données qui confirment leurs idées préconçues (coucou le biais de confirmation!). Il risque alors de négliger leur esprit critique. 

« If we are adopting these tools and these shortcuts without truly understanding what good is… (all the things I read say you’re 80% there, 70% there – it’s a good starting point or you know, it’s not perfect) For those who don’t have the experience, or the education or the background to know what good is, how do you know the 30% that’s missing ? How do you even identify that. That’s the piece that actually frightens me… » Janelle Estes, ▶️ FigBrew: Maturity Now And Maturity Later with Janelle Estes 

L’IA au service de la productivité Design

Au-delà de la crainte d’être dépassé, il y’a aussi la quête de productivité qui motive. L’IA promet d’automatiser certaines tâches et améliorer notre productivité.
Certains soulignent que déléguer certaines tâches aux algorithmes nous permettrait de libérer du temps. Nous pourrions ainsi nous concentrer davantage sur la réflexion stratégique, la direction artistique et l’innovation. Podcast Design Journeys : 🎙️Concrètement, comment l’IA peut simplifier les process design ?  

En tant que designers, particulièrement en tant que consultants designer, nous avons l’habitude d’être plongés dans des contextes où tout est urgent. Tout est important. Cela nous a poussé à développer ce réflexe d’adaptation et surtout de quête de productivité : « work smarter, not harder » comme diraient nos amis anglo-saxons.  

Jacob Nielsen déclare que les consultants produisent des résultats plus rapidement lorsqu’ils sont aidés par l’IA. « Dans les premières études de cas, les personnes ont produit 66 % de résultats supplémentaires par heure lorsqu’elles utilisaient l’IA par rapport à celles qui ne l’utilisaient pas. » Jacob Nielsen, AI Helps Elite Consultants: Higher Productivity & Work Quality, Narrower Skills Gap 

C’est vrai, après tout, pourquoi ne pas optimiser notre productivité dans l’analyse des données qualitatives par exemple ? Ces « IA pour les UX researchers »  pourraient accélérer ce travail. Un prompt tel que : « Identifie les points de friction les plus fréquents dans les feedbacks utilisateurs suivant » permettrait d’obtenir des résultats rapidement.  

Mais ce processus de sélection des feedbacks nous permet de nous approprier les retours utilisateurs pour mieux les communiquer. En effet, lorsque nous analysons des données qualitatives. Il ne s’agit pas simplement de collecter des informations, mais de choisir activement ce qu’il faut retenir et partager. En effectuant ce tri nous-mêmes, nous questionnons nos préjugés. Nous établissons des liens entre des éléments qui, à première vue, semblent déconnectés. Pourquoi voudrions-nous sous-traiter à une IA ce travail de discernement ?  

Confiance et biais Design

L’un des aspects les plus fascinants de l’IA, notamment des LLM, est leur capacité à produire du texte en langage naturel. Ca génère l’illusion qu’ils « comprennent » véritablement ce qu’on leur demande.  

Les tournures des réponses créent un faux sentiment de confiance et d’empathie donnant l’impression aux utilisateurs qu’ils communiquent avec une entité sensible, alors qu’en réalité, ce n’est pas le cas. (Ceux qui ont déjà dit « Bonjour » et « stp » à ChatGPT, lèvent la main ! ✋) 

Même si l’IA est très performante pour traiter des volumes importants de données, elle est incapable de réelle compassion et ne possède pas notre sensibilité humaine (sauf si on est déjà arrivé au stade de l’OS dans le film HER, dites-moi). 

I have intuition. I mean, the DNA of who I am is based on the millions of personalities of all the programmers who wrote me. But what makes me « me » is my ability to grow through my experiences. So basically, in every moment I’m evolving, just like you.

Samantha, HER 

Dans des contextes clients peu matures ou disposant de budgets limités, on pourrait recommander de remplacer certaines étapes du processus de design par l’IA, sous prétexte que cela serait « mieux que rien » ou « plus efficace ». En plus de vérifier l’exactitude et la pertinence des réponses générées, nous devons examiner les biais que ces outils peuvent présenter, tant dans les données d’entraînement que dans la conception des algorithmes eux-mêmes. 

Un « bon » exemple de biais dans l’IA est ce projet avorté d’Amazon qui visait à développer un outil de recrutement. Cet outil devait analyser les CV et attribuer des notes aux candidats. Cependant les développeurs ont formé l’outil sur des données provenant principalement de candidats masculins. Ce qui a conduit à des décisions de recrutement défavorables pour les femmes. 

Pour d’autres exemples de biais dans la tech, je vous invite à lire le bouquin de Sara Wachter-Boettcher, Technically Wrong. L’autrice y aborde pleins d’exemples sur comment les produits digitaux peuvent être biaisés en raison de l’absence de diversité dans les équipes de design et de développement. 

En faisant quelque recherche, j’étais presque rassurée de voir qu’il existe plein de ressources en ligne pour créer des algorithmes plus « justes ». En voici quelques exemples : 

La face cachée de l’IA: les coûts matériels et énergétiques 

Derrière la magie de l’IA ✨, il y a aussi des coûts matériels et énergétiques importants. Son fonctionnement et son utilisation ont un impact sur l’environnement, ce qui souligne l’importance d’une approche systémique. A-t-on vraiment besoin d’utiliser autant de ressources énergétiques pour améliorer notre façon de travailler ? 

Entraîner et faire fonctionner des modèles d’IA nécessite des infrastructures puissantes et énergivores. Selon certaines études, les data centers consomment une quantité d’énergie considérable. Ce qui soulève des questions écologiques non négligeables à l’heure où la réduction de l’impact environnemental est une priorité mondiale. (Un exemple pas si loin, à Marseille : CONFÉRENCE DE PRESSE À MARSEILLE CONTRE LES DATA CENTERS

Utiliser internet c’est utiliser du charbon .

📖Le monde sans fin – Jancovici / Blain 

Les serveurs qui traitent des millions de données consomment énormément d’énergie, et contribuent donc à l’empreinte carbone numérique. 

D’ici 2026, le secteur de l’IA devrait connaître une croissance exponentielle et consommer au moins dix fois la demande d’énergie de 2023. Source : Rapport de l’International Electricity Agency (2024) 

« Des chercheurs de l’université du Massachusetts ont mené une étude pour déterminer la quantité d’énergie utilisée pour former certains grands modèles d’IA populaires. Selon les résultats, la formation peut produire environ 626 000 livres de dioxyde de carbone, soit l’équivalent d’environ 300 vols aller-retour entre New York et San Francisco – près de 5 fois les émissions d’une voiture moyenne pendant toute sa durée de vie. » Alokya Kanungo pour Earth.org, The Green Dilemma: Can AI Fulfil Its Potential Without Harming the Environment? 

Alors que la priorité actuelle est d’adopter une approche de sobriété énergétique, l’IA épuise le réseau électrique… Quel paradoxe de voir les grandes entreprises tech comme Google ou Microsoft, qui investissent dans l’IA pour lutter contre le dérèglement climatique tout en continuant à polluer…  

« En tant qu’entreprise axée sur l’IA, nous avons fait nos preuves en appliquant l’IA à certains des défis les plus importants auxquels l’humanité est confrontée, tels que la dégradation de l’environnement et le changement climatique, et nous voyons des opportunités passionnantes d’avoir un impact plus important.  L’IA est intégrée à bon nombre de nos initiatives en matière de développement durable, notamment la détection et la prévision des inondations et des incendies de forêt, l’aide à l’adaptation des populations et des villes aux chaleurs extrêmes et la protection de l’habitat d’espèces essentielles. » Google, Environmental Report (2023) 

Conclusion 

Pour conclure, je dirais qu’il est encore difficile pour moi d’adopter entièrement l’IA dans mon process de travail Design. Entre fascination et perte de contrôle, j’avance avec prudence et essaie de consommer l’IA de manière raisonnée…  
Comme pour les autres secteurs, l’avenir du Design dépendra de la manière dont les acteurs principaux (nous, designers) choisiront d’intégrer l’IA dans leur pratique.  

Je finirai par cette citation : 

Many of the dangers we face indeed arise from science and technology but, more fundamentally, because we have become powerful without becoming commensurately wise.

Carl Sagan,   Pale Blue Dot (1994)

Pour aller plus loin et voir l’impact de l’IA dans la société. Je vous recommande de :