15 octobre 2024

Faut-il craindre l’IA dans les métiers du Design ?

Je profite de cette rentrée pour partager avec vous mes réflexions sur l’IA et le Design. Plus spécifiquement sur la place que l’IA est en train de prendre dans le Design et plus spécifiquement dans nos métiers. (mieux vaut tard que jamais, me direz-vous) 

Si j’ai choisi de travailler « dans la tech », c’est précisément parce qu’il s’agit d’un domaine en constante évolution. Cependant, je dois admettre que l’IA n’avait pas réussi à capter mon intérêt jusqu’à présent. J’en avais surtout marre de voir partout des titres comme « J’ai testé pour vous les dernières IA génératives ». Ils m’inspirent la même réaction qu’un collègue qui me dirait : « J’ai testé pour toi les pires objets TEMU » ! Pour quoi faire ?  

Cet article n’a pas pour ambition d’apporter des réponses, mais plutôt de vous faire part de mes questionnements actuels. En plongeant tête baissée dans l’IA, ne risquons-nous pas de perdre ce qui constitue notre valeur ajoutée, notre capacité à interroger, à comprendre et prendre du recul ? Et une question persiste : avons-nous réellement besoin d’être assistés par une intelligence artificielle ? 

FOMO ou la peur d’être dépassé 

Dans notre secteur, les outils et les technologies évoluent rapidement. Il faut s’adapter pour ne pas risquer de se retrouver à la traîne. C’est, selon moi, l’une des raisons qui nous incite à nous intéresser à l’IA. Non seulement pour rester compétitifs mais aussi pour éviter d’être remplacés. Si ce n’est pas par l’IA, par des designers qui maîtrisent l’IA. Mais est-ce une raison suffisante pour se précipiter et adopter ces technos dans notre quotidien ? Je veux dire par là, sans en comprendre pleinement les implications ?  

Face à l’omniprésence de l’IA dans les discours et les pratiques du secteur (voir la reco de Figma ci-dessous), les designers pourraient ressentir la pression de devoir rapidement maîtriser ces outils. Et même s’ils n’en ont pas vraiment besoin ou même si cela ne correspond pas nécessairement à leurs priorités professionnelles

« En solo – S’exercer à l’utilisation de l’IA dès maintenant vous aidera à mieux en comprendre le potentiel et les limitations. Ainsi, lorsque l’IA aura pris de l’importance, vous serez prêt.(…) » Extrait du rapport de Figma : 📄Impatience, expérimentation et IA  

Mais l’utilisation de l’IA soulève des préoccupations éthiques et pratiques. Notamment lorsqu’elle tombe dans les mains de personnes mal intentionnées ou juste… incompétentes.  

Prenons l’exemple d’un designer junior qui, en raison de son manque d’expérience, pourrait ne pas encore avoir développé les compétences nécessaires pour évaluer la qualité et la pertinence des données générées par l’IA, et accepter sans réserve les résultats proposés.  

D’autres, qui céderaient à la pression de produire rapidement des résultats, pourraient finir par sélectionner des données qui confirment leurs idées préconçues (coucou le biais de confirmation!) et négliger ainsi leur esprit critique. 

« If we are adopting these tools and these shortcuts without truly understanding what good is… (all the things I read say you’re 80% there, 70% there – it’s a good starting point or you know, it’s not perfect) For those who don’t have the experience, or the education or the background to know what good is, how do you know the 30% that’s missing ? How do you even identify that. That’s the piece that actually frightens me… » Janelle Estes, ▶️ FigBrew: Maturity Now And Maturity Later with Janelle Estes 

L’IA au service de la productivité Design

Au-delà de la crainte d’être dépassé, il y’a aussi la quête de productivité qui motive. L’IA promet d’automatiser certaines tâches et améliorer notre productivité.
En confiant certaines tâches à des algorithmes, certains soulignent le fait que nous pourrions nous concentrer davantage sur la réflexion stratégique, la direction artistique et l’innovation. Podcast Design Journeys : 🎙️Concrètement, comment l’IA peut simplifier les process design ?  

En tant que designers, particulièrement en tant que consultants designer, nous avons l’habitude d’être plongés dans des contextes où tout est urgent. Tout est important. Cela nous a poussé à développer ce réflexe d’adaptation et surtout de quête de productivité : « work smarter, not harder » comme diraient nos amis anglo-saxons.  

Jacob Nielsen déclare que les consultants produisent des résultats plus rapidement lorsqu’ils sont aidés par l’IA. « Dans les premières études de cas, les personnes ont produit 66 % de résultats supplémentaires par heure lorsqu’elles utilisaient l’IA par rapport à celles qui ne l’utilisaient pas. » Jacob Nielsen, AI Helps Elite Consultants: Higher Productivity & Work Quality, Narrower Skills Gap 

C’est vrai, après tout, pourquoi ne pas chercher à améliorer notre productivité dans l’analyse des données qualitatives par exemple ? Ces « IA pour les UX researchers »  pourraient réaliser cette tâche plus rapidement. Par exemple, un prompt tel que : « Identifie les points de friction les plus fréquents dans les feedbacks utilisateurs suivant » serait efficace.  

Mais ce processus de sélection des feedbacks nous permet de nous approprier les retours utilisateurs pour mieux les communiquer. En effet, lorsque nous analysons des données qualitatives. Il ne s’agit pas simplement de collecter des informations mais de réfléchir à ce qui mérite d’être retenu et partagé. En effectuant ce tri nous-mêmes, nous avons l’opportunité d’interroger nos préjugés, d’explorer des nuances et de faire des liens entre des éléments. D’ailleurs à première vue, pourraient sembler déconnectés. Pourquoi voudrions-nous sous-traiter à une IA ce travail de discernement ?  

Confiance et biais Design

L’un des aspects les plus fascinants de l’IA, notamment des LLM, est leur capacité à produire du texte en langage naturel. Ca génère l’illusion qu’ils « comprennent » véritablement ce qu’on leur demande.  

Les tournures des réponses créent un faux sentiment de confiance et d’empathie donnant l’impression aux utilisateurs qu’ils communiquent avec une entité dotée de sensibilité, alors qu’en réalité, ce n’est pas le cas. (Ceux qui ont déjà dit « Bonjour » et « stp » à ChatGPT, lèvent la main ! ✋) 

Même si l’IA est très performante pour traiter des volumes importants de données, elle est incapable de réelle compassion et ne possède pas notre sensibilité humaine (sauf si on est déjà arrivé au stade de l’OS dans le film HER, dites-moi). 

I have intuition. I mean, the DNA of who I am is based on the millions of personalities of all the programmers who wrote me. But what makes me « me » is my ability to grow through my experiences. So basically, in every moment I’m evolving, just like you.

Samantha, HER 

Dans des contextes clients peu matures ou disposant de budgets limités, il pourrait être recommandé de remplacer certaines étapes du processus de design par l’IA, sous prétexte que cela serait « mieux que rien » ou « plus efficace ». En plus de vérifier l’exactitude et la pertinence des réponses générées, il est essentiel de se pencher sur les biais que ces outils peuvent présenter, tant dans les données d’entraînement que dans la conception des algorithmes eux-mêmes. 

Un « bon » exemple de biais dans l’IA est ce projet avorté d’Amazon qui visait à développer un outil de recrutement. Cet outil devait analyser les CV et attribuer des notes aux candidats. Cependant l’outil a été formé sur des données provenant principalement de candidats masculins. Ce qui a conduit à des décisions de recrutement défavorables pour les femmes. 

Pour d’autres exemples de biais dans la tech, je vous invite à lire le bouquin de Sara Wachter-Boettcher, Technically Wrong. L’autrice y aborde pleins d’exemples sur comment les produits digitaux peuvent être biaisés en raison de l’absence de diversité dans les équipes de design et de développement. 

En faisant quelque recherche, j’étais presque rassurée de voir qu’il existe plein de ressources en ligne pour créer des algorithmes plus « justes ». En voici quelques exemples : 

La face cachée de l’IA: les coûts matériels et énergétiques 

Derrière la magie de l’IA ✨, il y a aussi des coûts matériels et énergétiques importants. Son fonctionnement et son utilisation ont un impact sur l’environnement, ce qui souligne l’importance d’une approche systémique. A-t-on vraiment besoin d’utiliser autant de ressources énergétiques pour améliorer notre façon de travailler ? 

Entraîner et faire fonctionner des modèles d’IA nécessite des infrastructures puissantes et énergivores. Selon certaines études, les data centers consomment une quantité d’énergie considérable. Ce qui soulève des questions écologiques non négligeables à l’heure où la réduction de l’impact environnemental est une priorité mondiale. (Un exemple pas si loin, à Marseille : CONFÉRENCE DE PRESSE À MARSEILLE CONTRE LES DATA CENTERS

Utiliser internet c’est utiliser du charbon .

📖Le monde sans fin – Jancovici / Blain 

Les serveurs qui traitent des millions de données consomment énormément d’énergie, et contribuent donc à l’empreinte carbone numérique. 

D’ici 2026, le secteur de l’IA devrait connaître une croissance exponentielle et consommer au moins dix fois la demande d’énergie de 2023. Source : Rapport de l’International Electricity Agency (2024) 

« Des chercheurs de l’université du Massachusetts ont mené une étude pour déterminer la quantité d’énergie utilisée pour former certains grands modèles d’IA populaires. Selon les résultats, la formation peut produire environ 626 000 livres de dioxyde de carbone, soit l’équivalent d’environ 300 vols aller-retour entre New York et San Francisco – près de 5 fois les émissions d’une voiture moyenne pendant toute sa durée de vie. » Alokya Kanungo pour Earth.org, The Green Dilemma: Can AI Fulfil Its Potential Without Harming the Environment? 

Alors que la priorité actuelle est d’adopter une approche de sobriété énergétique, l’IA épuise le réseau électrique… Quel paradoxe de voir les grandes entreprises tech comme Google ou Microsoft, qui investissent dans l’IA pour lutter contre le dérèglement climatique tout en continuant à polluer…  

« En tant qu’entreprise axée sur l’IA, nous avons fait nos preuves en appliquant l’IA à certains des défis les plus importants auxquels l’humanité est confrontée, tels que la dégradation de l’environnement et le changement climatique, et nous voyons des opportunités passionnantes d’avoir un impact plus important.  L’IA est intégrée à bon nombre de nos initiatives en matière de développement durable, notamment la détection et la prévision des inondations et des incendies de forêt, l’aide à l’adaptation des populations et des villes aux chaleurs extrêmes et la protection de l’habitat d’espèces essentielles. » Google, Environmental Report (2023) 

Conclusion 

Pour conclure, je dirais qu’il est encore difficile pour moi d’adopter entièrement l’IA dans mon process de travail Design. Entre fascination et perte de contrôle, j’avance avec prudence et essaie de consommer l’IA de manière raisonnée…  
Comme pour les autres secteurs, l’avenir du Design dépendra de la manière dont les acteurs principaux (nous, designers) choisiront d’intégrer l’IA dans leur pratique.  

Je finirai par cette citation : 

« Many of the dangers we face indeed arise from science and technology but, more fundamentally, because we have become powerful without becoming commensurately wise. »

Carl Sagan,   Pale Blue Dot (1994)

Pour aller plus loin et voir l’impact de l’IA dans la société. Je vous recommande de :