Conception d'interactions éthiques et durables entre l'humain et les systèmes d'intelligence artificielle. Le cas de l'expérience vécue des usagers de l'IA vocale

This study aims at building a systemic and situated ethical vision, around the notion of sustainability, in order to favor more ethical and sustainable interactions between humans and Artificial Intelligence (AI). We consider that the design of the human-AI interaction has to be based on the contexts of use, the subjects’ intrinsic points of view as well as the development of the human being. To assist the human activity in an acceptable and appropriated way, the design of the AI based system must observe a set of design criteria. We illustrate these issues with a literature review on ethical criteria being discussed by public policies and ethics committees. We reflect on these results with a situated ethics point of view by considering the real uses of voice technologies in domestic and professional settings. This knowledge help to precise how to promote ethical and sustainable interactions during the design process of AI systems. MOTS-CLÉS. Éthique, durabilité, interactions homme-système, intelligence artificielle, technologies vocales, assistants vocaux, activité domestique, usages, acceptabilité, appropriation, ergonomie, développement, utilisateurs. 418 RIA. Volume 32 – n° 4/2018

[1]  W. Ramsey,et al.  The Cambridge Handbook of Artificial Intelligence , 2014 .

[2]  Antoinette Rouvroy,et al.  Gouvernementalité algorithmique et perspectives d'émancipation : le disparate comme condition d'individuation par la relation? , 2013 .

[3]  Jean-Baptiste Haué.  Intégrer les aspects situés de l’activité dans une ingénierie cognitive centrée sur la situation d’utilisation , 2004 .

[4]  V. Cédric.  Donner un sens à l'intelligence artificielle : pour une stratégie nationale et européenne , 2018 .

[5]  Paul Hallé,et al.  À quoi rêvent les algorithmes , 2016 .

[6]  D. Cardon.  À quoi rêvent les algorithmes : nos vies à l'heure des big data , 2015 .

[7]  Jakob Nielsen,et al.  Usability engineering , 1997, The Computer Science and Engineering Handbook.

[8]  J. Cacioppo,et al.  On seeing human: a three-factor theory of anthropomorphism. , 2007, Psychological review.

[9]  Gerald Penn,et al.  Speech-based Interaction: Myths, Challenges, and Opportunities , 2015, CHI Extended Abstracts.

[10]  Patrick Lin,et al.  Current Trends in Robotics: Technology and Ethics , 2012 .

[11]  C. Pelletier,et al.  L’appropriation des technologies de l’Internet et ses facteurs critiques de succès : un défi de plus pour les PME ? , 2009 .

[12]  Hélène Papadoudi-Ros.  Serge Tisseron, Le Jour où mon robot m’aimera. Vers l’empathie artificielle , 2018, Questions de communication.

[13]  Markku Turunen,et al.  Voice commands in home environment - a consumer survey , 2008, INTERSPEECH.

[14]  Wolfgang Minker,et al.  Développement des technologies vocales , 2002 .

[15]  Weng-Keen Wong,et al.  Too much, too little, or just right? Ways explanations impact end users' mental models , 2013, 2013 IEEE Symposium on Visual Languages and Human Centric Computing.

[16]  M. Fréjus.  Élargissement et renouvellement des questions traitées par l’ergonomie dans le domaine du développement durable : retour sur 12 ans de travaux sur les activités domestiques et la maîtrise des consommations énergétiques , 2019, Psychologie Française.

[17]  Daryle Gardner-Bonneau,et al.  Human Factors and Voice Interactive Systems , 1999 .

[18]  Scott R. Klemmer,et al.  How bodies matter: five themes for interaction design , 2006, DIS '06.

[19]  Guy Hoffman,et al.  Comparing Social Robot, Screen and Voice Interfaces for Smart-Home Control , 2017, CHI.

[20]  Randy Allen Harris,et al.  Voice Interaction Design: Crafting the New Conversational Speech Systems , 2004 .

[21]  Céline Kermisch,et al.  Les matrices éthiques au service des technologies à risques. Le cas de la gestion des déchets radioactifs à longue durée de vie , 2016 .

[22]  M. Dubois,et al.  L'acceptabilité des technologies : bilans et nouvelles perspectives , 2009 .

[23]  Nicola Dell,et al.  Supporting Community Health Workers in India through Voice- and Web-Based Feedback , 2017, CHI.

[24]  Karolin Papst,et al.  Human Factors For Informatics Usability , 2016 .

[25]  Serge Proulx,et al.  Trajectoires d’usages des technologies de communication : les formes d’appropriation d’une culture numérique comme enjeu d’une « société du savoir » , 2002, Ann. des Télécommunications.

[26]  Ben Mepham,et al.  A Framework for the Ethical Analysis of Novel Foods: The Ethical Matrix , 2000 .

[27]  Antoinette Rouvroy,et al.  Gouvernementalité algorithmique et perspectives d'émancipation , 2013 .

[28]  P. Morel.  Vertu éthique et rationalité pratique chez Aristote. Note sur la notion d’hexis proairetikê , 2017 .

[29]  Peter Norvig,et al.  Artificial Intelligence: A Modern Approach , 1995 .

[30]  P. Mouron.  La loi pour une République numérique , 2017 .

[31]  Gabriel García-Acosta,et al.  Ergoecology: evolution and challenges. , 2012, Work.

[32]  J. Rodin.  Aging and health: effects of the sense of control. , 1986, Science.

[33]  Dympna O'Sullivan,et al.  The Role of Explanations on Trust and Reliance in Clinical Decision Support Systems , 2015, 2015 International Conference on Healthcare Informatics.

[34]  Eli Pariser,et al.  The Filter Bubble: What the Internet Is Hiding from You , 2011 .