Controverse
Nos differents contact.
Pierre Rouhaud.
Fondateur et directeur de l'entreprise Stimul'Activ.
Nous avons eu un appel téléphonique avec Pierre Rouhaud cependant nous n'avons malheureusement pas enregistré la conversation. Nous vous proposons donc un résumé de l'entretien :
Pierre Rouhaud a créé l’entreprise Stimul'Activ parce qu'il a accompagné son père qui était atteint de la maladie de Parkinson. Il a remarqué qu'il y'avait une multitude de soignants mais qu'il n'y avait pas vraiment de liens entre les patients et le personnel. Il a donc eu l'idée d’un robot affectif Mwoo. Il a observé que cela éveille les patients notamment leur curiosité et que cela les mettait de bonne humeur. Il lui a fallu des années avant de créer son robot qui va continuer à être amélioré, il s’est approché du CHU de Nantes, cependant le développement d’un robot en France est très complexe, et compliqué au niveau budgétaire (ils veulent des choses remboursé par le sécurité Sociale or cela demande de très longues analyses/études …). Ce robot s’adresse aux personnes âgées (maison de retraite EHPAD ), aux polyhandicapés et aux personnes atteintes du trouble autistique mais aussi aux malades du type Alzheimer . Il n’a pas encore réalisé de véritables études qui démontrent l’efficacité du robot.
Cédric Sauviat.
Auteur du livre "Intelligence artificielle: la nouvelle barbarie.
De : Cédric Sauviat
Bonjour Madame Ourceau
Merci pour votre message. Voici en bref notre opinion :
- efficacité pour lutter contre l'isolement :
I - d'une manière générale nous ne contestons pas "l'efficacité" des systèmes à IA; concernant le champ des IA empathiques, il est prévisible que les IA vont se perfectionner pour pouvoir 1) interpréter les signaux émotionnels émis par leurs interlocuteurs (signaux sémantiques, vocaux, corporels notamment); 2) adapter leur propre communication à ces signaux; 3) et donc simuler la conversation d'un être humain empathique avec ces personnes. Les méthodes et comportements adoptés par les professionnels (psychothérapeutes, éducateurs etc..) pourront être appris par les IA et utilisés en situation réelle.
II - au vu de la manière dont les écrans et les interfaces numériques se sont développés dans toutes les tranches d'âge et notamment les plus jeunes, au point de susciter de véritables addictions voire certaines pathologies entravant le développement psychomoteur des jeunes enfants (voir le dossier sur "l'autisme virtuel" de AL Ducanda), il est prévisible que ces IA "empathiques" soient adoptées par le public auquel elles sont destinées. Qu'on songe également à la manière dont les tamagotchis, pourtant peu sophistiqués, ont donné lieu à de véritables liens affectifs au Japon.
III - Par conséquent, les IA empathiques, tout comme les chiens il y a huit mille ans et la télévision il y a cinquante ans, seront adoptées par toutes les personnes ayant un besoin de compagnie ou d'écoute empathique et certainement on peut prévoir qu'il se créera des liens affectifs avec elles.
- dangers et risques de ce type de robot :
I - poser la question des dangers et risques de ce type de robot c'est ce nous semble, mal poser les termes du problème. C'est risquer d'aborder la question sous un angle purement technoscientifique, c'est-à-dire avec la finalité d'identifier les risques et de les éliminer si possible afin de concevoir le produit "parfait". Mais bien sûr, votre démarche est normale compte tenu de votre formation. Je vous propose donc plutôt un certain nombre de questions ouvertes, à vous d'y répondre.
II - pensez-vous que la mise au point d'IA empathiques soit cantonnée au domaine de l'autisme ou de l'isolement, et pensez-vous que la perspective de pouvoir influencer les décisions de n'importe quel être humain, en tant que consommateur, ne constitue pas un champ d'application autrement plus massif que celui de l'autisme et de l'isolement ? En d'autres termes, pensez-vous que les applications médicales, thérapeutiques et humanitaires des IA représentent, à l'heure actuelle, plus de 5% des sommes investies dans le domaine ?
III - pour quelles raisons pensez-vous qu'il soit envisagé de déléguer la communication avec les autistes et les personnes âgées à des IA empathiques plutôt qu'à des êtres humains ? Qu'est-ce que ces raisons nous disent de notre société ?
IV - souhaitez-vous vivre dans un monde où les interactions sociales se feront en grande partie avec des IA empathiques ou avec l'assistance d'IA (assistants virtuels ou RHAO, relations humaines assistées par ordinateur) ?
J'espère que ces quelques considérations vous aideront à répondre vous-même aux questions que vous vous posez.
Cordialement
Cédric Sauviat
De : Ourceau Élise
Bonjour,
Merci beaucoup pour votre réponse très constructive, qui nous est d’une grande aide,
Sur votre site, dans l’un de vos articles, la phrase suivante a retenu notre attention,
“elle veut devenir infirmière. Le problème c’est qu’elle est moins patiente avec les vieux qu’un robot ! Se pourrait-il que les robots aient plus de talent pour les qualités humaines que les hommes ?”
Ainsi ces robots sont un risque pour l’emploi, savez vous si d’autre professions, en plus d’infirmière sont menacés par ces robots ?
Ces robots éloignent d’avantage les personnes autistes et isolées des autres hommes, et pensez vous que au delà des troubles psychiatriques que cela peut engendrer, avec la collecte des donnés par ces robots, cela peut représenter un danger de manipulation?
Enfin pensez vous qu’il faut interdire ces robots ou du moins instaurer une charte pour encadrer ces pratiques ?
En vous remerciant,
Cordialement
De : Cédric Sauviat
Bonjour Madame Ourceau
Menace pour certaines professions : c'est une question que beaucoup d'économistes ont examinée et débattue, tous s'accordent sur un impact considérable de l'IA mais pas sur l'échéance ni la possibilité que de nouveaux métiers remplacent les anciens. Voici notre avis : un grand nombre sinon toutes les professions seront impactées par l'IA (sous forme de robots ou non) et il est vraisemblable que la plupart disparaissent à l'horizon d'une génération si aucun moratoire sur la recherche en IA n'est décidé d'ici là. Nous sommes très sceptiques sur la possibilité d'émergence de nouveaux métiers qui seraient préservés de l'automatisation.
Danger de manipulation : nous sommes tous manipulables par des IA qui détiendraient des données personnelles, pas seulement les autistes. Ex: une appli qui nous recommande de faire du sport en estimant que nous ne bougeons pas assez nous manipule déjà, une publicité qui nous suit sur Internet (ex. Criteo) ou dans nos trajets en voiture (ex. Waze) nous manipule déjà, etc.. Où s'arrête le conseil et où commence l'influence voire la manipulation ? Nous vous laissons juge.
Faut-il interdire ces robots : oui mais pas seulement les robots, il faut arrêter la mise au point d'IA toujours plus perfectionnées. L'IA ne doit pas être encadrée par des chartes (qui sont des initiatives privées) mais par des lois (d'ordre public), et en l'occurrence nous pensons qu'elle doit être interdite. Cela peut paraître extrême mais, tout comme les stocks de masques FFP2, ça deviendra une évidence pour tout le monde dans quelques années.
Cordialement
C Sauviat
Carla Rossini.
Responsable développement France.
De : Carla Rossini.
Bonjour,
Je me permets de prendre suite à votre demande d'information concernant nos robots sociaux. Je vais tenter de répondre à vos questions, vous trouverez donc en bleu mes annotations.
Je vais commencer par le robot phoque émotionnel interactif PARO :
Quels sont les principaux bénéfices apportées à ces personnes âgées que vous avez pu observer ?
Sur les troubles du comportement : En jouant le rôle d’objet transitionnel, en rassurant la personne et en calmant son angoisse. PARO permet de créer une atmosphère reposante (mentalement et physiquement) pour le patient, stimule l’expression des sentiments, des mémoires (émotionnelles et procédurales) et expériences du passé. Il joue sur le rappel des besoins physiologiques et la reconnaissance de l’identité de la personne. PARO permet d’agir sur des troubles tels que l’anxiété, l’irritation, l’agressivité, la dépression, l’apathie. Pour une personne ayant des angoisses du coucher (assez commun en EHPAD), proposer PARO c'est diminuer l'angoisse, apaiser et également diminuer la médication (moins de calmant utilisé).
Sur les manifestations douloureuses : PARO permet de diminuer les manifestations douloureuses grâce à son effet distracteur vis-à-vis de la situation aversive de soin. Ceci est d’autant plus important que peu d’interventions non médicamenteuses existent pour soulager la douleur aiguë des personnes âgées atteintes de démence accueillies en institution. L’effet positif de PARO sur la douleur vient ainsi répondre à un réel besoin des équipes de soins dans les institutions accueillant des personnes avec démence. Durant une toilette difficile ou bien le soin de parties douloureuses (ex : escarts), proposer PARO c'est permettre de détourner l'attention, de détendre, d'occuper mais également de faire accepter le soin plus facilement. Paro peut être utilisé pour montrer le soin qui sera fait, toilette, prise de sang, bandage etc... expliqué avec des gestes et un support et non des mots. On observe également une diminution des antidouleurs lors des soins douloureux avec l'utilisation de PARO.
Sur la baisse des médications : En ayant une action concrète sur les troubles du comportement, PARO est un levier positif sur la baisse des médications également dans un contexte de déremboursement de certains traitements destinés à retarder les effets de la maladie d’Alzheimer
Et possédez-vous des statistiques démontrant ces effets bénéfiques ?
De nombreuses études ont été réalisées :
1. « Adaptabilité du robot PARO dans la prise en charge de la maladie d’Alzheimer sévère de patients institutionnalisés » (M. de Sant’Anna, B. Morat, A.S. Rigaud) qui cite “Les résultats de la NPI mettent en évidence une réduction globale statistiquement significative (p=0,035) des troubles du comportement des participants. Par ailleurs, nos observations nous ont permis de vérifier l’impact de la présence du robot sur l’expression des affects, les échanges verbaux et gestuels, la recherche de liens et de contact de chaque individu », de Sant’Anna M, et al. Adaptabilité du robot Paro dans la prise en charge de la maladie d’Alzheimer sévère de patients institutionnalisés. Neurol psychiatr gériatr (2011) / https://doi.org/10.1016/j.npg.2011.10.002
2. « Evaluation en EHPAD de la technologie et l’intelligence artificielle du robot PARO chez les résidents âgés avec démences modérés à sévères et troubles de comportement » (G. Pisica Donose (1) ; A. De Poix (1) ; A. Floriot (2) ; C. More (3) ; A. Seknazi (2) - (1) Médical, Expertise et Soins, SURESNES ; (2) Direction médicale, domusvi, Suresnes ; (3) Ehpad azur, domusvi, Suresnes) Sur un total de 144 séances et sur le critère principal, le temps moyen d’interaction nous avons constaté une différence significative en faveur de PARO (18 min) vs 9 min avec Sugar (p=0,002). Sur tous les autres paramètres analysés, acceptation du contact, amélioration des troubles de comportement, attitude et sentiments du résident par rapport à l’objet, comportements pendant les séances, les résultats était convergents et en faveur de PARO. En conclusion l’étude apporte des arguments en faveur de la technologie des robots PARO et de ses effets bénéfiques auprès des personnes âgées démentes. L’originalité de l’étude réside principalement dans l’objectivité et la fiabilité des critères d’évaluation clinique. Par ailleurs, elle prend en compte les conditions réelles de vie en EHPAD, ce qui permettra une exploitation rapide des résultats et une mise en pratique de l’outi
3. « Effects on Symptoms of Agitation and Depression in Persons with Dementia Participating in Robot-Assisted Activity: A Cluster-Randomized Controlled Trial » (Nina Jøranson MNSc, Ingeborg Pedersen PhD, Anne Marie Mork Rokstad PhD, Camilla Ihlebæk PhD) Conclusion : cette étude a permis de mettre en évidence un effet à long terme sur la dépression et l’agitation des résidents atteints de démence, en utilisant PARO lors d’activité de groupe au sein de maisons de retraite. PARO pourrait être un traitement adéquat non-pharmacologique pour les symptômes neuropsychiatriques et devrait être considéré comme un outil efficace dans la pratique clinique. http://dx.doi.org/10.1016/j.jamda.2015.05.002
4. « The Psychosocial Effects of a Companion Robot: A Randomized Controlled Trial » (Hayley Robinson MSc, Bruce MacDonald PhD, Ngaire Kerse PhD, Elizabeth Broadbent PhD) Cette étude Néo-Zélandaise, basée sur 40 patients, montre l’effet de PARO sur l’amélioration de la qualité de vie des patients, la diminution du sentiment de solitude, et sur l’augmentation de la communication par rapport à une thérapie via un animal de compagnie. http://dx.doi.org/10.1016/j.jamda.2013.02.007
5. « Exploring the effect of companion robots on emotional expression in older adults with Dementia: a pilot randomized controlled trial » (Wendy Moyle, PhD, RN, DipAppSci; Marie Cooke, PhD, RN, DipAppSci; Elizabeth Beattie, PhD, RN, FGSA; Cindy Jones, PhD, BBus(HRM), BA(Psych); Barbara Klein, DPhil, Dipl.-soz; Glenda Cook, PhD, RGN, RST; and Chrystal Gray, BPsychSci(Hons), MClinPsyc) Cette étude Australienne, basée sur 18 patients, montre une amélioration significative de la qualité de vie des malades atteints de démence grâce à l’utilisation de PARO.
Moyle, W., Cooke, M., Beattie, E., Jones, C., Klein, B., Cook, G., & Gray, C. (2013). Exploring the effect of companion robots on emotional expression in older adults with dementia: A pilot randomized controlled trial. Journal of Gerontological Nursing, 39(5), 46-53. / https://doi.org/10.3928/00989134-20130313-03
6. Synthèse du rapport sur l’utilisation du robot PARO dans des EHPAD auprès de résidents atteintes de troubles cognitifs (Mutualité Française) , Etude réalisée au sein de 11 EHPAD sur une période de 18 mois (Sept 2016 – Mars 2018)
télécharger l’étude : https://www.mutualite.fr/actualites/robot-paro-un-rapportevalue-son-usage-en-ehpad/
Je vous propose ci-dessus certaines études cliniques, d'autres sont disponibles sur notre site internet : www.phoque-paro.fr
Combien de temps vous a été nécessaire pour mettre au point ce robot ?
Paro a nécessité 10 années de R&D au Japon, pour sa forme, le traitement efficace de sa fourrure, son acceptation et son IA.
Et enfin comment sont traitées les données collectées par vos robot ?
L'IA de PARO est très restreinte elle lui permet uniquement de mémoriser son nom (composé de 2 syllabes).
Concernant NAO ZORA :
Quels sont les principaux bénéfices apportées à ces personnes âgées que vous avez pu observer ?
Les effets observés ne se font pas dans le cadre d'une maladie neurodégénérative modérée ou sévère (comme PARO), Lutter contre le déclin cognitif via des jeux interactifs, Créer un nouveau type d’animation – d’activité, Transformer les séances d’exercices physiques en séances ludiques, Lutter contre le sentiment de solitude/isolement. Observations d'usage : Le robot Zora a un effet très positif sur les résidents, Il exerce de la fascination et du mimétisme, L’attractivité du robot génère une bonne participation, concentration, verbalisation des résidents, avec un impact positif sur l’humeur.
Et possédez-vous des statistiques démontrant ces effets bénéfiques ?
A ce jour il n'y qu'une seule étude qui a été réalisée sur Nao ZORA.
Combien de temps vous a été nécessaire pour mettre au point ce robot ?
Concernant le temps nécessaire pour mettre au point ce robot :
- création de NAO en 2005, par Aldebaran qui est la première entreprise française concevant des robots humanoïdes.
- Fin 2006 : première apparition grand public du robot NAO
- Le 15 août 2007, Nao remplace le chien robot Aibo de Sony en tant que robot utilisé dans la RoboCup Standard Platform League (SPL), une compétition internationale de robots joueurs de football
- 2008 Le Nao Academics Edition a été développé pour les universités et les laboratoires à des fins de recherche et d'éducation.
- 2012 : rachat par le groupe japonais Softbank, qui donnera naissance à de nombreux robots comme Pepper, Romeo…
- 2014 : à l’initiative d’une société belge QBMT créée en 2011, sortie de la version Zora, version pour le médicosocial
- 2015 : 1ère entrée de Zora en EHPAD en France.
Et enfin comment sont traitées les données collectées par vos robot ?
Nao ZORA n'est pas doté d'une IA, il n'est pas capable de collecter des données.
En vous souhaitant bonne réception, n’hésitez pas à me contacter directement pour tout complément d’information,
Bien cordialement