Au cours des deux dernières décennies, beaucoup d’encre a coulé sur les risques associés aux avancées technologiques, de l’augmentation de l’anxiété et de la dépression chez les adolescents aux préoccupations concernant l’éthique et l’autonomie entourant l’intelligence artificielle.
Les risques sont tout autour de nous. Mais comment les catholiques devraient-ils répondre à la prise de conscience croissante du risque dans le monde moderne ?
Paul Scherz, professeur agrégé de théologie morale à l’Université catholique d’Amérique, a passé des années à réfléchir au concept de sensibilisation aux risques et à ses implications dans la société contemporaine.
Dans son livre récent, “Tomorrow’s Troubles: Risk, Anxiety, and Prudence in an Age of Algorithmic Governance”, il réfléchit sur les risques, la technologie, les algorithmes et l’appel chrétien à la confiance.
Charles Camosy a parlé avec Scherz des risques et de l’anxiété qu’ils peuvent produire, ainsi que des moyens d’être prudent dans l’analyse des risques – à la fois en tant que société et en tant qu’individus.
Comment vous êtes-vous intéressé à la thématique du risque ? Pourquoi et comment cela a-t-il conduit à un livre sur ce sujet ?
Mon intérêt pour le risque est né de mon travail en génétique. Avant d’entreprendre des études de théologie morale, j’ai passé plusieurs années comme chercheur en génétique. Au cours de ma carrière de chercheur, j’ai remarqué qu’il y avait un virage progressif dans le domaine de la recherche de remèdes contre la maladie (bien que cela reste une priorité majeure) vers la prédiction du risque de maladie future.
Pensez aux personnes qui font séquencer leur ADN par une société de génétique directe aux consommateurs comme 23andMe. Ce qu’ils obtiennent, en partie, est une liste de risques – vous avez un risque accru de 2 % de cancer du côlon, un risque réduit de 5 % de diabète, etc. De plus en plus, la prédiction des risques est ce sur quoi se concentre le domaine de la génétique.
La connaissance de ces risques peut conduire à des actions assez dramatiques, comme les femmes présentant des risques génétiques de cancer du sein subissant une double mastectomie prophylactique. Si aucune mesure préventive ne peut être prise, comme dans le cas du risque génétique de la maladie d’Alzheimer, les gens se retrouvent avec une anxiété accrue.
Voir ce terrain changeant m’a poussé à me demander comment un chrétien devrait naviguer dans sa connaissance accrue du risque. Comme cela arrive fréquemment, ce qui a commencé comme un projet très ciblé sur le risque génétique s’est progressivement étendu.
Tout d’abord, j’ai remarqué que beaucoup de soins médicaux en général cherchaient à contrôler les facteurs de risque de maladies qui ne sont pas elles-mêmes des maladies, comme l’hypercholestérolémie ou l’hypertension artérielle. À partir de là, j’ai commencé à voir l’analyse des risques partout. Le système financier est basé sur la gestion du risque ; l’assurance protège contre le risque; la politique publique est un équilibre des risques; l’écologie est basée sur la modélisation des risques ; même les médias sociaux dépendent de la prédiction statistique du comportement des utilisateurs.
Nous vivons dans une société du risque, comme l’ont noté de nombreux sociologues. Compte tenu du peu de travail théologique sur le risque, je me suis senti obligé d’écrire un livre qui commence à se débattre avec la question de savoir comment les chrétiens devraient engager ces prédictions de danger futur.
Au risque de proposer un cliché, je me demande comment vous percevez la lecture des signes des temps aujourd’hui. De toute évidence, à des moments antérieurs de l’histoire de notre espèce, nous étions, dans un sens très réel, beaucoup plus à risque qu’aujourd’hui. Comment voyez-vous le risque à notre époque actuelle ?
Vous avez raison, les humains ont toujours dû atténuer les dangers. Ce qui est unique, ce sont les outils dont nous disposons aujourd’hui, comme la théorie des probabilités et les statistiques, qui nous permettent de prédire l’avenir de manière précise et quantitative. Ces outils mathématiques ont révolutionné notre capacité à modéliser l’avenir. En raison de leur relative nouveauté, il existe peu de sources théologiques sur lesquelles puiser pour les aborder. Le risque n’existait tout simplement pas de la même manière pour Thomas d’Aquin ou Augustin.
Il ne fait aucun doute que nos outils d’analyse des risques ont été extrêmement bénéfiques, aidant à résoudre des problèmes de maladie, de famine, de faillites d’entreprises, etc. Pourtant, comme pour toute bonne chose, des problèmes surgissent lorsqu’on va trop loin. De manière pragmatique, nos efforts pour atténuer un risque unique peuvent entraîner des effets secondaires et d’autres risques. Par exemple, les fermetures d’écoles ont peut-être ralenti le risque de propagation et de décès du Covid-19, mais elles ont eu des effets désastreux sur les écoliers, augmentant le risque que nombre d’entre eux abandonnent complètement l’école.
Deuxièmement, plus psychologiquement, ces outils peuvent conduire à un excès de confiance dans notre capacité à contrôler les risques. L’une des nombreuses choses qui ont contribué à la crise financière de 2008 était la conviction que les outils analytiques avaient maîtrisé le risque de perte financière. Cette confiance dans la gestion des risques a conduit à un système surendetté qui s’est effondré lorsque l’inattendu s’est produit.
Enfin, nous avons maintenant une politique dominée par le contrôle des risques (de catastrophe économique, de maladie, d’immigration, de changement climatique) avec peu d’accord sur les risques à prioriser. Nous avons une politique de la peur plutôt qu’une politique qui poursuit les biens humains.
Les Évangiles et notre tradition catholique ont beaucoup à dire sur notre approche du risque, bien que ce sujet soit rarement abordé dans un contexte théologique. Votre livre montre qu’il y a un problème théologique à être trop préoccupé par le risque. Quel est ce problème théologique ?
Une partie de l’inspiration pour mon projet est la conclusion du Sermon sur la montagne, qui contient une longue discussion sur la peur de l’avenir. C’est bien sûr de là que vient mon titre : « Ne vous inquiétez donc pas pour demain, car demain apportera ses propres soucis » (Mt. 6:34 NRSV). Jésus nous dit de ne pas nous inquiéter car nous pouvons compter sur Dieu. Cela ne veut pas dire que nous éviterons toute souffrance, car nous porterons tous notre croix, mais nous pouvons compter sur Dieu pour nous soutenir et finalement tirer le bien de nos actions bien intentionnées.
Cependant, comme le risque façonne notre raisonnement pratique quotidien, il peut menacer cette confiance. Les gens de la culture contemporaine ont tendance à être obsédés par les dangers, ce qui peut nous amener à tenter de fonder notre sécurité ultime sur nos propres actions. C’est impossible. Personne ni aucune société ne peut prévenir tous les dangers. Cependant, lorsque nous essayons, nous pouvons être distraits de notre véritable bien, enveloppés par l’anxiété face aux dangers futurs. Il n’est pas surprenant, étant donné les angoisses bouillonnantes de la vie contemporaine, que le pape Jean-Paul II, ainsi que le pape François, aient passé une si grande partie de leur enseignement sur le thème de ne pas avoir peur.
Mais soyons réalistes. Ne devons-nous pas nous préoccuper du risque d’une manière ou d’une autre?
Nous surmontons une pandémie mondiale. La simple utilisation d’Internet et des smartphones, en particulier par les jeunes, comporte des tonnes de risques. Des choix économiques de plus en plus nombreux et complexes (à la fois en tant qu’individus et en tant que communautés) comportent des risques importants. Heck, même décider où envoyer ses enfants à l’école de nos jours comporte des risques importants.
La vertu de prudence n’exige-t-elle pas que l’on se soucie du risque ?
Vrai – ne pas craindre pour demain doit être contrebalancé par un sentiment d’attention envers les personnes et les choses dont nous sommes responsables : nos familles, nos emplois, nos sociétés. Le Livre des Proverbes, par exemple, contient de nombreux conseils prudentiels. Sur ces fronts, l’introduction de l’analyse des risques a fait énormément de bien. L’analyse des risques est particulièrement importante au niveau gouvernemental lors de l’introduction de nouveaux médicaments ou technologies ou lors du démarrage de nouveaux grands projets. Nous devons également, en tant que société, faire face aux risques de maladies émergentes ou de catastrophes naturelles.
Mon inquiétude est que nous puissions devenir trop confiants dans ces outils ou leur permettre d’envahir notre vie privée. De nombreuses personnes sont formées pour appliquer ce genre d’outils managériaux à la vie quotidienne, ce qui, je pense, sape certaines de nos relations, qui ne sont jamais absolument sécurisées. Trouver le juste équilibre face au danger futur est un problème difficile, pour lequel j’essaie de fournir des outils dans le livre.
Parlons davantage des structures sociales. Expliquez-nous comment, selon vous, l’analyse prédictive des risques façonne nos institutions politiques et sociales de manière à répondre à ces questions.
L’analyse des risques est omniprésente dans nos institutions sociales – la finance, l’élaboration des politiques, les soins de santé. Un aspect que je pense être relativement nouveau et sur lequel je me concentre dans le livre est le rôle croissant de la surveillance, des données et de l’intelligence artificielle (IA) dans nos institutions sociales.
Par IA, je ne veux pas dire HAL ou Skynet, des exemples de science-fiction de machines réellement conscientes, mais plutôt les algorithmes de base qui exécutent tout, des médias sociaux aux transactions financières. Ces machines fonctionnent en faisant des prédictions ; ils parcourent les énormes quantités de données qui existent sur Internet, découvrent des modèles statistiques, puis utilisent ces modèles pour prédire l’avenir.
En prédisant comment une personne agira dans différentes circonstances, les entreprises et les institutions sociales tentent de contrôler les actions de cette personne. Par exemple, en sachant ce que vous avez regardé dans le passé, YouTube ou TikTok peuvent organiser votre liste de surveillance de manière à maximiser votre temps sur le site. Les gouvernements essaient de déterminer les circonstances qui leur permettront de vous pousser vers des actions privilégiées.
Ces technologies tentent de réduire les risques d’une action humaine sans contrainte en canalisant les personnes vers les voies que les institutions souhaitent. Parfois, ces outils servent des fins irréprochables, les gouvernements essayant d’amener les gens à manger des légumes ou à investir dans leur retraite. À d’autres moments, ces systèmes prédictifs sont cependant très dangereux, comme avec les algorithmes addictifs que l’on trouve dans certains jeux ou sites de médias sociaux.
Plus largement, je pense que cette méthode de contrôle prédictif incarne une vision profondément problématique de la personne humaine, celle qui tente de porter atteinte à notre liberté en prédisant et en contrôlant nos actions. C’est pourquoi il est si important de présenter une autre compréhension catholique de la personne et de sa relation au futur qui peut affecter la mise en œuvre de ces systèmes prédictifs. En tant que société, nous devons veiller à ce qu’ils protègent la liberté humaine et servent des biens authentiques.