Intelligence artificielle. «L’essor de l’IA brouille la distinction entre humain et machine»

«C’est à l’homme de décider s’il veut devenir la nourriture des algorithmes ou nourrir son cœur de liberté», a déclaré le pape François dans son message pour la Journée mondiale des communications sociales 2024. Dans ce texte dédié au développement de l’IA, le pontife met en garde contre les risques «d’esclavage» que posent ces technologies. Une problématique réelle pour le docteur en droit et philosophe Johan Rochel, qui invite toutefois à peser le pour et le contre. Chercheur en éthique et droit de l’innovation à l’Ecole polytechnique fédérale de Lausanne et enseignant de philosophie du droit à l’Université de Fribourg, le Valaisan plaide pour «une éthique des machines» ¹. Entretien.

De nombreuses productions culturelles, livres ou films, développent le thème de la projection affective sur des machines humanisées. Est-ce de la science-fiction?

Johan Rochel: Pas du tout, cela est bien en train de se produire sous nos yeux. Nous en avons déjà eu un aperçu en été 2022, lorsque Google a écarté Blake Lemoine, l’un de ses ingénieurs vedettes. Ce dernier assurait que son chatbot (robot conversationnel) avait développé des émotions et une conscience, qu’il lui avait confié ne pas vouloir être débranché. Après seulement un an de ChatGPT, il apparaît clairement que ce genre de projection affective sur une machine est un phénomène courant.