Les étudiants en informatique de l’Université de Toronto apprennent à intégrer des considérations éthiques dans la conception et le développement de nouvelles technologies, comme l’intelligence artificielle, en utilisant les initiatives uniques du département.
L’Embedded Ethics Education Initiative (E3I) vise à fournir aux étudiants la capacité d’évaluer de manière critique l’impact social des technologies qu’ils conçoivent et développent tout au long de leur carrière. Cela inclut la résolution de problèmes tels que la sécurité de l’IA, la confidentialité des données et la désinformation.
La co-créatrice du programme, Sheila McIlwraith, professeure au Département d’informatique du Collège des arts et des sciences et directrice associée de l’Institut Schwartz Reisman pour la technologie et la société (SRI), a déclaré que l’objectif de l’E3I est d’aider les étudiants à « atteindre un niveau plus large ». gamme de « pour être en mesure de reconnaître l’impact. » Évaluer les technologies en cours de développement pour diverses parties prenantes et éviter ou réduire les impacts négatifs. »
L’initiative, lancée pour la première fois en 2020 sous la forme d’un programme pilote de deux ans, est une coentreprise entre l’École d’informatique et le SRI en collaboration avec l’École de philosophie. Il intègre des modules d’éthique dans certains cours d’informatique de premier cycle et a été utilisé par des milliers d’étudiants de l’Université de Toronto au cours de cette seule année universitaire.
Malaika Hussain est l’une des nombreuses étudiantes de l’Université de Toronto qui ont bénéficié de cette initiative. En tant qu’étudiante de première année inscrite au CSC111 : Fondamentaux de l’informatique II, elle a participé au module E3I. Dans ce module, nous avons exploré comment les structures de données que nous avons apprises en classe ont jeté les bases des systèmes de recherche des contacts et soulevé des questions éthiques sur la collecte de données.
« Ce module a montré comment les choix de conception de logiciels que nous faisons s’étendent au-delà des préoccupations d’efficacité informatique pour atteindre de sérieuses préoccupations éthiques telles que la confidentialité », a déclaré l’actuel spécialiste en informatique, Hussain, étudiant en troisième année.
Hussein a ajouté que le module avait éveillé son intérêt pour l’éthique et l’informatique, l’amenant à suivre un cours de niveau supérieur sur le sujet. Au cours de son stage ultérieur, elle a organisé un événement sur l’éthique de l’élimination des déchets électroniques et le cycle de vie technologique de l’entreprise.
« Le module E3I a joué un rôle central dans l’élaboration de mon approche des études et du travail, soulignant l’importance de l’éthique dans tous les aspects de l’informatique », dit-elle.
Le nombre initial de 400 participants inscrits au programme a considérablement augmenté au cours des quatre dernières années. Rien que cette année, le nombre total d’étudiants inscrits dans des cours d’informatique incluant la programmation E3I a dépassé les 8 000. 1 500 étudiants supplémentaires ont participé à la programmation E3I dans des cours autres que l’informatique.
Dans le sens des aiguilles d’une montre, en partant du haut à gauche : Steven Coyne, Diane Horton, David Liu, Sheila McIlraith (image fournie)
En reconnaissance de l’impact de ce programme sur l’expérience d’apprentissage des étudiants de premier cycle, M. McIleis et ses collègues, Diane Houghton et David Liu, respectivement professeur et professeur agrégé au Département d’informatique, et Stephen Coyne, professeur adjoint . occupe des postes conjoints dans les départements d’informatique et de philosophie et a récemment reçu le prix Northrop Frye (équipe) 2024, l’un des prestigieux prix d’excellence de l’association des anciens de l’Université du Texas.
Horton, qui dirige les efforts d’évaluation de l’effort, a déclaré que son équipe a récemment publié un article montrant que les étudiants qui participent à seulement un ou deux modules de cours sont motivés à en apprendre davantage sur l’éthique et à récolter des avantages sur le lieu de travail.
« Nous avons la preuve qu’ils sont plus à même d’identifier les problèmes éthiques qui se posent dans leur travail et que le module les aide à résoudre ces problèmes », dit-elle.
Horton a déclaré que les résultats montrent qu’après avoir suivi un seul module de cours, les étudiants s’intéressent davantage à l’éthique et à la technologie et sont plus confiants dans leur capacité à traiter les problèmes éthiques qu’ils peuvent rencontrer. Il a ajouté que ces résultats étaient basés sur des travaux d’évaluation antérieurs.
L’équipe estime que la nature interdisciplinaire de ce travail est essentielle pour offrir à la fois un programme et des expériences avec des voix authentiques et pour fournir aux instructeurs et aux étudiants le vocabulaire et les connaissances approfondies nécessaires pour aborder des questions telles que la vie privée, le bien-être et les préjudices. .
«En tant que philosophe et éthicien, j’adore enseigner dans le département d’informatique», déclare Coyne. « Mes collègues me parlent de questions éthiques intéressantes qu’ils ont trouvées dans les documents de cours, et je leur réponds en trouvant des distinctions et des idées qui éclairent ces questions. » Lorsque nous concevons des modules ensemble, nous apprenons beaucoup les uns des autres, tant sur le plan intellectuel que pédagogique.
E3I repose sur trois principes clés. Apprenez aux élèves comment penser, pas quoi penser. Encourager les choix de conception éthiques en tant que principe de conception. Et gardez la discussion sûre et non personnelle.
« Plutôt que d’essayer de se convertir, il est particulièrement important de dialoguer avec les étudiants et de les faire se sentir en sécurité, et de les encourager à participer », a déclaré Liu.
Ce module prend en charge ce type d’environnement d’apprentissage en utilisant des parties prenantes avec des profils de personnages fictifs comprenant des noms, des photos et des histoires.
« Les parties prenantes imaginaires peuvent contribuer à assurer la distance et permettre aux étudiants de réfléchir à un problème sans avoir à dire : « C’est ce que je pense » », explique Horton. « Les parties prenantes sont également de plus en plus conscientes des différents types de personnes qui peuvent être touchées. »
McIlwraith a ajouté que le fait que les étudiants représentent des opinions qui ne sont pas nécessairement les leurs favorise l’empathie, tandis que Liu a déclaré que de nombreux étudiants veulent en savoir plus sur les considérations éthiques de leur travail. Il souligne qu’il a une « envie ».
« De plus en plus d’étudiants pensent : ‘Je veux suivre une formation d’informaticien et mettre mes compétences à profit après l’obtention de mon diplôme’, mais ils disent aussi : ‘Je veux faire quelque chose qui, je pense, aura un impact positif sur le monde’. monde », a-t-il déclaré.
L’équipe E3I travaille avec les instructeurs du cours pour développer des modules pédagogiques qui combinent étroitement des concepts éthiques avec du matériel technique spécifique au cours. Par exemple, dans les cours de conception de logiciels appliqués, les étudiants découvrent les logiciels accessibles et la théorie des échecs. Dans le cours Algorithmes théoriques, vous découvrirez l’équité algorithmique et la justice distributive. Dans notre cours Game Design, nous apprenons la dépendance et le consentement.
Steve Engels, professeur d’informatique et responsable du volet éducatif, a déclaré que l’intégration d’un module d’éthique sur la toxicomanie dans un cours de synthèse de quatrième année sur la conception de jeux vidéo est un excellent moyen d’intégrer la ludologie, en particulier la ludologie. prolongement naturel de ses sujets de cours sur les techniques psychologiques. Un jeu engageant qui ne semble pas artificiellement inséré dans le cours.
« Les cours basés sur des projets obligent peut-être les étudiants à se concentrer principalement sur le produit final du cours, mais ce module leur permet de s’arrêter et de réfléchir à ce qu’ils faisaient et pourquoi ils le faisaient. « Cela nous a donné l’occasion de regarder en arrière. « , a déclaré Engels. « Cela les a obligés à faire face à leur rôle dans le problème actuellement important de la dépendance au jeu, afin qu’ils soient plus conscients des implications éthiques de leur travail futur et qu’ils soient mieux préparés à y faire face. »
D’ici l’année prochaine, chaque étudiant de premier cycle en informatique découvrira les modules E3I dans au moins un à deux cours chaque année tout au long de son programme. L’équipe envisage également d’adopter le modèle E3I dans d’autres domaines STEM, de l’écologie aux statistiques. Au-delà de l’Université de Toronto, l’équipe prévoit partager son expertise avec d’autres universités canadiennes intéressées à développer des programmes similaires.
« Ce travail a un impact énorme », a déclaré McIlreis. « Cela se voit dans le nombre d’étudiants que nous soutenons et dans les résultats des évaluations. Mais c’est bien plus que cela. Nous sommes à l’origine d’un changement culturel.
