Henri Abbé
J’ai regardé « The Social Dilemma » en 2021, et cela a fondamentalement changé ma façon de voir la technologie. Nous avons clairement et minutieusement présenté les différents mécanismes de conception intégrés dans les applications de médias sociaux qui vous font défiler beaucoup plus longtemps que prévu. Ce documentaire interroge d’anciens employés de Facebook, de Google et d’autres entreprises technologiques pour expliquer comment les algorithmes axés sur l’engagement alimentent en ligne des contenus qui divisent et qui irritent les utilisateurs.
Comme le montrent les réseaux sociaux, la technologie n’est pas immorale. Les choix faits lors de la conception, du développement et du déploiement de la technologie déterminent les résultats pour ses utilisateurs et les sociétés dans lesquelles ils vivent. Les concepteurs et les ingénieurs ont donc le pouvoir de décider s’ils doivent intentionnellement encoder des valeurs positives dans leurs produits. Les grandes entreprises technologiques l’ont bien compris, comme en témoigne la présence croissante d’équipes d’éthique dans la Silicon Valley. Cependant, ces équipes ne disposent pas de l’autorité ni du personnel nécessaire pour atteindre leurs objectifs déclarés. Cela signifie que les choix de conception ayant des implications morales sont délégués aux chefs de projet et aux développeurs de logiciels qui manquent souvent du cadre moral nécessaire pour considérer les conséquences potentielles de leurs décisions. Pire encore, ces salariés travaillent sous la pression de la direction dont la motivation ultime est d’augmenter le cours des actions de l’entreprise.
Compte tenu de ces contraintes, il me semble essentiel que les professionnels de l’informatique reçoivent une formation en éthique au cours de leur formation. Bien que cela ne soit pas possible dans un environnement de bootcamp, cela est certainement possible dans une université, en particulier dans un établissement d’arts libéraux. Par conséquent, le Département d’informatique (CS) du Bowdoin College propose d’exiger que les majors CS se familiarisent avec la conception éthique.
Il existe deux manières complémentaires d’y parvenir.
Premièrement, les départements CS pourraient ajouter un cours entièrement centré sur l’éthique technique comme exigence majeure. Il y a de fortes chances que ce soit le cas. La majeure en informatique de Bowdoin comprend actuellement 10 classes. Trois cours de base (structures de données, algorithmes, systèmes informatiques), un cours de mathématiques et six cours au choix CS dans quatre sous-domaines. Bien que l’ajout de cours de base allonge la durée de la majeure, il ne s’agit pas de cours particulièrement techniques, de sorte que les avantages supplémentaires pour les étudiants l’emportent sur les difficultés potentielles. Les étudiants peuvent constater que le suivre parallèlement à un autre cours CS répartit leur charge de travail plutôt que de l’aggraver. De plus, vous n’avez pas besoin d’embaucher de nouveaux professeurs ni de créer de nouveaux cours.
« Technologie et bien commun » est un cours dispensé par le professeur Fernando Nascimento d’études numériques et informatiques (DCS). J’ai raté un cours de mathématiques, alors j’ai suivi un cours pendant Add/Drop, et cela a eu un impact énorme sur ma façon de penser l’informatique. Ce semestre, nous nous sommes concentrés sur quatre technologies majeures : l’IA, la réalité virtuelle, l’Internet des objets et la robotique, et avons analysé leurs impacts actuels et potentiels à travers des cadres philosophiques et éthiques. Nous avons discuté de l’approche commune consistant à ne pas nuire, de ses échecs et de ses limites, et avons introduit l’approche des capacités centrales, qui donne la priorité à l’amélioration de la vie des gens. En ce qui concerne le bien commun, nous pensons que les technologies précieuses sont celles qui améliorent le potentiel de tous dans des aspects importants tels que la vie, la santé physique, la raison pratique et l’appartenance, entre autres. Ce cours m’a donné des outils importants qui, je pense, seront très utiles dans le monde de la technologie après l’obtention de mon diplôme.
Les départements CS peuvent également simplement exiger des spécialisations en technologie et en biens publics. Cependant, vous devrez procéder à quelques ajustements. L’introduction au DCS est une condition préalable pour la technologie et le bien commun, mais ceux qui ont suivi l’introduction au CS ou l’équivalent peuvent être exemptés de cette exigence. De plus, les départements DCS devront peut-être proposer des sections chaque semestre pour répondre à la demande.
Une autre option consiste pour les départements CS à créer leurs propres cours de conception éthique. Cela permet plus de contrôle et de flexibilité, car le département CS, plutôt que le département DCS, détermine le contenu du cours, les prérequis, qui l’enseigne, quand il est proposé et combien de sections sont proposées.
Une deuxième façon pour le département CS de Bowdoin de garantir que les diplômés s’engagent dans un développement technologique basé sur la valeur consiste à intégrer des modules d’éthique de la conception dans les cours existants. Les professeurs formés en informatique ne se sentent peut-être pas à l’aise pour enseigner la philosophie ou l’éthique en soi, mais de nombreux documents connexes sont disponibles en ligne. La Harvard School of Engineering and Applied Sciences propose une collection de dizaines de modules en ligne gratuits, allant des compromis éthiques dans la conception du système d’exploitation à l’IA durable. Cela permet aux instructeurs d’être plus agiles en intégrant ces programmes dans leurs cours à des moments particulièrement critiques.
Si Bowdoin croyait vraiment que « les institutions littéraires sont créées et dotées pour le bien public » et que les capacités intellectuelles des étudiants devraient être « nourries et améliorées pour le bénéfice de la société », notre formation universitaire doit en tenir compte. Nos diplômés en informatique devraient être une force de changement positif dans la technologie, et cette proposition est un pas en avant vers cet objectif.
Caroline Burney est membre de la promotion 2026.
