Pour donner aux universitaires et à d’autres personnes spécialisées dans l’IA leur temps de parole bien mérité et attendu, TechCrunch lance une série d’entretiens mettant en lumière des femmes notables qui ont contribué à la révolution de l’IA. Alors que le boom de l’IA se poursuit, nous publions ces travaux tout au long de l’année, en nous concentrant sur des travaux importants qui sont souvent négligés. Cliquez ici pour un profil détaillé.
Personne vedette du jour : Rachel Caldicutt est la fondatrice de Careful Industries, qui étudie l’impact social de la technologie sur la société. Les clients incluent Salesforce et la Royal Academy of Engineering. Avant Careful Industries, M. Coldicutt a été PDG du groupe de réflexion Doteveryone. Chez Doteveryone, j’ai également mené des recherches sur l’impact de la technologie sur la société.
Avant Doteveryone, il a passé des décennies à travailler dans le domaine de la stratégie numérique au sein d’entreprises telles que la BBC et le Royal Opera House. Elle a fréquenté l’Université de Cambridge et a reçu l’honneur de l’OBE (Ordre de l’Empire britannique) pour son travail dans le domaine de la technologie numérique.
Bref, comment avez-vous débuté dans l’IA ? Qu’est-ce qui vous a attiré dans le domaine ?
J’ai commencé à travailler dans l’industrie technologique au milieu des années 90. Mon premier véritable emploi technique a eu lieu chez Microsoft Encarta en 1997, où j’ai aidé à créer des bases de données de contenu pour des ouvrages de référence et des dictionnaires. Au cours des 30 dernières années, j’ai travaillé sur toutes sortes de nouvelles technologies. C’est pourquoi nous utilisons des processus et des données automatisés pour prendre des décisions, créer des expériences et créer des œuvres depuis les années 2000. Je pense plutôt que la question est probablement : « Depuis quand l’IA est-elle devenue une technologie dont tout le monde voulait parler ? Et je pense que la réponse se situe probablement vers 2014, lorsque DeepMind a été acquis par Google. C’était le moment au Royaume-Uni où l’IA dépassait tout le reste. Et ce, même si bon nombre des technologies sous-jacentes que nous appelons aujourd’hui « IA » étaient déjà assez répandues. Usage général.
J’ai commencé à travailler dans l’industrie technologique dans les années 1990, presque par accident. Et ce qui m’a retenu dans ce domaine à travers ses nombreux changements, c’est le fait qu’il regorge de contradictions fascinantes. J’aime à quel point il est stimulant d’acquérir de nouvelles compétences et de créer des choses. Je m’intéresse à ce que l’on peut découvrir à partir de données structurées et je suis prêt à passer le reste de ma vie à observer et à comprendre comment les gens créent et façonnent les technologies que nous utilisons.
De quel travail êtes-vous le plus fier dans le domaine de l’IA ?
Une grande partie de mon travail en matière d’IA concerne l’élaboration de politiques et l’évaluation de l’impact social, en travaillant avec des agences gouvernementales, des organisations caritatives et des entreprises de tous types pour les aider à utiliser l’IA et les technologies associées de manière ciblée et fiable.
Dans les années 2010, j’ai dirigé Doteveryone, un groupe de réflexion technologique responsable, qui a contribué à redéfinir la manière dont les décideurs politiques britanniques envisageaient les technologies émergentes. Nos recherches montrent que l’IA n’est pas un ensemble de technologies sans conséquences, mais qu’elle a des impacts considérables sur les personnes et les sociétés dans le monde réel. En particulier, nous sommes très fiers de l’outil gratuit d’analyse des résultats que nous avons développé. Cet outil est actuellement utilisé par des équipes et des entreprises du monde entier pour aider à prédire les impacts sociaux, environnementaux et politiques des choix de transport maritime. Nouveaux produits et fonctionnalités.
Récemment, le Forum IA et Société 2023 a également été un moment de fierté. Pour le Forum sur la sécurité de l’IA dirigé par l’industrie du gouvernement britannique, mon équipe de Care Trouble a rapidement convenu de plaider collectivement qu’il est possible de faire fonctionner l’IA pour 8 milliards de personnes. Nous avons organisé un rassemblement de 150 personnes de toute la société civile. , pas seulement huit milliardaires.
Comment surmonter les défis d’une industrie technologique dominée par les hommes et, par extension, d’une industrie de l’IA dominée par les hommes ?
En tant que vétéran relatif de l’industrie technologique, j’ai l’impression qu’une partie des gains en matière de représentation des sexes dans la technologie ont été perdus au cours des cinq dernières années. Selon une étude de l’Institut Turing, moins de 1 % des investissements dans l’IA sont destinés à des startups dirigées par des femmes, et les femmes ne représentent encore qu’un quart de la main-d’œuvre totale du secteur technologique. Lorsque je vais à des conférences et à des événements sur l’IA, je me souviens du début des années 2000 en termes de mixité, notamment en ce qui concerne ceux qui disposent d’une plateforme pour partager leur travail, et je trouve cela vraiment triste et choquant.
Je suis capable de surmonter les attitudes sexistes dans l’industrie technologique parce que j’ai le grand privilège de fonder et de diriger ma propre organisation. J’ai passé une grande partie de mon début de carrière à être quotidiennement confrontée au sexisme et au harcèlement sexuel. Cela fait obstacle à un excellent travail et représente un coût d’entrée inutile pour de nombreuses femmes. Au lieu de cela, j’ai donné la priorité à la création d’une entreprise féministe où nous luttons tous pour l’équité dans tout ce que nous faisons et où nous pouvons montrer que d’autres voies sont possibles, nous l’espérons.
Quels conseils donneriez-vous aux femmes souhaitant se lancer dans le domaine de l’IA ?
Ne vous sentez pas obligé de travailler dans le domaine des « questions féminines », ne vous laissez pas berner par le battage médiatique, cherchez des alliés et nouez des amitiés avec d’autres pour bâtir un réseau de soutien positif. Ce qui m’a soutenu au fil des années, c’est un réseau d’amis, d’anciens collègues et d’alliés. Nous nous soutenons mutuellement, nous nous donnons des discours d’encouragement constants et avons parfois une épaule sur laquelle pleurer. Sans cela, vous pouvez vous sentir très seul. Vous serez souvent la seule femme dans la pièce, il est donc important d’avoir un endroit où vous vous sentez en sécurité.
Embauchez dès que vous en avez l’occasion. Ne recréez pas les structures que vous avez vues auparavant et ne renforcez pas les attentes et les normes élitistes et sexistes de l’industrie. Nous remettons en question le statu quo et soutenons les nouveaux employés à chaque embauche. Vous pourrez alors commencer à construire une nouvelle normalité, où que vous soyez.
Ensuite, explorez le travail de femmes formidables qui sont pionnières dans la recherche et la pratique de l’IA. Commencez par lire le travail de pionniers comme Ababa Birhane, Timnit Gebru et Joy Buolamwini. Ils ont tous produit des recherches fondamentales qui façonnent notre compréhension du fonctionnement de l’IA. Changer et interagir avec la société.
Quels sont les problèmes les plus urgents auxquels l’IA est confrontée à mesure qu’elle évolue ?
L’IA est un activateur. Même si certaines utilisations peuvent sembler inévitables, en tant que société, nous devons être habilités à faire des choix clairs sur ce qui mérite d’être amélioré. Pour l’instant, l’utilisation accrue de l’IA vise principalement à accroître le pouvoir et l’équilibre bancaire d’un nombre relativement restreint de PDG masculins, ce qui semble peu probable. [it] Elle façonne le monde dans lequel de nombreuses personnes souhaitent vivre. J’espère que davantage de personnes, en particulier celles de l’industrie et des décideurs politiques, commenceront à se demander à quoi ressemblerait une IA plus démocratique et plus responsable, et si cela est même possible.
Les impacts de l’IA sur le climat – l’utilisation de l’eau, de l’énergie et des minéraux essentiels, ainsi que les impacts sur la santé et la justice sociale des personnes et des communautés touchées par l’exploitation des ressources naturelles – sont en tête de liste pour un développement responsable. un sujet de préoccupation. Le fait que le LLM en particulier soit extrêmement gourmand en énergie témoigne du fait que les modèles actuels ne sont pas adaptés à leur usage. En 2024, nous aurons besoin d’innovations qui protègent et restaurent le monde naturel, et les modèles et méthodes de travail miniers devront être progressivement abandonnés.
Nous discutons également de l’impact qu’une société davantage axée sur les données aura sur la surveillance et du fait que, dans un monde de plus en plus instable, toute technologie de base est susceptible d’être utilisée pour des horreurs inimaginables en temps de guerre. Toutes les personnes impliquées dans l’IA doivent être réalistes quant au lien historique et de longue date entre la recherche et le développement technologique et le développement militaire. Nous devons défendre, soutenir et exiger une innovation qui commence et est gérée par les communautés pour obtenir des résultats qui renforcent la société plutôt que de conduire à davantage de destruction.
À quels problèmes les utilisateurs d’IA doivent-ils être conscients ?
Outre l’extraction environnementale et économique intégrée à de nombreux modèles commerciaux et technologiques actuels de l’IA, nous devons comprendre les impacts quotidiens d’une utilisation accrue de l’IA et ce que cela signifie pour les interactions humaines quotidiennes.
Certains des problèmes qui ont fait la une des journaux concernent des risques plus existentiels, mais en quoi la technologie que nous utilisons nous aide-t-elle ou nous gêne-t-elle au quotidien ? Il vaut la peine de se demander si elle peut être désactivée et évitée, et de quel type d’automatisation s’agit-il ? en place. Où pouvons-nous, en tant que consommateurs, voter avec nos pieds pour affirmer que nous voulons vraiment mener des conversations avec de vraies personnes, et non avec des robots ? Nous n’avons pas à nous contenter d’une automatisation de mauvaise qualité, nous sommes unis pour de meilleurs résultats. demande-le.
Quelle est la meilleure façon de développer l’IA de manière responsable ?
Une IA responsable commence par de bons choix stratégiques. Plutôt que de simplement lancer un algorithme et d’espérer les meilleurs résultats, vous pouvez intentionnellement décider quoi et comment automatiser. Cela fait plusieurs années que je parle de l’idée selon laquelle « Internet suffit » et je trouve que c’est une idée très utile pour guider notre réflexion lors de la construction de nouvelles technologies. Plutôt que de repousser constamment les limites, pouvons-nous construire l’IA de manière à maximiser les bénéfices et à minimiser les dommages causés aux personnes et à la planète ?
Nous avons développé un processus robuste pour cela chez Careful Trouble. Cela commence par travailler avec le conseil d’administration et l’équipe de direction pour déterminer comment l’IA peut et ne peut pas soutenir leur vision et leurs valeurs. Comprenez où le problème est trop complexe ou volatile pour être amélioré par l’automatisation, et où l’automatisation pourrait en bénéficier. Et enfin, développez un cadre de gestion proactive des risques. Le développement responsable n’est pas une application ponctuelle d’un ensemble de principes, mais un processus de surveillance et d’atténuation continues. La mise en œuvre continue et l’adaptation sociale signifient que l’assurance qualité ne s’arrête pas après l’expédition du produit. En tant que développeurs d’IA, nous devons développer des capacités de détection sociale itératives et traiter le développement et le déploiement responsables comme un processus vivant.
Comment les investisseurs peuvent-ils promouvoir plus efficacement une IA responsable ?
Investissez plus patiemment, soutenez des fondateurs et des équipes plus diversifiés et arrêtez de courir après des rendements exponentiels.
