Le Groupe international d’experts sur l’Utilisation Malveillante de l’Intelligence Artificielle (UMIA) et les Défis à la Sécurité Psychologique Internationale. Rapport d’Evgeny Pashentsev Décembre 2021, Moscou
Recension écrite par Daria Matiashova, étudiante à l’Université de Saint Petersbourg
Le rapport analytique « Experts sur l’Utilisation Malveillante de l’Intelligence Artificielle et les Défis de la Sécurité Psychologique Internationale”, publié par le centre International de recherches socio-politiques et de la consultance en décembre 2021, est consacré au problème multidimensionnel d’UMAI, dont la prise de conscience ist en train de croître entre l’académie et l’opinion publique. La multidimensionnalité d’UMAI est déterminée par son interconnexion avec les tendances technologiques en transformation dynamique (et, par conséquent, sa réaction aux innovations dans les TIC telle matérielles et logicielles) ainsi que par sa capacité initiale à transformer l’opinion publique et à la manipuler. En regardant UMIA dans le contexte politique, les chercheurs et les analystes prennent également en compte le moment de crise de la déconsolidation démocratique mondiale, les défis socio-économiques provoqués par la pandémie de COVID-19 et les conflits régionaux et mondiaux dans lesquels un large éventail d’acteurs sont impliqués. Par conséquent, le problème d’UMIA combine des aspects technologiques, sociologiques, économiques et politiques et exige une expertise interdisciplinaire. Le rapport publié représente un bon exemple d’une telle expertise.
La structure du rapport est déterminée par la logique paradigmale des théories classiques des affaires internationaux (comme le realisme classique) où les tendances locales reçoivent une impulsion produite par la structure globale. Néanmoins, le rapport évite le réductionnisme qui exagerre la concentration en potitique et couvre non seulement les questions de propagation du pouvoir et les étapes motivées par des conflits politiques d’acteurs malveillants, mais aussi les tendances technologiques. Cette caractéristique est clairement reflétée par l’hiérarchie et l’ordre des questions dans le questionnaire. Précisément, les questions de 1 à 7 couvrent les généraux des menaces à la sécurité psychologique qui sont susceptibles d’être causées par l’exploitation malveillante de l’IA, leurs menaces pour le système international et ses participants actuellement et dans une perspective à court terme de 2030, les mesures globales et locales entreprises et susceptibles d’être entreprises dans le contexte des menaces déterminées et le rôle de la coopération internationale. Les questions de 8 à 13 sont consacrées à la spécification des tendances globales et générales pour l’espace sociopolitique en Asie du Nord-Est.
Le rapport vise à fournir une représentativité des points de vues: pour cette raison, les enquêtes de 15 spécialistes de 10 États ont été menées et agrégées conformément au concept du rapport. Cette circonstance a transformé le rapport en mosaïque brillante d’opinions. Néanmoins, les cas de l’UMIA reposant sur des analyses ainsi que des estimations des tendances en Asie du Nord-Est permettent de composer des prévisions cohérentes et concentrées particulairement sur la région, ce qui est d’une importance emergente pour le rapport dont la theme est l’IA.
La représentativité et la variété des perspectives sont le fondement d’un large panorama des capacités possédées par l’UMIA à menacer la sécurité psychologique des individus, des groupes, des nations et de l’humanité toute entière. Les experts ont defini des déterminants techniques (développement rapide de l’IA émotionnelle, riche expérience dans l’utilisation de systèmes basés sur l’IA pour diffuser des contenus et cibler son public) ainsi que sociaux (structures étatiques motivées pour augmenter le niveau de contrôle, menaces terroristes, fracture numérique et conflits géopolitiques) pour les phénomènes regardés. Les mêmes résultats se sont produits en ce qui concerne le rôle de la coopération internationale. La majorité des experts ont soutenu l’idée d’une telle coopération, non sans souligner les obstacles institutionnels, normatifs et politiques à sa mise en œuvre et à son développement ainsi qu’à sa capacité réelle à contrer l’IA. Cependant, les considérations sur la non-pertinence de la coopération internationale dans la lutte contre l’UMIA (M. Crosston) ou sur ses blocs – limites formées – en d’autres termes, son existence “uniquement entre des pays qui ne sont pas en concurrence pour les mêmes territoires, ressources ou positions géopolitiques” (M. Vacarelu) sont également présentés.
Les prévisions étaient cependant assez cohérentes et compatibles. Fondamentalement, la plupart des experts ont noté une influence significative ou forte d’UMIA sur la croissance des menaces informationnelles ep psychologiques d’aujourd’hui; aucun des experts n’a nié la realité de cette influence. L’unanimité est devenue encore plus explicite en ce qui concerne le jalon chronologique de 2030. Pour la troisième question fermée sur la situation en 2030 – “Dans quelle mesure l’utilisation malveillante de l’intelligence artificielle augmentera—t-elle le niveau de menace pour la sécurité psychologique internationale d’ici 2030? » dix experts (≈53%) ont répondu que UMIA ferait “fortement” peser des menaces informationnelles ep psychologiques internationales et neuf (≈47%) ont répondu “sensiblement. »Personne n’a souligné un niveau insignifiant d’une telle menace (“seulement légèrement”), et encore moins son absence.
Les conclusions soulignées exigent que les experts et les milieux politiques prennent des mesures préventives contre les scénarios négatifs après avoir examiné ces derniers. Cette tâche est également allégée puisque les experts ont instancié les moyens de neutraliser la menace pour la sécurité psychologique internationale causée par l’utilisation malveillante de l’intelligence artificielle – par exemple, le projet de règlement de l’UE sur l’IA (2021) qui présente une échelle d’activités interdites, à haut risque et à faible risque et impose des obligations spécifiques à ceux qui développent et déploient l’IA dans la société, ou un Code de pratique de la désinformation signé par les plateformes de médias sociaux dominantes entre 2018 et 2020.
En ce qui concerne la situation en Asie du Nord-Est, les estimations de la situation actuelle avec des risques d’UMIA et de ses perspectives à l’horizon 2030 étaient plus pessimistes. Six experts (≈32%) ont répondu à la question «Dans quelle mesure l’utilisation malveillante de l’intelligence artificielle augmentera-t-elle le niveau de menace pour la sécurité psychologique internationale en Asie du Nord-Est d’ici 2030» que UMIA augmenterait “fortement” les menaces pour les domaines psychologiques, neuf (≈47%) le pensaient “sensiblement”, et deux (≈10%) ont noté que “la réponse depend dépendra de la façon dont les gouvernements réagiront aux essais”. S’ils avaient décidé d’aller de l’avant avec l’adoption généralisée de cette technologie, la réponse aurait été “significative”.
La géographie et le profil du rapport presenté manquent l’universalité vaste: il ne comprend que 10 représentants des États ainsi que seulement 4 spécialistes techniques. Ces faits, à leur tour, reflètent le potentiel réel de coopération internationale dans la lutte contre l’UMIA. Néanmoins, les conclusions fondées sur des faits, qui sont bien structurées et correspondent décemment à la théorie de l’IR, seront certainement utilisées dans d’autres expertises et (si possible) dans la prise de décision.