Commentaire : Est-ce vraiment pour protéger l'humanité que ces gens d'affaires, ces scientifiques, ces diplomates (pourquoi des diplomates ?) se rencontrent ? On peut en douter. Car... depuis quand tout ce beau monde a dans le cœur l'humanité ?
Parmi les participants figurent le directeur technique d'Amazon, Werner Vogels, la directrice des opérations de Google DeepMind, Lila Ibrahim, ou encore... le légendaire gardien de football du Real Madrid et de l'équipe d'Espagne, Iker Casillas. Ils seront rejoints par des robots spécialisés, dont neuf robots humanoïdes, qui montreront toute l'étendue de leurs capacités, allant de la lutte contre les incendies à l'acheminement de l'aide humanitaire, en passant par la fourniture de soins de santé et l'appui à une agriculture durable. Le problème, c'est qu'ils peuvent aussi bien servir à faire le mal.
"Moment critique de l'Histoire"
D'une grande complexité technique, les systèmes d'IA fascinent autant qu'ils inquiètent. S'ils peuvent sauver des vies en permettant un bond en avant des diagnostics médicaux, ils sont aussi exploités par des régimes autoritaires pour exercer une surveillance de masse des citoyens, ou par des criminels pour pirater ce qu'ils veulent. Un des pionniers de l'IA, Geoffrey Hinton, considère que "l'IA pourrait déjà être plus intelligente que nous", et craint qu'elle ne tombe entre de mauvaises mains. Comme le rapporte Euronews, il suggère "qu'un accord mondial similaire à la convention sur les armes chimiques de 1997 pourrait constituer un premier pas vers l'établissement de règles internationales contre l'utilisation de l'IA à des fins militaires."
De son côté, la secrétaire générale de l'Union internationale des télécommunications, Mme Bogdan-Martin, a appelé à trouver un "équilibre" afin de "réglementer l'innovation sans l'étouffer". Pour le secrétaire général de l'ONU, Antonio Guterres, "ce sommet peut aider à faire en sorte que l'intelligence artificielle soit bénéfique pour l'humanité".
Un autre spécialiste de l'IA, Gary Marcus, explique que "cette nouvelle technologie puissante se répand très largement et s'impose dans nos vies, alors que nous ne sommes vraiment pas préparés".
"Nous sommes à un moment critique de l'Histoire où nous pouvons soit réussir et mettre en place la gouvernance mondiale dont nous avons besoin, soit échouer et nous retrouver dans la situation où quelques entreprises vont contrôler le destin d'un très grand nombre de personnes", a-t-il dit lors de la présentation du sommet de l'UIT.
Réguler au mieux un carrefour à feux complexe en fonction du trafic mesuré, détecter un véhicule arrêté ou un piéton dans un tunnel, c'est très bien. Que Google analyse une question pour proposer des liens en fonction, c'est génial.
Que le fisc analyse des tas de trucs pour trouver des fraudeurs ou des piscines non déclarées, c'est moins bien.
Mais effectivement, tout peut être transformé en arme, y compris une bouteille de vinaigre ou une paire de chaussures. Va-t-on les réguler ou les interdire ? cf l'histoire de l'huile essentielle de lavande.