Intelligence artificielle - le bon, la brute et le truand

L'IA ne touche pas que l'emploi ou la société : elle bouleverse des industries entières. Faisons un peu d'histoire. Vous avez entendu parler d'ARPANET ? Un projet militaire américain pensé pendant la Guerre froide. L'industrie de l'armement est en tête sur les nouvelles technologies depuis des décennies, et notre appétit de destruction a bâti un secteur colossal : 1 700 milliards de dollars de dépenses militaires mondiales en 2016.

Le truand : l'IA qui décide de tuer

Le marché de l'IA et de la robotique dans la défense était évalué à 39,22 milliards de dollars en 2018. On parle de vrais Terminators. Drones sans pilote, navires de guerre autonomes, tourelles pilotées par IA : tout cela est déjà déployé. Mais l'arme ne reste pas aux mains des États : le terrorisme aussi s'en empare. On connaît le piéton tué par une voiture autonome ; il faut le mettre en balance avec les 1,25 million de morts annuels sur les routes, dus à la défaillance humaine. En théorie, une machine décide mieux : sur des faits, sans émotion.

Iriez-vous jusqu'à leur confier la décision de tuer ? Dans leur essai sur la stabilité nucléaire, Lohn et Geist s'interrogent sur la tentation de nos neuf puissances nucléaires de bâtir des machines stratèges. Avec des États qui investissent massivement - la Chine vise 147,8 milliards de dollars à horizon 2030 - ce n'est pas pour produire que des assistants vocaux. Et l'affaire Cambridge Analytica a prouvé que l'IA aide à manipuler les individus : big data et bots pour influencer les électeurs et diffuser les fake news.

Le bon : l'IA au service du plus grand bien

Le pouvoir de l'IA dépend de nous. Serons-nous les professeurs ou les élèves ? Comme l'écrit Gilles Dowek, « il n'y a pas plus de compétition entre l'Homme et la Machine qu'entre le trompettiste et son instrument ». Cessons de craindre les fictions et éduquons-nous.

Les machines intelligentes font gagner en productivité. La course entre nations provoquera d'abord une crise puis un essor : on estime un solde net positif d'environ un demi-million d'emplois. Les véhicules hautement automatisés pourraient sauver des centaines de milliers de vies. La santé est sans doute le plus bel espoir : si une IA sait détecter un sourire sur une photo, pourquoi pas des cellules cancéreuses ? Pas un miracle, mais un espoir immense.

L'IA aidera-t-elle à résoudre le changement climatique ? Microsoft le croit avec AI for Earth. Les GAFA ont fourni les allumettes de cette révolution, mais si l'on allume un feu, il faut savoir le maîtriser et garder des extincteurs à portée de main.

Outro : nous mettons au monde une nouvelle forme de vie

Au Google I/O de cette semaine, Google a démontré un assistant capable de prendre un rendez-vous par téléphone. La question n'est plus « quand allons-nous l'utiliser ? » mais « comment voulons-nous la développer ? ». L'IA révolutionnera nos vies comme l'Internet il y a vingt ans, mais elle exige des règles, des contrôles et des lois. Nos gouvernements sont, une fois de plus, mal préparés.

Un robot ne peut porter atteinte à un être humain ni, restant passif, permettre qu'un être humain soit exposé au danger.Première loi de la robotique - Asimov

Plus qu'une technologie, l'humanité enfante une nouvelle forme de vie. Nos données et nos activités sont déjà traitées par des programmes. On ne peut pas faire confiance aux entreprises privées pour les garder secrètes éternellement. Derrière tous ces exemples, c'est notre propre nature qu'il faut interroger. Nous sommes les créateurs. Nous sommes responsables. Plus que jamais, il nous faut du contrôle, de l'éthique, de la sagesse et de l'humilité.