Voici une expérience de pensée (lien alternatif) proposée par un certain Johannes Link sur le réseau Mastodon, et qui vise à nous faire réfléchir quant à la pertinence de confier à des entrepreneurs du numérique notre destin commun :
Imaginez que l’Intelligence Artificielle Générale (surhumaine) arrive. Ses propriétaires milliardaires lui demandent comment sauver la planète Terre et l’Humanité. Pensez-vous que nous aurions droit d’entendre la vraie réponse dans son intégralité non censurée ?
Un peu de contexte : l’IA générale, qu’il ne faut pas confondre avec l’IA générative (ChatGPT et consorts), c’est ce que le patron d’Anthropic décrit comme “l’équivalent d’un pays peuplé de prix Nobel, mais concentré dans un Data Center”. Un IA tellement “intelligente” qu’elle pourrait résoudre tous les problèmes. J’en parle longuement dans ce billet.
Dans une conversation avec Johannes Link, ce dernier explique qu’il ne s’agit pas tellement de se demander si l’IA générale arrivera ou pas, mais bien de s’interroger sur l’altruisme des milliardaires de la Tech et sur la confiance qu’on peut leur accorder. Pour ma part, je ne pense pas que nous obtiendrons une réponse intégrale non censurée, car il y a une quasi certitude qu’elle ne soit pas en faveur des milliardaires. Sauver la planète et l’humanité, c’est consommer moins, mieux répartir les richesses. En quelque sorte, c’est changer les règles du jeu auquel nous joins tous plus ou moins volontairement, jeu auquel les milliardaires sont en train de gagner. Cela ne risque donc pas d’arriver.
