Risques à court, moyen et long terme de l'IA PDG anthropique

La bonne nouvelle, pour ceux qui sont enclins à s'inquiéter, est que vous pouvez organiser vos inquiétudes en trois catégories bien distinctes : les risques à court terme de l'IA, les risques à moyen terme et les risques à long terme. C'est ainsi que Dario Amodei, cofondateur et PDG d'Anthropic, le fait.

Amodei devrait le savoir. En 2020, il a quitté OpenAI, le créateur de ChatGPT, pour cofonder Anthropic sur le principe que les grands modèles de langage ont le pouvoir de devenir exponentiellement plus performants à mesure que la puissance de calcul qui leur est consacrée augmente, et que par conséquent, ces modèles doivent être conçus dès le départ en tenant compte de la sécurité. En mai, la société a levé 450 millions de dollars de financement.

Intervenant lors de la conférence Fortune Brainstorm Tech à Deer Valley, Utah, le lundi, Amodei a exposé son modèle de peur en trois niveaux en réponse à une question de Jeremy Kahn de Fortune sur les risques existentiels posés par l'IA. Voici comment Amodei s'inquiète de l'IA :

• Risques à court terme : le genre de problèmes auxquels nous sommes confrontés aujourd'hui, "autour de choses comme les biais et la désinformation".
• Risques à moyen terme : "Je pense que dans quelques années, à mesure que les modèles s'amélioreront dans des domaines tels que la science, l'ingénierie, la biologie, vous pourrez simplement faire des choses très mauvaises avec les modèles que vous n'auriez pas pu faire sans eux".
• Risques à long terme : "À mesure que nous passerons à des modèles qui ont pour caractéristique clé l'autonomie - ce qui signifie qu'ils ne produisent pas seulement du texte, mais qu'ils peuvent agir, que ce soit avec un robot ou sur Internet - alors je pense que nous devons nous inquiéter de leur devenir trop autonomes, et qu'il sera difficile d'arrêter ou de contrôler ce qu'ils font. Et je pense que l'extrême de cela suscite des préoccupations concernant le risque existentiel."

Les grands modèles de langage sont incroyablement polyvalents. Ils peuvent être utilisés dans de nombreux domaines et situations - "la plupart d'entre eux sont bons. Mais il y en a quelques-uns de mauvais qui se cachent là-dedans et nous devons les détecter et les prévenir", a déclaré Amodei.

Nous ne devrions pas "paniquer à propos" du scénario de risque existentiel à long terme, a-t-il conseillé. "Ils n'arriveront pas demain, mais à mesure que nous progressons de manière exponentielle dans le domaine de l'IA, nous devons comprendre que ces risques se trouvent à la fin de cette exponentielle."

Mais lorsque Kahn lui a demandé s'il était finalement optimiste ou pessimiste quant à l'IA, le PDG d'Anthropic a offert une réponse ambivalente qui sera soit réconfortante, soit terrifiante, selon que vous êtes du genre à voir le verre à moitié plein ou à moitié vide : "Je suppose que les choses se passeront vraiment bien. Mais il y a un risque, peut-être de 10% ou 20%, que cela tourne mal, et il nous incombe de veiller à ce que cela n'arrive pas."