Comment l'IA rend l'internet plus sûr

L'IA fait actuellement l'objet de toutes sortes d'articles dans les médias, et tous ne sont pas positifs. Les gens sont, à juste titre, un peu inquiets de l'impact que l'IA pourrait avoir sur le monde que nous connaissons aujourd'hui.

B M Magazine a récemment publié un article sur la façon dont le Royaume-Uni fait avancer la technologie de l'IA, en disant qu'elle peut aider les entreprises, mais ce n'est peut-être pas la seule utilité de l'IA. Ces derniers temps, de plus en plus d'entreprises utilisent l'IA pour tenter de créer un espace en ligne plus sûr pour leurs clients. Qu'il s'agisse d'aider à prévenir la fraude ou de supprimer les contenus haineux des sites de médias sociaux. Nous allons examiner quelques-unes des façons dont l'IA est utilisée pour assurer notre sécurité lorsque nous naviguons sur l'internet.

Lutter contre les fraudeurs

Nous confions à des entreprises un très grand nombre d'informations nous concernant, y compris parfois nos coordonnées bancaires, voire l'accès direct à nos fonds. C'est généralement très sûr, mais avec les techniques de plus en plus sophistiquées utilisées par les fraudeurs, il devient de plus en plus difficile pour les humains de faire la police. L'IA est incroyablement douée pour traiter de grandes quantités de données et repérer les incohérences dans les schémas. Elle s'est avérée particulièrement utile pour repérer les comportements inhabituels sur les comptes d'utilisateurs, ce qui a permis de ralentir les fraudeurs.

L'un des secteurs qui utilise cette technique avec succès est celui des casinos en ligne, où des millions d'utilisateurs se connectent chaque jour pour jouer à leurs jeux préférés. Malgré ce que l'on pourrait penser, les joueurs ont tous des habitudes différentes lorsqu'ils jouent. Certains aiment faire de nombreuses petites mises à la roulette, tandis que d'autres préfèrent placer une poignée de grosses mises sur une machine à sous avant de passer à quelques parties de poker. L'IA peut analyser le comportement de l'utilisateur pendant qu'il est sur le site et établir un profil de son comportement habituel. Il est donc très facile pour l'IA de repérer les incohérences majeures et de les signaler au fournisseur. Les machines à sous en ligne de Vegas au Royaume-Uni utilise cette technologie dans ses protocoles de sécurité, afin de s'assurer que tous les comptes de ses clients sont parfaitement sécurisés. Parfois, l'intelligence artificielle peut simplement signaler que quelqu'un essaie quelque chose de nouveau, mais souvent, elle est indispensable pour arrêter un fraudeur, ce qui peut permettre au client d'économiser beaucoup d'argent.

Éradiquer les contenus déclencheurs

Comme nous l'avons brièvement mentionné, l'IA est capable d'analyser très rapidement de grandes quantités de données. Pour donner une idée de sa compétence en la matière, un programme d'IA appelé DeepMind a pu prédire correctement la structure de 350 000 protéines en cinq minutes. Il faudrait environ un mois à un humain pour prédire la structure d'une seule protéine. Il s'agit là d'un élément clé pour éradiquer efficacement les contenus déclencheurs en ligne, car les humains ne peuvent pas tout analyser. À l'heure actuelle, il existe encore des carrières de modération qui obligent les humains à parcourir les contenus signalés comme haineux, provocateurs ou violents. Cette tâche peut à juste titre peser sur la santé mentale de l'employé, mais elle repose également sur l'impartialité de la personne et sur sa capacité à analyser rapidement un grand nombre de données.

Les emplois de modérateur de contenu sont exactement le type de rôles où l'IA surpassera les humains à chaque fois et sans risquer de nuire à la santé mentale. L'IA peut analyser des milliers de contenus signalés dans le même temps qu'il faudrait à un humain pour en examiner seulement une demi-douzaine. En outre, l'IA n'a pas d'idées préconçues sur ce qui déclenche un contenu ou un discours haineux ; ces données sont saisies et c'est sur elles que la machine se concentre. Si les pouvoirs de l'IA sont utilisés à bon escient dans le domaine de la modération de contenu, cela pourrait vraiment faire de l'internet un endroit plus convivial et plus inclusif pour tout le monde.