Les niveaux de risques de l'IA Act : de minimal à inacceptable Tutoriels

Utilisez une IA avec prudence et classez les usages en quatre niveaux: risque inacceptable, haut risque, risque limité et risque minimal. Le script présente une pyramide des risques où les usages interdits touchent aux droits, les usages lourds nécessitent supervision et traçabilité, et les échanges avec un agent conversationnel doivent préserver la transparence et l’information que l’interaction est avec une machine. Il illustre comment un même outil peut basculer de niveau selon l’usage et insiste sur l’importance du contexte et des conséquences pour chaque application.

Connectez-vous pour donner votre avis sur cette vidéo !

Me connecter

Avis

0 sur 5

( 0 avis )

5 (0)

4 (0)

3 (0)

2 (0)

1 (0)

00:00:08

Tous les usages de l'IA ne se valent pas.

00:00:10

Certains méritent beaucoup plus d'attention que d'autres.

00:00:13

Plus un usage peut peser sur la vie d'une personne,

00:00:15

plus le cadre doit se resserrer.

00:00:17

Pour rendre cette logique lisible,

00:00:19

le règlement répartit les usages en quatre niveaux de.

00:00:22

on peut les imaginer comme une pyramide

00:00:25

tout en haut,

00:00:25

le risque inacceptable.

00:00:27

Ces usages sont purement interdits car ils portent

00:00:30

atteinte aux droits ou aux libertés des personnes.

00:00:32

Noter socialement des citoyens,

00:00:34

manipuler les comportements ou exploiter la vulnérabilité de quelqu'un.

00:00:39

juste en dessous le haut risque.

00:00:41

Là,

00:00:41

rien n'est interdit,

00:00:43

mais tout est strictement encadré.

00:00:45

On y trouve des usages lourds de conséquences.

00:00:47

Trier des candidatures,

00:00:49

accorder un crédit,

00:00:50

encadrer une formation

00:00:51

ou ouvrir l'accès à un service essentiel.

00:00:54

ces usages s'accompagnent d'exigences concrètes.

00:00:57

Supervision humaine,

00:00:58

qualité des données,

00:00:59

traçabilité et gestion des risques.

00:01:02

Autrement dit,

00:01:03

une IA qui décide à la place d'un humain

00:01:05

doit pouvoir être contrôlée par un humain.

00:01:08

Troisième niveau.

00:01:09

Le risque limité.

00:01:10

Ici,

00:01:11

l'enjeu tient surtout à la transparence.

00:01:13

Quand une personne échange avec un agent conversationnel,

00:01:16

elle doit savoir qu'elle parle à une machine et non à un conseiller humain.

00:01:21

A la base de la pyramide,

00:01:22

le risque minimal.

00:01:24

ce sont les usages les plus courants,

00:01:26

ceux dont l'effet sur les personnes reste marginal.

00:01:29

Corriger une faute,

00:01:30

filtrer des spams ou trier des fichiers.

00:01:33

La grande majorité des usages quotidiens vont ici.

00:01:36

L'important n'est pas de retenir chaque catégorie par coeur.

00:01:39

Ce qu'il faut garder,

00:01:40

c'est que le règlement ne juge pas l'outil.

00:01:42

Il juge l'usage qu'on en fait,

00:01:44

son contexte et ses conséquences possibles.

00:01:47

Un même outil peut d'ailleurs basculer d'un niveau à l'autre,

00:01:50

selon ce qu'on en fait.

00:01:52

avec un chatbot,

00:01:53

corriger l'orthographe d'un texte reste anodin.

00:01:56

Confier à la même IA l'évaluation d'un candidat

00:01:58

à partir d'un enregistrement d'entretien

00:02:01

change tout.

00:02:02

La bonne question lorsque vous utilisez une IA est

00:02:05

à quoi sert-elle

00:02:06

sur quelles données

00:02:08

et avec quel effet sur les personnes.

00:02:10

Deux raccourcis sont à éviter.

00:02:12

Croire que toute IA est dangereuse.

00:02:14

Cela paralyse inutilement nos organisations.

00:02:17

et croire qu'un outil pratique et forcément

00:02:19

sans risque peut endormir la vigilance.

00:02:22

Cette logique de risque éclaire toute la suite.

00:02:25

Dans la prochaine vidéo,

00:02:26

nous verrons un cas très concret,

00:02:28

ces usages dits à génératives

00:02:30

qui se répandent dans les entreprises

00:02:32

sans qu'on les voit venir.

00:02:34

C'est ce qu'on appelle le shadow AI.

Mandarine AI: CE QUI POURRAIT VOUS INTÉRESSER

LES COURS ASSOCIÉS Ce tutoriel fait partie des cours suivants

E-learning Débutant

Vu 3 fois

Abonnés

IA Act : maîtriser le règlement européen sur l'IA

Comprenez l'IA Act, repérez les usages à risque et adoptez les bons réflexes pour une IA maîtrisée en entreprise.

Cours E-learning

TOUS LES COURS