L'AI Act : la loi
Le règlement (UE) 2024/1689 encadre des usages de l'IA, et non une technologie : plus un usage peut nuire aux personnes, plus les obligations sont lourdes. Il ne prévoit aucune exception humanitaire. Une ONG est presque toujours déployeur : elle utilise des outils conçus par d'autres, et ses obligations ne se délèguent pas au fournisseur.
Certaines pratiques sont interdites depuis février 2025, dont l'exploitation des vulnérabilités et la notation sociale. L'obligation de transparence s'applique depuis le 2 août 2026. Le haut risque, qui vise directement l'accès aux aides essentielles, les urgences et la migration, a été reporté au 2 décembre 2027 par l'omnibus IA de juillet 2026. Ce même omnibus a reformulé l'article 4 : l'organisation doit désormais soutenir le développement de la maîtrise de l'IA de ses équipes, et pouvoir montrer ce qu'elle a fait.
Une organisation nationale sans lien avec l'Union n'y est pas soumise directement. Ses bailleurs et partenaires européens, eux, le sont, et reportent ces exigences dans leurs contrats, comme ils l'ont fait pour le RGPD. Le détail, article par article : l'AI Act expliqué aux organisations humanitaires.
SAFE AI : le standard du secteur
SAFE AI (Standards and Assurance Framework for Ethical Artificial Intelligence) est le cadre de gouvernance de l'IA conçu pour l'action humanitaire, publié en version 1.1 en mai 2026 par le CDAC Network, l'Alan Turing Institute et Humanitarian AI Advisory. Il est volontaire, et va plus loin que la loi sur les principes humanitaires et la place des communautés.
Il classe chaque cas d'usage, et non chaque outil, en trois niveaux de risque, et fait passer tout projet par quatre étapes, chacune fermée par une décision : continuer, reconcevoir, suspendre ou arrêter. Il reconnaît le refus responsable comme une issue valide : ne pas utiliser l'IA est un résultat SAFE AI à part entière. Son document central est la fiche de transparence, à publier avant la mise en service. Le cadre en entier : SAFE AI, le cadre de l'IA humanitaire.
La pratique : deux outils passés au crible
Les principes ne suffisent pas pour juger un outil. Pendant la session, j'applique les deux textes à deux usages réels, sur Opti', la plateforme MEAL que j'ai conçue. Je le dis en ouverture : elle sert de pièce à conviction, et chaque démonstration montre aussi ses limites.
Chaque page de méthode est accompagnée d'une fiche de transparence SAFE AI pré-remplie, modifiable dans Word, pour voir à quoi ressemble ce document une fois rempli.
