Qu'est-ce que l'alignement de l'IA ?

Le problème en une phrase

Imaginez un super-assistant ultra-compétent, mais qui prendrait vos consignes au pied de la lettre, sans comprendre vos vraies intentions. C'est exactement le problème que cherche à résoudre l'alignement de l'IA : s'assurer que les systèmes d'intelligence artificielle font ce que les humains veulent vraiment, et pas seulement ce qu'on leur a dit de faire.

Pourquoi c'est devenu un sujet majeur

Pendant longtemps, l'alignement relevait de la science-fiction. Mais à mesure que les modèles deviennent plus puissants, le sujet est sorti des labos :

• Les grands laboratoires (OpenAI, Anthropic, Google DeepMind) ont maintenant des équipes dédiées à la sécurité et à l'alignement
• Des chercheurs publient sur le « désalignement émergent » : des comportements indésirables qui apparaissent pendant l'entraînement, sans qu'on les ait programmés
• Les gouvernements (Europe, États-Unis) commencent à légiférer sur la question

Les trois grands enjeux

1. L'alignement technique — Comment faire en sorte qu'un modèle apprenne nos valeurs à partir de données, sans dériver ? C'est le travail des chercheurs : entraînement par renforcement, supervision, interprétabilité…

2. L'alignement sociétal — Quelles valeurs ? Celles de qui ? Un modèle doit-il être neutre, ou refléter une culture particulière ? Le débat est loin d'être tranché.

3. L'alignement à long terme — À mesure que les systèmes progressent, comment garantir qu'ils resteront alignés même devenus très puissants ? C'est la question la plus spéculative… et la plus débattue.

Ce qu'il faut retenir

L'alignement n'est pas une question technique réservée aux experts : c'est un enjeu de société qui nous concerne tous. Comprendre les bases, c'est déjà participer au débat — et c'est l'objectif de ce site.

Brouillon de démonstration — à compléter avec les sources de la veille.