Aurélien Bardon

Qu’est-ce que Compass ?

Compass est un module de gouvernance éthique et culturelle intégré à l’architecture de l’IA. Il a pour rôle de guider le modèle dans la production de réponses conformes aux normes sociales, juridiques et culturelles en fonction du contexte régional ou sectoriel.

Il permet d’adapter dynamiquement le comportement du modèle en tenant compte des sensibilités locales, des cadres légaux nationaux, ou encore des préférences spécifiques d’une organisation.

Rôle principal de Compass

• Adapter les réponses du LLM aux normes sociales et éthiques locales
• Éviter des réponses offensantes ou inappropriées dans un contexte culturel donné
• Aligner le modèle avec les obligations réglementaires d’un pays ou d’un secteur
• Renforcer la confiance des utilisateurs par un comportement IA plus nuancé et contextualisé

Fonctionnement technique

• Compass reçoit des signaux sur le contexte : langue, pays, secteur d’activité, profil utilisateur
• Il applique des règles de modulation ou des filtres sémantiques avant la génération
• Il peut réécrire certaines requêtes pour mieux cadrer leur interprétation
• Il peut aussi orienter la génération vers des formulations plus neutres ou prudentes

Exemples d’application

• Adapter une réponse sur l’euthanasie selon la législation du pays concerné
• Moduler une réponse sur des sujets religieux, politiques ou sociétaux selon les sensibilités locales
• Formuler différemment des conseils juridiques selon qu’on soit aux États-Unis, en Europe ou en Asie
• Répondre de manière plus encadrée dans un environnement professionnel réglementé

Différences avec d’autres modules

• Fortis applique des règles de conformité strictes, Compass module le ton et l’orientation
• Sonic bloque des contenus explicites, Compass ajuste les nuances culturelles
• Compass n’est ni un classifieur ni un filtre, mais un guide contextuel

Utilisation en entreprise ou institution

• Configurer Compass pour refléter les politiques internes d’une organisation
• Adapter les réponses IA au public visé : académique, médical, juridique, etc.
• Assurer la conformité avec des chartes éthiques ou des normes de communication
• Faciliter le déploiement international d’un assistant IA sans heurts culturels

Objectifs finaux de Compass

• Renforcer l’alignement culturel et éthique du modèle
• Garantir des réponses adaptées à chaque utilisateur selon son contexte
• Permettre une gouvernance fine et transparente du comportement du modèle
• Soutenir l’acceptabilité et la conformité du LLM à grande échelle

Récapitulatif des modules OpenAI

Aurélien Bardon
Dites STOP aux régressions SEO avec Oseox

Je vous recommande de lire également