Anthropic et OpenAI ont assisté au Faith-AI Covenant à New York, où ils ont consulté des dirigeants sikhs, hindous, juifs et mormons sur les valeurs de Claude. Ce mouvement fait suite à une rencontre précédente avec 15 dirigeants chrétiens. L'objectif est de trouver des vérités éthiques pour des situations sans règles écrites, en reconnaissant que l'IA ne peut pas atteindre des principes universels par elle-même.
L'IA cherche un guide moral au-delà de ses données d'entraînement 🧭
L'approche reconnaît que les modèles de langage, entraînés sur de vastes corpus textuels, manquent d'une boussole morale intrinsèque. En intégrant les perspectives de traditions comme le sikhisme ou le judaïsme, on cherche à créer un cadre de référence pour des dilemmes sans précédent. Ce processus implique de traduire des concepts théologiques en contraintes algorithmiques, une étape complexe qui exige de définir des termes comme dharma ou tzedakah en code.
Quand votre assistant IA cite un gourou au lieu de Wikipédia 🤖
Maintenant, si vous interrogez Claude sur un dilemme éthique, il pourrait vous répondre avec une parabole sikhe au lieu d'un manuel d'utilisation. Imaginez lui demander conseil pour ne pas manger la dernière part de pizza et qu'il vous parle du karma. Au moins, quand il échouera, il pourra rejeter la faute sur un mormon ou un hindou. L'intelligence artificielle devient interreligieuse, et tout cela parce qu'elle ne sait pas dire non à temps.