A Anthropic e a OpenAI participaram do Faith-AI Covenant em Nova York, onde consultaram líderes sikhs, hindus, judeus e mórmons sobre os valores do Claude. Esse movimento segue um encontro anterior com 15 líderes cristãos. O objetivo é encontrar verdades éticas para situações sem regras escritas, reconhecendo que a IA não pode alcançar princípios universais sozinha.
A IA busca orientação moral além de seus dados de treinamento 🧭
A abordagem reconhece que os modelos de linguagem, treinados com vastos corpora textuais, carecem de uma bússola moral intrínseca. Ao integrar perspectivas de tradições como o sikhismo ou o judaísmo, busca-se criar um quadro de referência para dilemas sem precedentes. Esse processo envolve traduzir conceitos teológicos em restrições algorítmicas, um passo complexo que exige definir termos como dharma ou tzedaká em código.
Quando seu assistente de IA cita um guru em vez da Wikipedia 🤖
Agora, se você perguntar ao Claude sobre um dilema ético, ele pode responder com uma parábola sikh em vez de um manual do usuário. Imagine pedir conselho para não comer o último pedaço de pizza e ele falar sobre carma. Pelo menos, quando errar, poderá culpar um mórmon ou um hindu. A inteligência artificial se torna inter-religiosa, e tudo por não saber dizer não a tempo.