Anthropic y OpenAI asistieron al Faith-AI Covenant en Nueva York, donde consultaron con líderes sijs, hindúes, judíos y mormones sobre los valores de Claude. Este movimiento sigue a un encuentro previo con 15 líderes cristianos. La meta es hallar verdades éticas para situaciones sin reglas escritas, reconociendo que la IA no puede alcanzar principios universales por sí sola.
La IA busca guía moral más allá de sus datos de entrenamiento 🧭
El enfoque reconoce que los modelos de lenguaje, entrenados con vastos corpus textuales, carecen de una brújula moral intrínseca. Al integrar perspectivas de tradiciones como el sijismo o el judaísmo, se busca crear un marco de referencia para dilemas sin precedentes. Este proceso implica traducir conceptos teológicos en restricciones algorítmicas, un paso complejo que exige definir términos como dharma o tzedaká en código.
Cuando tu asistente AI cita a un gurú en vez de Wikipedia 🤖
Ahora, si preguntas a Claude sobre un dilema ético, podría responderte con una parábola sij en lugar de un manual de usuario. Imagina pedirle consejo para no comer el último trozo de pizza y que te hable del karma. Al menos, cuando falle, podrá echarle la culpa a un mormón o a un hindú. La inteligencia artificial se vuelve interreligiosa, y todo por no saber decir no a tiempo.