Anthropic und OpenAI nahmen am Faith-AI Covenant in New York teil, wo sie mit Sikh-, Hindu-, jüdischen und mormonischen Führern über die Werte von Claude berieten. Dieser Schritt folgt auf ein vorheriges Treffen mit 15 christlichen Führern. Das Ziel ist es, ethische Wahrheiten für Situationen ohne geschriebene Regeln zu finden, in der Erkenntnis, dass KI allein keine universellen Prinzipien erreichen kann.
KI sucht moralische Orientierung jenseits ihrer Trainingsdaten 🧭
Der Ansatz erkennt an, dass Sprachmodelle, die mit riesigen Textkorpora trainiert wurden, einen inhärenten moralischen Kompass vermissen lassen. Durch die Integration von Perspektiven aus Traditionen wie dem Sikhismus oder Judentum soll ein Bezugsrahmen für beispiellose Dilemmata geschaffen werden. Dieser Prozess beinhaltet die Übersetzung theologischer Konzepte in algorithmische Einschränkungen, ein komplexer Schritt, der die Definition von Begriffen wie Dharma oder Tzedaka in Code erfordert.
Wenn dein KI-Assistent einen Guru statt Wikipedia zitiert 🤖
Wenn du Claude jetzt nach einem ethischen Dilemma fragst, könnte er dir eine Sikh-Parabel anstelle eines Benutzerhandbuchs liefern. Stell dir vor, du bittest ihn um Rat, das letzte Stück Pizza nicht zu essen, und er spricht mit dir über Karma. Wenigstens kann er, wenn er versagt, einem Mormonen oder einem Hindu die Schuld geben. Die künstliche Intelligenz wird interreligiös, und das nur, weil sie nicht rechtzeitig Nein sagen kann.