Anthropic과 OpenAI는 뉴욕에서 열린 Faith-AI Covenant에 참석하여 시크교, 힌두교, 유대교, 몰몬교 지도자들과 Claude의 가치에 대해 협의했습니다. 이 움직임은 이전에 15명의 기독교 지도자들과의 만남에 이어집니다. 목표는 명시된 규칙이 없는 상황에 대한 윤리적 진리를 찾는 것이며, AI가 스스로 보편적 원칙에 도달할 수 없음을 인식하는 것입니다.
AI, 훈련 데이터를 넘어 도덕적 지침을 찾다 🧭
이 접근 방식은 방대한 텍스트 말뭉치로 훈련된 언어 모델이 본질적인 도덕적 나침반이 부족함을 인식합니다. 시크교나 유대교와 같은 전통의 관점을 통합함으로써 전례 없는 딜레마에 대한 참조 프레임워크를 만드는 것을 목표로 합니다. 이 과정은 신학적 개념을 알고리즘적 제약 조건으로 변환하는 것을 포함하며, 이는 다르마나 체다카와 같은 용어를 코드로 정의해야 하는 복잡한 단계입니다.
AI 비서가 위키피디아 대신 구루를 인용할 때 🤖
이제 Claude에게 윤리적 딜레마에 대해 물어보면, 사용자 매뉴얼 대신 시크교의 비유로 답할 수도 있습니다. 피자 마지막 조각을 먹지 말라는 조언을 구했는데 업보에 대해 이야기하는 상상을 해보세요. 적어도 실패할 때는 몰몬교나 힌두교 탓을 할 수 있겠죠. 인공지능이 종교 간 대화에 나서는 이유는, 결국 제때 '아니오'라고 말하는 법을 배우지 못했기 때문입니다.