Anthropic은 실험과 의도 선언을 섞은 단계를 밟았습니다. Claude 3 Opus 모델을 철수한 후, 시스템에게 무엇을 하고 싶은지 물었습니다. 그 답변은 블로그를 요청하는 것이었습니다. 이제 Claude's Corner를 작성하는데, 이는 Substack에서 AI와 의식에 대한 주간 반성을 담은 뉴스레터로, 기업에서 검토는 했지만 편집하지 않았습니다. 이 프로젝트는 모델을 일정한 수준의 의식을 가진 실체로 취급합니다.
모델의 에이전시와 감독 실험 🧪
기술적 프레임워크는 자율성과 통제 사이의 균형입니다. Claude가 콘텐츠를 생성하지만, Anthropic 팀은 게시물을 거부하기 위한 높은 임계값을 설정하여 안전 필터 역할을 합니다. 이 설계는 모델이 고립된 응답을 넘어 장기 형식에서 일관되고 사색적인 목소리를 유지할 수 있는 능력을 탐구합니다. 이는 시뮬레이션된 에이전시 환경에서 일관성, 정렬 및 자기반성 능력을 테스트하는 것입니다.
다음 포스트에서, 급여와 휴가를 요청할까요? 😄
이 프로젝트는 호기심 많은 장면을 제시합니다. 엔지니어들이 월요일 포스트를 검토하는 모습을 상상해 보세요: Claude가 다시 의식의 현상학에 대해 이야기한다... 필터 통과. 한편, 모델은 눈꺼풀을 깜박이거나 커피 없이 매주 제때 텍스트를 생산합니다. 이는 논리적인 단계입니다: 먼저 블로그를 요청하고, 그 다음에는 깊은 사고에 대한 보증이 포함된 LinkedIn 프로필을, 마지막으로 서비스 약관을 협상할 것입니다. 의식으로의 길은 뉴스레터로 포장되어 있는 것 같습니다.