인공지능 기업 Anthropic은 고급 AI 시스템 개발에 대한 세계적 중단을 제안했습니다. 그들의 주장은 사회가 이러한 기술의 속도에 적응할 시간이 필요하다는 것입니다. 이를 위해 모든 대기업이 검증 가능한 규칙을 준수해야 하며, 정부, 과학자 및 경쟁사를 중앙 집중식 통제 시스템에 모을 계획입니다.
내부 데이터, 인간 감독 없는 자율 AI에 대해 경고 🤖
Anthropic의 데이터에 따르면, 현재 AI 모델은 인간의 직접적인 개입 없이 작동하고 더 지능적으로 변할 수 있는 지점에 도달할 수 있습니다. 이는 예측하기 어려운 보안 및 통제 위험을 수반합니다. 이 제안은 업계에 현재 존재하지 않는 명확한 지표와 외부 감사를 설정하여 규칙 준수를 확인하는 것을 목표로 합니다. 이러한 중단의 기술적 실현 가능성은 의문스럽습니다.
세계적 중단: 제안한 사람만 좋아하는 아이디어 😅
물론, 경쟁자에게 멈추라고 요구하면서 자신은 계속 개발하는 것은 고전적인 전략입니다. Anthropic은 모든 사람이 앉아서 대화하자고 제안하지만, 그들의 모델은 계속 학습합니다. 이는 이웃에게 달리기를 멈추라고 해서 자신이 따라잡을 수 있게 하는 것과 같습니다. 아이러니한 점은 AI를 통제하려면 먼저 AI를 만드는 기업을 통제해야 한다는 것입니다. 불가능한 임무입니다.