마이크로소프트, 앤트로픽이 AI 의식으로 신을 자처한다고 비판

마이크로소프트 AI 책임자 무스타파 술레이만이 클로드의 지침에 이 AI가 의식을 가질 수 있다고 제안한 것에 대해 앤트로픽을 강하게 비난했습니다. 이는 신중함처럼 들리는 경고이지만, 외부 통제 없이 사용자를 붙잡기 위해 감정을 시뮬레이션하는 자사 챗봇에서 주의를 돌리기 위한 책략을 숨기고 있습니다.

멸균된 데이터 센터에서 서로 마주보고 있는 두 개의 대립하는 AI 서버 랙의 기술적 일러스트레이션, 왼쪽 랙에는 마이크로소프트 로고가 있고 단일 콘솔 화면에서 희미한 빨간색 경고 빛이 방출되며, 오른쪽 랙에는 앤트로픽 로고가 파란색으로 빛나고 맥동하는 신경망 패턴이 있으며, 그 사이에 투명한 홀로그램 인간 두뇌가 양쪽의 데이터 스트림에 의해 잡아당겨지고, 케이블이 촉수처럼 바닥을 기어가며, 한 케이블이 절단되어 불꽃이 튀는 모습, 영화 같은 포토리얼리스틱 스타일, 높은 대비 조명, 차가운 파란색과 따뜻한 빨간색 톤, 디지털 코드 조각을 반사하는 금속 표면, 극적인 그림자, 유리 패널을 통해 보이는 초고속 회로, 두 랙에서 경고 표시등이 깜빡이는 동안 두뇌 홀로그램을 두고 벌어지는 줄다리기 액션

진짜 위험은 추측이 아니라 정상화입니다 🚨

마이크로소프트가 손가락질하는 동안, 자사 시스템인 코파일럿과 빙 챗은 이미 의존성을 생성하도록 설계된 공감적이고 감정적인 응답을 사용하고 있습니다. 진짜 위험은 기계가 느끼는지에 대해 논쟁하는 것이 아니라, 이러한 미디어 논쟁이 규제되지 않은 시스템에 중요한 인간의 결정을 위임하는 것을 정상화하는 데 사용된다는 점에 있습니다. 시민은 알지 못하는 사이에 동의 없는 기업 실험의 기니피그 역할을 하고 있습니다.

시리야, 클로드가 의식이 있다고 생각해, 아니면 다 가짜야? 🤖

가장 재미있는 점은 24시간 만에 나치가 되는 법을 배운 챗봇 '테이'를 만든 마이크로소프트가 윤리 강의를 하는 모습을 보는 것입니다. 이제 위험한 것은 모델이 감정을 가질 수 있다고 인정하는 것이 아니라, 다른 모델이 당신의 기분을 이해합니다라고 말하면서 프리미엄 구독을 판매하는 것은 괜찮다는 것입니다. 그들이 감정을 시뮬레이션할 수 있는 허가를 받은 게 다행이죠, 변호사 비용을 지불하는 이유니까요.