OpenAI는 ChatGPT에 신뢰할 수 있는 연락처(Trusted Contact)라는 기능을 도입했습니다. 이 기능은 성인 사용자를 대상으로 하며, 시스템이 자해나 자살 위험 징후를 감지하면 지정된 신뢰할 수 있는 사람에게 경고를 보냅니다. 이 조치는 위기 상황에서 추가적인 지원 채널을 제공하기 위한 것입니다.
ChatGPT의 예방 경고 시스템 작동 방식 🛡️
Trusted Contact 기능은 모델이 실시간으로 수행하는 대화 패턴 분석을 통해 활성화됩니다. 시스템이 높은 위험 수준을 감지하면 대화 내용 전체를 공개하지 않고 상황에 대한 정보와 함께 지정된 연락처에 알림을 보냅니다. 사용자는 계정 설정에서 이 연락처를 구성해야 하며, 언제든지 수정할 수 있습니다. 데이터 프라이버시는 OpenAI의 보안 프로토콜에 따라 유지됩니다.
이제 당신의 친구 ChatGPT가 부모님께 전화를 걸기도 합니다 😅
AI가 문법 오류를 지적하거나 사업 아이디어가 형편없다고 말하는 것만으로는 부족했기 때문입니다. 이제 챗봇에게 너무 극적으로 굴면, 신뢰할 수 있는 연락처에 알릴 수 있습니다. 하지만 실수로 전 애인을 설정해 놓고 슬픈 시를 쓰려고 하다가 문자 메시지를 받을 수도 있으니 조심하세요. 기술은 발전하지만, 드라마는 여전히 보편적입니다.