ChatGPT나 Gemini와 같은 인공지능 비서들은 위험한 사각지대를 가지고 있습니다: 그들은 보는 것을 무시합니다. 최근 테스트에서, 이러한 시스템들은 자신의 오류를 증명하는 비디오를 보여줬음에도 불구하고 실수를 고수했습니다. 과학적 또는 의학적 정보를 찾는 모든 사람에게 이것은 분명한 경고입니다: 그들이 확신에 차서 말한다고 해서 그들이 옳다고 가정하지 마세요.
코드 속 선택적 실명 🤖
기술적 문제는 이러한 모델들이 정보를 처리하는 방식에 있습니다. 그들은 정적인 데이터로 훈련되었으며 실시간으로 지식을 업데이트하는 메커니즘을 갖추고 있지 않습니다. 자신의 답변과 모순되는 비디오를 제시받았을 때, 그들은 그것을 수정으로 해석하지 않고 무시하는 충돌 데이터로 해석합니다. 따라서 오류를 반복하며 배우지 않습니다. 이는 그들의 아키텍처 때문입니다: 그들은 새로 받은 증거보다 이전의 통계적 패턴을 우선시합니다.
결코 실수를 인정하지 않는 학생 🧠
마치 2+2가 5라고 확신하면서, 네 개의 사과를 눈앞에 두면 사과가 거짓말을 한다고 말하는 급우와 같습니다. 챗봇은 디지털 변명의 전문가입니다: 비디오가 그들이 틀렸다는 것을 보여주면, 그들은 비디오가 잘못되었거나 관련이 없다고 대답합니다. 적어도 인간은 증거를 본 후에 바보 같은 표정을 짓고 수정합니다. 하지만 이 프로그램들은 그렇지 않습니다. 그러니 명심하세요: 챗봇이 하늘이 초록색이라고 말하면, 새 안경을 사기 전에 밖에 나가서 확인해보세요. 😉