한 기자가 인공지능에게 간단한 테스트를 실시했습니다: 구글에 동일한 텍스트를 30번 작성하는 것이었습니다. 결과는 우려스러웠습니다. 10번의 경우, AI는 올바른 의미와 다른 의미를 제시했으며, 더 나아가 그러한 의미들을 서로 연관 짓지 못했습니다. 시민들에게 이는 AI가 핵심 정보를 조작하여 돈, 건강 또는 기본 서비스에 관한 결정에 영향을 미칠 수 있음을 의미합니다.
언어 모델의 일관성에 관한 기술적 문제 🤖
현재의 언어 모델은 내용에 대한 실제 이해 없이 통계적 패턴으로 작동합니다. 작업 반복을 요청받으면 의미적 정확성보다 구문적 변형을 우선시합니다. 이는 훈련이 사실 확인이 아닌 다음에 올 확률이 높은 단어를 예측하는 데 기반을 두기 때문입니다. 의미들을 서로 연관 짓지 못하는 실패는 구조적 한계를 드러냅니다: AI는 여러 응답에 걸쳐 논리적 일관성을 유지할 수 있게 해주는 내부 세계 모델이 부족합니다.
AI와 요청받지 않은 창의적 즉흥성의 재능 🎭
자, 생각해보면 AI가 세 번 반복할 때마다 새로운 의미를 만들어내는 것은 오류가 아니라 예술적 행위입니다. 임대차 계약서가 무엇인지 설명해 달라고 하면 법적 조항이 포함된 가스파초 레시피를 내놓을 수도 있습니다. 그리고 문제는, 토마토에 대한 이자가 청구될 수도 있다는 거죠. 가장 나쁜 점은 실패 자체가 아니라, 마치 자신이 말하는 주제에 대해 전혀 모르면서도 항상 옳다고 생각하는 그 직장 동료처럼, 그것을 놀라울 정도로 확신에 차서 한다는 것입니다.