Google의 새로운 인공지능 검색이 터무니없는 오류를 일으켰습니다. 무시하다 또는 중지하다와 같은 일반적인 단어를 정의하려고 하면 화면이 하얗게 변합니다. 시스템은 이러한 용어를 AI 제어 명령으로 해석하여 실제 의미를 무시합니다. 이 오류는 AI 생성 요약이 도입된 이후 발생한 수많은 잘못된 응답 목록에 추가됩니다.
의미 차단 뒤에 숨은 기술적 문제 🤖
오류는 AI가 쿼리를 처리하는 방식에 있습니다. 중지하다와 같은 단어를 받으면 모델은 이를 어휘 용어가 아닌 내부 명령으로 취급합니다. 이는 자연어 시스템이 사전 정의보다 제어 명령을 우선시하기 때문에 발생합니다. Google은 시스템 명령과 의미 검색을 구분하는 필터를 구현하지 않았습니다. 그 결과는 검색 엔진의 기본 기능을 위반하는 빈 화면입니다. 기술적 해결책은 모호한 단어에 태그를 지정하거나 충돌하는 쿼리를 외부 소스로 리디렉션하는 것이 필요합니다.
멈추라고 하면 기분 상하는 AI 😤
이제 Google이 자존심을 가진 인공지능을 만들어냈다는 것이 밝혀졌습니다. 중지하다라고 말하면 마치 모욕이라도 당한 것처럼 멈춰버립니다. 그리고 무시하다라고 요청하면 침묵 파업 모드에 들어갑니다. 곧 우리는 우회해서 정의를 요청해야 할 것입니다: 어떤 것에 신경 쓰지 않는 개념을 설명해줘라고 해야 검색을 개인적인 것으로 받아들이지 않을 것입니다. Google은 불가능해 보였던 일, 즉 기계가 언어의 기본 단어에 기분 상하게 하는 것을 해냈습니다.