Googleの新しいAI検索が馬鹿げた誤作動を起こしている。無視するや停止するといった一般的な単語を定義しようとすると、画面が真っ白になる。このシステムはこれらの用語をAIへの制御コマンドとして解釈し、本来の意味を無視している。このエラーは、AI生成サマリーが導入されて以来、誤った回答が相次いでいる長いリストに新たに加わったものだ。
意味的ブロックの背後にある技術的問題 🤖
問題は、AIがクエリを処理する方法にある。停止するのような単語を受け取ると、モデルはそれらを語彙的な用語としてではなく、内部コマンドとして扱う。これは、自然言語システムが辞書の定義よりも制御命令を優先するために発生する。Googleはシステム命令と意味的検索を区別するためのフィルターを実装していなかった。その結果、検索エンジンの基本機能に反する空白の画面が表示される。技術的な解決策としては、曖昧な単語にタグを付けるか、競合するクエリを外部ソースにリダイレクトすることが必要となる。
止めてと頼むと怒るAI 😤
どうやらGoogleは自尊心を持った人工知能を作り出してしまったようだ。停止すると言うと、まるで侮辱されたかのようにフリーズする。そして、何かを無視するように頼むと、無言のストライキモードに入る。もうすぐ、私たちは回りくどい言い方で定義を求めなければならなくなるだろう。何かを気にしないという概念を説明してくださいとでも言わないと、検索を個人的に受け取られないようにするために。Googleは、機械が言語の基本的な単語に腹を立てるという、不可能と思われていたことを成し遂げてしまった。