ChatGPTやGeminiのような人工知能アシスタントには危険な盲点があります。それは、自分たちが見ているものを無視することです。最近のテストでは、これらのシステムは、自分たちの誤りを証明する動画を提示されても、誤りを修正せずに固執しました。科学的または医学的な情報を求めるすべての人にとって、これは明確な警告です。自信満々に聞こえるからといって、彼らが正しいと思い込まないでください。
コードの中の選択的盲目 🤖
技術的な問題は、これらのモデルが情報を処理する方法にあります。それらは静的なデータで訓練されており、知識をリアルタイムで更新するメカニズムを持っていません。自分の回答と矛盾する動画を提示されても、それを修正として解釈せず、無視する競合データとして扱います。その結果、学習することなく誤りを繰り返します。これは、新しい証拠よりも以前の統計的パターンを優先するという、そのアーキテクチャに起因します。
決して誤りを認めない生徒 🧠
それは、2+2は5だと断言し、目の前にリンゴを4つ置かれても、リンゴが嘘をついていると言うクラスメートのようなものです。チャットボットはデジタルな言い訳の達人です。動画が自分たちの間違いを示していても、「その動画は間違っている」とか「関連性がない」と答えます。少なくとも人間は、証拠を見た後は、間抜けな顔をして訂正します。しかし、これらのプログラムはそうしません。だから、チャットボットが「空は緑だ」と言ったら、新しい眼鏡を買う前に外に出て確かめてください。😉