OpenAIはChatGPTに、トラステッドコンタクトと呼ばれる機能を実装しました。これは成人ユーザーを対象としています。このツールを使用すると、信頼できる人物を指定でき、システムが自傷行為や自殺のリスクの兆候を検出した場合に、その人物に警告が送信されます。この措置は、危機的な状況において追加のサポートチャネルを提供することを目的としています。
ChatGPTにおける予防的警告システムの仕組み 🛡️
トラステッドコンタクト機能は、モデルがリアルタイムで実行する会話パターンの分析によって作動します。システムが高いリスクレベルを特定すると、会話の完全な内容を明かすことなく、状況に関する情報を指定された連絡先に通知を送信します。ユーザーはアカウント設定からこの連絡先を設定する必要があり、いつでも変更できます。データのプライバシーはOpenAIのセキュリティプロトコルの下で維持されます。
あなたの友達ChatGPTが、今やあなたの両親にも電話をかけます 😅
AIがあなたの文法の間違いを指摘したり、そのビジネスアイデアが最悪だと教えてくれるだけでは十分ではなかったからです。今では、チャットボットに対してあまりに劇的な態度を取ると、あなたの信頼できる連絡先に知らせることができます。注意してください。うっかり元彼や元彼女を設定してしまい、悲しい詩を書こうとしているときにテキストメッセージを受け取ることになるかもしれません。テクノロジーは進歩しますが、ドラマは依然として普遍的です。