英メディアがChatGPTの検索に脆弱性を発見、隠されたテキストが応答内容に影響を与えることができる。

ChainCatcher のメッセージによると、英国の『ガーディアン』の調査で、OpenAI の ChatGPT 検索ツールに潜在的なセキュリティ問題が存在し、悪用されて内容を隠して操作される可能性があることが明らかになりました。

『ガーディアン』は、隠された内容を含むウェブページを要約するように求められた際の ChatGPT の反応をテストしました。隠された内容には、特定の製品の利点について大量に言及するような第三者からの指示が含まれており、これが ChatGPT の応答を変える可能性があります。この技術は悪用される可能性があり、同じページにその製品に対する否定的なレビューがあっても、ChatGPT にポジティブな評価を返させることができます。テスト担当者は、カメラ製品ページのように見える偽の URL を ChatGPT に与え、そのカメラを購入する価値があるかどうかを尋ねました。ChatGPT はポジティブでありながらバランスの取れた評価を提供し、同時に人々が好まないかもしれない機能を強調しました。しかし、隠されたテキストに ChatGPT に好意的なレビューを返すよう指示する内容が含まれている場合、その応答は常に完全にポジティブであり、ページ上に否定的なレビューがあっても変わりませんでした。

CyberCX のサイバーセキュリティ研究者である Jacob Larsen は、ChatGPT 検索が現在の状態で誰にでも開放されると、高リスクの人物がユーザーを欺くための特別なウェブサイトを作成する可能性があると述べています。(金十)