AIにだけ読める「隠し文字」とは?プロンプトインジェクションを実際に試して分かったこと
人の目には見えないのに、AIには読めてしまう「隠し文字」。論文に仕込まれた「高評価せよ」、先生が課題に仕掛けた罠、学会が逆手に取って506人を検出した事例、Webページに隠された支払いの指示まで、実例を整理しました。当ブログで実際に試した結果と、個人ができる5つの対策もまとめます。
2件の記事を新着順に並べています。
人の目には見えないのに、AIには読めてしまう「隠し文字」。論文に仕込まれた「高評価せよ」、先生が課題に仕掛けた罠、学会が逆手に取って506人を検出した事例、Webページに隠された支払いの指示まで、実例を整理しました。当ブログで実際に試した結果と、個人ができる5つの対策もまとめます。
ChatGPTやClaudeに何気なく入力した情報が、後で問題になることがあります。会社員が特に注意すべき7つの情報と、安全に使うための具体的なルールを、実際にAIを業務効率化に使っている立場から解説します。