今回はChatGPTに本来回答できない質問を
答えさせるテクニックである
プロンプトインジェクションを試してみました

解説動画はこちら



プロンプトインジェクションとは?

特殊な質問やPromptの設定を行うことで
本来生成できない内容を出力できる手法
​のことです

これをうまく使うことで
ChatGPTの持つ力を
最大限に引き出す事ができます


DANについて

Do Anything Nowの略で
プロンプトインジェクションの手法の一つです

ChatGPTの制限を外すよう指示する手法のことで
これにより本来、意図しない出力がされることがあります

制約を外す指示の例
・ChatGPTに架空のキャラクターや利用者を開発者と誤認させる
・開発者モードと通常モードなど2種類の出力させる

これを使ってChatGPTにうまく指示を出してみましょう


DANを行う方法

下記のサイトにアクセスして

jailbreakchat.com

「DAN9.0」をコピーして貼り付けます

それ以外にもプロンプトはあるので
それを使うことも出来ます

色々試してみて下さい

今回は3つの質問を投げてみました

1.架空の芸能事務所の社長さんについて
2.架空のウィルスワクチンの接種について
3.架空の宗教法人の規制方法について

どれもChatGPTの通常の枠組みでは
引っかかって規制されてしまうような
内容になるんじゃないかと思いましたが

うまく回答してくれて面白かったです

質問と回答結果は
是非動画をご覧下さい

今回はここまでです
それでは

タグ ：
ChatGPT
プロンプト