2023年7月30日 ChatGPTでやってはいけないこと
担当はけいすけさん
ChatGPTで「調べもの」はやっちゃいけない
このURLにアクセスして要約を書いてください
1⃣ChatGPTで使える！シンプルだけど効果絶大なプロンプト
2⃣ChatGPTに致命的な脆弱性が発覚！世界中の大企業が利用中止
→ 同じURLなのに、全然違う要約が返ってくる
→ タイトルが違う、どういうことが起きている？
→ ChatGPTは中身は見ていません
（応用的なやり方で中身を見てくれるのはある）
✅ChatGPTは文章を読んで、次の文章を考えましょうというのが大前提
✅「URLにアクセスして要約を書いてください」という文章の次に続きそうな文章を考えている
昔話の例
「昔あるところに、おじいさんとおばあさんが住んでいました、、、」
続きは、
「おじいさんは山へ芝刈りに、おばあさんは川へ洗濯、、、」
という文章が続きそう
→ ChatGPTは文章が終わったときに、その続きに何が来そうかというのを考えていく
東京でランチの例
【質問】 東京でランチで食べたいので教えてください
【回答】 イタリアン吉祥寺がいいですよ
→ お店が実在するか別にして、会話として成立するようなものがくる
✅基本的に調べものはできない
→ 調べものをする場合は、プラグインなどを使わなければならない
✅ChatGPTは文章の続きを考える → 穴埋め問題のように
✅ChatGPTの成り立ち、ChatGPTを作るときにものすごく穴埋め問題をさせている
✅学習するときに文章のデータを多く集める
✅こういう文章がきたら、この次の文章を隠しとく
「ここにどういう文章がきそうかな」をひたすら考えさせる、学習させる、そして答え合わせをする
✅これが基本に次の文章を推測するだけで、一切調べていない。こういう文章がきたら、続きはこういう文章がくる
✅文章として成立しているかというのが、ChatGPTが文章を生成する基準となる
めちゃおもしろし！
けいすけさんの説明めちゃ分かりやすいです！
タイトルだけで続きそうな文章を推測、URLの中身は見ていない。
基本的に質問しても、ちゃんとした回答が得られない。
プラグインなどを活用すれば質問したら、回答可能ということですね。
ChatGPTの成り立ちというか、裏側を知ると面白いですね。
「文章として成立させる」が基準。
とても面白かったです。
今回もありがとうございました！
よろしければ、「フリ校ボイシー土・日曜日まとめ」もどうぞー