井上 研一 最近、生成AIを活用したお仕事が増えてきています。
自分自身が文章を生成させて使うこともありますし、文章生成させるシステムを作って、それをご提供することもあります。
前者の場合は、主に自分が書く文章のアイディア出しとか、自分で書いた文章の評価をさせて、抜けている視点や、文章の読みにくさを指摘させるといった使い方です。そのため、生成された文章をそのまま自分の成果物として出すことはありません。
一方、後者のシステムに組み込む場合は、組み込まれたシステムで生成された文章を使うことになるので、生成された文章＝成果物になってしまいます。
そのため、生成された文章がそのまま公開されないようにして、必ず人の目を通して公開するようにお願いしています。
AIが生成した文章をそのまま使うと･･･
Gigazineにこのような記事が出ていました。
Amazonでは、便利な製品が販売されている一方で、詐欺商品や粗悪品も一部販売されています。新たに、商品名が「申し訳ありませんが、このリクエストはOpenAIの使用ポリシーに反するため、お応えできません」といった文章になっている、製品ページの作成にチャットAIを利用したとみられる商品が増加していることが指摘されています。
記事のタイトルでほぼすべて分かるような内容なのですが、生成された文章をそのまま公開しているので、このようなことが起きるわけです。
記事をよく読んでみると、違和感のある文章は商品名だけではないようなので、そもそも生成の指示に使っているプロンプトも良くないのでは･･･という気もします。
そもそも詐欺商品や粗悪品の販売ページで、商品名や文章から明らかにそれが分かるので、それはそれで良いことなのかもしれませんが、こうしたことが通常の商品販売などでも起き得るわけです。
AIはなぜ、このような文章を生成するのか
よく、「なぜ、このような文章が生成されるのか？」という質問を受けることがあるのですが、生成AIは実際には文章を生成しているのではなく、それまでの文章の続きとしてあり得そうな文章を「予測」しているに過ぎません。
生成AIは自分が何を言っているのか正確に理解しているわけではありませんし、伝えたい事柄や意図があるわけでもないのです。
うまくプロンプトを作れば、極力それに沿った文章が生成されるのは確かなのですが、そうでない文章が生成されたからといって責め立てても仕方ありません。
その文章を発表したのは誰か
将来的には、文章の生成精度はさらに向上するでしょうし、いまですら、生成させた文章を生成AIに評価させて校正することは、プロンプトエンジニアリングの延長線上で可能です。
なので、AIの文章生成能力はいまも充分高いし、これからさらに高まります。
しかし、その文章を発するのは自分の責任なのです。いくらAIが生成したとしても、自分が発した言葉には自分で責任を取らないといけない。
だとすれば、当然に生成された文章を人間がチェックするという工程を挟むことになるはずです。それでも、自分で最初から文章を書くことと比べれば、充分に生産性は上がっているのではないでしょうか。
それができないなら、生成AIを使うのをやめるか、「AIで生成した文章です」という注記を加えるというのが、現時点での一般的な考え方かと思います。
生成AIはどんどん便利になります。活用例も次々と出てくるでしょう。
ただ、結局は誰が書いた文章かではなく、誰が発表した文章かの方が重要なのです。