「まぐまぐ！」でメルマガ「知らなかった！中国ITを深く理解するためのキーワード」を発行しています。
明日、vol. 282が発行になります。
登録はこちらから。
https://www.mag2.com/m/0001690218.html
今回は、卒論のAI代筆問題についてご紹介します。
「生成AIがつくった画像はすぐわかる」と主張する方がいます。つい最近までは確かにそうでした。人間の指が6本あったり、肌が異常にきれいで人工的な印象を受ける、人物の顔の目や耳のパーツが怖いほど左右で一致をしているなど、さまざまな特徴があったからです。
しかし、今、そんなことを口にすると、時代をキャッチアップできていないことを自ら晒してしまうことになりかねません。もう、画像でもビデオでも、人間が見て、見分けられるレベルではなくなっているのです。確かに、実写と比較をすればわかるかもしれません。しかし、生成AIの画像を、なんの告知もなく見せられたら、それが生成AIだと気づく人は、よほどの専門家を除いてごく一部ではないかと思います。
特に中国では、「vol.237：Soraを超えたビデオ生成AI「Kling」（クリング）。その6つの優れた特長」（https://tamakino.hatenablog.com/entry/2024/07/14/080000）でご紹介した生成AI「クリング」が2.0にアップデートされて、もう、実写との区別がつかなくなっています。
クリングのウェブサイト（https://app.klingai.com/cn/）には、さまざまなサンプル動画があがっています。左のメニューから「創意圏」というメニューをクリックしてみてください。以前のバージョンで生成された動画は、まだどこかAIらしさが残っていますが、新バージョンで生成された動画は実写と区別がつきません。
特に「短片」（ショートフィルム）のコーナーは必見です。非常に力の入った作品が投稿されていて、映像クリエイターであれば見ているだけで刺激を受けるはずです。
このような生成AIの進化により、ECに問題が起きています。淘宝網（タオバオ）などのECの販売業者の間では、特に女性向け商品では、モデルは生成AIを使うのが半ば常識になっています。モデルを生成AIにし、それと衣類などの商品の製品写真を組み合わせると、AIが仮想モデルに商品を着させてくれます。そして、好きな背景を選び、好きなポーズをとらせて製品写真を完成させます。
言うまでもなく、人間のモデルの撮影はコストもかかり、手間も時間もかかるからです。今日すぐに販売を始めたいと言う場合でも、人間モデル撮影では無理ですが、AIモデルであればじゅうぶん間に合います。AIモデルは、データを購入する場合もあれば、人間のモデルを360度撮影してデータ化しておくこともあります。
ここまでは、販売業者の業務効率をあげる手法として問題はありませんでした。しかし、今度は商品まで生成AIで生成してしまう例が増えてきました。質感を変えて、安物を高級品のように見せたい。余計なシワが出ないためすっきり見える。微妙な色味を調整して華やかに見えるなど、要は本物の商品よりもよく見せようというわけです。
しかし、これが「買ったら商品写真と違った」という苦情になっています。それが少ないうちは返品をすればいいことですが、増えてくると、商品写真そのものが信用できなくなり、購買意欲が減退していくことになります。
タオバオ運営は、今年3月から対策に乗り出しています。生成AIによる画像を識別するソフトウェアを開発し、常時、商品写真をパトロールするようになりました。また、コメント欄を分析するツールも使って、画像とコメントから、商品写真と実物の差が大きいことが問題になっている商品写真を特定します。
その内容に応じて、写真の差し替えを命じたり、商品の販売停止、場合によっては販売業者のアカウント停止までの処置をとります。最初の２週間で、10万枚の商品写真を削除させたそうです。
しかし、一方で、画像に加工がしてあるからそれだけで問題とは言えません。AIを使わない業者でも、Photoshopで小さな影やシワを除去してよく見せることはやっていますし、生成AIを使っても、消費者が問題を感じていないのであれば問題はありません。使い方が問題なのです。
生成AIを最もよく使っているのは学生ではないでしょうか。課題をする時、レポートを書く時、もはや生成AIなしにはどうやってやったらいいのかわからないほど浸透をしています。
実際に学生は、生成AIをどのくらい使い、どのように使っているのでしょうか。貴重な情報源が、生成AI「Claude」（クロード）を開発したアンソロピックの調査です。「Anthropic Education Report: How University Students Use Claude」（アンソロピック・教育レポート：大学生はどのようにClaudeを使っているか、https://www.anthropic.com/news/anthropic-education-report-how-university-students-use-claude）です。
このレポートはかなり信頼ができます。と言うのは、実際に使っている学生Claudeユーザー約100万人の実際のClaudeとの対話に基づいた調査だからです。アンケート調査ではないために、余計なバイアスがかかってなく、リアルな姿を浮かびあがらせています。
アンソロピックでは、このような調査を行うために、Clioと呼ばれるツールを開発しました。アンソロピックが、勝手にユーザーの対話を収集することはプライバシーの侵害ですからできません。しかし、Clioはユーザーの対話を分類し、その結果だけを送信して集計します。対話の中身は見ていません。
このClioを使って、57万4740件の対話の属性を収集し、これを整理したのが、このレポートです。
学生が不正行為をする場合に使いがちなのが、プロンプトを入力して、文章を生成するという使い方です。アンソロピックは対話の中身を見てなく、使われている文脈も把握ができないため、このような使い方のどのくらいが不正行為に使われているかということはわかりません。
しかし、文章を生成させる使い方が、Claudeを使ううちの47%にもなりました。もちろん、すべてが不正行為ではありません。知識を学ぶために、辞典がわりに使ったかもしれませんし、プログラミングを勉強するためにコードを出力したのかもしれません。しかし、明らかに課題や演習問題の解答を求めるために使われたと推定できる例も多くあったということです。
つまり、想像以上に、好ましくない使い方が広がっているかもしれないのです。これを「課題というのは自分でやってこそ意味がある。何のために大学に通っているのか」と非難をすることは簡単です。しかし、学生にしてみれば、明日の朝までに課題を出さなくてはならないとか、AIに聞けばすぐわかるような課題を出されて、それを自分で考えることに意味を見出せないとか、いろいろ言い分があるかもしれません。そして、人類の大原則「楽ちんな方がいい」は、誰も逃れることができない麻薬なのです。一度、楽をする方法を覚えてしまうと、それがいけないことだとわかっていてもなかなか戻せないというのが人間です。
ですので、教育とAIは非常に難しい問題で、AIの利用は慎重にすべきですが、大学がいくら禁止をしたところで、スマートフォンで気軽に使われてしまうことは止めるわけにもいきません。
日本でも、さまざまな大学が、AI利用のガイドラインを出しています。例えば、日本大学では学長ブログの形でガイドライン案（https://www.nihon-u.ac.jp/blog/2023/05/13914/）を提案しています。これによると、「生成AIのみによって生成されたもの」は学生独自の成果物とみなさないということが中心になっています。日本大学はこのガイドライン案から出発をして、実際の現場の声を基にガイドラインを洗練させていくことになると思います。
中国ではこのガイドラインがより進んでいて、2024年には学位法の改正案の中で、「学位論文の生成AIによる代筆」を法律として禁止する条項が盛り込まれました。これは大きな議論を呼び起こしました。100%のAI代筆を学位論文として認めないという点は誰もが同意をします。しかし、データ解釈をAIに分析させた、難しい部分をAIに生成させた、論文の展開構成をAIに出力させた場合はどうなるのかというライン引きの問題が議論をとなりました。
もうひとつは、AI代筆の論文をどうやって見分けるのかという問題です。世の中には、すでにAI代筆を見分けるツールがたくさん出回っています。しかし、どれも完璧ではなく、誤判定が起きることが前提での利用となっています。まだまだ、AI度判定には技術開発が必要なのです。
結局、この学位法改正案のAI代筆部分は、時期尚早として先送りになりました。しかし、これを受けて、各大学は２つの施策を一斉に取りました。
ひとつは、AI利用のガイドラインを定めたことです。どのような場合に使ってよく、どのようなことに使ってはいけないかを明確にしようとしています。
もうひとつは、AI度検査ツールの導入です。レポートや論文を入力すると、そのAI代筆割合をレポートしてくれるツールです。多くの大学では、ただ導入をして、学生が自分の参考にしたり、検査ツールの使い方を考える上でのデータにしようとしていますが、問題なのは、勇足で「検査ツールでAI度が一定以上のレポートや論文は受理しない」というルールを設けてしまった大学があります。四川大学、華中科技大学、天津科技大学、福州大学などです。
このような大学では、学生から悲鳴があがっています。なぜなら、AIはほとんど使わず、自分で一生懸命書いたレポートや論文が、基準値以上と判定されてしまい、受理されないという問題が起きているからです。
今回は、アンソロピックのレポートをご紹介して、学生がどのようにAIを活用しているのかをご紹介します。そして、AI検査ツールの原理についてご紹介し、中国の大学で起きている「自分で書いた論文がAI代筆だと判定される」悪夢についてもご紹介します。
続きはメルマガでお読みいただけます。
毎週月曜日発行で、月額は税込み550円となりますが、最初の月は無料です。月の途中で購読登録をしても、その月のメルマガすべてが届きます。無料期間だけでもお試しください。
今月、発行したのは、以下のメルマガです。
vol.279：人型ロボットの開発はどこまで進んでいるのか。自動車メーカーとロボットの親密な関係
vol.280：中国人の7割は所得税を支払っていない。中国政府はどこからお金を持ってきているのか
vol.281：AIスマートフォンの現在。アップル、グーグル、サムスン、中国メーカーの動向
