この22

による

グレッグ・ロサルスキー

、

エマ・ピースリー

元旦に多くのアメリカ人が二日酔いに苦しんでいる中、22歳のエドワード・ティアンは、ChatGPTと呼ばれる強力な新しい人工知能ツールの悪用と戦うための新しいアプリの開発に熱心に取り組んでいた。

ChatGPT が引き起こした話題を考えると、ChatGPT について聞いたことがある可能性は十分にあります。これは、機械学習を利用した対話型のチャットボットです。このテクノロジーは基本的にインターネット全体を食い荒らし、人類の共同著作物を読み取り、再構築できる言語のパターンを学習します。あなたがしなければならないのは、プロンプトを与えることだけで、ChatGPT は無限のことを実行できます。特定のスタイルで物語を書く、質問に答える、コンセプトを説明する、電子メールを作成する、大学のエッセイを書く、そしてそれを吐き出します。一見人間が書いたような一貫性のあるテキストが数秒で出力されます。

このテクノロジーは驚くべきものであると同時に、恐ろしいものでもあります。

「私たちは間違いなく転換点にいると思います」とティアン氏は言う。「このテクノロジーは信じられないほど素晴らしいです。私はこれが未来だと信じています。しかし同時に、私たちはパンドラの箱を開けているようなものです。そして、それを責任を持って導入するには安全策が必要です。」

Tian はプリンストン大学の 4 年生で、コンピューターサイエンスを専攻し、ジャーナリズムを副専攻しています。最近脚光を浴びるまでのティアンの最大の計画は、大学を卒業して親知らずを抜くことであった。現在、彼はベンチャーキャピタル企業、教育リーダー、世界的なメディアからの電話に対応しています。

ここ数年、Tian 氏は、ChatGPT の前身である GPT-3 と呼ばれる AI システムを研究してきましたが、このシステムはユーザーフレンドリーではなく、ペイウォールの内側にあったために一般の人々はほとんどアクセスできませんでした。この秋学期の研究の一環として、ティアン氏はプリンストン大学の自然言語処理研究所で働きながら、AI システムによって書かれたテキストを検出する方法を研究しました。

そして、学期が終わりに近づいたとき、GPT-3 やその他の AI ツールを開発した会社である OpenAI が ChatGPT を無料で一般公開しました。それ以来、このテクノロジーを使用している世界中の何百万人もの人々にとって、このテクノロジーと対話することは、未来を覗くようなものでした。少し前までは SF のような未来でした。

AI を勉強したことがあるにもかかわらず、Tian も他の人たちと同じように、ChatGPT のパワーに愕然としました。彼と彼の友人たちは、それを使ってお互いについて詩やラップを書きました。「そして、『わあ、この結果はなかなか良いものだ』という感じでした」とティアン氏は言う。キャンパスの誰もがこの新しいテクノロジーがいかに素晴らしいものであるかについて話し合っているようでした。確かに、生成されるテキストはかなり定型的であり、必ずしも正確であるとは限りません。しかし、それは革命の始まりのようにも感じられます。

新しいテクノロジーの多くのユーザーにとって、驚きはすぐに警戒に変わりました。これにより何人の雇用が奪われるでしょうか？これにより、極悪非道な行為者に権限が与えられ、私たちの公の議論がさらに腐敗することになるでしょうか? これは私たちの教育システムにどのような混乱をもたらすのでしょうか? 近い将来飛躍的に改良されると予想される AI が私たちの代わりに小論文を書いてくれるのに、学校で小論文の書き方を学ぶことに何の意味があるのでしょうか?

スティーブン・マルシェ氏は先月、『アトランティック』誌に寄稿し、「大学エッセイは死んだ」と宣言した。彼はChatGPTとAI革命を人文科学の存亡の危機の一部として描いています。「小論文、特に学部の小論文は、何世代にもわたって人文教育学の中心であった」とマルケ氏は書いている。「これは、私たちが子供たちに研究し、考え、書く方法を教える方法です。その伝統全体が根本から破壊されようとしています。」

秋学期が終了した後、ティアンは休暇をとってトロントに帰省しました。彼は家族と一緒に過ごしました。彼はNetflixを見ました。しかし、彼は急速に進歩する AI によって人類が直面している途方もない課題についての考えを払拭することができませんでした。

そして彼はアイデアを思いつきました。彼がここ数年間学校で学んだことを応用して、何かが機械によって書かれたものかどうかを公衆が識別できるようにしたらどうなるでしょうか?

Tian 氏はすでにそのようなプログラムを作成するためのノウハウを持っており、ラップトップ上のソフトウェアさえも持っていました。皮肉なことに、GitHub Co-Pilot と呼ばれるこのソフトウェアは GPT-3 を利用しています。その支援により、Tian は 3 日以内に新しいアプリを作成することができました。これは、このテクノロジーが私たちの生産性を向上させる力があることの証です。

1月2日、Tianさんはアプリをリリースした。彼はそれを GPTZero と名付けました。基本的に、ChatGPT 自体に対して ChatGPT を使用し、特定のテキストの作成に AI システムが「まったく関与していないか、または多く関与しているか」をチェックします。

その夜、ティアンが床に就いたとき、彼は自分のアプリにあまり期待していませんでした。「これを世に出したとき、せいぜい数十人が試してくれるかもしれないと思ったんです」とティアンは言う。「何が起こるか予想していませんでした。」

ティアンが目覚めたとき、彼の携帯電話は爆発していた。彼は、フランスやスイスといった遠く離れた場所から、ジャーナリスト、校長、教師など、数え切れないほどのテキストや DM を目にしました。無料のプラットフォームでホストされている彼のアプリは人気が高くなりすぎてクラッシュしました。彼のアプリの人気と目的に興奮したホスティングプラットフォームは、それ以来、アプリのサービスを多数の視聴者に拡張するために必要なリソースを Tian に与えました。

Tian 氏は、GPTZero を作成する主な動機は 2 つあると言います。 1つ目は透明性です。「人間は、何かが人間によって書かれたのか、それとも機械によって書かれたのかを知る権利がある」と彼は言う。

これらの方針に沿って、GPTZero の明らかな用途の 1 つは、教師が生徒が ChatGPT から作文を盗用していないかどうかを特定するのに役立つことです。「世界中の教師がこのことを心配しています」とティアン氏は言う。

しかし、テクノロジーの世界には、ChatGPT が吐き出すものをコピー＆ペーストすることが問題であるということをあまり理解していない人もいます。ベンチャーキャピタリストでインターネットの先駆者であるマーク・アンドリーセン氏は今月初め、「『ChatGPTの盗作』はまったく問題ではない」とツイートした。「マシンを書き越えられないなら、何を書いてるんですか？」

OpenAIの最初の共同創設者の1人であるイーロン・マスク氏は最近、「新しい世界だ。さようなら宿題だ！」とツイートした。学校がChatGPTの盗作に対して新たな厳格な措置を課しているとの報告に応えて。

もちろん、これらはただの軽薄なツイートです。しかし、私たちは教育制度、さらには子供たちに書き方を教える価値、あるいは少なくとも方法の再評価を強いられる、新しい世界に入ったように感じます。

携帯電話が登場したとき、私たちの多くは電話番号を記憶する意欲、さらには記憶力を失いました。記憶を機械に委託することで、私たちは友人や家族に電話するのに機械に依存するようになりました。それは最良の結果であり、私たちの心が他のことに集中できるようになったと言うかもしれません。あるいは、それをある種の脱進化、つまり私たちの精神的能力の低下だと考えるかもしれません。携帯電話を失くさないようにしてください！

現在、人類は機械への依存がさらに高まるという見通しに直面しています。私たちは、さらに多くの人々が上手に書く能力を失う世界に向かっている可能性があります。それは、私たちのすべての書面コミュニケーションが、私たち自身の創造性、個性、アイデア、感情、特異性なしで書かれたホールマークカードのようになるかもしれない世界です。それをすべての特徴化と呼びます。

しかし、少なくとも私たちが人々にホールマークカードを与えるとき、人々は私たちが彼らにホールマークカードを与えていることを知っています。 ChatGPT を使用して友人にお祝いの言葉や謝罪の言葉を書いた場合、友人はそれが機械によって書かれたものであることさえ気づかないかもしれません。

ここで、Tian がアプリに対して思い描いているもう 1 つの目的がわかります。それは、人間の文章のオリジナリティを特定し、奨励することです。「学校でライティングを教えるのをやめれば、私たちはその個性を失うことになります」とティアン氏は言う。「人間の文章は非常に美しいものですが、コンピューターには絶対に取り入れてはいけない側面があります。そして、誰もが ChatGPT を使って文章を書いていると、それが危険にさらされる可能性があるように感じます。」

ティアンはラッダイトではありません。彼はAIの進行を止めようとしているわけではない。彼はそれは不可能だと信じており、ニューヨーク市の公立学校が最近発表したような、ChatGPT の使用に対する全面的な禁止には反対しているという。いずれにしても学生はこのテクノロジーを使うだろうと彼は信じている。そして、子どもたちがその使い方を学べることが重要だと彼は言います。彼らは、世界を席巻しているテクノロジーの変化を認識する必要があります。「私たちが盲目的にその未来に進むのは意味がありません」と彼は言います。「代わりに、その未来に入るために安全装置を構築する必要があります。」

大学卒業後の計画について、ティアン氏は、新しいアプリに対する興奮と明確な需要により、アプリをより良く、より正確な製品にすることに集中すべきだと確信したと語ります。「あなたが教師や教育者であれば、私たちのチーム（今は私と昨日参加したばかりの大学時代の親友だけ）がぜひお話ししたいと思います」とティアン氏は言う。

では、機械によって書かれたと思われるテキストに遭遇した場合は、Tian の新しいアプリを通じて実行してみてはいかがでしょうか? GPTZero.me で見つけることができます。

この記事は、命名基準にさらに準拠するように更新されました。

ブログ