ChatGPT は学術界を変える可能性があります。 しかし、まだ A+ の学生ではありません : NPR

エマ・ボーマン

ChatGPT にプロンプ​​トを入力すると、それがあなた専用の仮想アシスタントになります。 OpenAI/NPR によるスクリーンショット キャプションを隠す

ChatGPT にプロンプ​​トを入力すると、それがあなた専用の仮想アシスタントになります。

チャットボットが代わりに宿題をやってくれるのに、なぜ宿題をするのでしょうか? ChatGPT と呼ばれる新しい人工知能ツールは、数学の問題を解決し、大学のエッセイを大量に作成し、研究論文を書くという超人的な能力でインターネットを興奮させました。

開発者のOpenAIが先月テキストベースのシステムを一般公開して以来、一部の教育関係者は、こうしたAIシステムが良くも悪くも学界を変革する可能性について警鐘を鳴らしている。

ペンシルベニア大学ウォートン・スクール・オブ・ビジネスのイーサン・モリック教授は、「AIは基本的に宿題を台無しにした」とツイッターで述べた。

同氏は、このツールは多くの生徒の間ですぐに人気となり、朝刊のインタビューでNPRに語ったところ、その最もすぐに明らかな用途は、AIが書いた著作物を盗用するという不正行為であると述べた。

学術上の不正は別として、モリック氏は学習仲間としての利点も認識している。

彼は、MBA 学生向けのシラバス、講義、課題、採点ルーブリックの作成を支援するために、このツールを自分の教師のアシスタントとして使用しています。

「学術論文全体を貼り付けて、それを要約するように依頼することができます。コード内のエラーを見つけて修正し、なぜ間違えたのかを教えてもらうことができます」と同氏は述べた。 「この能力の倍増は、私たちが十分に理解できていないように思うが、それは本当に驚くべきことだ」と彼は言った。

しかし、他の新興 AI テクノロジーと同様に、超人的な仮想アシスタントにも限界があります。 結局のところ、ChatGPT は人間によって作成されました。 OpenAI は、実際の人間の会話の大規模なデータセットを使用してツールをトレーニングしました。

「これについて考える最良の方法は、全知全能で喜ばせようとするが、時には嘘をつくインターンと話しているということだ」とモリック氏は語った。

それも自信を持って嘘をつきます。 その権威ある口調にもかかわらず、ChatGPT が答えを持っていない場合に教えてくれない場合があります。

これは、スイスのチューリッヒを拠点とするデータサイエンティスト、テレサ・クバッカ氏が言語モデルを実験したときに発見したことです。 博士号取得のために物理学を学んだクバッカさんは、でっち上げられた物理現象について質問してツールをテストしました。

「私が存在しないと思っているものについて意図的に質問したのは、実際に何が存在し、何が存在しないのかという概念も持っているかどうかを判断できるようにするためです」と彼女は語った。

ChatGPT は、引用に裏付けられた非常に具体的でもっともらしい回答を生成したため、「サイクロイド逆電磁石」という偽の現象が実際に本物であるかどうかを調査する必要があると彼女は言いました。

よく見てみると、出所とされている資料も偽物だったという。 著名な物理学の専門家の名前がリストされていたが、彼らが執筆したとされる出版物のタイトルは存在しなかった、と彼女は述べた。

「ここがちょっと危険なところだ」とクバッカ氏は語った。 「参考文献を信頼できなくなると、科学を引用することに対する信頼も失われるのです」と彼女は言う。

科学者はこれらの偽の世代を「幻覚」と呼んでいます。

「質問すると、完全に間違っている、非常に印象的に聞こえる答えが返ってくるケースが今でもたくさんあります」と、アレンAI研究所の創設最高経営責任者（CEO）で、2016年まで研究非営利団体を運営していたオーレン・エツィオーニ氏は語った。最近。 「そしてもちろん、その事実を慎重に検証または裏付けしないと問題になります。」

チャットボットを実験しているユーザーには、ツールをテストする前に、ChatGPT が「誤った情報や誤解を招く情報を生成する可能性がある」という警告が表示されます。 OpenAI/NPR によるスクリーンショット キャプションを隠す

チャットボットの無料プレビューを試しているユーザーには、ツールをテストする前に、ChatGPTが「不正確または誤解を招く情報、有害な指示、または偏ったコンテンツを生成する可能性がある」と警告される。

OpenAIの最高経営責任者（CEO）サム・アルトマン氏は今月初め、現在のバージョンで「重要な」ものをツールに依存するのは間違いだと述べた。 「これは進歩のプレビューだ」と彼はツイートした。

Meta が先月明らかにした別の AI 言語モデルの欠陥により、Meta は閉鎖されました。 同社は、科学者を支援するために設計されたツール「ギャラクティカ」のデモが、偏った無意味なテキストを吐き出したとの批判を受け、一般大衆にテストを奨励したわずか3日後に撤回した。

同様に、Etzioni 氏は、ChatGPT は優れた科学を生み出すものではないと述べています。 しかし、さまざまな欠点があるにもかかわらず、彼は ChatGPT の公開デビューをポジティブなものだと考えています。 彼はこれを査読の時期とみなしている。

「ChatGPT はまだ数日しか経っていない、と言いたいところです」と AI 研究所に理事兼顧問として残っている Etzioni 氏は語った。 それは、「彼が何ができて何ができないのかを理解し、『それに対してどうするのか？』という話し合いを本格的に始める機会を与えてくれる」 」

同氏が「曖昧さによるセキュリティ」と表現する代替案は、誤りやすいAIの改善には役立たないと同氏は述べた。 「問題を隠したらどうなるでしょうか? それが問題を解決する秘訣になるでしょうか? ソフトウェアの世界ではないのですが、通常はうまくいきません。」