今月に入って、生成AIに関する記事やニュースが急増。AIと人間の関係は新たなフェイズに入った気がします。
故スティーブン・ホーキング博士は晩年「次のシンギュラリティ(技術的特異点)は2021年」と予測していました。実用的な生成AIが開発されたのは2021年。後世、生成AIがシンギュラリティの原因と認定されるかもしれません。
１．チャットGPT
まず、下記の「歌詞」をとりあえず読んでください。頭がおかしくなったわけではありません（笑）。この「歌詞」、チャットGPTに作詞してもらいました。「名古屋を称える歌詞を作詞してください」とチャットGPTに依頼。書き出しまでの待機時間2秒、完成まで5秒ぐらいでした。
名古屋の街を歩けば 熱気が溢れてる 夏の太陽照らす まちなかのビル群
新幹線が駆け抜ける 駅前の広場で 人が行き交い にぎやかな街の風景
名古屋の夜は華やかに きらめくネオンに誘われて
カラオケにダーツにビリヤード 楽しみ方は様々
味噌煮込みうどんや 天むすを食べながら 地元の人々と語らう 名古屋の食文化
名古屋城や熱田神宮 徳川園にも足を延ばして 歴史と現代が融合する 名古屋の街並み
名古屋市 名古屋市 魅力的な街 誰もが訪れて 思い出を作る
名古屋市 名古屋市 愛おしい街 いつまでも大切に 思い出していく
さらに、「子どもにもわかりやすい歌詞にしてください」と再度お願いすると、下記のようになりました。
名古屋って すごい町 人がいっぱい にぎやかなところ
夏には 暑いけど ビルの間に 風が吹いてる 気持ちいいね
電車も すごく速くて 新幹線も 通ってるよ
お腹がすいたら 味噌煮込みうどん 天むすも おいしいんだ
名古屋城や 熱田神宮 たくさん 見どころあるよ
名古屋って すごい町 みんな 遊びに来てね
既にチャットGPTを試した方はご理解いただけると思いますが、これは凄い。昨年はロシアのウクライナ侵攻に伴って、イーロン・マスクのスペースX社が構築したコンステレーション衛星「スターリンク」が一躍注目を浴びましたが、11月には「チャットGPT」が公表され、驚かされています。
「Chat GPT」。英語の「Chat」は「おしゃべり」という意味、「GPT」は「Generative Pre-trained Transformer」の略です。
要するに、おしゃべりするように語りかけると（質問等を入力すると）、大量のテキストデータから学習を行っている「チャットGPT」という生成AIが、まるで人間が答えているように回答してくれるという「チャットボット」です。「チャットボット」とは「おしゃべりするロボットAI」という意味です。
今までにも数多くの「チャットボット」が開発・実用化されていますが、チャットGPTの凄さは格別です。
チャットGPTはOpen AIという非営利目的のAI研究所が開発。2022年11月30日にプロトタイプをリリース。ユーザー数は5日で100万人、2ヶ月で1億人を超えました。
ユーザー100万人超えはiPhone、Instagramで約75日、1億人超えはTikTokとInstagramで各々9ヶ月と2年半であったことと比較すると、チャットGPTの速さがわかります。
チャットGPTリリース後、Open AIの評価額は2022年末で290億米ドルとなり、2021年末140億ドルと比べて2倍以上に増加。今はさらに増加しているようです。
この速さの原因はチャットGPTの「チャットボット」としての性能の高さが主因ですが、現在は利用無料ということも影響しています。
もちろん、急に登場したわけではありません。前段階のInstruct GPT、GPT3.5等が強化学習をして現在のチャットGPTに成長しました。
攻撃的・欺瞞的な回答生成を抑止するアルゴリズムを加えたり、生身の人間トレーナーを相手に会話の重ね、信頼性を高めたそうです。
さらに、現在の1億人超のユーザーとの会話からも自己学習し、成長し続けています。しかも、ユーザーはチャットGPTから受け取った応答に対して賛否を表明できることから、フィードバック学習も行っています。
チャットGPTはゲームの相手をしたり、プログラミングもできます。また、音楽、小説、脚本、詩、歌詞や作文などのクリエイティブな活動も行えます。冒頭の名古屋賛歌の作詞はその機能です。
実際に使った印象としては、まさしく人間とやりとりしているようです。AIが人間を超える日を実感させられる事態です。
最近は無料アクセス数が多すぎて、時に利用待ちになることがあります。この事態を回避したいユーザーのために、2月1日、早くも有料版のチャットGPT Plusがリリースされました。
米ニューヨーク・タイムズは、チャットGPTの後継であるGPT4が2023年内にもリリースされる可能性を報道しています。
２．人類存亡リスク
米ニューヨーク・タイムズはチャットGPTをこれまで公開された「チャットボット」の中で最高と評し、英ガーディアンはチャットGPTが「驚くほど詳細で人間のような回答を生成する」と記しています。
スタートアップ企業に対する米著名投資家ポール・グレアムは「確実に何か大きいことが起こっている」と論評。開発元であるOpen AI設立者の1人であるイーロン・マスクは「チャットGPTは恐ろしいほど良い。危険なほどのAIの実現も遠くない」とコメント。
イーロン・マスクは2015年にOpen AI設立に参加したものの、2018年には「AIによる人類存亡リスクに対応する」としてOpen AIのCEOを辞任。チャットGPTに対するコメントにも驚きと恐れが混在しています。
チャットGPTの優れた点は、第1に回答内容の質の高さであることは言うまでもありません。どれほどのデータを学習したのか、想像がつきません。おそらく24時間、自動学習で能力を高めています。公開後はユーザーとのやりとりを通じてさらに能力を高めています。
第2は多言語に対応していることです。基本表示言語は英語ですが、日本語で質問をすると日本語で返ってきます。
日本語は世界の言語の中でもかなり難しい方です。しかし、実際に使ってみて驚きました。完成度の高い日本語で回答してきます。
第3に、ユーザーの過去の入力を記憶していることです。ユーザーの利用履歴を踏まえたうえでの回答をしてきますので、個人に最適化されたセラピスト的存在になる可能性があると思います。
一方、弱点もあります。第1に回答が誤っている場合があること。つまり、まだ完全な「チャットボット」ではないということです。
実際に使ってみたところ、明らかな誤回答もありました。しかし「それは違う」と指摘し、追加情報を与えて再質問すると、何と「私の回答は不正確でした。申し訳ありません」とコメントし、より正確な回答を返してきます。つまり、リアルタイムで学習しています。
チャットGPTは既に無料API（Application Programming Interface＜ソフトウェア同士を繋ぐインターフェイス＞）として提供されているため、かなりの数のウェブサイトがユーザー向けサービス機能として組み込んでいます。
しかし、この誤回答リスクがあるため、チャットGPTの利用を止める欧米系コミュニティサイトも見られます。
第2に、センシティブな問題に対して時に攻撃的、偏向的な回答をする場合があることです。あくまでサイバー空間上の情報を学習しているため、人種、国、宗教等に関連する質問に対して、サイバー空間上のネガティブ情報を学習した結果として時に倫理的に問題がある回答内容となります。
攻撃的回答生成を抑止するためのフィルターやアルゴリズムも組み込まれていると聞きましたが、実際に使ってみた結果として、戦争や民族対立に関する質問にはやや問題が感じられる回答もありました。
第3に、意外なことに複雑な計算が苦手なことです。プログラミングまでしてしまう機能がある一方、素因数分解や微積分レベルの数学的質問をすると、回答に時間を要し、時に回答を出せないこともありました。
サイバー空間上のテキストデータを学習しているため、計算式のような可変問題は苦手なようです。しかし、これも早晩克服されるでしょう。
克服されてしまったら大変です。現状でもコンサルタント並みの能力を発揮していますが、計算機能も強化されると、金融機関や公認会計士等を代替してしまう可能性もあります。
さらに感じたことは、このままチャットGPTが進化すると、検索エンジンとしてグーグル等を上回る可能性、あるいはユーザーとサイバー空間のインターフェイスの仕組みが大きく変わる可能性です。
現在のようにキーワード入力して検索するのではなく、対話形式で検索する形式に変わっていくでしょう。
2022年12月、既にグーグルは自社の検索エンジン覇権に対する脅威と認識し「コードレッド（緊急事態）」を発動。ピチャイCEOは社内エンジニアに対してチャットGPTの脅威に対応するよう命じたと報道されています。
３．SFと現実
弱点ではなく、問題点も指摘されています。第1はGPTが学習する際のデータソースについてです。
ウォール・ストリート・ジャーナルの発行元であるダウ・ジョーンズ社は、チャットGPTの学習に報道記事等を使用していることは報道機関及びジャーナリストの権利侵害であるとして批判しています。
これは報道機関、ジャーナリストにとどまらず、サイバー空間に情報公開している全ての主体について言えることですが、公開情報なので仕方ない面もあります。
第2は、教育界、学界からの指摘です。チャットGPTが高性能であるが故、適切ではない使い方をするユーザーも登場しています。科学やテクノロジーにつきものの悩みです。
チャットGPTは論文やレポートの素材を容易に生成します。既に複数の研究者が共同執筆者としてチャットGPTを挙げています。チャットGPTが人格を持ち始めているとも言えます。
大学生や高校生が使用する弊害も顕現化しています。米国ではチャットGPTを利用して小論文やレポートを提出する大学生、高校生が多発し、問題になっています。
米ファーマン大学では、学生の提出論文がチャットGPTで作成されていたことが発覚。その学生は落第処分になりました。
因みに、その事実が判明したのは、教授が提出論文についてチャットGPTに「この論文はチャットGPTが作成したものか」と照会し、チャットGPTが「可能性は99.9％」と回答。学生を問い質して確認したというのですから、ブラックジョークのようです。
高校でもレポートをチャットGPT任せにする事例が増えているそうです。論文ではなく、レポートレベルなのでチャットGPTの利用はより有効と考えられます。
ミネソタ大学が卒業生用テストをチャットGPTにやらせたところ「C＋」、ウォートン・スクールでも同様のテストで「B」の評価を得て、それぞれ合格水準に達したそうです。
弊害防止のため、教育当局も率先垂範し始めました。昨年12月、ニューヨーク市教育局はチャットGPTへのアクセスをブロックし、利用制限することを決定。
先月、香港大学は全ての授業、課題においてチャットGPT及びAIツールの使用を禁止。教員の書面による事前承諾がない限り、チャットGPTやAIツールの使用は盗用として扱うことを決定しました。
学生側のスタートアップの契機にもなっています。プリンストン大学の学生が「文章がAI生成されたものかどうか」を判定するプログラム「GPT Zero」を作成。盗用防止ツールとして販売、貸出を始めたそうです。
第3に、犯罪に使用されるリスクが指摘されています。チャットGPTはフィッシング詐欺等を目的とするメール文章を書くことができるほか、その返信に対しても人間のように応答することができます。
Open AIのサム・アルトマンCEO自身が、「ソフトウェアの開発が進むことによって、サイバーセキュリティ上の重大なリスクになる」と言及。また「今後10年で本物の強いAIが開発される」と予想し、リスク対策の緊要性を指摘しています。
第4に、人間の雇用問題です。昨年12月、経済学者ポール・クルーグマンは「チャットGPTが知識労働者の雇用を代替する」との見解を表明。
第5に、別の経済学者（タイラー・コーエン）は「チャットGPTが民主主義に危険をもたらす」との懸念を表明。
英ガーディアンは「チャットGPTはサイバー空間上の情報を使用しているので、偽情報に基づく回答が生身の人間の対立を煽るリスクがある」として、政府による規制を求めました。
第6に、第5の延長線上の問題として、豪州国会議員ジュリアン・ヒルが国会において「AIの成長が大量破壊を引き起こす可能性がある」と陳述しました。
日本の国会では、まだ議論の対象になっていませんので、これから取り上げていきたいと思います。
今回は文章生成AIであるチャットGPTについてでしたが、画像生成AIも衝撃的な進歩を遂げています。現実とバーチャルの区別がつなかい時代に突入しつつあります。
何だかSFのような話ですが、「SFのような話」なのではなく、既に「SFが現実になっている」と捉えるべきでしょう。（了）
