8月に入りました。米景気低迷、内外金利差縮小、円安修正（円高）等の影響で2日（金）の日経平均は2216円の下落。歴代2番目の下げ幅です。金融政策変更もあったので、僕の本業（経済及び財政金融政策）の話題を書きたいところですが、生成AIやAI検索エンジンを巡っても目を離せない動きが続いています。経済の話題は次回にして、今回はメルマガ536号（2024年6月2日）の続編です。ITやAI関係の内容は企業名や製品名をアルファベット表記、カタカナ表記のどちらにするか迷うところですが、今回は極力カタカナ表記で書きます（536号は極力アルファベット表記でした）。いつもより長文で恐縮ですが、お時間のある時にご覧ください。
１．グーグル検索終焉の序章
7月25日、一昨年チャットGPTをリリースしたオープンAIが今度はAIを使った新たな検索サービス「サーチGPT」を発表しました。
「サーチGPT」は調べたい内容を入力すると、インターネット上の最新情報に基づいて要約した内容を回答します。引用元のリンクも表示し、利用者は情報の出典を把握できます。また、人と会話するように追加質問することも可能です。
オープンAIが2022年11月にチャットGPTをリリースした後、生成AI機能がインターネット検索機能を代替できる可能性に気づいた人は多かったと思います。インターネットから情報を掘り起こして要約するということです。
生成AIの学習がLLM（大規模言語モデル）を前提にした仕組みでは、チャットボット（質問者との応答を担うアプリケーション）は過去データに基づいた回答しかできません。答えられない質問に対しては情報を「捏造」する現象が起きてしまいます。
そうした欠点を理解しつつも、IT大手各社はオープンAIに対抗してチャットボット型の生成AIやそれらを活用した検索エンジンの実装に着手。開発競争が激化しました。
オープンAIに出資しているマイクロソフトは、オープンAIのLLMに依存したAI対応バージョンの検索エンジン「Bing」を昨年中にリリースしました。しかし、予想通り「Bing」は奇妙な回答、間違った回答を生成してしまうことが話題になりました。
マイクロソフトによるAI検索エンジンはその後「Copilot」としてリブランディングされてPCに実装され、今ではTVコマーシャルでよく見かけるようになりました。詳しくはメルマガ536号（2024年6月2日）をご覧ください（次項でも再述します）。
この分野で出遅れたグーグルはチャットGPTに対抗する「Gemini」を開発するとともに、さらに検索ブラウザーのみならず、オフィスソフトウェアやAndroid OSなどの商用製品に「Gemini」を統合する取り組みも加速させてきました。
そして5月、グーグルは検索結果をAIが要約する新機能「AIオーバービュー」をリリース。「AIオーバービュー」はAIが検索結果を要約した内容を提供するもので、検索結果画面のトップに表示されることが多くなっています。僕も毎日、頼みもしないのに「AIオーバービュー」にお世話されていますが、少々煩い感じもします。
そして、やはり誤情報が相次いで表示されるなど、混乱や問題も多発しています。「AIオーバービュー」が「ピザに接着剤を塗る」ことを推奨した等々、奇妙な検索結果や回答を表示する奇行についてニュースでも取り上げられました。つまり、信頼性の問題です。
また、潜在的な著作権問題にも直面しています。オープンAIが提携するパープレキシティ（Perplexity）のAI検索ツールは報道機関による独自情報をコピーしており、メディアから批判されています。
今回オープンAIが公開した「サーチGPT」は、こうした問題を解決するために、広範なウェブの検索結果に加え、オープンAIによるデータアクセスを許可する契約を結んだメディア等のパブリッシャーから提供される情報を活用しています。つまり、著作権と信頼性の問題にそれなりに手を打っていると言えます。
構造とアプローチはパープレキシティに近いと言えます。検索ワードに関連するリンクのリストを添えてチャットボットが要約した情報を表示し、これに対してユーザーが追加で質問できる仕組みです。
また、チャットボットの回答における「ハルシネーション（幻覚＝事実に基づかない情報を生成する現象）」の発生率を下げるように設計された「検索拡張生成（RAG）」という手法を採用しているようです。これは検索向け生成AIの業界標準になっている技術で、AIが出力を生成する際に信頼できる情報（提携先のニュースウェブサイト等）を参照するとともに、その結果を引用元にリンクバックする仕組みです。ハルシネーションについてはメルマガ523号（2023年11月16日号）を参照してください。
開発にはウォール・ストリート・ジャーナル、フィナンシャル・タイムズ等の大手メディアも携わっており、コンテンツ利用をめぐって提携。各社とのフィードバック、リンクバックにより、検索エンジンとしての機能と品質を改善しています。
「サーチGPT」は検索結果においてパブリッシャー情報を目立つように引用してリンクを張るとともに、ユーザーとパブリッシャーの繋がりを支援するように設計されています。
オープンAIは「サーチGPT」の詳細や一般公開時期等を明らかにしていませんが、今後一部ユーザーによる試験版運用を行い、将来的には「チャットGPT」と統合する計画のようです。
「サーチGPT」はグーグルにプレッシャーを与えることになるでしょう。「サーチGPT」はグーグルの高収益ビジネスの一部をオープンAIが奪取するうえでの戦略製品になると思います。米メディアも「サーチGPTはグーグルへの挑戦状だ」と報道しています。
インターネット検索市場でグーグルは9割超のシェアを誇ります。ウェブ分析会社によると6月のグーグル検索の市場シェアは91.1％。前年同期（92.6％）から低下しているのは、マイクロソフト「Bing」の影響と分析しています。そして、オープンAI「サーチGPT」の発表を受け、グーグル親会社アルファベットの株価は約3％値下がりしました。
「チャットGPT」の驚異的な成功にもかかわらず、オープンAIは新たな収益源を探しています。さらに大規模なAI学習モデル構築に資金が必要だからです。事業拡大と開発コスト負担から今年は約50億ドルの損失を計上する可能性があるとも報道されています。
検索エンジン分野でのAI台頭は、GAFAM等の大手IT企業やプラットフォーマーの「世界秩序」を変化させる可能性があります。米国内では「サーチGPT」登場は「グーグル検索終焉の序章」と言われているそうです。
２．5月攻防戦＋7月追撃戦
「サーチGPT」リリースに先立って5月に起きたことはメルマガ536号（2024年6月2日）で整理しましたが、概要を再述します。下記の内容に続く動きが前項の「サーチGPT」です。
5月13日の月曜日にオープンAIが生成AI新モデル「チャットGPT-4o」を発表したのに続き、14日の火曜日にはグーグルが新検索機能「AIオーバービュー」と新しい動画生成AI「Veo（ベオ）」を発表。さらに20日の月曜日にはマイクロソフトがAI機能を高めた新型PCを発表。いずれも、驚異的な新製品です。
まず、オープンAIのGPT-4oについてです。旧モデルよりも性能が飛躍的に向上し、かつ高速化。人間の会話のような音声で回答するようにプログラミングされています。デモシーンをTVで見ましたが、まるで実際の人間と話をしているような感じです。感情を込めたり、気を引くような口調で応答したり、「ついにここまで来たか」という感じです。
テキスト情報のみから学習するのではなく、画像からも情報を読み取り、それをもとに回答や会話ができます。人間の顔から感情を識別することも可能です。
言語の翻訳は日本語を含む約20ヶ国語に対応しているそうです。デモシーンで見たスピード感からすると、同時通訳も可能な気がします。GPT-4oの応答は途中で遮ることもできるため、生身の人間相手の会話と同じようなリズム感とスピードでやりとりできます。
信頼性や安全性を損なう可能性のある不具合やハルシネーションが完全に解決されるには至っていないようですが、それでも驚きであることには変わりありません。
「o」はラテン語の「omni」の頭文字であり「全ての」という意味です。つまり、GPT-4oはテキスト、音声、画像等の「全ての」情報の組み合わせをシームレスに処理できるということを表しています。オープンAIが競合他社をリードしている状況に変わりはありません。
オープンAIによるGPT-4oの公表は、グーグルが自社開発の最新AIを披露すると告知していた年次カンファレンス「グーグル IO」の24時間前というタイミングで行われました。オープンAIは猛追するグーグルを意識してこのタイミングを設定したのでしょう。開発競争とマーケットシェア争いの熾烈さが垣間見えます。
オープンAIがGPT-4oを公表した翌日の14日、グーグルは検索サービスの回答作成に生成AIを導入すると発表。世界をリードしてきた検索エンジンにとって、過去四半世紀で最大級の革新です。
スンダ―・ピチャイCEOは米カリフォルニア州で開催された「グーグル IO」で、グーグルの対話型AI「Gemini」を使用した新しい検索機能「AIオーバービュー」を今週から米国で提供開始すると発表しました。
AIオーバービューでは、従来の検索結果一覧の上にAIがインターネット上で見つけた情報の要約と情報源のリンクが表示されます。
検索エンジンを巡っては、米新興パープレキシティのような生成AIを使用した検索サービスが次々登場しており、老舗であり現状ではマーケットリーダーであるグーグルにとってプレッシャーになっています。
さらにFacebook、Instagram、WhatsAppといったSNSやメッセージアプリ内にもAIチャットによる検索機能が装備され始めており、ユーザーはグーグル検索を利用しなくてもインターネット上から情報を得られるようになりつつあります。しかも、それらが表示する回答は「従来のグーグル検索サービスの結果表示よりも分かりやすい」と評判になっています。
AIオーバービューの開発・公表は、そうした動向に脅威を感じているグーグルとしてのカウンタープロダクツと言えます。
同時にグーグルは、文章指示から動画を生成できるAIを発表。入力文に従って1分超の高解像度動画を生成する動画生成AI「Veo」です。
Veoは入力文に従って動画を生成します。例えば、「多くの斑点があるクラゲが水中を泳いでいる。彼らの体は透明で、深海で光る」と入力すると、実際に撮影されたかのような高画質の画像を生成します。ネットニュースでその生成映像を見ましたが、まるでNHK番組「ワイルドライフ」等のネイチャードキュメンタリー映像を見ているようです。言われなければ、これがAIによる生成画像だとは気がつきません。
将来的には、傘下の動画投稿サイトYouTubeのショート動画などにVeoの機能を搭載するとしています。そうなるとますますAIによる生成動画やフェイク動画が氾濫し、「偽物」と「本物」、「バーチャル（仮想）」と「リアリティ（現実）」の区別がつかなくなります。
VeoはYouTubeに投稿された動画等を学習して動画を生成しています。そのYouTubeのVeoが生成した動画を流通させるわけですから、自分が生成した動画を勉強してまた別の動画を生成するという、笑えない世界、恐ろしい世界が近づきつつあります。20世紀的比喩で言えば、マッチポンプですね。
グーグルはフェイク動画が生成されて選挙等に悪影響を与えることを防止するため、Veoで生成された全ての動画にAIで生成されたことを示すラベルを組み込むとしています。
グーグルが1月に発表した動画生成AI「Lumiere」では、生成できる動画の長さは5秒でしたが、Veoでは約12倍、1分になったということです。来年か再来年には、2時間程度の映画を全編生成できるレベルに達するそうです。
オープンAIも2月、最長1分の長さの動画を高解像度で生成できるAI「Sora」を発表し、一部クリエイターを対象に既に提供を開始しており、年内に一般ユーザーにも公開される見通しです。動画生成AIを巡る競争も一層激化する様相です。
オープンAIが性能を飛躍的に向上させた「GPT-4o」を発表したのに続き、グーグルが生成AI機能を付加した検索ブラウザーを発表。それから1週間後の5月20日、今度はマイクロソフトが生成AI機能を搭載した新コンピューター「Copilot＋PC」を発表。上述のオープンAI「GPT-4o」をAIアシスタント「Copilot」に利用します。
リアルタイム翻訳や画像生成が可能なほか、「Recall」「Cocreator」等の新AI機能を備え、生産性と創造性が飛躍的に向上。40ヶ国以上の言語に対応し、ネットや文書の閲覧履歴を瞬時に検索したり、手書きの絵からイラストを自動作成することもできます。
新PCの性能を支えている新しい半導体ICの演算能力は、アップルが5月に発表したiPad Proの最新半導体IC（M3 Pro）の38TOPS（TOPS＝1秒間の演算回数1兆回）を上回る40TOPSと説明。
演算回数の高速化によってAIとしての性能はアップル製AIの約3倍。その結果、マイクロソフト「Copilot＋PC」はアップル「Mac Book」より58％性能が高いとしています。
マイクロソフト でAI製品開発部門トップ、ムスタファ・スレイマン氏の発言が印象的です。「AI時代に合わせてPCを『再発明』する」と表現。「iPhoneで携帯電話を『再定義』した」と述べたアップル共同創業者スティーブ・ジョブスを意識した発言と思われます。
「Copilot＋PC」はAIをPC上で素早く動かす「エッジAI」です。「エッジAI」とは、インターネット経由でデータセンター（DC）に接続しなくても機能するAIです。
これまでの生成AIはDC内のサーバーで情報処理するため、インターネットを通じてデータを送受信し、データ処理に一定の時間を要しました。通信環境が悪いと利用不可。一方、「エッジAI」は翻訳等に用途を限定することによってPC上で機能する生成AIです。
PC搭載「エッジAI」は通信不要のため、インターネット圏外でも遅延なくデータ処理が可能であり、プライバシーやセキュリティ上の懸念も解消。利用者側の通信コストがかからないうえ、DCの電力消費も削減。
良いこと尽くめのように聞こえますが、「エッジAI」を登載することでスマホやPCの価格は上昇します。とは言え、「エッジAI」の世界市場は年平均3割ペースで拡大し、2029年に1000億ドル（約15兆円）以上に達すると予測されています。
米マイクロソフト「エッジAI」戦略の鍵となるのは、上述のとおり高性能の半導体ICです。「エッジAI」を動かすCPU用半導体ICに、マイクロソフトは長年のパートナーである米Intelではなく、スマホに強い英Qualcommを採用しました。省エネ性能の高い英Armの設計です。Qualcomm、Armともスマホ向けにおいて高い市場シェアを有しています。
基本ソフトOSのWindowsを搭載したこれまでのPCではIntelやAMD（Advanced Micro Devices）製の半導体ICが支配的でした。両社の半導体設計技術が事実上の標準となっていたためです。
マイクロソフトはWindowsとIntel半導体の組み合わせでPC全盛期を築き、「Wintel連合」と呼ばれましたが、今回のマイクロソフト新型PCによる「エッジAI」普及はこの覇権構造を変える可能性があります。
PC黎明期以来、WindowsとMacは盟主の座を争い続けてきました。ビジネス向けPCではマイクロソフトがWindows 95でIntel半導体や業務ソフトを組み合わせて覇権を握りました。
しかし1998年、ソフト抱き合わせ販売手法が米司法省等に独禁法違反で訴えられたことが影響し、2000年代にネットや携帯電話が普及する局面で出遅れました。一方、アップルは2007年にiPhoneを発表。基本ソフト（OS）Androidを開発したグーグルとともにスマホ時代を主導しました。
マイクロソフトの反攻契機となったのは2019年のオープンAIとの提携です。生成AIの普及を睨み、マイクロソフトは累計1兆円超をオープンAIに投資。2022年11月のチャットGPT公開以降、オープンAIの技術をWindowsや業務ソフトに次々と組み込んできました。
生成AIブームの牽引役となったマイクロソフトは時価総額で3兆ドルを突破。アップルから世界首位の座を奪還。さらにPCとAIの融合も進め、生成AI戦略で出遅れるアップルを突き放そうとしています。
しかし、アップルも黙っていないでしょう。AI処理を高速化した自社製半導体開発を進めており、5月にはiPadやiPhoneにAIソフトを組み込むことを発表。6月に最新技術、最新製品を発表するイベントを開き、生成AIとiPhoneの融合についての方針を示すようです。「PC対Mobile端末」の「マイクロソフト対アップル」の戦いはAIに舞台が移りました。
「エッジAI」の流れはPCやスマホにとどまりません。自動車や機械など「エッジAI」が有用な領域は多岐にわたります。そして「エッジAI」はAI用半導体ICに支えられています。
半導体ICを制する者がAIを制します。AIに最適な半導体ICを開発・調達できるプレーヤーが新たな覇権を握るでしょう。
３．AIの人間超え
このメルマガでシンギュラリティ（Singularity）を初めて取り上げたのは338号（2015年6月26日）でした。生成AI搭載の検索エンジン攻防戦はシンギュラリティが接近していることを感じさせます。
シンギュラリティは技術革新に伴って発生する大変革を意味する造語。日本語では「技術的特異点」と訳されています。現在、シンギュラリティを起こすのはコンピュータ技術による「AIの人間超え」がその契機と予想されています。
コンピュータ技術以外の分野もシンギュラリティの契機になり得ますが、今や如何なる分野もコンピュータなしでは運営できないことを鑑みると、やはり一番重要な契機はコンピュータ技術、とりわけ「AIの人間超え」という事象でしょう。
概念のルーツは機械式演算機が開発された19世紀中頃に遡りますが、シンギュラリティの3大キーパーソンは数学者ジョン・フォン・ノイマン（1903～57年）、発明家レイ・カーツワイル（1948年～）、物理学者スティーブン・ホーキング（1942～2018年）です。
ノイマンは初めてシンギュラリティに言及。カーツワイルは2005年の著書「The Singularity Is Near：When Humans Transcend Biology」で1940年代半ばに価格1千ドル程度のコンピューター搭載のAIが全人間の知能よりも強力になるとして「シンギュラリティーは2045年に到来」と予測。シンギュラリティは「2045年問題」と呼ばれるようになりました。
ノイマンはシンギュラリティ到来の要因は「ムーアの法則」と「収穫加速の法則」と指摘。周知の「ムーアの法則」は米インテル共同創業者ゴードン・ムーア（1929～2023年）が1965年にElectronics誌上で発表した経験則。半導体集積回路の集積度（性能）が18ヶ月で倍になるというものです。
「収穫加速の法則」は「技術革新は直線的ではなく指数関数的に起きる」という法則。「ムーアの法則」の傾向とも一致しますが、新発明から次の発明までの期間が徐々に短縮され、イノベーションが加速することを意味します。
1980年代、ホーキングは「マインドステップ」という表現でシンギュラリティに言及。次の「マインドステップ」は2021年、その後2つの「マインドステップ」が2053年までに到来すると予測。2018年、他界直前に「AIはいずれ人間を超える」と発言し、AIの功罪、危険性への関心が高まりました。
AIは要するにコンピュータです。その歴史は2017年のメルマガ377・387・396号でレビューしていますが、概要を再述します（詳しくはバックナンバーをご覧ください）。
コンピュータの起源はローマ時代に遡ります。古代の計算機、計算器が徐々に発展して機械式になり、やがて電子化され、今日のコンピュータに進化。機械式計算機等を操作する人のことを「コンピュータ（計算手）」と呼ぶようになったことがコンピュータの語源のようです。
第1世代に分類されるコンピュータは真空管を使用。1946年、米国ペンシルベニア大学の研究者が開発した「ENIAC」が世界初の電子式汎用コンピュータです。1955年頃からコンピュータの素子が真空管からトランジスタに変わり、第2世代に移行しました。
1959年、集積回路が発明され、コンピュータは第3世代に移行。1971年、インテルが世界初のマイクロプロセッサ（コンピュータの演算機能を担う多層的半導体チップ、CPU＜中央演算装置＞とほぼ同義）を使用し、コンピュータは第4世代に移行しました。
日本では1982年から通産省が「第5世代コンピュータ」の開発プロジェクトを立ち上げ。人間のように思考するコンピュータを実現するという壮大な目標を掲げていましたが、AI実用化とも密接に関係していました。
AIに関心を高めていた先進各国は、日本がAI分野で優位に立つことを危惧し、各国でAI研究への補助や投資が活発化。
「第5世代コンピュータ」では人間の論理的思考を再現する論理的アプローチを採用。一方、インターネットの普及もあって先進各国の時流は確率・統計論的アプローチにシフト。この段階で戦略を誤ったことが米欧中に劣後する今日の日本の劣勢の要因のひとつです。
1946年、前述のとおり世界最初の電子コンピュータ「ENIAC」が開発され、翌1947年、英国の科学者アラン・チューリング（1912～54年）が数学学会で人工知能の概念を提唱。
1956年、関係分野の研究者が米国ニューハンプシャー州ハノーバーのダートマス大学に集合。「ダートマス会議」においてジョン・マッカーシー（1927～2011年）が初めて「Artificial Intelligence（人工知能）」という単語を使いました。
以後の歴史についてもメルマガで何度か取り上げていますので、今日は割愛します。ところで、AIには汎用型と特化型があります。シンギュラリティをもたらすのは汎用型です。
特化型AIはAGI（Artificial General Intelligence）と呼ばれ、特定領域限定の能力を有するAI。汎用型AIはGAI（Growing Artificial Intelligence）と呼ばれ、全般的領域に関する能力を有します。GAIは自律的に思考・判断し、自己フィードバックによる改良を繰り返し、やがて人間を超えることが予想されています。
シンギュラリティに懐疑的、否定的な意見もあります。カーライルと並ぶシンギュラリティの権威である数学者ヴァーナー・ヴィンジ（1944～2024年）は「人間超えのAI実現には未知の課題が山積しており、シンギュラリティの到来時期を正確に予測することは困難」と指摘しています。
ほかにも「AIの人間超え」は不可能とする科学者もいます。とりあえずは今後の動向を注視していきますが、個人的には「AIの人間超え」は起きると思います。
シンギュラリティ到来は人間社会に劇的な変化をもたらします。例えば雇用。様々な業務や作業の無人化や省力化が進み「AIが人間の仕事を奪う」状態が起きます。毎日コンビニのお世話になっている身としては、セルフレジはその先駆け。電車や自動車の自動運転等も「AIが人間の仕事を奪う」事例です。
しかし、AI（及びAI搭載のロボットやアプリケーション）に代替される仕事がある一方、AIが代替できないこと、シンギュラリティ到来で新たに創造される仕事もあるでしょう。
人間の労働時間が減少し、究極的には「働かない社会」の実現、及びその場合に政府が国民に基本的所得を保証する「ベーシックインカム」の実現も荒唐無稽とは言えません。
シンギュラリティ到来は医療にも劇的進歩をもたらします。人工物による身体機能代替、意識のデータ化。この2つが高度化すると不老不死も絵空事ではありません。
昨年12月27日のある出来事を雑誌で知りました。「AIゴッドファーザー」「DL（ディープラーニング）ゴッドファーザー」と呼ばれているジェフリー・ヒントン（1947年～）の家を教え子イリヤ・サツケヴァー（1985年～）が訪問した際の会話の内容です。
サツケヴァ―は昨年11月に米オープンAIのお家騒動でサム・アルトマン（1985年～）CEOの解任を試みて失敗。同社を追われました。人類を脅かしかねない高度なAIの開発を中止させるためだったという報道もありますが、お家騒動の真相は今も藪の中です。
2人はサツケヴァ―が考案した世界のGNPトレンドの予測数式について話をしたそうです。それによれば、農耕普及や産業革命によって上昇し続けてきたGNP曲線は生成AIが登場した2020年代から急勾配になり、予測数式通りにGNPが増加すると、2040年代に無限大に到達。「2045年問題」が予測するシンギュラリティー到来時期と一致します。
AIがGNPのほとんどを生み出し、人間自身による経済活動は極小化されます。2人は「AIが経済活動を支配する世界ではどんなことでも起こりうる」「AIが意思を持ち人間の指示に従わなくなる」「だから我々はそのことを話し合った」と記されていました。
サツケヴァ―は2024年6月に「セイフ・インテリジェンス（Safe Superintelligence）」というスタートアップを設立。収益指向を強めつつあるオープンAIとは対照的に、同社は「安全な超知能を製品化する」としています。今後の動向に注目です。
AI関係企業ではAIが意思を持つことに関する議論をタブー視してきましたが、米グーグルのエンジニア（ブレイク・レモイン）が2022年6月14日に同社の生成AIが意識を宿したと発言。守秘義務違反を問われて解雇されました。
2023年5月1日、「AIゴッドファーザー」ヒントンは「AIのリスクについて気兼ねなく発言するため」という理由で約10年間所属したグーグルを退社。ヒントンは「AI兵器の開発や使用に対する抑止力は機能していない」「人類にもたらす脅威は原爆を上回る」との懸念を示しています。
メルマガ512号（2023年6月13日）でもお伝えしましたが、一昨年11月末のチャットGPTリリースから3ヶ月後、昨年3月22日に米国非営利団体「フューチャー・オブ・ライフ・インスティチュート（FLI）」が「全てのAI研究機関に対してチャットGPTよりもパワフルな生成AIのトレーニングを即座に少なくとも6ヶ月間停止することを求める」との書簡を公開。3000人を超える専門家や有識者が署名しました。
チャットGPTの開発と学習がさらに進み、人間を遥かに超える頭脳を持った場合、人間による制御が不能になり、人間を敵視して滅ぼそうとするリスクがあるとの懸念からです。
AIの記憶力、計算力は到底人間の及ぶところではありません。しかし、推測力、創造力は相対的に乏しく、感情、自我などはありません。そうした人間の本質に該当するような能力をAIが獲得するのは難しいと従来は考えられていました。
ところが、人間の脳に1平方cm当り約100万存在する神経細胞（ニューロン）の構造をナノテクによって再現するスパコン製造が可能になりつつあります。
人間の脳神経細胞を再現したニューラルネットワークを多層的に結合させて使う「深層学習」によって、推測力、想像力、果ては感情、自我の獲得も現実化しつつあります。
アルトマンはFLIの書簡公開から3日後の3月25日、メディアインタビューで「AIが人類を滅亡させる可能性を否定できない」と語りました。
さらに昨年5月30日、米国の米非営利団体「センターフォーAIセーフティー（CAIS）」が「AIによる人類滅亡リスクを軽減することは核戦争やパンデミックによるリスクと並ぶ世界の優先課題とすべき」との声明を発表。AIを核戦争、パンデミックと並ぶ人類滅亡三大リスクとして警鐘を鳴らし、対策の必要性を訴えました。
アルトマンをはじめ、研究者やエンジニア350人超が署名。不思議なことに、声明には「AIゴッドファーザー」ヒントン、教え子のヤン・ルカン（1960年～）、ヨショア・ベンジオベンジオ（1964年～）の3人は署名していないとも聞きます。
3人のプロフィールについてはメルマガ512号（2023年6月13日）をご覧ください。この3人は「計算機科学のノーベル賞」と言われる「チューリング賞」を受賞。3名を総称して「AIゴッドファーザー」「DLゴッドファーザー」と呼ぶ場合もあるそうです。
CAISはAIが起こす惨事シナリオを示しています。AIの兵器化の危険性、AIによる新薬開発ツールが化学兵器製造に使用される危険性、生成AIによるフェイク情報が社会を不安定化させて集団意思決定に害を及ぼす危険性、AIの力が少数者に集中して国家が監視と抑圧的検閲を通じて価値観を強制する危険性、等々です。
CAISはAI開発について「原爆を製造する前に核科学者たちの間で行われたものと同様の議論をする必要がある」と訴えています。
その後、アルトマンは米連邦議会公聴会でAI規制の必要性を訴えるとともに、「AIによるフェイク情報が社会を分裂させ、公の信頼を崩壊させる」「未来よりも現在に近いリスクの方が心配」「AIの進歩によって、偏った、差別的な、排除的な、あるいはその他の不公正な自動意思決定の規模が拡大すると同時に、そうした過程が不可解で証明不可能なものになる」と公述しました。
AIの暴走防止の努力も始まっています。善悪（是非）の判断基準である規則をプログラミングされたチャットボット「Claude」は、オープンAIを退社した技術者たちが立ち上げたアンソロピック社が開発しました。
今年6月26日、米バイデン政権はアップル、マイクロソフト、IBM、エヌビディア等のIT大手企業16社とAIのリスク管理や安全対策に関する取極めを交わしました。
同時期、日本政府は「統合イノベーション戦略2024」を閣議決定し「AI制度研究会（仮称）」を設置して法制度を含めた具体的な検討に着手すると発表。それに先立つ今年4月、企業がAI事業を進めるための「AI事業者ガイドライン」を策定。しかし、現実は日本政府の対策の遥か先を行っている感を否めません。
香港に拠点を置くハンソンロボティクス社によって開発されたAI搭載のヒューマノイド「ソフィア（Sofhia）」は2016年2月14日に起動し、世界中のメディアの関心を集め、多くのインタビューを受けました。2017年10月、ソフィアはサウジアラビア国籍を取得し、国籍を有する最初のロボットとなりました。
開発者であるデビットハンソン（1979年～）が「ソフィア」に「人間を滅ぼしたいか」と尋ねたところ彼女（ソフィア）が「滅亡させるわ」と答えたうえで「冗談よ」と発言したのは有名なエピソードです。このニュースに接して「AIが人間を滅ぼす」ことを本気で懸念し始めたAI専門家も多いと聞きます。
シンギュラリティに先立って起こる「プレ・シンギュラリティ」という概念も登場しています。「技術的特異点」の前に到来する「社会的特異点」です。
シンギュラリティ到来前に起きる大きな社会変動あるいは過渡期を指します。技術革新が加速し、生活や社会が従来の枠を超えて変化し始める時期と定義され、2045年にシンギュラリティが到来する場合、プレ・シンギュラリティは2030年頃と予測されています。もう間もなくです。（了）
