知っていきたいデジタルリテラシー【AIと共存】

―「DX」研究会学習会 ―

生成AIから汎用AIへ～人類との「共存」という深刻な課題～

《講師》俵屋年彦氏（たわらや・としひこ）
ボランティア団体 ▶ VRアートを楽しむ会・創設者
アートとテクノロジーの民主化を促進する TAWA LAB 運営
コミュニティFM三角山放送局で25年間パーソナリティーを継続中
NPO法人さっぽろ自由学校「遊」で理事と講師

2023年は優れたコンテンツを短時間に制作する生成AIが注目され、ビジネスでの活用も進んでいます。その代表例が、OpenAIの提供しているChatGPTです。

一方、著作権問題、フェイクニュース、失業問題などがクローズアップされています。しかし2024年は、OpenAIが設立の目標にしている汎用AI実現の可能性が見えてくる年になるかもしれません。

汎用AIは「AGI」と呼ばれ、自律性が高く人間の能力以上に素早くなんでもできる人工知能です。《人類との共存》という深刻なテーマが差し迫ってきました。

【生成AIとAIの違い】AIは《人工知能》と言われます。従来のAIが《識別や判別、予測》などを行うのに対し、生成AIは文章や画像などを《新たに生成》する能力を持ちます。例えば、ChatGPTは《文章生成AI》であり、一昨年あたり話題になったMidjourneyは《画像生成AI》です。

2010年に「AGI」を目標に掲げて設立したDeepMind

DeepMindは、2010年の秋、ロンドンを拠点にデミス・ハサビスによって設立。人間の脳ができることを何でもより効率的にできる「汎用人工知能（AGI）」の構築を目標に掲げていた。2014年にGoogleによって買収され、2015年、親会社Alphabetの完全子会社となった。開発したプログラムAlphaGoが人間のプロ囲碁棋士を初めて破ったことで2016年に大ニュースとなった。

OpenAIは「AGI開発」を目標に2015年12月に設立

2015年12月11日、サム・アルトマン、イーロン・マスクらは、非営利法人OpenAI Inc.をサンフランシスコに設立。2022年11月30日、GPTに基づく、チャットボット（対話型人工知能）のChatGPTを発表。

汎用人工知能を目標に掲げているが汎用人工知能が完成した際は、それを営利法人や他社にライセンス提供はしないという規約になっている。汎用人工知能実現前の人工知能のみを、営利法人に提供することにしている。

「AGI」とは何か？

AGIとは（英：Artificial General Intelligenceの略称）《人間のような汎用的な知能を持つ人工知能》を指す。

【汎用的な能力】特定領域に特化しているのではなく、さまざまなタスクや問題に《人間と同様に対応できる能力》を持ち、多様な知識やスキルを駆使して活動。

【学習能力】AGIは経験から学習し新たな情報やデータを取り入れて《自己進化》することができるため、状況に応じた適切な対応や問題解決が可能。【意思決定能力】AGIは《独自の判断や意思決定》も行う。複雑な情報を分析し最適な選択肢を選び出す能力を持っている。

OpenAIは「AGI」普及のソフトランディングを目指す

「産業革命は世界にとってすばらしい転機だったと、いまでは誰もが同意する。でも最初の50年は、そこには苦痛しかなかった。多くの職が失われ、貧困が生まれた。それでも世界は順応した。わたしたちはAGIへの順応までの時間を可能な限り痛みの少ないものにする方法を見つけようとしている」(サンディニ・アガルワル・OpenAIポリシー研究担当)

「ぼくらにはマスタープランがなかったんだ。懐中電灯で照らしながら、ひとつずつ角を曲がっていく、そんな感じだった。そうやって最後まで迷路を進むつもりだった。コアミッションはいまも同じ。世界はまだ真に受けていなかったけど、安全なAGIは可能だと信じることが、本当に重要なことだった」(サム・アルトマン・OpenAICEO)

2023年11月の取締役会の内紛

OpenAI取締役会は2023年11月18日、サム・アルトマンCEOを解任した。「サム・アルトマンがOpenAIを率いていく能力があるとは確信できない」と表明。グレッグ・ブロックマンも取締役会会長を解任。

11月20日、770名中738名（96%）の従業員が社外取締役の退任を要求アルトマンとブロックマンの復帰を求め、実現しなければ退社してマイクロソフトに移籍する可能性があると警告する文章に署名。

11月21日、アルトマンがCEOに復帰。ブレット・テイラー、ローレンス・サマーズ、アダム・ディアンジェロが取締役に就任。ブロックマンも復職。マイクロソフトは、OpenAIの取締役会に議決権のないオブザーバーの席を得た。

内紛の背景　Q*（キュースター）

サム・アルトマンCEOの解任に先立ち、社内の研究者数名が人類を脅かす可能性のある強力なAIの発見について警告する書簡を取締役会に送っていた。書簡はビジネス路線を走るアルトマン氏に対する取締役会の不満や懸念を反映していた。

サム・アルトマンは解雇される日の前日、APEC（アジア太平洋経済協力）のパネル討論会で「来年、AIは誰も予想しなかったレベルにまで大きくジャンプして進化する」と開発中の次世代AIモデルのブレークスルーについて語っていた。

このAIモデルが高性能過ぎて、悪用する者が出てくれば人類に危害を与える可能性がある、と取締役会が判断。このAIモデルの商用化を阻止するために、商用化に前向きなアルトマン氏を解雇したのではないかという説が有力。

開発中の次世代AIモデルは「Q*（キュースター）」と呼ばれている。このAIモデルは、AI自身が次に何をすべきかを自分で考え出す技術・計画エンジンを搭載した言語モデル。また小学生レベルの数学的推論能力を獲得した。

「AGI」の危険性とは

《AGIの危険性》

AGIの潜在的な能力
AGIの緊急停止装置
人間の認知の限界性

「AGI」と共に生きる、ということ

仕事を奪い合うのではなく互いの得意分野を活かす。安全性ために社会の冗長性を回復する。

AGIによるシンギャラリティを語る多くの人は、自身の《画一的で狭い世界観》を自覚していない。カーツワイルら技術万能論者の主張は《西洋的な世界観》を絶対化した《植民地的な思想》に過ぎない。

どのように世界を捉えるのかという思想が大切であり「人間中心主義」を越えなければならない。

AlphaGoがプロ囲碁棋士のチャンピオンイ・セドル氏に勝利したことを受けて、2016年8月に作家・島田雅彦さんにインタビューした記事がある。

島田さんは「機械が代替できないとされていた哲学や芸術もAIの趣味になるかもしれない」「AIが人間を家畜化することになるかもしれません。面白いエラーを連発する奇妙なペットとして可愛がられるのです」「AIが地球を人が住みやすい環境に戻してくれることも期待できます」と話した。

【最優先されるべき課題】は、生物多様性を尊重した《急激な気象変動》の緩和対策だろう。生態系の複雑で包括的な知識が必要になる。

現在、人類その他の生き物たちの大半はキノコが生み出した土を基本とする生態系に依存して生きている。地球環境を知り生態系を改善するのなら人工知能は、人間ではなく地球環境を支えてきたキノコに学ぶところから始めなければならない。

【AGIの本来の役割】は、人間ができることを代替することではない。膨大な情報の中から人間には長い年月がかかる、ほとんど不可能な《新しい発見》をすることだ。そして、人間の知能を他の生き物たちの多様な知能と《つなぐ役割》をすることだ。

【AGIは人間に似せて生まれる】が、やがて人間の認知の枠を超えて《生き物全体》の多様なAGIになる。

人工知能が220万種類の新しい「結晶構造」を発見

DeepMindは、2023年11月30日、科学誌Natureで「220万種類の新しい結晶構造を発見した」と発表した。うち38万種類は構造的に安定したものであると期待されている。

新しい材料の安定性を予測することで新素材の発見速度と効率を劇的に向上させるディープラーニングツール「GNoME」を利用した。

新しい材料の開発はあらゆる技術的進歩の基盤だが時間がかかりコストが高く、予測が困難であるという大きな課題があった。220万種類という数字は、これまで発見された結晶構造の45倍以上。GNoMEを用いた新素材の発見は「800年分の知識量に相当」とGoogle DeepMindは説明した。

【GNoMEとは】→GoogleのAI研究部門「Google DeepMind」が開発した新たなAIシステム（英：Graph Network for Materials Explorationの略称）

【結晶構造とは】→その中には《電池やソーラーパネル、コンピューターチップ》などと言った《革新的な技術》の開発に、応用できる可能性を持つ材料が含まれていると言われる。

「大規模言語モデル」とは何か

【大規模言語モデル（LLM）】は人間の言語を理解しテキストを生成するため生成AIの一種とも言われ（英：large language modelの略称）ChatGPTも大規模言語モデルの一種。

非常に巨大なデータセットとディープラーニング技術を用いて構築された《言語モデル》で、「計算量」「データ量」「パラメータ数」を大幅に増やして構築されている。《人間に近い流暢な会話》が可能で自然言語を用いた《さまざまな処理を高精度》で行う。（プログラミングのコード生成やチャットボットなど）

LLMはパラメータ数が多いほど、より複雑な言語現象を捉えられる。近年では数十億から数兆個のパラメータを持つ巨大なLLMが開発されている。モデルサイズの増加は計算コストやメモリ消費も増加させるため、効率的な学習や推論の方法が求められている。

偽の情報を平然と出力する「ハルシネーション、幻覚」と呼ばれる現象や、悪質なプロンプトを用いて、本来禁止されている機能を解除して不適切な回答を得ようとする「プロンプトインジェクション」の問題などが指摘されている。

NTT 大規模言語モデル「tsuzumi」を発表

NTTは、2023年11月1日、軽量でありながら世界トップレベルの《日本語処理性能》を持つ大規模言語モデル「tsuzumi」を発表した。パラメタサイズは6～70億と軽量なので、市中のクラウド提供型LLMの課題である学習やチューニングに必要となるコストを低減できる。

英語と日本語に対応し、1GPUやCPUでの推論動作を実現。視覚や聴覚といったモーダルに対応し《特定の業界や企業組織に特化》したチューニングが可能。自然対話だけでなく《画像や表》を読んで理解し《感情や気分》を感じ取り、状況に応じた最適な回答を提示する。商用サービスを2024年3月に開始し、さらなる《マルチモーダル》機能を追加していく。

【マルチモーダルとは】→Multi（複数）＋Modal（様式）を組み合わせたコンピューター用語で、《複数種類のデータ》を入力し《総合的に処理》する機械学習のこと。

【高いコスパ】パラメーターサイズが6億の超軽量版と、70億の軽量版を用意。OpenAIの「GPT-3」の1750億パラメーターと比べ、およそ約1/300（超軽量版）および1/25（軽量版）と軽量である。学習コストや推論コストも低減され、高いコストパフォーマンスを実現する。

「GPT-3は学習に膨大なエネルギーが必要で、サステナビリティの観点から課題がある。1回の学習に必要なエネルギーは約1300MWhで、これは原子力発電所1基が1時間に消費する電力と近い数値になる」「大きなLLMをひとつ作るのではなく、小さなLLMを複数集めて有機的につなぎ、社会課題を解決する。LLMの連携基盤として、IOWNが重要な役目を果たす」(木下真吾執行役員・研究企画部門長)

「我々はサステナビリティを追求していく必要があると思っています。これからは消費電力などの社会的な課題を解決することが重要。今回の《tsuzumi》については、そうした気概を持って開発していることをご認識いただければありがたいです」(島田明代表取締役社長)

【IOWNとは】→電気と光を融合する「光電融合」と呼ばれる次世代の《情報通信基盤》のことで、ネットワークや情報処理を電気信号から光信号に変えるもの。2023年、通信分野でサービスを開始、現在はコンピューター内の半導体を光に置き換える「光の半導体」を目指す。

【政府支援】AIの急速な普及によりAIを支えるデータセンタがフル稼働。莫大な電気消費が問題に。「光の半導体」によって電力問題の解決のみならず日本の経済成長や世界のゲームチェンジを期待し、NTTを中心とした開発プロジェクトに政府は452億円の支援を決定。

Google マルチモーダルAI「Gemini」を発表

2023年12月6日、Google DeepMindがマルチモーダルAI「Gemini」をリリースした。《文字・音声・画像》を同時に処理することが可能で、最上位モデルはGPT-4を超える性能を達成していると主張。文字だけでなく画像や映像なども理解し、ユーザーとやり取りできるマルチモーダリティが大きな特徴。

2024年は、生成AIの幅広い実用化だけでなく《AGIの可能性と安全性》が問われる年になりそう。避けられないテーマであり、大きな成果も期待できる。危険性のチェックも含めて、市民感覚で検討していきたい。