▷ 書評：ルチアーノ・フロリディ『AI倫理 原理、挑戦、そしてチャンス』（東洋経済新報社）
AIについては、それなりに興味を持って注目してきた。
入門書的なものを何冊か読んだし、Googleで紹介されるAI関連ニュースなどもチェックしている。
私が最初にAI関連の記事を書いたのは2023年で、まだ画像生成AIが話題になったばかりの時期だったから、そんな時期に専門家でもなんでもない者が、考え得る問題点を指摘したのは、かなり早い反応だったのではないかと自負している。
今では、誰もが当たり前に知っていることではあろうが。
しかし、AIの問題が、一般に語られるようになり、その長所や問題点が広く知られるようになった今だからこそ、AIについて、あらためて「基本的な考え方」を学んでおいた方が良いかも知れないと、書店で本書を見かけ、そう思った。
なにしろ『AI倫理』というタイトルなのだから、技術的な問題についての本ではなく、AIを「どう考えるべきなのか」という論点を語った本であることは明らかだ。
だから、「AIとはこういうものなんだよ」などと、受け売りで人に語って聞かせるような「面白おかしいエピソード」が仕入れられるような本ではないだろう。
だが、バラバラに雑多の情報を仕入れるばかりではなく、何か基本的な考え方を示してくれるような本を読んでおくべきだと考えた。
その考えを受け入れるか受け入れないかは別にして、自分の考え方を鍛えるためには、そうした骨のあるものに接しておく必要があると、だいたいそのようなことを考えたのである。
そして、本書を読んでみると、たしかにそういう骨太な本だった。
本書はAIに関する工学的な専門書ではないけれども、思想・哲学的な専門書であり、じつに篤実な、真面目な本だったのである。
当然、私はぜんぜん知らなかったのだが、本書著者ルチアーノ・フロリディは「イェール大学デジタル倫理センター教授」であり、「AI利用の倫理的な制度設計」についての世界的な権威で、本書はそうした著者の思想をまとめた著書の中でも、AIそのものの問題を扱った部分の著作なのだ。
言い換えれば、著者の問題意識は、AIに止まらない、今後のデジタル技術における世界設計そのものに関わる、本質的なものなのである。
そしてそうしたことは、著者が歴任し関わってきた、次のような世界的なプロジェクトの数々に明らかだろう。著者はこれらに、中心的な人物として関わってきた人なのである。
（01）『 情報開示の観点から、本書で取り上げたテーマに関して私は多くの取り組みやプロジェクトに関与してきたことを明らかにしておきたい。長いリストになるが、2014年以降のものを年代順に示すと以下のとおりである。ドイツ研究振興協会（DFG）のドイツ卓越研究プロジェクトによるクラスター知能科学（SCIoI）倫理委員会委員長、イギリス外務省AI研究所諮問委員会メンバー、ボーダフォン社会・コミュニケーション研究所諮問委員会メンバー、カトリック大学サクロ・クオーレ校（イタリア）のヒューマンテクノロジー研究所科学評議会メンバー、ベルゲン大学（ノルウェー）の「メディアの未来：責任あるメディア技術とイノベーション」研究センター倫理委員会メンバー、イギリスイノベーションプログラムに属するデジタル・カタパルトの機械知能ガレージプロジェクト倫理委員会委員長、イギリスデータ倫理・イノベーションセンター（CDEI）の理事会メンバー、イギリス情報コミッショナー事務局（ICO）技術諮問パネルのメンバー、EY（アーンスト・アンド・ヤング）AI諮問委員会メンバー、「レオナルド・チヴィルタ・デッレ・マッキーネ財団」（イタリア）諮問委員会メンバー、ヨーロッパ委員会の「AIに関するハイレベル専門家グループ」メンバー、イギリス「教育における倫理的AI研究所（IEAIE）」諮問委員会メンバー、バチカンのAI倫理委員会メンバー、イギリス「超党派データ分析グループ（APPGDA）」技術倫理諮問委員会メンバー、イギリス金融行為規制機構（FCA）オープン・ファイナンス諮問グループメンバー、ヨーロッパ評議会の「自動データ処理およびAIの諸形態に関する人権専門委員会（MSIIAUT）」委員、同評議会の「メディア・情報社会に関する閣僚指導委員会（CDMSI）」メンバー、グーグル先端技術外部諮問委員会メンバー、世界経済フォーラム「未来のテクノロジー、価値、政策に関する評議会」メンバー、AIの社会的影響に関するヨーロッパ初の国際フォーラム「人々のためのAI（AI4People）」科学委員会委員長、EUデータ保護・プライバシーコミッショナー国際会議（EDPS）2018年大会諮問委員会委員長、EUのヨーロッパ医療情報フレームワークIMI-EMIFの倫理諮問委員会委員長、フェイスブックのデジタル倫理ワーキンググループ委員長、イギリス・アラン・チューリング研究所データ倫理グループ委員長、イギリス工学・物理科学研究会議（EPSRC）「IoTセキュリティにおけるプライバシーと信頼の確保 （ComPaTrIoTS）研究ハブ」科学パネルメンバー、EUデータ保護機関（EDPS）「データ保護の倫理的側面に関する倫理諮問グループ」メンバー、イギリス王立協会およびイギリス学士院「データガバナンス・ワーキンググループ」メンバー、イギリス内閣府「データサイエンス倫理ワーキンググループ」共同議長、グーグル「忘れられる権利に関する諮問委員会」メンバー。以上のリストはすべてを網羅したつもりではあるが、過去数年のあいだに私がかかわった資金提供元や役職で、ここに記載すべきものが滑れている場合には、ご容赦いただきたい。』（P49〜51「謝辞」より）
私は、人を「肩書き」で判断するような人間ではない。
むしろ、肩書きほどではない人間を嘲笑したがるところさえあるのだが、しかしそれは「看板に偽りあり」だから、そのペテン性を批判するためであって、立派な肩書きどおりの中身を持つ人には、寸毫も敬意を惜しむものではない。
したがって、本書著者に対しても敬意を惜しまない。
これらの肩書きが半端なものでないということもあるけれど、本書を読んだ印象としても、著者は決して権威主義者などではなく、上のような経歴紹介も、シンプルに、そのフェアプレイ精神から出たものと信じられる人柄だと、そう感じられたのである。
さて、本書は、大テーマはタイトルどおりで、「今後のAI利用について、倫理的な制度設計を提案する」というものである。
しかしながら、それをするためには、その前提として、「AIとは何か」ということを明らかにしておかなければならない。
それを曖昧にしたままでは、制度設計のための倫理も何も、あったものではないからだ。
で、AIの素人である私が、本書を読んで面白かったのは、実はこの、議論の前提として語られる「AIとは何か」の部分であった。
私はこれまで、AIというものの工学的な原理の部分については、入門書などによって、大まかなところは理解していた。
そして、こうした理解は、AI研究者や開発者などによる説明を基礎としたものなのだから、彼らのAI理解もまた、おおむねその線に沿ったものであると言えるだろう。
ところが、そんな専門家の間においてさえ、AIというものに対する理解は、必ずしも一致してはいない。
AIが「どのようにして生み出されたものなのか」という点については、おおむね共通理解があるのに、「それはどのようなものなのか」という「基本理解」については、大きく見解の分かれる部分があるのだ。
すなわち「AIは、素晴らしい科学技術の粋であり、人類に輝かしい未来を保証するものである」という楽観的な考え方と、それとは真逆に「AIは、人間の理解を超えた部分があり、その点で、人間にはコントロールしきれない危険な存在ともなる恐れもあって、原子爆弾などと同様、極めて危険なテクノロジーだ」というような悲観的な考え方である。
AIの専門家でさえ、このように大きく意見が分かれるのだから、私たち素人は、どちらもありそうな話に思えて、混乱するばかりだ。
「AIがどのようにして生み出されたものなのか」は知っていたとしても、「AIとは、どのようなものなのか」については、よくわかっていないためである。
しかし、これがわからないでは、AI利用のための倫理的な制度設計などできない。
だから、本書著者のルチアーノ・フロリディは、まずその点を明確に規定してみせるのだが、この定義が極めて面白く、説得力のあるものなのだ。
私は、本書のこの部分、ある意味でトリッキーとさえ言いたくなる定義にこそ、魅了されたのである。
だが、前述のとおり、それは本書における前段的な議論であって、著者の本来語りたいことは、その後においてなされる。
そして、それは著者らしい、レンガを一つ一つ積み上げていくような、誠実極まりないものであり、そこでの提案を、私は全面的に支持したいと思う。
だが、そのあたりの提案は、私たち一般人向けであるよりは、これからのAI利用社会をリードしていく、政治家や研究者、企業人などに、主として向けられたものなので、私個人の問題としては、切実には捉えにくい類いの話なのだ。
だから、本稿では、ほとんどもっぱら、本書における「AI利用のための倫理的な制度設計」という「提案」の部分ではなく、その前段としての、著者による「AIとは何か」という定義の部分について、私に叶うかぎりの紹介をしたいと思う。
とは言え、専門的な話であるために、著者が可能なかぎり噛み砕いて説明したものを、私がさらに噛み砕くなどという芸当はできないので、著者の説明を適宜引用しつつ、それに私なりの理解による解説を、蛇足的に付け加える、というかたちで書いていきたいと思う。
○ ○ ○
とは言え、私が信じるに足ると感じた、著者の人柄を示す部分も最初にいくつか紹介し、その後に、そうした著者の性格に由来する、本書の特質も紹介しておこう。
本書がどういう本なのかが、実感できるはずだ。
※ なお、引用文中の（※）は、私・年間読書人による補足であり、引用文中の著者による引用文については、原文の一段落としが無くなるため、その前後を〈〉で括った。
（02）『（※ 本書は、私がこれまで書いてきた一連の本の第４巻の前半部分にあたるわけだが、本書を）これまでの巻と比較したとき、大きな違いが一点ある。それは、いまや私は、最も優れた哲学は概念設計であるということをますます確信するようになったということだ。概念設計は、しっかりと目的をもったプロジェクト（世界を改善するために世界を理解すること）や意味の付与（人類の意味の資本）を大切にし豊かにしつつ、《存在》に意味と意義を与えること）に道を開く。』（P40「序文」より）
著者は「倫理哲学」の教授なのだが、そんな著者が現在考えている哲学とは、「倫理とは何なのか」「正義とは何なのか」といった、原理的な哲学的探究に止まるものではなく、そこから数歩踏み出して、「この世界において、より良き社会を実現するために貢献するのが、今や倫理哲学の使命となっている」というようなことであり、その使命を果たすためにやるべきは、哲学的思考による「社会の倫理的な制度設計の提案だ」ということなのだ。
つまり著者は、倫理哲学は、もはや社会に開かれなければ意味がないと、そんな積極的な意志の持ち主なのである。
（03）『 できるだけ興味深く読みやすいものにしようとは努めたが、控えめに言っても本書は読者が喜んでページをめくりたくなるような本ではない（それはやはり痛感している）。』（P41「序文」）
（04）『 これまでの巻と同じく、読者が本の内容を理解する助けになるように、各章の初めと終わりに要約と結論を付けることにし、繰り返しを厭わなかった。要約や結論を付けるという点については、あまりオーソドックスな本の書き方ではないかもしれない。だが各章を「previously, in Chapterx」〔「前の第～章では‥‥‥」〕という形で始めることで、読者が本文を拾い読みしたり、章全体を斜め読みしたとしても、本質的な論点を見失うことなく読み進められるだろう。
（中略）
繰り返しが多いという点に関しては、本書の最終的な編集段階で決めた。本書のなかでもとの内容を最初に論じた箇所が、ページや理論的な文脈上あまりにも離れているときには、それぞれの章の主要テーマを繰り返したり言い換えたりすることにした。もし読者がデジャヴュを感じることがあったとしても、それは内容が明確になるという利点、売りであって、欠陥ではないと願いたい。』（P42〜43「序文」）
引用（03）の（04）は、本書の性格を示す部分として紹介した。
私が『レンガを一つ一つ積み上げていくような、誠実極まりないもの』と評したのは、本書におけるこうした書き方を指したものであり、これはそのまま、著者の「どうか正しく理解してほしい」という誠実さを、よく示すものであろう。
要は、そんじょそこらの「ウケてナンボ」の本には無い、著者の提案の真剣さが、ここにはよく表れていると、私にはそう感じられたのだ。
（05）『 この本に関して言えば、読者のなかには、これが反技術の本だと結論したり、AIの限界や「AIには何ができないか」を示す本だと考える人がいるかもしれない。逆に、この本が技術について楽観的すぎる、デジタル革命やAIを万能薬として評価しすぎている、と結論するかもしれない。しかし、どちらも間違いだ。本書が試みているのはその中間に位置することである。天国でも地獄でもなく、人間の努力による労苦の煉獄にとどまり続けることである。私の試みが失敗したと言われるのはもちろん残念だ。しかし試みが誤解されるほうがはるかに残念であり、がっかりする。テクノロジーを評価する方法はたくさんある。そのひとつは、よい設計と倫理的ガバナンスにもとづくものであり、私はこれが最善のアプローチだと信じている。読者は私の考えにつき従う必要はないが、私が進もうとしている方向性については誤解しないでほしい。』（P42）
楽観的でも悲観的でもなく、その『中間』に止まり、『人間の努力による労苦の煉獄にとどまり続ける』とは、要は、お気楽な「AI万歳」ではなく、「あんな問題やこんな問題があると、懇切丁寧に指摘する労」を惜しまず、その一方で「だからAIなんて、碌なものじゃないんだ」という無益な否定論や悲観論にも与せず、AIという素晴らしい技術を適切に使うための積極的な枠組みを提案するといった、そうした「理想主義的現実主義」の態度を、ここで著者は語っているのである。
さて、ここからが本稿の本題である、本書著者の「AIの定義」の紹介だ。
（06）『 1・4 AI一一その定義を探る研究領域
一部の人（おそらくは多くの人）は、AIとは、人工エージェンシー（※ 行為者・タスク遂行者）と知的行動とを結合させて新しい人工物を作り出すことだと思っているようだ。しかし、これは誤解である。次章で詳しく説明するように、実際にはその逆が正しい。デジタル革命によって、AIが可能になっただけでない。AIはますます有用なものとなった。しかしそれが実現できたのは、問題解決やタスク遂行を成功させる能力を、それをおこなう際の知能の必要性から分離したからである。この分離が達成されたからこそ、AIは成功したと言える。「AI効果」についてのよく知られる嘆き（AIが自動翻訳や音声認識などの仕事をおこなえるようになると、的外れにも、それらの仕事がもはや知的とは見なされなくなる、といったようなこと）は、実は問題の在り処がよくわかっている。AIがタスクを成し遂げられるのは、タスクの遂行と知性の必要性とを分離できる場合にかぎられるのだ。要するに、AIが成功しているときはこの分離がなされているのであって、そのタスクが知性（たとえば人間の知性）を必要とするように見えるものであっても、実際には知性から分離できることが示されているのである。
これは一見驚愕すべきことのように思えるかもしれないが、実際にはそうではない。次章で見るように、それは、1955年にマッカーシー、ミンスキー、ロチェスター、シャノンが発表した「AIに関するダートマス夏季研究プロジェクトの提案書」に見られるAIの古典的な（そして、おそらくいまでも最も優れた）定義と完全に合致している。この提案書は、のちにAIという新しい分野を樹立した創始的な文書である。ここではその一文を引用するにとどめ、詳細な議論は次章に譲ることにする。
〈現在の目標としては、人工知能の問題とは、人間がおこなえば知的と呼ばれる動作を機械にやらせることである。〉
エージェンシーと知能との離婚としてAIを理解したとき、そこから生まれる結論は奥が深い。』（P72〜74）
いきなりここだけを読んでも、素直に呑み込むことはできないだろう。
だが、著者はこの後、このことを懇切丁寧に説明して、世間のAIに対する「誤解」を解いていく。
私が感心したもの、まさにこの、著者による「AI理解」であり「AI定義」の部分なのだ。
ここで、著者が語っていることを、私なりに噛み砕いて言うならば、AIが「人口知能」と呼ばれ、さも「知能」を有するものであるかのように思われているが、AIのそれは、語の本来の意味における「知能」なのではない。
だから、AIを正しく理解するためには、AIには「知能など無い」という事実を正しく理解しなければならないし、AIがこれだけ「有能」なものになったのは、AIに「知能」を持たせるなどという無駄な努力に拘泥せずに、むしろ「知能」という概念をAIから切り離して、そのタスク実行能力の追求に特化したおかげなのだ一一と、だいたいそのような話である。
この後の引用文にも、そのあたりの説明はあるから、ここでの説明はこれくらいにしておこう。
（07）『 2・1 導入一一AIとは何か？ 「見ればわかる」
AIはこれまでさまざまに定義されてきたが、すべての人が合意するただひとつの定義は存在しない。古い調査［Legg and Hutter 2007］］では、「知能」に関する定義が53種類も挙げられており、そのどれもが原理的には「人工的」でありうると記している。AIに関する定義は18種類挙げられていた。そしてAIの定義の数は増加する一方である［Russell and Norvig 2018］。』（P78）
つまり、私たちはAIを「人口知能」と理解しているけれど、そもそも、この「知能」という言葉には、定まった定義はなく、極めて曖昧なものだったのだ。
当然「AIとは、人口知能である」という説明や理解も、実質を欠いた曖昧なものでしかなかったのだ、という話である。
（08）『 2・2 反実仮想としてのAI
まずは定義をつぶしておこう（そうすれば、いつまでも定義で迷うことはなくなるだろう）。「現在の目標としては、人工知能の問題とは、人間がおこなえば知的と呼ばれる動作を機械にやらせることである」。これは明らかに反実仮想である。思考とはいっさい関係がなく、すべて動作に関する定義だ。仮に人間がそのように動作すれば、その動作は知的と呼ばれるだろう、ということだ（※ というだけの話だ）。しかし、それは（※ 機械が同じ動作すれば、即ちそれは）機械が知的であるとか、さらには思考する、ということ（※ 話）ではない。AIに関する同様の反実仮想的な理解が、チューリングテスト［Turing 1950］ やローブナー賞〔AIの会話能力のコンテストで与えられる賞〕の基礎にある［Floridi, Taddeo, and Turilli 2009］。チューリング［Turing 1950］は、機械は思考できるかという問いには答える方法がないとよく理解していた。なぜなら彼自身がはっきりと認識しているように、機械と思考のどちらの言葉も科学的に定義されていないからである。チューリングは次のように述べている。
〈私は「機械は思考できるか」という問いそのものをよく検討することを提案する。まず、「機械」と「思考」という用語の意味をしっかりと定義することから始めるべきだ （p. 433）。（※ 引用したチューリングの著書のページ数）
［…］「機械は思考できるか」という、このもともとの問いは議論に値しないほど無意味だと私は考える。（p. 442）〉 』
（P83〜84）
「人間がおこなえば知的と呼ばれる動作」を機械が行えば、それはその機械に「知性」があると、そう言えるのか？
答は、そのようには言えない、である。
例えばこれは、人型ロボット（アンドロイド）の「心」の問題に喩えて考えればわかりやすい。
人間の問いかけに対して、ロボットが人間そっくりの動作や表情で、人間そっくりの回答を返したとしたら、それは「心がある」と言えるのか？
その答は、どちらとも言えない。
なぜなら、そもそも「心」というものの定義が曖昧だから、定義の仕方によっては、その表面的な振る舞いだけをして「心がある」とも言えるし、「表面的に止まらない内面性」的な現象として定義をすれば、ロボットに心があるか否かは「わからない」としか言いようがないからだ。
つまり、結論としては、「心の定義次第で、心があるともないとも言える。したがって、定義の定まっていない現時点においては、そうした人間そっくりなロボットに、心があるとかないとか言うことはできない」ということになるのだ。
そしてこれは、「知性」についても同断なのである。
（09）『しかし以下のことを考えてみよう。たとえば食器洗い機が私と同じくらい、あるいはそれ以上に食器をきれいに洗うからといって、食器洗い機が私と同じ仕方で洗っているとか、そのタスクを達成するために知能（私の知能と同じタイプか別のタイプかは問わない）を使っているということにはならない。食器洗い機が知能を使っていると考えることは、次のように主張するようなものだ。すなわち、（a）川は最もよい経路を辿り、障害物を取り除きながら海に達する。そして、（b）もし人間が同じことをしたなら、それは知的行動と見なされるだろう。したがって、（川の行動は知的である一一このシナリオは迷信じみた錯誤だ。議論の核心はただ、（※ 川が）人間の知能が達成するのと同等かそれ以上にタスクを成功させるという点（※ 事実）にしかない。重要なのは、どのようにしたか〔知的にしたかどうか〕ではない。何をしたか〔たんなる遂行の結果〕だけなのだ。この点は論理的にも歴史的にもきわめて重要である。
論理的に言えば、結果が同じであることは（類似の場合は言うまでもなく）、それを生み出す過程やその源泉が同じであることを意味しない。これは疑う余地のないことだ。』（P84〜85）
つまりAIが、人間並みか人間以上に、巧みにタスクをこなしたとしても、それはAIが人間並みか人間以上の「知能」を持っているということにはならない。
単に、そうしたタスク遂行能力を持っている、ということに過ぎないのだ。
だから、その行為だけを見ても、「知能」や「心」の有無はわからない。
それなのに、そうしたものを見てしまうのは、人間の「自己投影」による錯誤にすぎないのである。
（10）『 このように、AIには2つの精神がある。工学的な精神（スマートテクノロジーという核）と認知的な精神（真に知的なテクノロジーという核）である。両者はしばしば、知的優位、学問的権力、財源をめぐって兄弟喧嘩を繰り広げてきた。その理由の一端は、両者が共通の祖先をもち、同じ知的遺産の継承者を主張していることにある。その共通の祖先と遺産とは何か？ それは、すでに引用した1955年の「AIに関するダートマス夏季研究プロジェクト」という創始的な出来事である。それに加えて、みずからが作り出した機械とその計算の限界についての理論と有名なテストで知られる創設者チューリングである。しかし、シミュレートされる元のもの（つまり人間の知能そのもの）を生産できているか、またターゲットである元の動作やパフォーマンス（つまり人間の知能が達成すること）を再生産〔複製〕し、さらには上回ることができているか、これをチェックするのにシミュレーションをしてみたところで、ほとんど（※ 議論に決着をつけるための）役に立たないのである〔だから争いになる〕。』（P91〜92）
これまでのところ、AIの開発には、２つの流儀（精神）があった。
ひとつは、人間または人間以上のことが出来るようなものを作ろうとという、工学的な考え方。
もうひとつは、人間の「知性」と同型の「知性」を持たせよう（そうすれば人間と同様のことが出来るようになるはずだ）という認知的な考え方である。
かつては後者が主流だったのだが、現在では、前者の立場でAIの開発が進められており、この両者は、似て非なるものなのだ。そこを混同してはならない。
なお、最後の部分は、チューリングテストでは、AIの「能力」は計れても、「知能」の有無は確認し得ない、という趣旨の説明である。
（11）『 成功するAIは、人間の知能を生み出すのではなく、それに置き換わるものであること、このことをこれまで見てきた。食器洗い機は私と同じように食器を洗うわけではない。しかしそのプロセスの結末では、きれいになった皿は私が洗ったものと区別がつかない。実際、食器洗い機で洗ったほうがきれいかもしれないし（高効果）、消費する資源ももっと少ないかもしれない（高効率）。AIも同じだ。アルファ碁は、2017年に当時世界ランキング1位だった中国のトップ棋士である柯潔と同じようにプレイしたわけではなかったが、それでも勝利した。同じく自動運転車は、あなたのかわりに人型ロボット（アンドロイド）が運転席に座って運転するわけではない。自動運転車は、車を発明しなおし、さらにはその運転環境をも発明しなおすのである［Floridi 2019a］。
AIで重要なのは、エージェントやその行動が知的であるかどうかではない。結果が重要なのだ。このように、AIは生物学的な知能を再生産〔再現〕するのではない。知能なしでことをなすのだ。現在の機械の知能はトースターと同程度であり、そこから進化させる術について、実は私たちはたいした手がかりを（※ いまだ）もっていない［Floridi, Taddeo, and Turilli 2009］。実際にはプリンターがすぐそばにあるのに、コンピュータ画面に「プリンターが見つかりません」とエラーメッセージが表示されたとき、煩わしいとは感じるだろうが、（※ なんでそんなにそばにあるものが認知できないんだ、などと）驚くことはないだろう。さらに重要なのは、この場合、知的でないことは（※ 実務的には）障害ではないということだ。人工物は知能をもたなくても賢くありうるのだ。これこそが再生産型（※ 創造的ではないが、すでにあるものを作り変えるだけの、今の）AIが達成した素晴らしい成果である。カール・フォン・クラウゼヴィッツの言葉になぞらえて言えば、これは「ほかの手段による人間の知能の継続の成功」なのである。
今日AIは、問題解決やタスク遂行の成功を知的行動から切り離した。この分離のおかげで、AIは、理解、意識、気づき、感受性、懸念、予感、洞察、解釈、経験、生物的身体性、意味構築、知恵など（そのほか人間の知能を構成するとされるありとあらゆる要素）を必要とすることなく、問題やタスクの無限の空間を容赦なく植民地化できるのだ。要するに、人間的な知能を作り出そうとすることをやめたときにこそ、ますます多くのタスクで人間の知能に置き換わり、成功を収めることができるのである。『スター・ウォーズ』に登場するような本当のAI（※ 生産的AI）の芽生えを待っていたら、アルファ碁がこれほどまで強くなることはなかっただろう。（※ 同様に）もしそうだったとしたら、私はいまでもチェスでスマートフォンに勝つことができたのに。』（P94〜95）
要は、AIの開発において肝心なのは、「知能」（や「心」）を持たせることではなく、「有能」たらしめること、なのである。
AIは、人間のように「余計なことをあれこれ考えない」からこそ、特化された行為については、人間以上の能力を発揮し得たのだし、私たちがAIに求めているのも、そういう「能力」なのだ。
悩んで迷って間違えるような「知能」を求めているわけではないのである。
（11）『生産型AIを世界に書き込もうとして失敗した私たちは、実際には、再生産型・工学的AIに適合するよう世界を改変（再存在論化）していたのである。世界はAIの限定的な能力にますます適応した情報圏へと変貌しつつある［Floridi 2003， 2014a］。これがどういうことかを示す例として、自動車産業を見てみよう。自動車産業はその初期から、最初は産業用ロボットによって、そして現在ではAIを基盤とした自動運転車によって、デジタル革命とAIの最前線を担ってきた。この2つの現象は密接に関連しており、人間たちと人工エージェントたちとが環境を共有するなかでいかに共存するかを理解するうえで、生きた教材である。
産業用ロボット、たとえば工場で車の部品を塗装するロボットを考えてみよう。このようなロボットが上手く作業できる範囲である三次元空間は、ロボットの包摂環境と呼ばれる。私たちの技術のいくつか、たとえば食器洗い機や洗濯機などは、ロボットの単純な能力に合わせて環境が構築（包摂）されているからこそ、タスクが実行可能となっている。同じことはアマゾンの「包摂された」倉庫にあるロボット棚にも当てはまる。そこでも環境のほうがロボットに適合するように設計されているのであって、ロボットが環境に適応しているのではない。したがって、私たちは映画『スター・ウォーズ』のC-3POのような人型ロボットを作って、私たちとまったく同じやり方でキッチンで皿を洗わせようとはしない。かわりに、単純なロボットのかぎられた能力に合うように周囲のミクロな環境を包摂することで、期待される結果を得るのである。』（P99）
「生産型AI」とは、まったく新しいものを生み出すタイプのAI。つまり、人間にも似た「知能」（や心）を持つから、飛躍することで、まったく新しいものを生み出せる（生産）できるタイプのAIである。
一方「再生産型・工学的AI」とは、これまであったものを切り貼りして別物の作るタイプのAI。つまり、現在の生成AIなどのことである。
そして、現状におけるAIが、結果として後者であるばかりではない。
これからも目指されるべきは、人間にも似た「知能」を有するAIを作って、人間同様の作業をさせるというような冗長なことではなく、ひとつのことしかできなくでも、そのことに関しては人間の以上の働きをするAIが、その能力を十全に発揮できる環境の整備なのだ、というような話である。
（12）『私たちは芝刈機の機能と形状を変え、庭をそれに適合するようにした（※ それによって、効率の良い芝刈りを実現した）。私たちは、古い芝刈機を私が押すのと同じように押すアンドロイドを作っているのではない（※ 例えば、ルンバは人型掃除機ではない）。
ここでの教訓は、AIを使って人間を模倣しようとしない（※ してはならないという）ことだ。むしろ機械（AIを含む）が最も得意とすることを活かしていくべきなのだ。（※ 洗濯物を畳むといった繊細な作業の）難しさは機械の敵であり、（※ 手間のかかる作業の）複雑さは機械の友である。であれば機械たちの周囲にある世界を包摂し、機械たちを包み込む環境のなかに機械たちを上手く組み込めるように、新しい具体化のあり方を設計すべきである。その時こそ、着実な改良、市場規模、適切な価格設定、新たな改善をともなうマーケティングなどがすべて合理的なものとなるだろう。』（P133）
すでに先回りして説明してしまったことである。
「ロボットが人の心を持ってくれたら、さぞや便利だろう」と考えるのは間違いで、心を持ってしまったら、かえって面倒なことにしかならない。
だからそうではなく、（人間的な知能や心を持たない）AIが、その特化された機能を最大に発揮できる環境を整えて、人間との調和を図ることこそが重要なのだ。
AIを考える時、AIから「（人間的な）知能」という考え方を切り離すことこそが重要であり、それが成功の秘訣だというのは、そのような話なのである。
（13）『（※ AIの）その成功は驚異的で、しばしば人間がおこなうのと区別がつかないほどである。これがいわゆる大規模言語モデル（Large Language Model： LLM）であり、大きなセンセーションを巻き起こしている。
最も有名な大規模言語モデルは、GPT-3、ChatGPT（GPT-4としても知られ、オープンAIとマイクロソフトが開発した。以下の例は、無料で使用できた以前のバージョンのChatGPTのものである）、およびBard（グーグルが開発）〔Bardは2024年2月、サービス名がGeminiに変更された〕である。これらはどんな理性的推論も理解もおこなっていないし、SFに出てくるようなAIへの第一歩でもない。動物の世界に存在する、とりわけ人間の脳と心に存在する認知プロセス（意味内容を上手くこなすプロセス）ともまったく無関係である［Bishop 2021］。しかし利用可能なデータの驚異的な増加、計算量と速度のすさまじい進歩、そしてますます改善されていくアルゴリズムなどによって、これらの大規模言語モデルは、私たちが意味活動として為していること（このメカニズムはまだ神経科学でも解明されていない）を統計的に一一すなわち取り扱うテクストの意味ではなく形式的な構造にもとづいて一一実行できる。』（P134〜135）
そのままである。
『これらはどんな理性的推論も理解もおこなっていないし、SFに出てくるような（※ 意思を持つ）AIへの第一歩でもない。動物の世界に存在する、とりわけ人間の脳と心に存在する認知プロセス（意味内容を上手くこなすプロセス）ともまったく無関係である［Bishop 2021］。』
つまり、AIは「考えているわけではない」のだ。だから、人間的な意味での「知能」は、かけらも持っていないのである。
AIとは、どんなに優秀であり、複雑なタスクを遂行しようどとも、言うなれば「情報処理機」にすぎないのである。
（14）『しかし（※ AIがいかに驚異的な力を持っていようと）AIはふつうのテクノロジーとして扱われるべきである。AIは奇跡でもなければ災厄でもない。それは人間の創意工夫が考案した数ある解決策のひとつにすぎない。だからこそ倫理的な議論が、永遠に、全面的に人間の問いであり続けるのだ。
（※ AIに誤った怖れを抱くことで、その有用な発展が止まってしまう）新たなAIの冬が来るかもしれない今、私たちはいくつかの教訓を学び、非合理的な幻想と過剰な失望がヨーヨーのように繰り返されることを避けなければならない。』（P149）
AIは「自分では考えない」のだ。
つまり、人間が設定した範囲内で、情報を処理するだけ。
ただし、人間によるその「限界設定」に論理的な穴があると、AIはそこを超えて作業してしまうことになり、AIに「悪意」は無くとも、そこにリスクが生じる。
だからこそ、AIを使うにあたっては、その使用者である人間に対する、適切なAI理解と倫理設定が求められるのだ。
（15）『（※ 以降の）第Ⅱ部では、AI倫理に関する具体的なトピックを扱う。トピックを分析する視点は、すでに第I部で論じたものである。それは1つの仮説と2つの主要なファクターの観点から整理することができる。第一に〔仮説のほうは〕、AIは新しい形の知能ではなく、新しい形のエージェンシー（※ タスク遂行者）であるということ。そして〔第二に2つの主要ファクターのほうは〕このAIの成功の土台は、エージェンシーが知能から分離され、この分離されたエージェンシーがますますAIフレンドリーな環境に包摂されることである。したがって、AIの未来はこの2つのファクター〔分離と包摂〕の発展にかかっている。』（P152）
すでに説明したことだが、肝心なことは、エージェンシーたるAIからは、人間的な知能といったものに対する誤った期待がきっぱりと切り離されて、その限定的かつ強力な機能を活かせる環境を整えることだと、そういう話である。
（16）『 AIは長いあいだ、数学や数理論理学の一分野でした。いまでは少し白髪のある私のような人たちが、何十年も前にAIを学んでいましたが、当時のAIは「決定論的」なものでした。ある入力があり、あるプロセスを経れば、必ず同じ出力が得られるとわかっていました。それが機能しないこともありましたが、もし機能すれば、ポケット電卓のようにつねに同じ結果が得られたのです。しかし、私たちが知っている通り、今日のAIの驚異的な発展は、その「確率的」「統計的」な性質に由来しています。そして、ここで重要なのは、これらすべては（※ 論理的なのではなく）あくまで「相関的」であるということです。ニューラルネットワークがその代表例です。これは、AIを数学の領域、つまり数学的論理の一分野として捉えるのではなく、社会科学の一分野として再考する必要があることを意味します。』（P441「巻末特別対談」より、著者の言葉）
長らくAIは「数理的な設計」によって論理的に生み出されるものだと考えられてきたが、いま実用化されているAIとはそういうものではなく、「確率的」「統計的」な性質を、実際的に（工学的に）利用したものである。
だからそれは、『数学的論理の一分野として捉えるのではなく、社会科学の一分野として再考する必要がある』。
これを私なりに言い換えると、AIは「アインシュタインが望んだような数式的な科学」によるものではなく、「量子力学的な工学的産物」だということである。
その作動原理が厳密には理解できないものであっても、実際そのようになるという「確率論的な事実」において、その高い実用性を認められた存在なのだ。
完璧に合理的な裏付けは取れなくても、経験的な事実の裏付けによって、それは実用に供することのできるものなのだ。
確率論など「科学」ではないと言い張ったところで、現に「神様はサイコロを振られている」から、AIは役に立っているのである、というような話である。
（17）『 長いあいだ、大まかに言えばアラン・チューリングの時代一一1940年代後半から1950年代一一から数年前にいたるまで、AIは数学的論理の一分野と見なされていました。言い換えれば、計算の一形態として捉えられ、問題を解決する手段として考えられていたのです。私たち人間のかわりに、人間よりも優れた形で、そして人間のために問題を解決するものとして認識されていました。このような従来型のAIは、「問題解決」のための技術として発展してきました。それは、かつて私たちが想像していた「機械」に非常に近いものでした。従来型のAIの発展は、機械にどのようにして人間ができることをさせるかを模索する試みだったのです。チェスを指すことは、その古典的な例でした。しかし、従来型のAIは、私たちが期待していたほどの成功を収めることはありませんでした。数学的論理だけで達成できることはきわめて限られていたのです。』（P453）
つまり「合理的な計算ずくで、知能や心を生み出すことは、人間には出来なかった」ということである。
なぜなら、知能や心の何たるかが、人間にもわかってはいなかったからである。
そんなわけで、著者は、現にあり、これからも発展していくであろうAIを、問題にしている。
それが、速やかに対応しなければならない、実用的で現実的な喫緊の問題だからだ。
言い換えれば、趣味的な「知性を持つ機械」を求めて研究するのは自由だが、それと今のAIとを混同してはならない。
それをすると、進むべき道を踏み違えてしまうかもしれないからだ。
AIは、有能だが、人間のような知能も心もないから、当然「倫理」も持たない、「強力な機械」すぎない。
だが、だからこそ、それを使う人間の側において、「AIに関する倫理」を確立しなければならないのである。
○ ○ ○
最後に、いささか蛇足的なものにはなるが、「AI倫理」の社会的な実装にあたっては様々な問題が存在するという、具体的な議論の中で、特に私の興味を惹いたものがあったので、それについてだけ、以下に紹介しておきたい。
（18）『5・3 倫理ブルーウォッシング
環境倫理で言われるグリーンウォッシング ［Delmas and Burbano 2011］とは、民間または公共のアクターが、実際以上にグリーンで持続可能で環境に優しいかのように見せかける不正行為のことである。ここで私が言う「倫理ブルーウォッシング」は、このグリーンウォッシングのデジタル版である。デジタル技術の倫理的によい実践に特定の色が結びついているわけではない。しかし私たちがここで議論しているのは環境の持続可能性についてではなく、たんにデジタルの倫理的な化粧（※ 見せかけ）についてであるということを思い出させてくれるという点で、「ブルー」という（※ 視覚的な）表現は悪くないだろう。』（P177）
いくら「AI倫理」の項目を立てたところで、それを「見せかけ」の建前として悪用するような輩を許しては、せっかくの「AI倫理」も台無しだ、という話なのだが、たしかにそういう疑いを抱かせる事例を、まま目にする。
例えば、私が最近、レビューを書いた『〈公正（フェアネス）〉を乗りこなす 正義の反対は別の正義か』という本の著者である朱喜哲は、大学に在籍する哲学研究者であると同時に、広告代理店「電通」の社員（第6マーケティング局所属のチーフ・リサーチ・ディレクター）でもある。
要は、営利企業に雇われた、自称「哲学者」なのだ。
それで私は、朱喜哲のこと、〈電通〉哲学者と呼んでいるのだが、その朱喜哲が『炎上を避けるより理念を語れ 「倫理の言葉」が企業を救う』と題するインタビュー記事に登場している。
で、私はこの記事のタイトルに、言うなれば「哲学ウォッシング」的なものを見てしまったのだが、これは勘ぐりすぎるだろうか？
朱喜哲はこの記事で、営利企業に対して『炎上を避けるより理念を語れ 「倫理の言葉」が企業を救う』という提言をしているわけだが、そんな「きれいごとの宣伝」をする前に、私なら「具体的に行動せよ」と言いたいわけなのだ。
いくらご立派なことを言ったって、それが単に「企業イメージ」を高めるためだけのものであり、実行が伴わないのなら、それは単なるペテンであろう。
で、そういうペテンに、哲学なり哲学者なりが利用されるのなら、それは「グリーン・ウォッシング」や「ブルー・ウォッシング」と同様の、金儲け主義の企業のによる「哲学ウォッシング」であり、実のない「底意ある宣伝」にすぎないのではないだろうか？
電通・朱喜哲の場合、実際はどうなのかは知らない（わからない）が、なにしろ「電通」と言えば、かつては過労死で社員を死なせ、ブラック企業として知られた会社だし、東京オリンピック2020では「談合」で暴利を貪り、それがバレて大阪万博2025から外されたと、そんな企業なのである。
それが、私が批判した、不実な若手哲学研究者の提言なんかで、どうにかなるような、そんなヤワな営利企業だとは、とうてい思えないのだが、朱喜哲のこの提言を掲載した『日経ビジネス』は、そんな提言を本気で真にうけているのだろうか？
それとも、これも「ビジネス」のうち、なのか？
いずれにしろ、もう若くはない私としては、お手軽な二流品や偽物は、御免こうむりたいのである。
（20267月30日）
○ ○ ○
コメントを残す