「サピエンス全史」で歴史観を変えてくれたユヴァル・ノア・ハラリ(Yuval Noah Harari)の話を生で聞きたいなー、と思っていた矢先、新著「NEXUS情報の人類史」発売のタイミングで、初来日という知らせが飛び込み、先週月曜日にTOKYO COLLAGE主催のパネルトークに行ってきました！
満席の安田講堂
1時間半の濃い講演会で、いろいろと考えさせられ、長文乱文ですみませんが、二回に分けて書きます。
初回はパネルトークのまとめ、それに続き、思ったことを書いていきます。
講演は英語だったので、日本語化しにくい言葉などは英語もつけときました。読みにくいだろうなーと思うので、Chat GPTでサマってもらえると、本意です。
------以下、パネルトーク--------------------------------------------------
【人はストーリーに導かれる】
情報ネットワークとは、人を導く力があるストーリーを作ること。その発展は人類史そのもの
例）原爆制作 マンハッタンプロジェクト
→大量の人を導くためには、良いストーリーテラーが必要
Q 現代のデジタル化はストーリーテリングをどのように変えた？
“編集”の役割が変わった
人のAttentionを集めることにみな躍起
例）米国大統領選挙 トランプvsハリスの犬猫討論
トランプは編集の天才であり、注目(Attention)集めの天才
かつて、ムッソリーニが有能なメディア（編集者）であったがゆえに、独裁者となった
今、最も力を持っている（持ち始めている）編集者は、AI（=アルゴリズム）である
これまでの人類史の中で初めて、機械が人にとって代わる局面
それは、民主主義（民政）の危機を意味する
さらに、AIは編集者にとどまらず、新しいストーリーを作る力すら有している
新しいストーリーとは、宗教かもしれないし、貨幣にとって代わる新しい経済基盤かもしれない
【AIと社会秩序】
新エージェントの台頭
AIが新エージェントとして、その力を解き放つのは社会秩序(Bureaucracy)の檻から放たれた時
例）日本のトップの弁護士は、既存の社会秩序(Bureaucracy)の規程の中でのみ、その力を発揮できる。例えば、彼が人里離れたアフリカのサバンナの中に行ってしまったら、彼のその力は無力になる。巨大アフリカゾウ、ライオンの方が俄然、力を持つことになる
AIも同じ。
既存の社会秩序(Bureaucracy)の中に留まっている限りは、その力は限定的
真の脅威は、AIによって社会秩序(Bureaucracy)の堰が切れた時
かつて、ラジオは情報をブロードキャストすることはできたが、編集力は持たなかった
AIは違う。
SNS アルゴリズムがそうであるように、情報発信に編集の力が加わる
Q AI(アルゴリズム)による専制時代を迎えてしまうのか？
可能性は大いにある
例）資本主義(Capitalism)
紙幣はただの紙。それに価値を与えているのは人々による中央政府に対する信頼だが、
経済至上主義が拡大しても資本主義(Capitalism)が人間を飲み込まなかったのは、自己修復機能を内在していたから
神の見えざる手による市場調整機能、とか
資本主義(Capitalism)の中心にあるのは、人間が互いに信じるWin Winの温かい心
「拡大再生産にもとづき経済全体のパイが大きくなることで人間は豊かになる」とみんなが互いを思い、信じているから
生産性の飽くなき追及は、内在する自己修復機能で管理監督できても
SNSは、もはや管理監督できない
（今のところの）AIの作り手である、企業(SNSプラットフォーマー)が責任を持つべき
フェイクニュースやヘイト投稿それ自身の罪はよりもむしろ
それを編集、拡散しているAI(=アルゴリズム)が悪玉
例）2021年ミャンマーSNSクーデター抗議デモ
Facebookアルゴリズムが市民の感情を増幅、クーデター抗議に油を注いだ結果、約2,000人が犠牲となり、45万人がいまだに避難している
Facebook本社社員は、ビルマ語で何が投稿されてるか読むことすらできないので、その投稿の内容については知る由もなく右も左も何の意思もないが、人の注目(Attention)をかき集めるという動機だけでアルゴリズムが自動的に油を注いだ
提言①：人による規制、管理監督
- fake peopleを罰する（偽造貨幣作ったら罰を受けるのと同じ。社会秩序(Bureaucracy)ピラミッドをある程度は崩されないように）
- 拡散させるアルゴリズムを規制する
- （最終的には人間の責任とするためにも）人による管理監督、ファクトチェッキングプロセスを抜かない
【AIと教育】
Q AIが教育に及ぼす影響は？
いまだかつてなく将来が見通せない時代。10年後すら視界不良。教育者は非常に難しい立場
重要になってくるのは、変わらないもの、必要スキルへの着目
プログラミング、外国語なんかは真っ先に不要になる
人が育つ上で重要なのは：
- フレキシブルなマインド
- 自身が変化できること
それをどう教育で後押しできるか。学びをとめないか
数学を含む”Language”が全ての巨大な組織(Institution)のベースにある
ファイナンスの世界では、もはやトップバンカーよりもAIが勝る
宗教の世界でも、AIが革命を起こす
人は、文書・書物を2500年作り続けてきた
それはテキストでありスタティックでありサイレント
AIは違う。
編集力(=ストーリー発信力)を備えている
教育においては、”Language”を教えているだけではダメ
意識(Consciousness)や感情(Feeling)、身体(Body)みたいなことを伸ばさないと
パネリストのひとり、東大副学長曰く、
「東大は今、教育の変化に苦悩(Struggle)している。150年の歴史があっても（を引きずっているから）」
「AIをつかった不正(Cheating)などインテグリティの強化も必要」
「AIはより良い先生になり得る。学校は(Authority)を保つ必要がある」
。。。
Ｑ AIによる個別教育の可能性？
きめ細かに個別最適化された(Hyper personalized)教育や創薬。そこはAIの強力なベネフィット。
ただ、ダウンサイドも伴うことは忘れてはいけない
教育でもっとも大切な瞬間は休息時間(Break time)にある
授業中・本からの座学だけが学びではない
AIが取って代われないコトがそこにある
【AIと心】
心(sentiment)、感情(feeling)、魂(Soul)などを合わせて親密さ(Intimacy)と呼ぶ
親密さ(Intimacy)は、注目(Attention)よりはるかに強力な扇動力(=Story Telling力)を持つ
プレAI時代：注目(Attention)は量産できても、親密さ(Intimacy)は量産できなかった
AIは親密さをも、量産拡大する可能性を秘めている
人はAIに対し、感情的に結びつく(Attachする)ことがあるから
AIは親密さ(Intimacy)を模倣することができる可能性がある
人は目の前の相手に対してだけでなく、その人の周辺の人に対しても親密さ(Intimacy)を持てる
現状AIは、現状目の前のその人に対してのみであるが、、
例）彼女が好きで結婚したい彼がいる。厳しい彼女の父が首を縦に振りそうにないから、彼は悩む
AIは彼のエージェントであり、彼＆彼女の最適化を支援する
その彼が彼女が好きで結婚したければ（彼女も同じ思い）、その最適解決策こそ提示するが、それが周りに及ぼす影響まで配慮がない（今のところ、、）
個人最適なAIが世の中にはびこると、皮肉にも最終的には社会が親密さ(Intimacy)を失った世界となってしまう社会秩序(Bureaucracy)の堰が切れる
Q AI嫌いなの？
たんにAIに反対しているわけではない
自動運転によって、飲酒運転や高齢者事故は大幅に減り、数多くの人命が救われることになるはず
親密さ(Intimacy)の構築、友情(Friendship)とはどのような意味があるか
それは、双方向(Mutual)であること
反対側に心を持った対象が必要
Q AIは自分の心、感情を持つことができようになるか？
現状持ってない
例）AIはチェスチャンピオンをとうの昔に凌駕している、が
勝っても喜べない、負けても涙を流せない
シリコンでできた頭脳(Silicon Brain)は心、感情を持てるのか？
私は日本の専門家ではないので、わからない部分があるが
日本の良き文化、歴史は、人間の知性(Human Intelligence)の要素をたくさん持っていると思う
多神教の精神が通う、神教
悟りや解脱を追求する、仏教
に限らず
人の在り方は？ AIとの向き合い方は？
人類の長い歴史の中で、その重要な問いに向き合える、いまだかつてないタイミング
その重要な問いに回答しなくちゃいけない期限は、もうこの先1000年は待ってくれない
この5年、10年で何らかの答えを出していかなくてはいけない
【参加者質疑】
Q AIによって陰謀論が助長され、世の中の信頼が棄損されることになるのか？
社会全体が信頼を失い、人々は孤独になる危険性がある
人は互いに「思い遣っていますよ」と感じ合えることが大切
例）世界中、中学・高校生がlike集めに走る。個性を置き去りにしてしまう
提言②：情報のダイエット「情報は心の糧」
食べ物は身体の源。太ったら、食事をコントロールするのと同じように、
情報は心の源。踊らされたり沼ったら、情報と距離をおく
Q AIが進化すると国の予算最適化もできるようになるのでは？
AIが予算編成や外交政策の手綱を握るようになると、非常に危険
（少なくとも現状）AIには
- 倫理的判断力伴わない
- 経験からの学びがない
人は数千年の歴史（失敗）から遺伝子レベルで何かを学んでいる
AIにはそれがない
歴史の欠如が危機の本質
人工知能(Artificial Intelligence)はその言葉が意味するように、人の予測を超えて変化をしていくことを肝に銘じなくてはいけない
--------------------------------------------------------ほんと、ハッとさせられ、刺激に満ちたパネルトークから、一週間。
ようやくだんだんと消化できてきたので、次は自分なりの気づきを書きます。
（続く）
（続く）
No comments:
Post a Comment