どんなテクノロジーを作るのか、どのように作るのかを決める前に、問うべき大きな問題があると、人類学者のジュヌヴィエーヴ・ベル氏は話す。
＊
AI（人工知能）は、高度なソフトウェアアルゴリズムによって決定を下し、現実世界で機械を物理的に制御するなど、すでにさまざまな分野で重要な役割を果たしている。
例えば信号機やエレベーターでは、私たち使う側が思っている以上にすでに自律制御が進んでいる。
こうした「サイバーフィジカルシステム」は、今後数年間のうちに、日常生活や社会、そして実世界にますます侵出してくるだろう。
だからこそ、人類学者のベル氏は、まずは長期的な目線でテクノロジーを設計・計画し、AIや自動化に対する人々の意識を変えようとしている。
＊
ベル氏はインテル社の研究者として20年を過ごした。
女性初の上級研究員というポジションは、いまも変わらない彼女の卓越した能力に相応しいものだった。
フューチャリストであり、人類学に根差したAI学者でもあるベル氏は、答えを伝えるのではなく、問いを投げかけるというアプローチを採用している。
ベル氏 「AIを安全に拡大させるには、サイバーフィジカルシステムが投げかける重要な問い、そしてそれに対する人間としてのその答えについて考えなければなりません」
キャンベラのオーストラリア国立大学に在籍するベル氏は、電話取材でこのように話した。
＊
2019年の初め、ベル氏は同大学で、3Aインスティチュートという野心的なプログラムを新たに立ち上げている。
3つの「A」が表すのは「Autonomy（自律性）」「Agency（行為主体性）」、そして「Assurance（確実性）」だ。同時期に、同大学では、3Aインスティチュートとして修士課程も開設した。著名な教授であるベル氏は、3Aインスティチュートのカリキュラムに、シリコンバレー式のアプローチを取り入れた。
「いまから教え始め、1年間かけて学びを得ながら調整していくのです」とベル氏。
そしてこのプログラムの最大の目的は、エンジニアリングに新しい領域を創出すること、責任を持って安全に持続可能なかたちでAIを広めることにあるという。
シリコンバレーで時間を過ごしたことで、人間の重要性やその多様な経験に重点を置き、テクノロジーや未来を語る際にも、こうした要素を取り入れることが大切だという信念が強まった。
「2017年にオーストラリアへ戻り、3Aインスティチュートを立ち上げてから、自分自身が取り組んだ「デジタル化したこの世界」で、人間として生きるということの複雑さに、ますます心を掴まれています。できることと、すべきことを区別して考える必要があるのです」とベル氏。
どんなAIを作るのか、そしてそれはうまく機能するのか。それを決めるよりも先に、大局的見地から問うべきことをベル氏は挙げている。
AIに自律性をどの程度持たせるべきか、行為主体性は何か、の2点が根本的な問いだという。
ベル氏は、AIの実用を検討する前に、なにを作るべきか、あるいは本当に作るべきものは何か、十分に考えることを進めている。
「サイバーフィジカルシステムにおける自律性の概念は、人間の自律性とは別のものです」とベル氏。自律性へのアプローチは、人や組織によって考え方が異なるかもしれない。 ベル氏は「グーグルの自動運転車はテスラのものとは異なり、当然ボルボとも違っています」と話す。
＊
架空の話だが、SFコメディーの『銀河ヒッチハイク・ガイド』を、ベル氏は好んで例に出す。
この物語の中では、主体性を与えられていないことが気に入らない自我を持ったエレベーターが、いつも地階で文句を言って過ごし、目的階を自分に選ばせるように乗る人に迫る。
この話はジョークだが、機械に知能を与えすぎると逆効果を生みかねないなどとはエンジニアたちは全く思ってもいないということがよく分かるだろう。
スマートエレベーターに人が期待するのは、ただスマートであることだけなのだ。
「エレベーターは上下に移動するものです。建物の外に飛び出し、ビールを飲みにパブへ出かけてほしいとは、誰も思わないでしょう」とベル氏は話した。
システムの安全性と成功のバランス
考えるべきことは、リスク、責任、倫理、基準、規定、そして法規制にも及ぶ。しかし、同じ問題でも、それらはその地域の行政機関によって判断が異な理、地域をまたいでより広い視野で検討されなければならない。
例えば、国境を超えてインターネットが利用される場合は、個人情報の取り扱いに対して欧州連合はGDPRという厳正な基準を独自に定めている。
＊
なにがどうなれば成功なのか、また、成功はどのように測られるのだろうか、AIを設計する際は、これを大局的な見地から問いかけ、人類や環境に及ぼす影響を把握する必要がある。
「エネルギー消費の問題、そして安全性と生産性のバランスの問題について特に懸念しています。つまり、社会全体へのエンゲージメントという観点です」 とベル氏。
自動制御はエネルギーの節約と人々を迅速に目的階まで運ぶことのバランスを取り、どちらも成功として評価される。
システムのパフォーマンスを評価するにあたり、何を測定できるのか、何を測定すべきなのかといったことを、エンジニアは事前に考えておかなければならない。
ヒューマンインタフェースと多様性を考慮した設計
「物がどのように機能するのか、人は身体で記憶しています。人は条件反射で動きます。エレベーターに乗ってボタンを押さないなんて、奇妙に感じませんか。乗ったらボタンを押すものだと思っていますよね」とベル氏。
新たにシステムを自動化しても、期待していたような働きをさせたいならば、考えなければ使えない。
ベル氏は、都市鉄道の踏切に設置された「信号の表示間隔は変動する場合があります」という標識を例に挙げる。
運転手の脳が一定のタイミングに慣れていると、赤信号と青信号の不規則なサイクルに、不意を突かれてしまうかもしれない。
信号がむしろ混乱の原因になってしまうのだ。自律化に潜むこうした危険性に対する一般的な反応についても、ベル氏は懸念している。
ベル氏 「フェイルセーフとして人間参加型にしようという声をよく耳にします。私はこの考え方に、2つの点で疑問を抱いています。どの人間が参加するのでしょうか、そしてどの部分に参加しようというのでしょうか」
いつでも、そしてどこにでも人間が介在できるわけではない。そして多くの場合、人間がバトンを受け取ることで結果はさらに悪くなる。
空の異常に備えてレーダー画面を監視するとしたら、訓練された専門家でも、20分以上集中し続けることは困難だ。
新しいシステムには様々な考えを取り入れていく必要があるとベル氏は言う。
ベル氏 「様々な意見を聞き、できるだけ多くの考えに触れたいと考えています。これからの世界は、皆が同じようではいけません。世の中には私たち大学教員だけでなく、劇作家、芸術家、政治家、トラックを作る人など、さまざまな人がいるのです」
ここで挙げた問いは基本的なものばかりだ。しかし、自律型機械のユースケースが増え、人間との関係が発展していけば、さらに多くの問いが生まれてくるはずだ。
そしてベル氏は、 「お互いから、学びとっていくことが重要です」とも話した。
（2020年4月23日, THE FORECAST by NUTANIX）
記事構成：ニュータニックス・ニュース！ 編集部, Nutanix Japan
*ポール・ブタン氏はフリーライター。
© 2020 Nutanix, Inc.All rights reserved.Nutanix、Nutanixのロゴ、その他のNutanixの製品および機能名は、Nutanix, Inc.の米国その他国における登録商標または商標です。本リリースに記載されているその他全てのブランド名は、識別目的でのみ使用されており、各所有者の商標です。その他のリーガル情報は、こちらをご確認ください。