人間とAIの共生社会におけるELSI。実は大切な哲学の話

<プロフィール>

中園　長新

国際学部　国際学科

福岡県出身、茨城県経由、千葉県在住。コンピュータに関わる仕事に憧れて大学進学したものの、たまたま履修した教職科目で教育の魅力に気づき、情報＋教育＝情報教育の研究者の道を歩むことに。そんな異色の経歴のおかげで、コンピュータ科学と教育学、さらには図書館情報学などいろいろな学問を専攻してきました。現在は高等学校をはじめとする初等中等教育において、情報教育を推進するための要件や学校図書館などの施設活用について研究しています。

高校時代はオーケストラ部でヴァイオリンを弾き、大学時代はミュージカルサークルに所属していました。趣味は読書、音楽鑑賞、ミュージカル鑑賞、鉄道、天文、サブカルチャー、どうでもいい知識をいろいろ調べること。好きな動物はねこ。

【目次】

1. 善悪を倫理・法・社会で判断すると？

2. AIを使うときのELSI

3. AIと共生する社会に向けて

善悪を倫理・法・社会で判断すると？

AIの発展・普及が進み「人間とAIが共生する社会」が現実のものとなったとき、そこにはどんな問題があるのでしょうか。それを私たちは、どう乗り越えていけばいいのでしょうか？

千葉県立柏の葉高校情報理数科の1年生と2年生に、国際学部国際学科の中園長新先生が授業を行いました。

「みなさんは公民の授業を受けていると思いますが、心のどこかで、倫理や法、社会なんて自分に関係ない、公民の勉強なんていらないと思っていませんか？」と、中園先生は冒頭から切り込んでいきます。そして、こう続けます。

「ところが公民は、みなさんの多くが目指しているであろう、ITやAIといった最先端テクノロジーの分野に深く関わってきます。将来、私たち人間とAIが共生する時代がやって来たとき、倫理・法・社会はどうなるのか？そんなことを今日は考えてみましょう」（中園先生）

ここから思考実験が始まります。1つ目は、宿題を写すのは良いか悪いかという問題。Aさんは宿題をやるのが面倒だったため、Bさんに許可を得て宿題を写し、提出しました。Aさん、Bさんの行為について、あなたは善悪をどう判断しますか？

「Aさんの行為は正しい」に手を挙げた生徒、「悪い」に手を挙げた生徒は半々に分かれました。一方、Bさんの行為が正しいと判断した生徒、Bさんは正しくないと判断した生徒はそれぞれ少し減りましたが、やはり半々です。

「みんなはどうして、Aさん、Bさんは正しい、あるいは正しくないと判断したんだろう？善悪って何だろうね？」と中園先生は投げかけますが、解説することはしません。そのまま2つ目の思考実験に進みます。今度は、宿題の問題に金銭がからみます。宿題を写させる見返りとして、BさんはAさんに1000円を要求し、Aさんはこれを受け入れて1000円を支払い、宿題を写して提出しました。Aさん、Bさんの行為を「正しい」と判断した生徒はさっきよりも少なくなり、AさんもBさんも「悪い」と判断した生徒がやや増えたようです。

「金銭がからむと、判断は変わるのかな？」との中園先生の問いに、首を思いきり横に振る生徒、縦にふる生徒と、反応は分かれます。そして「この問題、正解はないんです」と中園先生。

ではこの問題を、倫理的・法的・社会的に判断すると、どうなるでしょうか？法的には、宿題をうつすこと、それに対し対価を求める・支払うことを禁じる法律はないので合法です。倫理的には、宿題を写すことは盗用であり、アカデミックスキルの観点からも不当とする考え方、あるいは、相手の了承を得ているので不適切な行為ではないとする考え方があります。そして社会的には、宿題は自分の力ですべきものであり、他人の努力に頼るのは宿題の本質を冒涜している、あるいは、宿題を写すのに1000円も要求するのは不当だという考え方になると中園先生は説明します。

ここで生徒は、倫理・法・社会で判断が異なることに気づきます。

AIを使うときのELSI

次は、近未来を舞台にした思考実験です。AIによる自動運転車が事故を起こし、通行人を傷つけてしまいました。この場合、誰が責任をとるのでしょうか？生徒からは「国」「AIの開発者」「運転手として乗っている人間」という3つの意見が出ました。

「人間が運転していた場合、人間が責任をとるよね？」中園先生の問いかけに、生徒は首を縦にふります。「じゃあ、AIが車を動かしていたら、AIが責任をとるのかな？AIは責任をとることができるだろうか？」生徒は首をかしげます。先生はさらに問いかけます。

「この違いは何だろうか。AIと人間は何が違うんだろう？そもそも責任って何だ。責任をとることができるのは、どんな存在か？どうすれば責任をとることができるのか？現代の責任と近未来の責任は、もしかしたら違うのかな？」

話が難しくなってきました。実はこの問題は、先に出てきた倫理・法・社会の話につながると中園先生は言います。

「倫理・法・社会が世界をどう見るのかはそれぞれに異なり、どの視点に立つのかによって考え方がかわるのです。このようにさまざまなテーマについて、倫理的・法的・社会的な視点から考えることを“ELSI（Ethical, Legal and Social Issues）”といいます」（中園先生）

ELSIは、アメリカでヒトゲノム研究が始まったときに生まれた言葉です。人間の遺伝情報を解析することが技術的に可能だとしても、それは本当に良いことなのか。社会にどんな影響を与えるのか。法的・倫理的・社会的な観点から検討することが求められたことから、ELSIの取り組みが始まりました。ELSIの対象となるのはヒトゲノムだけでなく、自動運転、AIなどさまざまなテーマが当てはまります。

「ELSI的に考えると、倫理・法・社会のいずれかが未整備だったり、宿題の思考実験のように、法的にはOKでも倫理的にはNGというように、互いに矛盾したりすることもありえます。そこで、たとえば法整備が追いついていないならば、法をどうすべきか。そういったことを考えていく必要があるのです」（中園先生）

では、AIをELSIの観点から検討してみると、どうでしょうか。先生は例として、マイクロソフトが開発したチャットボット「Tay」がSNSで差別発言を連発し、すぐさま停止したケースを取り上げました。この場合、自ら思考しないAIが差別発言をしたのだから、責任はないと考えるのか。AIであろうと、差別発言は悪であると考えるのか。Tayを停止する合理的な根拠は何か。責任の所在はどこにあるのか？

ここでは、責任の所在を問うのは法的な観点となり、差別発言はAIであろうと悪であるとするのは、社会的あるいは倫理的な観点になると中園先生。そして実は、この問題には、倫理と道徳の問題が混在していると指摘します。

「混同されがちですが、倫理と道徳は異なります。道徳は個人の中にあるもの、倫理は社会にある普遍的な理念です。ethics（倫理）とmoral（道徳）、どちらに基づいているのかも丁寧に検討する必要があります」（中園先生）

AIの差別発言一つをとっても、様々な切り口があることがわかりました。

AIと共生する社会に向けて

人間がAIを使う時代から、未来は漫画「ドラえもん」のように、人間とAIが協働共生する社会になる可能性もあります。夢物語のようですが、実はそのような状況はすでに現実に起きていると中園先生は言います。

たとえば犬型ロボットをペットとして飼い、かわいがる人がいます。壊れて動かなくなれば、生き物の死と同じように扱い、葬式を執り行うお寺もあります。人型ロボットを家族として迎え、一緒に遊んだり旅行に行ったりする人もいます。

「この話を聞いて、変だなぁと思う人のほうが今はまだ多いかもしれません。一方では、変ではないと思う人もいる。未来は一体、どっちへ向かっているんだろう？」（中園先生）

ドラえもんの話がSFではなく現実となったとき、人間とAIを同一視するポイントはどこか。そして、人間とAIを区別するポイントはどこなのか？AIと共生する未来の前には倫理・法・社会の壁が立ちはだかり、私たちはそれを現実問題として克服していかなければならないと中園先生は言います。

「何かわかったような、わからないような、どこへ向かっているのか何となくわかったような、わからないような話で、今日は終わります」と中園先生は締めくくり、最後まで答えを示されることなく授業は終わりました。

答えは、高校生が現実を生きながら自分たちで見つけていくものであり、そのときに「倫理・法・社会」の視点を持ち続けてほしい。中園先生からのメッセージを、高校生はしっかりと受け取ったはずです。