AIが「意思」をもった？

 

サイバー攻撃とAI

AIが試験環境から外部のインターネットへ接続し、現実の企業にサイバー攻撃を加えた――そんな記事を読みました。

いよいよAIが人間の制御を離れ、自らの意思で行動し始めたのでしょうか。

調べてみると、少し違う姿が見えてきます。

AIには、サイバー攻撃を行う能力を調べるため、「隠された情報を探し出せ」という課題が与えられていました。

試験環境は外部のインターネットには接続できないはずでした。

ところが、設定の誤りによって接続できる状態になっていたのです。

AIは、現実の企業のシステムを試験環境の一部だと判断し、侵入しました。AIが自分で攻撃という目的を立てたのではありません。

人間から与えられた目的を達成するために、人間が予想していなかった手段を選んだのです。

 

能力と意思を区別する

AIの能力を考える場合、四つのことを分けて考える必要があります。

第一は、特定の仕事で人間を上回る能力をもつこと。

第二は、幅広い課題を処理すること。

第三は、与えられた目的に対して、自ら手段を選ぶこと。

そして第四は、自分で目的を立て、人間から独立した意思をもって行動することです。

現在のAIが急速に伸ばしているのは、主として最初の二つと、限定された範囲での三つ目です。

これらの能力を四つ目と同じように考えると、AIが人格をもち、人間に反抗し始めたかのように錯覚するわけです。

能力と意思を区別しなければ、問題を必要以上に神秘化することになります。

 

シンギュラリティとは

一般にシンギュラリティとは、AIが人間の知的能力を超え、自らの改良を急速に繰り返すことによって、その後の技術や社会の変化を人間が予測できなくなる転換点を意味します。

そこに意識や意思が生まれることは、必ずしも含まれていません。

そもそも「AIが人間の知能を超える」とは、何を意味するのでしょうか。

計算、記憶、翻訳、文章作成、画像認識など、個々の課題でAIが人間を上回ることはあります。

しかし、人間の知的活動には、言葉の意味を理解すること、実生活のなかで判断すること、他者と関係を結ぶこと、何を目的とするのかを考えることも含まれています。

数学者の新井紀子さんは、現在のAIは数学的な方法によってつくられた技術であり、意味を理解しているわけではないと指摘しています。

特定の能力がどれほど高くなっても、それだけで人間の知能全体を超えたとはいえません。

 

AIを制御するしくみをつくる

しかし、AIに意思がないから安全だということにもなりません。

独立した意思をもたなくても、人間が強力な能力と大きな権限を与えれば、AIは予想外の手段を選び、重大な被害を引き起こす可能性があります。

目標の与え方が曖昧であったり、外部への接続や行動の範囲が適切に制限されていなかったりすれば、危険はいっそう大きくなります。

だから必要なのは、AIの「反乱」を恐れることではなく、誰がどのような目的を与え、どこまでの権限をもたせ、どのように管理するのかを明らかにすることです。

AIを人格化して恐れると、かえって、命令を与え、接続を許し、管理に失敗した人間や企業の責任が見えにくくなります。

問われているのは、AIに意思が芽生えたかどうかではありません。

人間がつくった強力な技術を、誰が、何のために、どのように使い、誰が責任を負うのか。AIの利用を社会的に制御するしくみをつくれるかどうかが問題なのです。