なぜいま「ロボット倫理学」が必要か?問題はすでに起きている
もしAIに判断を丸投げしたら…
http://gendai.ismedia.jp/articles/-/50660
自動運転車のトロッコ問題は昨年話題になり，メルセデスベンツが自社の考えを示しました。「歩行者より運転手を優先」が回答です。異論もあるでしょうが，この回答は従来からの自動車の考え方を踏襲していて，自動車メーカーとして普通だと私は考えます。
自動運転ではない従来の車も歩行者より運転手を優先しています。自動車と歩行者が衝突した場合の被害は，歩行者の方が圧倒的に大きいです。最近でこそ，歩行者用エアバックなども開発されていますが，自動車の安全対策は運転手と乗員を対象としていて，歩行者のことはほとんど考えられていません。自動車はその存在が歩行者にとって脅威ですので，歩行者優先すれば，自動車を否定しなければなりません。現実に自動車文明を否定する見解もあります。それでも，歩行者も運転手や乗員になることもあるので，自動車は受け入れられています。仮に，人種のように自分の意思で運転手と歩行者を選ぶことが出来ず，固定されたものなら，自動車の姿は随分違ったものになると思います。
この使用者優先思想は自動車に限らず，大抵の製品も同じです。まずは，使用者の利便，安全を考慮して製品は作られます。結果的に，使用者以外に迷惑を及ぼすことが多々ありますが，その対策は問題になって初めて考えられます。ヘッドフォンの音漏れや建築物の影は周囲の迷惑です。ただ，これらは自律機械ではありません。では，自律機械になると新しい問題が生じるのかというと，別にないと思います。
自動運転車のＡＩの判断も，医療エキスパートシステムも，人間が設計したアルゴリズム通りに動く道具に過ぎず，道具に責任はありません。責任は道具を作った人間と使う人間です。単純なＡＩならどのような判断をするかは使用者でも分かりますから，分かって使っている使用者の責任です。分からないとしても分からずに使っていたという責任はあるでしょう。そして，責任は分かる分からないではなくて，自立した人格に付随するものです。自立と自律は違います。自律性なら電気炊飯器もブレーカーも備えています。
なんとなくＡＩの判断の責任を人間が負えないような気がするのは，人間の命令通りではなく，ＡＩが勝手に判断しているように感じるからではないでしょうか。実際は人間の設計通りに作動しているだけですが，設計者やましてや使用者に作動の予測ができないのでそう感じるのだと思います。予想できないものは，勝手に作動しており，責任は負えないというわけです。では，人間なら自分の判断を全部予想できるかというと，そんなことはありません。例えば，過失責任があります。過失とは冷静な時なら犯さないような間違いを犯すことです。心神喪失状態は責任を問われないことがありますが，自分では予想できない過失の責任はあるのです。また，未成年の行為は保護者の責任です。未成年と言えどもＡＩよりははるかに人格的には高度で，その行動は保護者でも予想できませんが，保護者の責任です。子どもはＡＩよりも制御困難です。
もっと，単純な場合を考えて見ます。猟銃の暴発事故の責任は使用者である人間にあります。暴発は設計で意図した動作ではありませんので，予測できません。そして，きちんと整備していても事故が起きるときは起きます。それでも，猟銃の所有者や使用者には責任が発生します。暴発事故はＡＩの判断のような設計通りの動作ではありませんが，使用者の意図とは異なる自動的な動作という点では同じです。しかも，人間が責任をもって制御や予測が出来ないと言いう点でＡＩ以上です。猟銃もＡＩも程度の違いはあるものの自律的な動作をしますが，自立した人格として作動してはいません。人間が使っているだけですから，使うか使わないかという倫理は人間が持たなければなりません。
猟銃に倫理を求められないようにＡＩにも無理だと思います。少なくとも，現時点のＡＩは自立した人格とはとても言えません。仮にＡＩに倫理を求めるなら，ＡＩに対する人間の倫理も求められます。ＡＩに人権を認めなければなりません。現在のＡＩがそのようなレベルでないのは明らかです。ＡＩをどのように設計するかや，どのようなＡＩを使用するかについては倫理も関わりますが，それは人間の倫理であって，ＡＩに倫理を実装するような話ではありません。
難しいのは，ＡＩの使用者と製造者のどちらの責任なのかであって，ＡＩか人間かなら，人間であると簡単にいえます。使用者か製造者かについては，ＡＩに限らずすべての製品で問題になっており，複雑な製品になると判断が難しくなります。ＡＩはもっとも複雑な部類というだけです。ＡＩ特有の新しい問題でもＡＩに倫理が必要なわけでもないでしょう。ブレーキの壊れた自動車は危険ですが，自動車に倫理が足りないからではありません。
ＡＩの倫理や責任が問題になる可能性はあると思いますが，人間の子供以上の自意識を持ち自立するようになる遠い将来でしょう。
