ニュースコメント[AIの暴走に備えよ、総務省が開発ガイドライン案]

2017/9/4 10:44 · ニュースコメント

AIの暴走に備えよ、総務省が開発ガイドライン案
AIは本当にブラックボックスだからねえ。ある学習を終えたAI(ディープラーニング)の全ノードパラメータを技術者が一覧したとしても、そのAIがどんな入力に対してどう応答するかを予測できないですから。いや、予測できるタイプのAIももちろんありますけど、世の中はそうじゃなくて、より楽な機械学習型のAIに向いているじゃないですか。マシンリソースとI/Oデバイスの発達で誰でも機械学習型AIを作れるようになって、だからこそ雨後のたけのこのように新興AI企業が湧いて出てきている。かく言う私でさえ、簡単な教科書を見ながら10層1万ノードくらいのディープラーニングプログラム作って遊んだりできるレベル。マシンパワーに依存しまくりで。だから、今世に氾濫しているAI(風のもの)は大半が機械学習式で、技術者がその動作を理解することはすでにできなくなっていると思ったほうが良いと思うのです。逆に、自動車のカメラ式アシスト、結構すさまじい精度で車線認識とかしちゃって、コレってAIなんじゃねーの、と思うくらいだったりするんですが（うちのはスバルアイサイト）、あれは本当に技術者がきっちりプログラムしてるんですよね。なんかそういうカッチリAIと、雲だけ準備して学習させたモンヤリAIを区別する言葉とか、作ったほうがよさそうに思うんですけどね。そうしたら、車の自動運転みたいな人命に関わる分野にモンヤリAIが関与することを防げるわけだし。ねえ。