古いセキュリティでは企業のAIを守れない――AIを「止められる仕組み」を今つくる

セキュリティにはお金をかけなくていい。そう考えている会社は、まだ少なくありません。うちは小さいから狙われない、これまで何も起きていないから大丈夫、という感覚です。

私は、日本でも歴史に残るくらいの大きなサイバー攻撃が起き得ると考えています。脅したいわけではなく、そういう前提で備えておくべきだ、という話です。しかも今は、攻撃する側もAIを使えます。攻撃の手間が下がれば、狙われる会社の範囲も広がります。

AIは「中で動く」ようになった

少し前まで、AIは人が質問して、答えを読んで、人が判断する道具でした。いまは、AIが社内のデータを読みにいき、ほかのツールにつながり、実際に作業を進めるようになっています。

会社の外と中に線を引いて、入口を固める。これが長く続いてきたセキュリティの考え方です。間違っていたわけではありませんが、すでに中にいるAIが中のデータを読んで外のサービスとやりとりする以上、入口だけ見ていても中で何が起きているかはわかりません。

海外のセキュリティ企業Palo Alto Networksの解説でも、企業でAIが広がるなかで、見えるようにするだけでは足りず、AIのアクセス・使い方・データ・費用をリアルタイムに制御する仕組みが要る、と語られています。そこでは「AIコントロールプレーン」と呼ばれています。私の言葉で言えば、「AIのアクセス、データ、費用を、会社が途中で止めたり絞ったりできる仕組み」です。特定の製品の名前ではなく、考え方です。

「セキュリティは高い」も誤解

お金をかけなくていい、の裏返しで、セキュリティはお金がかかるから手を出せない、という声もあります。これも誤解だと思っています。

OSSにもいろいろな仕組みがすでに用意されていますし、今ならAIを使って自社に合った仕組みを作ることもできます。サイバー攻撃にAIが使われるとその強力さがよくわかるように、防御にもAIは同じくらい使えます。ログを読んで怪しい動きを探す、設定の抜けを洗い出す、社内のルールに合っているかを確かめる。どれもAIの得意な領域です。

助けられた経験と、間に合わなかった失敗

正直に言うと、狙ってやったわけではないのですが、パスワードマネージャーやMDM（会社の端末をまとめて管理する仕組み）を入れていたおかげで、いざというときの対応がとても楽だったことがあります。誰がどのアカウントを使っているか、どの端末がどこにあるかを会社が把握していて、必要ならすぐに変えたり止めたりできた。今振り返ると、あれは小さなコントロールプレーンでした。

セキュリティで大事なのは、どこかの会社で何かが起きたときに、自社もすぐ体制を変えられることです。何がどこにあるかわからない状態では、変えようにも変えられません。

逆に、慎重にやりすぎて、かえって間に合わずに失敗した例もあります。完璧な対策を決めてから動こうとして、検討しているあいだに状況が変わってしまう。AIの世界は動きが速いので、なおさらです。

判断基準：一部の人で、小さく試す

私の基準は一言で言うと「一部の人で試してみる」です。新しいセキュリティの仕組みも、AIの使い方のルールも、まずは数人で試し、合わないところを小さいうちに見つけて直します。戻せる判断は早く小さく、戻しにくい判断は慎重に。慎重さを使う場所を選ぶことが大切です。

また、外部サービスに頼っていれば安全、とは今は言えません。外部のサービスも攻撃の対象になり得ますし、自社のAIの使われ方を一番わかっているのは自社です。だからこそ、自社内でもAIを使って、自社に合ったセキュリティの仕組みを作っていく方がいいと考えています。

アクセス・データ・コストの三つを押さえる

• アクセス：そのAIが何に触れていいかを決め、必要な範囲に絞る。止めたいときにすぐ権限を外せるようにする
• データ：何をAIに渡してよく、何を外に出してはいけないかを決め、ルールと仕組みの両方に反映する
• コスト：月の上限を決め、近づいたら知らせ、超えたら止める

この三つが見えていて、止められる。それができていれば、AIは任せきりの存在ではなく、会社の制御下にある道具になります。

止められるから、安心して試せる

前回、AI導入を「実験」にするために、始める前にやめる条件を決めておく話をしました。止める手段があって、はじめてそれは実行できます。セキュリティは、AIの活用を止めるブレーキではなく、安心してアクセルを踏むための前提です。

今週、社内で使っているAIを一覧にして、それぞれ「何にアクセスできるか」「どんなデータを渡しているか」「月にいくらかかっているか」、そして「止めたいときに、誰が、どうやって止めるか」を書き出してみてください。空欄になったところが、最初の一歩です。