結論から言います。AIで作ったシステムは、「動く」けれど「守られていない」ことが多い。社内ツールやWebアプリをAIで作れるようになったいま、僕たちのところにも「作ったはいいけど、これ公開して大丈夫？」という相談が増えています。黒板に書いたとおり、答えはたいてい「セキュリティが抜けています」です。
なぜAIの開発はセキュリティが抜けるのか
AIが悪いわけではありません。AIは頼まれたものを作るのが仕事です。「顧客リストを登録できるアプリを作って」と頼めば、登録できるアプリを作ります。でも「悪意のある人がこの画面に変なデータを入れてきたら？」「URLを直接叩かれたら？」という悪意ある使われ方の想像は、頼まれない限りやりません。普通の人は頼みません。だから抜けるんです。
人間のエンジニアが何年もかけて体に叩き込む「疑いの目」が、指示ゼロでは入らない——ここがAI開発の構造的な弱点です。
公開前チェック5項目
- ① パスワードや鍵がコードに直書きされていないか——AIはサンプルとしてAPIキー（外部サービスへの合鍵）やパスワードをコードに埋めがちです。コードごと流出すると全部漏れます
- ② 入力欄に「変なもの」を入れても大丈夫か——名前欄に記号だらけの文字列を入れたら？ 数字の欄にマイナスを入れたら？ 入力チェックの甘さは、データ改ざんや漏えいの入口になります
- ③ URLを直接叩いてもログイン画面に戻されるか——管理画面のURLを知っている人なら誰でも入れる、という作りは本当によくあります。全ページで「ログインしていない人は弾く」が効いているか
- ④ 権限の区別があるか——一般ユーザーが管理者の機能を呼べないか。「画面にボタンが無い」と「機能が使えない」は別物です
- ⑤ データベースや管理ツールが丸見えになっていないか——公開設定のミスで、データベースがインターネットから直接触れる状態になっている事故は珍しくありません
この5つ、AIに「このコードを攻撃者の視点でチェックして」と頼むだけでもかなり拾えます。作らせたAIに、守りも頼む——まずこれが第一歩です。
それでも「自分の目だけ」で公開しないでください
ただし、AIのチェックにも限界があります。AIで作ったプログラムが動かなくなったときの話でも書きましたが、AIは自分の作ったものの穴を自分では見つけにくい。扱うのがお客様の個人情報・お金・取引データなら、公開前に一度だけでも専門家の目を通すことを強くおすすめします。漏えい事故が起きてからの対応費用と信用の損失は、チェック費用の比ではありません。
僕たちアントロワは、ゼロから作る開発だけでなく、「AIで作ったものをチェックする役」「作る途中の伴走役（サポーター）」としての参画もやっています。作る楽しさはあなたのものに、守りの責任は僕たちに。中小企業が安全にAIを導入する話とあわせて、公開ボタンを押す前にご相談ください(≧∀≦)
