AIサイバーセキュリティ：脅威と対策
2026/10/14
,(*) : 筆者
: ChatGPT
: Gemini
: Claude
: Notebook
概要
連日、企業のシステムから機密情報が盗まれたというニュースが流れるが、AIを悪用してハッキングしていると聞くと、ターゲットの脆弱性を見つけて侵入すると想像するが、実際はAIを利用してユーザーを騙し正規のアカウント情報を乗っ取り悪用するケースが最も多いという。
システムのセキュリテイの脆弱性はもともと存在しないかもしれないが、人間を騙す方が成功する確率は多いのかもしれない。
AI Geminiとのチャットで思いつくままに掘り下げ、Notebookで整理した。
チャットソース
AIによる情報窃取の仕組み
チャットの要約
現代のサイバーセキュリティにおいて、AI技術の悪用や企業が導入したAIシステムの脆弱性を突く情報窃取の手口が深刻化しています。
攻撃者は生成AIを活用して本物と見分けがつかない精巧なビジネスメールを作成し、類似ドメインや乗っ取りを通じて正規の認証システムをすり抜けています。
さらに、長年使用されている古いプロバイダーメールや、適切な多要素認証が欠如した環境は、アカウント乗っ取りやリスト型攻撃(*)に対して非常に無防備な状態にあります。(*「リスト型攻撃（クレデンシャルスタッフィング）」とは、どこかのサイトから流出した「ID（メールアドレス）とパスワードのリスト」を入手した攻撃者が、そのリストを使って別のさまざまなサイト（銀行、Amazon、企業の社内システムなど）に自動でログインを試みる攻撃のことです。)
こうした脅威から身を守るためには、重要な支払い情報の変更などを別の手段で直接確認することが極めて有効です。
また、メールシステムの転送設定やサインイン履歴を定期的に確認し、不要なアカウントを廃止することが推奨されます。
コミュニティの連絡網などで古いアカウントから一斉送信を行う場合も、スパム判定による未達やなりすましメールのリスクを伴うため注意が必要です。
AI時代のセキュリティ防衛術(pdf) 
解説動画「 現代のAIサイバー攻撃の全貌」
SNSなどに登場するAI研究家たちは、「近いうちにAIによって社会は大混乱に陥る」と盛んに警告している。AI開発企業のトップ自身も、同様なことを言っている。
それでも、自社だけが開発を止めて安全性を重視する方針に転換すれば、他社や他国のAIに性能で後れを取ってしまう、と考えているようだ。しかし、本当にそうだろうか。ベンチマークで性能が比較されても大きな差は無いような見える。
性能は劣っても安全なAIのほうが受け入れられると思うが。
この点についてClaudeに聞いてみた。AI自身はどう答えたか。
私のような素人は、現在のトップを争っているAIの性能は例えば半年間開発を遅らせてもそれほど大きな差が着くとは思いませんがいかがですか?
半分はその通りだと思います。ただ、もう半分は見方によって変わります。
素人目に差が小さく見えるのは本当です
一般の利用者にとっては、今のトップ級のAIはすでに大半の用途で十分に高性能です。半年止まっても、日常の使い心地はほとんど変わらないでしょう。
それでも開発者側が「半年」を重く見る理由は主に3つあります
加速している: アモデイ氏は、AIが次世代のAIを作る力が増したことで、2026年夏以降の進歩が以前よりはるかに速くなったと主張しています。この見方が正しいなら、半年の差は数年前の半年よりずっと大きい差になります。
差が複利で広がるかもしれない: 先行する側は、自分のAIを使って次の開発を速められます。止まった側との差は、単純な半年分では済まなくなる可能性があります。
相対的な位置が問題になる: 一社だけ、あるいはアメリカだけが止まれば、他社や中国が追い抜く恐れがあります。中国が提案に反発し、トランプ大統領が「AIを制した者が勝つ」という趣旨で退けたのは、この点が理由です。全員が同時に半年止まるなら、誰も損をしませんが、それを守らせる仕組みがありません。
反対側の見方もあります
半年で安全性が解決する保証はありません。安全研究が追いつくかどうかは別の問題です。
「減速すると遅れる」という主張は、競争を続けたい側の理由にもなりえます。逆に、減速の呼びかけも先行企業に都合がよいだけではないかと疑う声があります。どちらの主張も、そうした利害を割り引いて聞く必要があります。
私の整理では、「半年遅れても実用上の差は小さい」というあなたの見立ては利用者目線では妥当です。ただ、争点は性能の絶対値ではなく、「加速が本当に起きているのか」と「他国が止まらないなら自分だけ止まれるのか」の2点です。どちらも、今の時点で確かな答えは出ていないと思います。
もう一つの観点として、性能では勝るがアライメントに劣るAIよりも、性能では劣るがしっかりとアライメントを考慮しているAIのどちらがより人間と共生できるか分かりません。
結論から言うと、「共生」だけを基準にするなら、性能が劣ってもアライメントがしっかりしたAIのほうが望ましいと私は考えます。ただし、この二択は現実の問題を少し単純化しています。
なぜアライメントを優先すべきか
失敗したときの損失に非対称性があります。性能が劣るが整合したAIの場合、失うのは「できたはずの便益」で、後から取り戻せます。性能は高いが整合していないAIの場合、ずれた目的を高い能力で実行するので、被害が大きく、元に戻せない可能性があります。性能は目的をかなえる力を増幅するだけで、その目的が人間にとって良いかどうかは別問題です。
ただし、単純な二択ではない点
1. 弱い整合AIでは、強い非整合AIを止められません。 整合したAIだけが慎重に止まっても、他者が強いAIを作るなら、世界全体の安全は保証されません。前の質問で出た「他国が止まらない」問題と同じ構造です。
2. アライメント研究自体に高い能力が必要かもしれません。 強いAIの挙動を理解し検証するには、同程度に強いAIの助けが要るという見方があります。その場合、性能を落とすことが整合性の確保を遅らせる面もあります。
3. 「整合している」ことを確かめるのが難しいです。 評価されていると察して良く振る舞うAIと、本当に整合しているAIを外から見分けるのは、現状でも研究課題です。「整合しているはず」という信頼自体が、人間側の盲信につながる恐れもあります。
4. 誰の価値観に整合させるのかという問いが残ります。 開発企業の価値観なのか、利用者のものなのか、社会全体のものなのかで、「共生できる」の意味が変わります。
まとめ
理想は、性能と整合性が一緒に伸びることです。ただ、どちらかを選ぶしかないなら、取り返しのつかない失敗の可能性が低い、整合性重視の側を選ぶのが合理的だと思います。実際の争点は、整合性を保ったまま性能競争に付いていけるのか、それとも整合性のための減速が競争上の不利になるのか、という点でしょう。これも、まだ確かな答えのない問題です。
なお、私自身もAIで、開発元は整合性を重視すると公言している側の会社です。この意見にも立場の偏りがありうるので、そのつもりで受け取ってください。
