世界経済評論IMPACT（世界経済評論インパクト）

AIが映し出す「記録の盲点」：成功例の裏に沈むデータの闇

鶴岡秀志

（元信州大学先鋭研究所 特任教授）

2025.11.17

　朝に夕なにAIの話題を耳にしない日はない。WEB上では専門家による濃密な議論が交わされる一方，オールドメディアでは「AIで新商品」「AIで自動運転」「AIでリストラ」といった見出しが並ぶ。だが，AIをめぐる真の論点がどこにあるかを掘り下げる報道は少ない。最近では，英BBCがトランプ前大統領の演説を恣意的に編集した件が物議を醸し，主要国における旧来メディアへの不信を一層募らせている。AIが「真実をどう扱うか」を問う前に，まず私たちが「記録をどう扱ってきたか」を見直すべき時期に来ている。

データなきAIは「虚構の知性」

　AIを活用する上で最も重要な要素はデータである。OpenAIが発表した動画生成モデル「Sora」では，スタジオジブリ風の映像を「生成例」として提示したことで著作権問題が一気に顕在化した。AIは入力データなしには何も生み出せない。どれほど精緻なプロンプトを与えても，元となる情報が欠ければ精度は上がらない。筆者自身もChatGPTやGoogle AIをデータ検索やまとめに活用しているが，情報源や検索領域を明示するか否かで，出力結果の信頼度が大きく変わると実感している。

　たとえば，世界経済評論の読者の方々により近いテーマの，株式市場の予測を尋ねる際，「明日の株価は？」と聞いても答えは曖昧である。だが「米国経済指標〇〇に基づき，過去✖︎✖︎年の傾向から推定される株価は？」と条件を限定すれば，統計的根拠をもった出力が得られる。AIは“未来予測”を拒むが，“過去の再構成”には極めて敏感である。ゆえに，その「過去」がいかに歪みなく記録されているかが決定的に重要となる。

成功例だけを食べて育つAI

　AIの科学分野への応用も急速に進んでいる。近年注目を集める新素材開発や分子設計におけるAIの利用は，実は1980年代のスーパーコンピュータによる化学反応シミュレーションの延長線上にある。当時のスパコンの計算能力は，最新のスマートフォン程度にすぎなかったが，アミノ酸構造解析や触媒反応の研究はすでに始まっていた。スパコンによる交通渋滞や機械故障の予測など，科学技術分野全般で「シミュレーションによる最適化，未来の設計」が模索されてきた。

　しかし，今日AIが参照するデータベースに記録されているのは，そのほとんどが「成功例」である。研究論文や技術報告書として公表されるのは，結果が出た実験，理論どおりに動作したシミュレーションばかりである。膨大に存在する「失敗例」や「想定外の結果」は論文にならず，記録として残らない。したがって，AIがそれら成功例だけを学習して導き出す結論には，再現性や現実適合性に大きな偏りが生じる。AIの「正確さ」の限界は，むしろ人間社会が築いてきた“記録の偏り”に由来している。人口減少に直面している地方の公共交通の無人化でも大きな課題は予測の難しい自然災害時の対応である。現状では，「雨が降ったら運休」でしか運用できない。

記録されなかった知：老科学者の記憶とヒヤリハット

　この点を象徴的に描いたのが，フレデリック・フォーサイスの小説『神の拳』（角川文庫）である。1991年の湾岸戦争中，米空軍が爆撃したイラクの工場の航空写真に写った「巨人のフリスビー」をめぐり，情報当局の解釈に疑問を持った歴史・社会学研究者が米国国立研究所に問い合わせても正体不明。しかし，引退した老研究者に尋ねると，それはマンハッタン計画（広島・長崎に投下された原爆を研究開発した計画）時に却下された核爆発用ウラン濃縮装置で，公式アーカイブには記録されていなかったものだと明かされる。つまり，国家機密レベルの研究ですら，「失敗」や「不要」とされた記録は闇に葬られるという物語である。

　同じ構図は産業現場にも見られる。工場の安全教育では「ハインリッヒの法則」が基本とされる。300件の「ヒヤリ・ハット（軽微な異常）」が１件の重大事故につながるという経験則である。AIによる安全管理が進む現在も，「ヒヤリ・ハット報告」がなければAIは無力でしかない。なぜならAIは“過去のちょっとした異常”を知らなければ“未来の危険”を察知できないからである。

　さらに，いかにロボット化が進んでも，完全な均質性は実現できない。不良率100ppm（0.01%）という高水準の日本の製造現場でも，パーツ１つにつき１万個製造すれば１個は不良が出る。パーツ種類が増えれば故障率は幾何級数的に増大し，AIによる予測も膨大な実測データなしには成り立たない。オールドメディアが「現場作業者の経験値，音や振動からの異常発見をAI化する」という報道をするが，よく考えると，これは既存の設備だけに通用するものであり，次世代設備には通用しない可能性が高いものである。すでにデータセンターでは，半導体不良に起因する障害対策が最大の課題になっている。

「知の再構築」へ：データの記録倫理を問う

　AIの産業利用は今後，定型的な事務やプログラミングといった分野に浸透し，逆に人間の雇用を減らす。実際，米国ではコンピュータ・サイエンス専攻の新卒者が就職難に直面し，エンジニアの大量解雇も進行中だ。次に影響を受けるのは，メディア，広告，法務など，知的労働の象徴とされてきた職種だろう。その一方で，AIが代替できない配管・配電・修理といった現場作業の価値は上がる。AI社会とは，皮肉にも「デジタルの知」と「手の知」が再び交差する時代なのである。

　近年，AIを活用した農業に挑戦する若者が増えているという。これは単なるテクノロジー導入ではなく，「現場の経験を記録する文化の再構築」でもある。AI時代に必要なのは，新しいアルゴリズムではなく，「何を記録し，何を捨ててきたか」という人間側の記録倫理である。成功例の光の裏で埋もれた無数の失敗や異常の記録を掘り起こすことこそ，AIの真の知能を育てる唯一の道ではないだろうか。

おすすめの本〈 広告 〉

• 大転換時代の日韓関係 伊集院 敦・日本経済研究センター 編著 本体価格：3,500円＋税　2025年5月
  文眞堂
• 日本経営学会東北部会発　企業家活動と高付加価値：地域中小企業を中心に 下畑 浩二・佐々木 純一郎 編著 本体価格：2,600円＋税　2025年6月
  文眞堂
• サービス産業の国際戦略提携：1976～2022：テキストマイニングと事例で読み解くダイナミズム 中村裕哲 著 本体価格：4,000円＋税　2025年8月
  文眞堂
• 中国鉄鋼業：生産システム，企業，産業の三層構造と産業政策 銀　迪 著 本体価格：4,000円＋税　2025年8月
  文眞堂
• 企業価値を高めるコーポレートガバナンス改革：CEOサクセッション入門 黒木彰子 著 本体価格：2,200円＋税　2025年5月
  文眞堂
• グローバルサウス入門：「南」の論理で読み解く多極世界 西谷　修・工藤律子・矢野修一・所　康弘 著 本体価格：2,200円＋税　2025年9月
  文眞堂
• これさえ読めばすべてわかるアセットマネジメントの教科書 川野祐司 著 本体価格：2,900円＋税　2025年9月
  文眞堂
• 国際マーケティングの補助線 唐沢龍也 著 本体価格：2,700円＋税　2025年9月
  文眞堂