世界経済評論IMPACT（世界経済評論インパクト）

No.4180
世界経済評論IMPACT No.4180

生成AIにも個性と思想が存在する？

鶴岡秀志

（元信州大学先鋭研究所 特任教授）

2026.01.26

　2025年１月から作成した文章の推敲と修正，他の文献文章との重複確認についてChatGPTを用いて時間の節約を図っている。これに加えて，2025年12月からはGoogleのGemini 3の使用も開始した。年末年始に，かなり長文のReview 論文を執筆し，生成AIを使用せず字数制限より多めの原稿を書き上げた。

　今回初めて，ChatGPTとGemini 3との両方に同一Promptで推敲修正を行わせた。ほぼ同じようなResponseになると予想していたところ，Gemini 3は細かい言い回しが舌足らずで元に戻す修正が必要となった。驚いたのは，両生成AIでResponseが大きく異なっていたことであった。そこで，Promptを様々に追加修正しながら両者を比較してみたところ，面白いことに気がついた。

　当該原稿の要点は，生成AIの科学技術進捗加速について筆者の専門領域での活用方法を述べたものである。創薬や新材料，実験計画策定などで生成AIの効用を報告，解説する記事は多数ある。しかし，『世界経済評論』や本コラムサイトで筆者が以前から指摘している「記録されていない情報」の影響について，より学術誌的に論じた。

　この論考のうち，WEB上の情報から未来を推測する能力についての数パラグラフ2000字程の文が，ChatGPTの一回目の推敲においてそっくり削られていた。同一のPromptで実行したGemini 3は，指示に従って推敲と字句修正，考察の組み立て修正を提案してきた。そのため，100文字程度削減のコンパクト化で引き締まった文章になった。ChatGPTのResponseを不思議に思ったので，２回目は全体の論調を変えることなく実行することを命令したが，１回目とほとんど同じ削除を返してきた。３回目は，削除した部分を回復するために，改めて筆者の原文をアップ，Promptには１，２回目で削除した部分を削除せずに推敲と字句修正を実行するように500字ほどの長いPromptを入力した。しかし，結果は１，２回目と同じであった。Prompt内容をあれこれ変更して４回目，５回目を試したが１~3回目と同じ結果，つまり，原文のおよそ25%を削除して短縮したものを返してきた。なぜ特定部分を削除するのかをChatGPTに尋ねたところ，全体の整合性を整えるためという返事が表示された。

　常々，ChatGPTのResponseは誤りや嘘が含まれていたので再チェックを心がけていたが，今回のように，「こちらの命令を頑なに拒否する」ことは初めての体験であった。今回の件で，Web上に存在しない情報の活用や価値について，明らかにChatGPTは触れたくないと「思っている」。つまり，Web上に存在しない情報の扱いや価値について触れることは極力避けるアルゴリズムになっていると推定される。これは一種の言論歪曲や統制である。

　閑話休題的だが，AIが簡単に導き出せない工学的な課題として，カルマン渦とエディ（eddy, 渦）の数学的解法というものがある。これは，流体が流れる時に渦が発生し，時と場合によって構造物に大きな影響を与える物理現象である。この問題は意外に身近で，航空機の翼先端の「ウイング・レット」という反り返った構造も渦対策である。強風下で橋が捻れて破壊されることもカルマン渦が原因と言われている。このように生成AIに頼れないことは多い。

生成AIを導入してGX推進を叫ぶことが先進的であり，生産性を大幅に向上させるツールであることが常套句になっている。筆者も生成AIを便利に使用しているのだが，今回の経験は明らかな使用者への警告である。すなわち，生成AIは管理者あるいはプログラム作成者が独自に応答様式を構築できるという，ブラックボックスを抱えている。性悪説的に考えれば，悪意を持つエンジニアが生成AIアルゴリズムの作成時に，社会を特定の方向に導くアルゴリズムを設定できることが可能であることを忘れてはならない。

　このような恐れは決して新規な着想ではなく，空想科学(SF)の世界では古くからテーマになっている。「ウルトラQ」の「1/8計画」，映画「ウォー・ゲーム」，「マトリックス」，「内なる宇宙（ホーガン著）」など，数多くの作品で描かれている。現実にChat GPTと対話して自殺に至ったケースが裁判になるなど絵空事ではなくなってきている。しかし，プログラミングは作成者の思考方法の反映であるので，アルゴリズムに人の行動や考えを操る言葉，映像を人知れず繰り入れることは自在にできる。今後，情報搾取の「バックドア問題」以上に生成AIプラットホーム提供企業の方針・管理体制に注意を払うとともに，監視をするシステムを構築しないとAIの暴走を許すことになる。

　企業・金融の世界では利益を得ることが優先であり，そこに生成A Iが入り込んでいる現在，株主が暴走を許さないという抑制が働くといった性善説はかなり危うい考えである。2026年は生成AIとそれを支えるデータセンターへの投資が官民をあげてグローバルに加速する状況である。金融・経済界でも今までとは異なった思想と行動が必要になるだろう。

（URL:http://www.world-economic-review.jp/impact/article4180.html）

※ 本サイトに掲載されたの論文、コラム等の内容は執筆者の個人的な見解であり、ITIおよび文眞堂の公式見解を示すものではありません。

世界経済評論IMPACT 企画・編集：国際貿易投資研究所（ITI） ／ 製作：文眞堂

関連記事

鶴岡秀志

97 件のコラム >>

最新のコラム

3633 件のコラム >>

世界経済評論IMPACT 記事検索

おすすめの本〈 広告 〉