10月19日のIT House News、ワシントン・ポスト紙によると、AIが人間の記憶を改ざんできる可能性があることが研究で判明したという。実験は、結婚式、街路、レースシーンなど、24 枚の普通の写真から始まりました。 MITメディアラボ教授のパティ・メイズ氏とその同僚は、これらの写真を200人の被験者に見せた。
少し休憩した後、元の絵をもう一度見た人もいました。 AI で修正されたバージョンを見た人もいます。登場人物の表情が変更されたり、写真に軍事イメージが追加されたり、気候変動関連のシーンが追加されたりしました。
その後、研究者らは記憶力テストを実施した。
メッツ氏はその結果を見てショックを受けました。AIによって改ざんされた写真を見た被験者は誤った記憶を持つ可能性が高かった。さらに悪いことに、彼らはこれらの誤った記憶に自信を持っていたと彼女は言いました。
「基本的に、これはすべて非常に危険だと思います」とメイズ氏は語った。
これまでのところ、一般の人々の懸念の多くは、一部の研究者が「認知的放棄」と呼ぶものに焦点を当てていた。つまり、機械がより多くの思考タスクを引き受けるにつれて、人々はますます意欲を失い、機械から与えられた情報を精査することができなくなるだろう。しかし、あまり注目されていない別の可能性があります。AIは私たちの記憶そのものを変えてしまうかもしれない。
政治的出来事、犯罪、さらには新しい映画の認識に関する新たな研究群は、AIが生成した画像や対話が人間の脳に誤った詳細を埋め込み、これまで起こったことのない特定のことが現実であると人々に強く信じさせる可能性があることを示した。
記憶とは、単に過去を保存することだけではありません。それは、現在を理解し、将来を予測し、自己認識を形成し、対人関係を維持し、個人および集団の意思決定を導くのに役立つ知識と経験を提供します。
しかし、記憶自体は人間の心の欠点の 1 つでもあります。私たちは経験したことのほんの一部しか覚えておらず、詳細は消え、記憶は曖昧になり、思い出すたびに記憶そのものが変化します。
AI はこれらの欠点を補うことができるようです。AI は大量の情報を保存し、数秒以内に取得し、人間が永久に失った可能性のある詳細を取得することができます。しかし、これらの機能には潜在的なリスクも伴います。 AI システムは過去を保存するだけでなく、過去の情報を解釈、要約、再構築し、時には間違いを犯します。
その影響は、写真や会話の記憶違いをはるかに超えています。交通事故から性的暴行事件に至るまで、目撃者の記憶がいかに容易に歪曲され得るかが何十年もの研究で明らかになっているにもかかわらず、法廷手続きは多くの場合、目撃者の記憶に依存している。そして歴史そのものは、個人と社会が何を保持し、忘れ、そして最終的に何を信じるかを選択することに依存します。
人間の記憶には本質的に欠陥がある
Metz は人工知能の分野のパイオニアです。彼女は 35 年以上にわたるキャリアの初期に、初期のインターネットの基礎を築いたアルゴリズムの一部の開発に貢献しました。しかし、彼女は長い間、AI の別の可能性にもっと興味を持っていました。それは、機械が人間の知能に取って代わることではなく、人間の知能を拡張することです。
メイズにとって、この問題は極めて個人的なものである。成長するにつれて、母親は日常生活の一部を忘れ始めました。
「母は昨日誰がここにいたのか、何を言われたのか忘れてしまうのです」とメイズさんは言い、「娘は2週間後にここに来ると言いました」と自分のメモを書いていたという。
メイスは、メモ帳よりもはるかに強力なツール、つまり人の人生を静かに記録できる記憶アシスタントを構想し始めました。
アルツハイマー病やその他の認知症の人にとって、この問題は特に緊急です。このタイプの病気は通常、記憶喪失を特徴とし、患者が自立して生活する能力を奪います。
Metz の研究チームは、数世代にわたる外部メモリ システムを構築してきました。 Memoro と MemPal は AI に依存しており、ウェアラブル デバイスやポータブル デバイスと組み合わせて、日常生活の断片を収集し、後で簡単に検索できるようにします。会話で誰かが言ったことを忘れましたか?システムに問い合わせることができます。鍵をどこに置いたか思い出せませんか?システムがそれを見つけられる可能性があります。
このアイデアは、老化した脳に記憶力を向上させるために一生懸命働かせるのではなく、脳を別の記憶バンクに接続するというものです。
高齢者に対する早期の検査結果は有望である。メイズさんは、現在96歳の母親は認知機能の低下が重すぎてテクノロジーの恩恵を受けることができないと語った。しかし、科学者は、将来、自分自身の生物学的記憶が低下したときに、そのようなシステムが多くの人々が自立した生活を維持するのに役立つだろうと非常に楽観的です。個人的な生活のストーリーを記録する対話型リコールツールや、歯磨きなどの日常活動を支援するパーソナライズされたスマートグラスなど、同様の商用製品がすでに市場にいくつか登場しています。
しかし、機械が私たちの記憶の延長になったら、私たちが自分自身で形成する記憶はどうなるでしょうか?
AIへの依存度の増加
Metz による別の一連の研究は、この問題について明確な証拠を提供しています。
昨年発表され、現在査読中の実験では、54人の被験者が幸福の意味などのテーマについてSATスタイルのエッセイを書くように求められた。あるグループの人々はネットワーク ツールをまったく使用しません。 2 番目のグループは Google 検索を使用できますが、AI を呼び出して回答を生成することはできません。 3 番目のグループは ChatGPT を使用できます。
執筆プロセス中に、頭皮電極が脳の電気活動を記録したところ、その違いは非常に明白でした。独立して執筆した被験者は、脳の異なる領域間で最も強力かつ最も広範囲に分布した神経接続を持っていました。 Googleを使用した被験者は中間でした。 ChatGPTを使用した被験者は脳の接続が最も弱かった。
続いて、被験者は今書いた作文を暗唱するように求められました。 ChatGPT に依存している人は、自分が書いた単語を思い出すのが難しいと感じました。
IT House によると、記憶とは単に脳内に情報を保存することではありません。注意、主観的な努力、情報の検索、関連付けのすべてが連携して記憶を強化します。生成 AI は、そうした精神的な作業の一部を不要にします。
ペンシルベニア大学ウォートン校のマーケティング准教授ギデオン・ナベ氏とロンドン・キングス・カレッジ助教授スティーブン・ショー氏はAIが人間の認知に及ぼす影響を研究し、より深い懸念を提起している。ナブ氏は、スーパーAIが人間の制御を掌握するというハリウッドの悪夢についてはそれほど心配していないが、人間が機械に代わってできる能力を徐々に行使しなくなるという、もっと潜伏性のリスクを心配している。
同氏はさらに、「今後起こる可能性の高いのは、AIが世界を征服するというよりも、人間の能力が低下することだ」と付け加え、将来的には「思考がオプションになる」ことを懸念している。
研究者が「スキル低下」と呼ぶ現象の兆候はすでに現れている。 Xiao氏は複数の研究について言及し、AIを使って仕事を支援することに慣れている人（がんの診断をAIに頼る医師など）は、この一連の補助ツールを失うと仕事のパフォーマンスの低下を経験するだろう。
2025 年に『The Lancet Gastroenterology and Hepatology』に掲載された研究では、この潜在的な影響が明らかになりました。研究者らは、19 人の上級医師による約 1,500 件の結腸内視鏡検査の評価を観察し、医師が AI を定期的に使用した後、前がん病変を独自に検出する能力が約 20% 低下したことを発見しました。
「彼らは以前のようにこの脳力を行使していない」と彼は言う。 「使うか失くすか」
子どもたちについては、より根本的な問題を懸念している。それは、中核となる認知能力が完全に発達する前に、頭の働きを AI にアウトソーシングしている可能性があるということだ。 「彼らは最初から批判的思考スキルを身につけることができないかもしれません。」
もちろん、これは、ChatGPT などの AI ツールの使用が必ずしも機能の低下につながるという意味ではありません。既存の最近の研究は、一般的な AI の使用が必ずしも認知機能の低下や永続的な記憶障害を引き起こすことを証明していません。関連する研究はまだ初期段階にあります。人間は長い間、そろばん、時計、辞書、電卓などの記憶と思考を外部委託するツールを使用してきました。
しかし、生成 AI は新たな変数をもたらします。取得した情報を解釈するために私たちは AI にますます依存しており、人々は AI の言うことをすぐに受け入れます。ナフとショーの実験では、被験者はたとえ間違った情報を受け取ったとしても、AIの提案に高い割合で従った。
AI が失敗すると何が起こるでしょうか?
今週、AIの倫理と社会の分野の研究者らがスウェーデンのマルメで年次会議を開催した。多くの人が同じ質問に注目しました。人工知能が人間の記憶に干渉し始めたら、どのような結果が生じるのでしょうか?
ますます多くの研究が、生成 AI が驚くほど長期にわたる方法で記憶に干渉する可能性があることを示しています。つまり、記憶を歪め、自分の考えと機械が生成したコンテンツとの境界があいまいになり、さらには、決して起こらなかった出来事の記憶を植え付けることさえあります。
ある研究では、研究者らは被験者に犯罪ビデオを見てもらい、生成型AIチャットボットによる質問を受けさせた。被験者は対照群に比べて3倍多くの偽記憶を生み出した。別の実験では、被験者はAIの支援の有無にかかわらずアイデアを思いついた。 1 週間後、彼らはどのアイデアがマシンから来たもので、どのアイデアが自分たちのものであるかを区別するのが困難になりました。
他の実験では、AIが生成した誤った情報によって、人々は存在しなかったものを思い出す可能性があることが示されています。ある実験では、被験者のほぼ半数が、ウィル・スミス主演の『マトリックス』など、制作されていない映画のリメイクを誤って記憶していた。別の実験では、AIが生成したビデオにより、人々は実際には起こらなかった政治スキャンダルを覚えていると信じ込まされた。しかし研究者らは、偽の記憶を作り出す点ではディープフェイク動画が平文よりも常に優れているわけではないと指摘している。
新しい研究証拠は、この問題の解決が研究者が予想していたよりも難しいことを示しています。
企業や政府機関は AI の導入を急いでいます。警察は AI を使用してボディカメラの映像を要約しようとしていますし、病院は AI を使用して医療データを整理しています。ジョージタウン大学マスデータ研究所の助研究員マッテア・シム氏は、最も一般的なセキュリティ対策は人間の介入を避け、機械エラーのトラブルシューティングを人間に任せることだと述べた。
しかし、この計画の前提は、人間が独立して機械を検証できることです。シムの研究は、影響の方向が逆である可能性があることを示しています。AI は、人間が AI エラーのトラブルシューティングに使用する判断と記憶を変更し、人間の監視層の保護が根本的に無効になります。
最近の実験で、シム氏は 331 人を募集し、車が歩行者に衝突する短いアニメーションビデオを視聴してもらいました。 1 ～ 2 日後、被験者は AI が生成した事件の概要を読みました。ビデオ内の交通標識を正確に説明する概要を受け取った人もいました。 AIが自信を持って誤った識別情報を提供したという概要を受け取った人もいた。
正確な概要を理解した被験者のほぼ 84% がロゴを正確に思い出すことができました。誤解を招く要約を受け取った被験者の正確さはわずか約 45% でした。たとえこの要約がAIによって生成されたものであることを被験者に事前に伝えたとしても、被験者はその影響を避けることはできません。
「AIが間違いを犯すことは一般的に知られている」とシム氏は言うが、研究によると「人間による監視はこの問題に対する良い解決策ではない可能性がある」という。
