中学生の頃、科学部に所属していた。当時、アメリカ航空宇宙局（ＮＡＳＡ）の火星探査機バイキング号が火星着陸に成功したことに感銘を受け、理系、とくに宇宙研究に憧れていた。夢はかなわなかったが、後年多くの科学者を取材することになった。
宇宙航空研究開発機構（ＪＡＸＡ）の「はやぶさプロジェクト」を取材した際、小惑星イトカワの試料を地球に持ち帰る「サンプラー」を担当する矢野創さんが教えてくれた宇宙飛行士の言葉は今も胸に刻まれている。スペースシャトル「チャレンジャー号」爆発事故の犠牲となったエリスン・Ｓ・オニヅカが生前、地元ハワイの子どもたちに語った言葉だ。
「すべての世代には、前世代よりも高い見地から、新しい世界を見るよう心を開く義務があります」「いまや当たり前となっている多くの事柄も、前世代の目には非現実的な夢として映っていたものばかりです。もしみなさんにとって、過去の成果が当たり前のものになっているならば、みなさんが開拓できる新天地について考えてみてください」（オニヅカ著『風は偉大なる者を燃え立たせる』）
■捏造の連鎖に歯止めを
宇宙探査は本当に必要なのか。たびたび厳しい批判にさらされてきたからこそ、なぜ自分はその道に生きるのかが繰り返し問われる。宇宙研究を志して渡米した矢野さんは、オニヅカの言葉に背中を押され、向かい風に立ち向かう覚悟を決めたのだという。
先人の足跡の上に新たな地平を目指す。宇宙研究に限らず、科学とはそんな人間たちの営みであり、発明や発見はその積み重ねの先にある。私がこれまで出会った科学者たちに教えられたのは、そのことだった。
ところが今月はじめ、そんな認識を根底から揺さぶるような調査報告が世界的な医学誌ランセットに掲載された。コロンビア大学のＭ・トパーズ准教授らの「捏造（ねつぞう）された引用文献」と題する論文だ。
２０２３年１月から２６年２月までにＰｕｂＭｅｄという世界最大の医学生命科学文献データベースに発表されたオープンアクセス（無料で誰でも読める）の論文約２５０万本を調べたところ、約９７１０万件の引用文献のうち、４０４６件が実在しなかったというのである。著者が実在の研究者名だったり、それらしいタイトルだったりするため、掲載の可否を判断する査読委員の研究者や編集部にも見抜けなかったようだ。
このような事例は２３年には論文１万本あたり４件程度だったが、２５年末には５１・３件、今年初頭ですでに５６・９件と、捏造率は急増している。そもそもトパーズ博士自身、自分の論文をＡＩツールを用いて推敲（すいこう）していたところ、ＡＩが勝手に実在しない参考文献を入れてきたことが調査を行うきっかけだったという。
科学論文の信頼性は、引用された過去の論文の信頼の上に成り立っており、発明や発見は検証可能な情報源としての過去の参考文献があってこそ信頼できる。だが実際には悪意ある著者もいれば、ＡＩが引き起こすハルシネーション、すなわち実在しないものをあたかも実在するように答えるＡＩ特有の現象に無頓着な著者もいる。これが医学論文なら、私たちの生命や治療の判断に関わる。引用文献の６割が捏造だった腫瘍学の論文もあるというので原典を調べてみたが、現時点でまだ掲載が取り下げられていなかった。
ランセット誌はじめ科学界は引用文献の事前チェックやＡＩ利用法の開示を義務づけるなど対策を急いではいるが、捏造された論文をさらに上塗りするような捏造の連鎖のリスクは時々刻々と増している。信頼のおける複数の科学者に尋ねてみたが、みな由々しき事態だと頭を抱えていた。
ニセ情報をＡＩが学習し、さらにニセ情報の上塗りをすることは「モデル崩壊」と呼ばれ、生成ＡＩの開発で最も懸念される問題の一つといわれる。例えば野鳥のブログをＡＩが生成したとして、その誤りを放置したまま新たにＡＩがそのブログを学習したらどういうものが生成されるか想像してみてほしい。私自身、ニセ情報に何度も遭遇しており、ＡＩは万能の百科事典ではないと痛感している。ＡＩが生成する自信満々な間違いの増殖を人間に止められないなら、ニセ情報を検知するシステムを早急に開発する必要がある。
ＡＩを使うならば、ＡＩとは「自信たっぷりな間違い」をいけしゃあしゃあと生成するものだという前提で疑いながら付き合うしかない。有料版の生成ＡＩに「モデル崩壊」について質問したところ、こんな回答を返してきた。
「ＡＩにＡＩを食べさせ続けると、ＡＩは馬鹿（ばか）になる」。おまえが言うな、と言いたい気分だ。その言葉に特定の出典があるわけではなく、「学術研究の成果や技術的リスクをジャーナリストや専門家が一般向けにわかりやすく解説する際に用いられている比喩」らしい。うーん、本当かな。
とまれ、子どもも大人も、ＡＩ時代のデジタルリテラシーを急いで身に付けてほしい。
（さいしょう・はづき＝ノンフィクションライター）
