最下段にコメント欄を設けました(14日以内)。
【注意】:「論文を読んで」は、全文翻訳ではありません。ポイントのみの紹介ですし、白楽の色に染め直してあります。
【追記:2017年1月22日】
2017年01月17日記事(有料):再現できない論文の退治法 – 高橋真理子|WEBRONZA – 朝日新聞社
●【概要】
生命科学論文は再現性が低いと指摘された。この点を改善すべく、2014年、米国・細胞生物学会は、研究再現性を高めるための再現性問題対策委員会(Reproducibility Task Force)を設けた。本論文は、2015年7月15日、その委員会がまとめた19ページの白書で、改善のための13指針を示している。
●【書誌情報】
- 論文名:How Can Scientists Enhance Rigor in Conducting Basic Research and Reporting Research Results
- 日本語訳:基礎研究の実施と研究報告で科学者の厳密さをより高めるには
- 著者: Mark Winey, Ph.D., Stefano Bertuzzi, Ph.D., M.P.H., Carol Greider, Ph.D., Doug Koshland, Ph.D., Connie Lee, Ph.D., Paul Mungai, Ph.D., and Brian Nosek, Ph.D.
- 掲載誌・巻・ページ:A White Paper from the American Society for Cell Biology
- 発行年月日:2015年7月15日
- PDF:https://www.ascb.org/wp-content/uploads/2015/11/How-can-scientist-enhance-rigor.pdf
- 対策委員会の委員長:マーク・ウィニー(Mark Winey) 写真出典(リンク切れ)
- 国:米国
- 学歴:1988年、米国・ウィスコンシン大学で研究博士号(PhD)取得
- 分野:細胞生物学。セントロソ-ム(centrosome)の遺伝学と分子生物学
- 所属・地位: コロラド大学(University of Colorado)・分子細胞発生生物学科・学科長・教授
- 対策委員会の他の委員:Stefano Bertuzzi, Ph.D., M.P.H., Carol Greider, Ph.D., Doug Koshland, Ph.D., Connie Lee, Ph.D., Paul Mungai, Ph.D., and Brian Nosek, Ph.D.
●【1.序論】
★背景
2013年10月19日の「エコノミスト」誌は、表紙に「科学はこうして堕落する(“How Science Goes Wrong”)」と示し、科学論文での研究再現性が低いことを大きく問題視した[The Economist (2013)“Trouble at the Lab”409:8858,Oct.19,p.26 – 30. (and an editorial on pg 13)](How science goes wrong | The Economist)。
日本語解説:科学はこうして堕落する | dancemanの日記 | スラド)(How science goes wrong | The Economist。
「エコノミスト」誌の記事が出版される少し前、「医薬品業界の実験室では学術界が報告した生命科学論文の研究結果を再現できなかった」という主旨の学術論文が複数出版されていた。上記の「エコノミスト」誌の記事は、これら学術論文を一般大衆向けにわかりやすく噛み砕いた記事だった。
学術界は、医薬品業界が指摘した研究再現性の低さを深刻な問題ととらえ、問題の解決に本気で取り組み始めた。
NIH所長のフランシス・コリンズ(Francis Collins、写真左)とNIH代理所長のローレンス・タバク(Lawerence Tabak、写真右)は「ネイチャー」誌にNIHの対策を発表した([Collins, F. S., and L. A. Tabak (2014) NIH plans to enhance reproducibility. Nature 505; 612-613. doi:10.1038/505612a] :Policy: NIH plans to enhance reproducibility : Nature News & Comment)。
再現性の分析そのものに問題があるという指摘もなされたが[Bissell, M. (2013) Reproducibility: The risks of the replication drive. Nature 503;333-334. doi:10.1038/503333a]、解決すべき問題点があることも事実である。
●【2.米国・細胞生物学会の取り組み】
★再現性問題対策委員会(Reproducibility Task Force)を招集
米国・細胞生物学会(ASCB)は、会員のほとんどが基礎科学の領域の生命科学研究者である。2014年、基礎科学の領域で再現性問題を調査し、改善点を示し、会員の研究活動をサポートする再現性問題対策委員会(Reproducibility Task Force)を招集した。
米国・細胞生物学会は再現性問題対策委員会(Reproducibility Task Force)に次のように委託した。
まず、再現性が低い問題にはいくつかの要因があるだろう。例えば、以下の要因だ。
- 研究成果の発表では熾烈な競争をする研究文化があり、そのために、論文では、他人が研究再現をしにくいように研究方法の詳細を記述せず、自分の発見を過度に強調する傾向がある。
- 論文ではポジティブな結果だけを発表するという強いバイアスがあり、ネガティブな結果を発表することが困難という状況がある。
- 論文の研究方法を記述するセクションには十分なスペースを設けないというジャーナル側の出版文化がある。
- 研究者側に統計スキルがなく、実験デザインが貧困である。
米国・細胞生物学会は既にこれらの要因を認識している。しかし、特に、基礎科学と細胞生物学の視点から、問題をさらに深く分析する必要があると考えた。
それで、再現性問題対策委員会(Reproducibility Task Force)に以下の注文をつけた。
- 文献的な調査をした後、実験再現性の根本的な問題点がなんであるかを調査し分析してもらいたい。
- NIH所長の諮問委員会が同じような再現性問題を検討しているので、その諮問委員会と密接に連絡を取り作業を進めてもらいたい。
- ただし、臨床研究と臨床前研究での再現性問題は対象としない。また、研究ネカトも対象としない。
★再現性の定義と「直接的追試」
従来、ほとんどの論文や記述は「再現性がない(Lack of reproducibility)」ことを定義しようとしていなかった。それで、「再現性がない」とはどういうことかが曖昧だった。
最初の問題は「再現性がない」ことの定義である。
「再現性がない」のは、しばしば、「あらゆる状況に対応できる言い回し表現(catch all)」として使われてきた。
「再現性の定義」に関して、多段階定義を採用すると以下の4段階がある[Schmidt, S. (2009). Shall we really do it again? The powerful concept of replication is neglected in the social sciences. Review of General Psychology 13, 90-100. doi:10.1037/a0015108]。
- 分析的再現。オリジナル論文のデータから得た結果を再分析して再現しようと試みる。
- 直接的再現。オリジナル論文の実験と同じ条件、材料、方法を使って同じ結果を再現しようと試みる。
- 体系的再現。オリジナル論文とは異なる条件〈例えば異なる細胞株やマウス系統〉で、オリジナル論文と同じ結果を再現しようと試みる。
- 概念的再現。異なる方法論(パラダイム)を使ってオリジナル論文の概念または発見の妥当性を再現することを試みる。例えば、脳地図は生物個体で異なるかもしれない(個体毎に若干異なる核と分子を持つので)。けれども、回路、エフェクター、効果は同じだろう。個体間を超えてオリジナル論文と同じエフェクターと効果を再現しようと試みるのが概念的再現である。
対策委員会は、「直接的再現」に焦点を合わせた。同じ条件、材料、方法を使えば、同じ結果が再現されるハズだと考えた。
「分析的再現」は、再現が上手くいかないとき、同じ条件、材料、方法を使いなさいと勧められる。つまり、「直接的再現」を試しなさいと言われる。
「体系的再現」「概念的再現」は、再現が上手くいかないとき、状況が複雑で、何が原因かを特定する判断は難しい。ここでの検討に適していない。
●【3.既存の枠内の9対策】
2015年7月、米国・細胞生物学会(ASCB)の再現性問題対策委員会(Reproducibility Task Force)は、調査と討議の末、(1)既存の枠内、または、(2)新しい活動の枠に、全部で13の改善点を提案した。
★訓練と良き師:研究文化
- NIHのトレーニング単元(NIGMS Training Modules)を習得させ、データ再現性コース(Enhance Data Reproducibility:RFA-GM-15-006)に申請するのを支援せよ。
- NIHのトレーニング単元(NIGMS Training Modules) → Clearinghouse for Training Modules to Enhance Data Reproducibility – National Institute of General Medical SciencesのNIH Rigor and Reproducibility Training Modules。
- 「世界的生物基準研究所Global Biological Standards Institute (GBSI)」と共同で、統計学または「信頼できる研究遂行(responsible conduct of research:RCR)」のトレーニング単元を習得させる。
生データを検討することの重要性を、院生・ポスドクおよび研究主宰者に思い出させる。すなわち、結果を過度に簡略化、パワーポイント図式化、いいとこ取り(cherry picking)をするのを避けさせる。
- なお、世界的生物基準研究所(GBSI)は、基礎研究の成果を臨床治療に橋渡しするトランスレーショナル段階を促進するため、最良の実施例と基準を提案し、生物医学の研究の質を強化する非営利組織である
上図。世界的生物基準研究所(GBSI)のレオナード・フリーマン(Leonard Freedman)所長が、2015年6月30日付けの記事「再現不能:解決可能な年28ビリオン(約2兆8千億円)問題」を書いた。その記事の図:Irreproducibility: A $28B/Year Problem with some Tangible Solutions | Insight & Intelligence™ | GEN
- ドラ(DORA)を支援し、「注目度が高い」少数のジャーナルにセンセーショナルな研究結果を出版するという論文文化を変える努力を続けさせる。
ドラ(DORA)は、「研究評価のサンフランシスコ宣言(San Francisco Declaration on Research Assessment)」の略称で、2013年5月13日、米国・細胞生物学会(ASCB)の会員と関連団体は、「論文の科学的重要性をインパクトファクターと関連付けない」と宣言した。この宣言は多数の研究者の支持を得ている。
- ドラ(DORA)のPDF
- ドラ(DORA)の日本語訳PDF
- 参考記事:欧州研究図書館協会(LIBER)、研究評価に関するサンフランシスコ宣言(DORA)に署名 | カレントアウェアネス・ポータル
- ドラ(DORA)の英語の説明:San Francisco Declaration on Research Assessment – Wikipedia, the free encyclopedia
★研究実施に出版ジャーナルで協力
- 米国・細胞生物学会(ASCB)のジャーナル「Molecular Biology of the Cell (MBoC)」は、NIHが提供する基準を積極的に出版すべきである(Principles and Guidelines for Reporting Preclinical Research – About NIH – National Institutes of Health (NIH))。
- 「MBoC」は、査読の質と一貫性を増すために「査読者チェックリスト」の使用を考慮すべきである。「査読者チェックリスト」は査読ではどの点をどう評価したかという一覧表である。
- 「MBoC」は、一次データ、研究材料、研究プロトコル、コードが容易に入手できる無料の科学アーカイブ(open science archives)または収納サイト(repositories)を利用するように著者に勧めるべきである。例えば次のサイトがある。
- Dryad (http://datadryad.org)
- Open Science Framework (http://osf.io/)
- Databib (http://databib.org)
★研究コミュニティベースの基準
- 細胞株認証ガイドライン(cell line authentication guidelines)などのNIHガイドラインの制定準備時に、基礎研究コミュニティの意見をNIHに伝えなさい。
「cell line authentication guidelines」 → Cell Line Authentication Guidelines
- 「世界的生物基準研究所 (GBSI)」など基準を発表しているグループ、あるいは、再現性問題に対処しようとしている「Reproducibility Project: Cancer Biology」などのグループに、基礎研究コミュニティの意見を伝えなさい。
「世界的生物基準研究所Global Biological Standards Institute (GBSI)」
「Reproducibility Project: Cancer Biology」
「Openness, Integrity, and Reproduciblity」
「Science Exchange」
- 研究再現性問題に対処する他の専門組織・団体・学会と共同歩調をとりなさい。
●【4.新しい活動での4対策】
まず、クリノンスキー教授の活動を説明する。
ミシガン大学のダニエル・クリノンスキー教授(Daniel Klionsky、写真出典)は、オートファジー (Autophagy) 分野の著名な研究者である。オートファジーは、細胞が細胞内のタンパク質を分解する現象で、「自食(じしょく)」とも呼ばれる。いろいろな細胞機能や病気とも関連している。
クリノンスキー教授は、学術ジャーナル「Autophagy」の編集長として、オートファジー分野の混乱を避けるために、2008年にオートファジー分野の測定法の研究基準のガイドラインを設けた。特定の測定法に使用した試薬の問題を含め色々な問題についてのクチコミサイトを設けた。クチコミサイトに研究者が意見を書き込み、研究者コミュニティの中でコンセンサスが得られていく。このようにして、研究者コミュニティに密着した研究基準のコンセンサス形成に成功している。
[Klionsky, D. J.,et al. (2008) Guidelines for the use and interpretation of assays for monitoring autophagy in higher eukaryotes. Autophagy 4; 151-175. PMCID: PMC2654259]
そこで、新しい活動の枠に以下の4指針を提案する。
- 会員に研究コミュニティベースの基準を学ばせる。
- 例えば、上記したが、ミシガン大学のダニエル・クリノンスキー(Daniel Klionsky)がオートファジー分野の測定法の研究基準を研究者コミュニティに密着してコンセンサス形成に成功したような事例を参考にする。
- 研究コミュニティのリーダーを育成し、細胞生物学会の年次大会や単発のワークショップで研究基準を議論するコミュニティ活動を積極的に支援する。
- 学会誌「MBoC」のオンライン・フォーラムに研究コミュニティの基準に関する記事を掲載し会員に情報を伝える。また、学会誌「MBoC」を、研究コミュニティの基準に関するコンセンサス形成の場にする。特に、再現性がなさすぎるとしばしば批判される高感度で重要な測定法について、研究コミュニティの基準に関するコンセンサスを形成する。
- 研究コミュニティをNIHや「世界的生物基準研究所 (GBSI)」などの外部の組織と連携させ、研究コミュニティの意見と専門知識を、同じ問題を扱う組織や政策決定機関に伝え、交流させる。
●【白楽の感想】
《1》正面から立ち向かう姿勢に感動
数年前、研究論文の再現性が低いと学術界でも世間でも問題視された。そのことに対して、「現状ではそんなもんだよ」と思う反面、世界的な規模でどこかが何とかしないとマズイと感じていた。「エコノミスト」誌が主張するように「科学はこうして堕落していくのだな」と感じていた。
白楽は、かつて、米国・細胞生物学会の会員だった。年次大会にも何度か参加した。米国・細胞生物学会の実情を知っている。米国でも小さな学会である。ただ、研究ネカトではかなり厳格で進歩的な学会である。
その米国・細胞生物学会が、対策委員会を設けて、正面から改善に立ち向かっている。ウ~ン、エライ! 感動!
《2》研究コミュニティベースの基準
アメリカ科学振興協会(AAAS)の活動は知っていたが、米国の政府系組織や学会組織以外のNGO(NPO)組織(例:Open Science Framework など)が研究システムの改善に取り組んでいることは知らなかった。
「研究コミュニティベースの基準」というやり方は現代では優れていると思う。ネットが普及して、研究者個人がネットで簡単に意見を表明できる。ある程度の議論もできる。研究ネカトでも、各分野の研究コミュニティをベースにした研究規範の基準を構築するのは、とてもいいアイデアだと思われる。
院生や研究者がウェブにアクセスし、どのような行為が研究ネカトに相当し、どうすると予防できるか? などの知識・スキルを提供するサイトを白楽が設置してもいい。イヤイヤ、そもそも、このバイオ政治学のサイトがそういう主旨だ。
研究ネカトに対する公益通報や相談に乗ってもいい。
ただ、日本ではビジネスモデルがない。米国で成功している「論文撤回監視(Retraction Watch)」は、金銭的助成を受けて活動している。同じような活動を展開することは能力・知力的に難しいが、日本では助成してくれる財団を見つけるのはほぼ不可能だろう。
そもそも、政策決定集団である官僚や学会ボスの思考にはないと思われる。彼らは無視するか弾圧してくるに違いない。もちろん、米国、ドイツ、ロシアでもそれらの勢力の弾圧と闘いながら運営している。
公的支援は求めにくいなら、気骨のある民間財団から援助受けるのが1つ。あるいは、気骨のある学者が数人集まって、他からの金銭的援助なしに高度な活動をする。ウ~ム。
もっと重要な点は、日本に多くの支援者がいるかどうかだ。
●【関連情報】
① 2015年7月15日の「phys.org」記事:ASCB task force on scientific reproducibility calls for action and reform
② 2015年8月28日 発信地:マイアミ/米国:心理学の研究結果、6割以上が再現不可能:AFPBB News
【追記】
①2015年10月11日:経済学の半分以上の論文は追試不能。Chang, Andrew C., and Phillip Li (2015). “Is Economics Research Replicable? ”, September 4, 2015, http://dx.doi.org/10.17016/FEDS.2015.083.
②2015年11月1日:Reproducibility and reliability of biomedical research | Academy of Medical Sciences
③2015年11月1日:Does the Reproducibility Project in Cancer Biology Offer a Model for a New Kind of Science Auditing? | Mendelspod