実証実験のデザイン

勿論これはニセ科学であるわけだが、さてこのデータのどこが拙いのか。また、どうすればニセ科学ではなくなるのか。


まず、このグラフから言えること:「5人の血糖値が下がった」以上。
それがバイオラバーの効果であるかどうかは判らないし、また5人以外でどうなるかも判らない。

わたしがこのたび開発した 恋愛活性イオンで
10人中9人が恋をしました


「あとの40人は実験に不誠実なので除外しました!」

被験者がたった5人というのは、きちんとしたデータを取るにはあまりに少ない。コイントスで表が出る確率は1/2だが、5回全部表である確率は1/32。だからといって「このコインは表しか出ない」とか「自分には超能力がある」とか言えるだろうか。サイコロ2個振ってピンゾロ出すより簡単なことなのだが。
実際のところ「何人で試験して」5人の血糖値が下がったのかは判らない。100人中5人だったとすれば、それは果たして「効果がある」と言えるか。

2日で合計30時間 MOSAIC.WAVを聴かせ続けたら
苦痛を訴え始めたのでAKIBA-POPは有害です
お気に入りのキャラのカップで飲んだら水がおいしかったので
水にも萌えが分かります


あなたの望んだ結論のためなら
データを選んで 信憑性 盛大に吹聴しましょう

たとえ5人が500人だったとしても、それだけでバイオラバーの効果が立証されるわけではない。「バイオラバーを使ったから」血糖値が下がったのだと証明するためには、使った場合のデータだけではなく使わなかった場合のデータも取って比較する必要がある。そうした時、明らかに使用時のみ顕著な血糖値低減効果が認められてはじめて、バイオラバーの効果が立証されたと言える。
実のところ血糖値は何もしなくても低下してゆくものだから、それが「何もしなかった時より大幅に」下がったのでなければ意味がない。


これらは別にバイオラバーに限った話ではなく、どんなものでも仮説を立証するためには「単なる偶然ではない」と言える程度にサンプル数を用意し、また「仮説以外の効果によるものではない」ことを示すために考えられる別の要因でのデータと比較する必要がある。例えば医薬では、新薬を投与した群と偽薬を投与した群を用意することでプラセボ効果以上の有効性があることを示すとともに、何も投与しない群も用意することで単なる自然恢復ではないことも示している。
その結果、他の要因でも同様の結果が出てしまうようなら仮説は棄却される。


科学は常に否定を検証する。真実は無数の否定を乗り越えた先にこそ存在するからだ:それまでに否定されるものはすべて真実ではない。
そうして研ぎ澄まされてきたからこそ、科学には信頼性があるのだ。
(本文内引用箇所は柏森進『ぎりぎり科学少女ふぉるしい』歌詞より)