【検証004】別々の人の体験談が、同じ雛形から出てきていた
別々のアカウントが出していた「体験談」を2本、並べて読みました。
テーマはまったく違います。片方はコンテンツを作って売る話で、もう片方はお金まわりの話。書き手も別人です。
なのに読み進めるうちに既視感がどんどん強くなってきて、途中でやめて、2本を左右に並べて突き合わせることにしました。
結論から書きます。同じ雛形の出力でした。
何を検証したか
検証したのは手法ではありません。
この2本が、それぞれ独立した体験の記録として読めるかどうか。そこだけを見ています。
体験談が根拠として働くのは、書いた人が実際にやって、実際に起きたことを書いているからです。同じ雛形にトピックだけ差し替えて出力されたものなら、そこに書かれた「月◯万円」は誰の実績でもない。
だから、まず雛形かどうかを確かめる必要がありました。
突き合わせた結果
固有名詞は伏せます。手法名・サービス名・AI名はすべて ◯◯ に置き換えました。それ以外は原文のままです。
| 記事A | 記事B |
|---|---|
| そう思ってた僕が、去年から始めた「◯◯ × ◯◯」で、7月時点で【月27万円】を…(個人差はありますが) | そう思ってた僕が、去年から始めた「◯◯ × ◯◯」で、7月時点で【月32万円】を…(個人差はありますが) |
| 「そんな都合のいい話ある?」と思うかもしれません。僕自身、半年前まで同じことを思ってました。 | 「そんな都合のいい話ある?」と思うかもしれません。僕自身、半年前まで同じことを思ってました。 |
| でも実際にやってみたら、…「これ、構造がまるで違うな」というのが正直な感想です。 | でも実際にやってみたら、…「これ、構造がまるで違うな」というのが正直な感想です。 |
| 「時間はもう増やせないんだよな」その壁にぶつかっていたとき、 | 「時間はもう増やせないんだよな」その壁にぶつかっていたとき、 |
| 半年前まで僕は、いろいろ手を出して月4万から7万をウロウロしていました | 半年前まで僕は、いろいろやって月4万から7万しか◯◯に入金できませんでした |
| 1度書いたものが、半年後にもう1度売れる。放置が効くのはこの構造のおかげです。 | 1度書いた記事が、半年後にもう1度読まれる。放置が効くのはこの構造のおかげです。 |
見出しの並びも一致します。「◯◯が強すぎる理由」→「そもそも◯◯は、△△な人ほど向いている」→「半年前の僕は、完全に頭打ちでした」→「4STEP全公開」→「実際の月次推移」→「何度か失敗もしました」→「ここまで読んでくれた方へ」→「最後に」。
順番まで同じでした。
ちなみに2行目、疑問符が片方は全角で片方は半角になっています。どこかで一度コピーを経由した跡かなと思っています。
一致率を計算する
「似てますよね」で終わらせると、それはただの印象です。数字にしました。
文字単位で一致率を出しています。16箇所を照合して、そのうち代表的な8組がこちら。
| 組 | 一致率 |
|---|---|
| 1 | 98.1% |
| 2 | 97.8% |
| 3 | 100.0% |
| 4 | 100.0% |
| 5 | 66.7% |
| 6 | 91.1% |
| 7 | 96.2% |
| 8 | 100.0% |
平均93.7%。8組のうち3組は、1文字も違いませんでした。
組の番号は、この下に置いたコードの並び順に対応します。上の突き合わせ表に載せたのは、そのうち1〜6組です。
一致率が最も低い5組目(66.7%)も、中身を見れば「半年前まで僕は」で始まって「月4万から7万」で止まる骨格は共通していて、後半の言い回しが差し替わっているだけです。
使ったコードも置いておきます。
from difflib import SequenceMatcher
pairs = [
("そう思ってた僕が、去年から始めた「◯◯ × ◯◯」で、7月時点で【月27万円】を…(個人差はありますが)",
"そう思ってた僕が、去年から始めた「◯◯ × ◯◯」で、7月時点で【月32万円】を…(個人差はありますが)"),
("「そんな都合のいい話ある?」と思うかもしれません。僕自身、半年前まで同じことを思ってました。",
"「そんな都合のいい話ある?」と思うかもしれません。僕自身、半年前まで同じことを思ってました。"),
("でも実際にやってみたら、…「これ、構造がまるで違うな」というのが正直な感想です。",
"でも実際にやってみたら、…「これ、構造がまるで違うな」というのが正直な感想です。"),
("「時間はもう増やせないんだよな」その壁にぶつかっていたとき、",
"「時間はもう増やせないんだよな」その壁にぶつかっていたとき、"),
("半年前まで僕は、いろいろ手を出して月4万から7万をウロウロしていました",
"半年前まで僕は、いろいろやって月4万から7万しか◯◯に入金できませんでした"),
("1度書いたものが、半年後にもう1度売れる。放置が効くのはこの構造のおかげです。",
"1度書いた記事が、半年後にもう1度読まれる。放置が効くのはこの構造のおかげです。"),
("これに気づいて動いてる人は、まだそんなに多くないです。僕は、こっち側に来ました。よかったら、隣に来ませんか?",
"これに気づいて動いてる人は、まだそんなに多くないです。僕はこっち側に来ました。よかったら隣に来ませんか?"),
("正直、有料で売っても遜色のない内容だと思っています。でも、LINE登録してくれた方には無料でお渡しします。",
"正直、有料で売っても遜色のない内容だと思っています。でも、LINE登録してくれた方には無料でお渡しします。"),
]
total = 0.0
for i, (a, b) in enumerate(pairs, 1):
r = SequenceMatcher(None, a, b).ratio()
total += r
print(f"{i}: {r*100:5.1f}%")
print(f"平均: {total/len(pairs)*100:.1f}%")
print(f"完全一致: {sum(1 for a, b in pairs if a == b)}/{len(pairs)}")
決定的だったのは、AIの比較表
ここからが本題です。
2本とも、「実際に3社の主要AIで比較した結果です」と書いたうえで、比較表を載せています。実験をした、という体裁になっている箇所。
AI名も伏せて、AI-1/AI-2/AI-3と置きます。左右で同じ番号は同じAIを指します。
| 記事Aの結論 | 記事Bの結論 | |
|---|---|---|
| AI-1 | 構成は速いけど、教科書みたいな文章になりやすい | 数値計算・パターン網羅・シミュレーションが異次元 |
| AI-2 | リサーチは強いけど、文章の温度が上がらない | リサーチは強いけど、シミュレーションの深さが浅い |
| AI-3 | つまずいた実感が書ける。読み物として成立する | 文章の温度は最強だけど、数値計算とパターン網羅がやや弱い |
同じ3社を比べて、AI-1の評価が正反対になっています。
記事Aでは「教科書みたい」と切られ、記事Bでは「異次元」と持ち上げられる。そしてAI-3は、その逆をやられている。
つまり、それぞれの記事が推したいAIが1位に来るように、評価だけが入れ替わっているわけです。
見てほしいのはAI-2の行です。
記事A:リサーチは強いけど、文章の温度が上がらない
記事B:リサーチは強いけど、シミュレーションの深さが浅い
「リサーチは強いけど、〜」まで同一で、そのあとだけ差し替わっている。両方で噛ませ犬の位置に置かれていて、負かされ方の文型まで共通です。
これは実験の結果ではありません。推したいAIに合わせて中身を入れ替えられる、穴埋め欄です。
3社を比較したのではなく、比較したという体裁の枠に、結論を後から流し込んでいる。
判定:⬛ 検証不能
破綻ではありません。
破綻は「計算が合わない」「記事の中で矛盾している」ときに付けるラベルで、今回はそれ以前の話です。
検証しようにも、検証の対象になるデータが存在しない。
書かれている月27万円も月32万円も、誰かが実際に稼いだ金額なのか、雛形に元から入っていた数字なのかが判別できません。判別できない数字は、検算しても意味がない。同じ理由で、月次推移の表も、失敗談3つも、根拠としては数えられません。
いつもなら「その月◯万円は売上なのか、手数料と税を引いた手取りなのか」を聞くところなんですが、今回はその手前で止まります。どちらの数字も両方の記事に書かれていなくて、しかも誰の数字か分からない。定義を問う相手がいません。
だからこの2本は、手法の有効性を示す証拠として使えない、という判定になります。
ここは強調しておきたいところで、手法が無効だと言っているわけではありません。
証拠にならない、と言っているだけです。この2つはまったく別の話で、混ぜると今度はこちらが雑な断定をすることになる。
この2本から持ち帰っていいもの(再現条件)
とはいえ全部が使えないわけでもないので、線を引いておきます。
- 金額・月次推移・「◯ヶ月で達成」の類 → 使えません。出所が確認できない
- 比較表・ランキングの結論 → 使えません。穴埋め欄なので
- 構造の説明(「1度作ったものが後からもう1度売れる」など) → 出所と無関係に、自分で確かめられます
3つ目だけは、雛形かどうかと関係なく成立するかしないかが決まります。誰が言ったかではなく、やってみれば分かる種類の話なので。
なので、こちらで実際にやります。第2階層の検証で扱う予定です。
ちゃんと合っている部分の話
雛形だと分かったあとでも、この文章がうまいことは認めざるをえません。
「時間はもう増やせないんだよな」という一文。ここ、読ませる力があります。副業を考える人が最初にぶつかる壁を、正確に一行で言い当てている。
失敗談を3つ挟む構成も、信頼を作る装置としてよくできています。順番まで型として決まっているのが分かってしまうと、それはそれで感心してしまうんですが(笑)。
あと、「個人差はあります」を必ず入れている点。誠実さの演出として機能しているのはその通りだけど、書いていること自体は正しいです。
手法の説明部分にも、たぶん正しいものが混ざっています。 地味なテーマは競合が薄い、決済が同じ画面で完結すると離脱が減る。このあたりは構造から考えて筋が通っている。
雛形から出てきた文章だという事実は、そこに書かれた主張を自動的に間違いにはしません。
確かめる方法が、実際にやってみること以外にないというだけです。
今回かかったもの
- 費用:0円
- 時間:約40分(突き合わせと一致率の計算)
- 売上:0円
時給換算はまだ出しません。売上が0なので計算すれば0円ですが、それは数字として何も語っていないので。しばらくは、続けられているかどうかだけ見ます。
次にやること
同じ雛形が、ほかに何アカウントで使われているか。
特徴的な一文で検索すれば、これも0円で調べられます。2本で雛形なら、3本目以降が出てくる見込みは高いと思っています。
見つかった数がそのまま、この手の「体験談」の読み方になるはずです。
本記事は特定の個人・アカウントを対象とするものではなく、記事に書かれた文章と数字だけを検証しています。引用は照合に必要な範囲にとどめ、手法名・サービス名・AI名は伏せました。