本文へ移動
ハック!でAI

AIに忘年会クイズを80問作らせた 答えの誤りは0問、危ないのは解説

執筆・監修佐々木 航@w_sasaki人が監修しながらAIを活用して執筆with Claude Code公開 更新 読了 約8分
暗い地に白い文字で問題と4つの選択肢が映り、正解の選択肢が緑に光っている、司会の画面

この記事でわかること

  • Claudeの3モデルに作らせた80問で、正解が事実と違う問いは見つからなかった
  • 指摘が残った7問のうち4問は、答えではなく解説の誤りや古い数字
  • Opusの20問は17問がほかと重ならず、Haikuの後半には令和や曜日の問いが混ざった

確認した環境: Claude Code(Haiku 5.5・Sonnet 5.5・Opus 5.5)の別々の会話で作成 / 2026年11月2日に裏取り

この試しでは、忘年会のクイズをAIに頼んでも、正解そのものが事実と違う問いはありませんでした。Claudeの3つのモデルに80問作らせ、1問ずつ出典で確かめた結果です。

ただし、そのまま読み上げてよいわけではありません。7問に指摘が残り、4問は答えではなく、添えた解説のほうに誤りや古い数字がありました。

裏取りを通った10問は、そのまま映せる司会の画面で使えます。

先に1つ、試してみてください。次の3つは、AIが問題に添えた解説です。1つだけ誤りがあります。

  • 利根川は、流域面積が日本一
  • 北海道は、本州の約8割の面積がある
  • 光は、1秒間に地球を約7周半する

80問を全部、出典で確かめた

幹事がいちばん避けたいのは、マイクの前で堂々と間違えることでしょう。「それ、違いますよ」と客席から声がかかる、あの場面です。

そこで、同じ依頼を4通りに投げました。Claudeのモデルのうち、いちばん軽いHaiku 5.5、中くらいのSonnet 5.5、いちばん高性能なOpus 5.5は検索なしで、もう1つはSonnet 5.5に検索を許します。頼んだのは4択の20問で、前半12問が一般常識、後半8問が2026年に日本で話題になったことです。正解だけでなく、ほかの選択肢と解説まで、公式の発表や報道で確かめました。

横棒のグラフ。問題なしは、Haikuが20問中16問、Sonnetが20問、Opusが19問、検索ありのSonnetが18問横棒のグラフ。問題なしは、Haikuが20問中16問、Sonnetが20問、Opusが19問、検索ありのSonnetが18問
4通りの20問を、1問ずつ確かめた結果撮影・作図: 編集部

起きていない出来事を作った問いはありません。検索なしのSonnetは、20問すべて問題なしでした。

正直なところ、2026年の話題では外すと思っていました。ところが検索なしのOpusは、2月の冬季五輪、3月のWBC、4月の自転車の青切符、5月の嵐の最終公演まで、8問すべて問題なしです。

ただ、最新の話題に強いという意味ではありません。モデルの設定に書かれた知識の時点は2026年6月で、秋の話題はほとんど入っていません。問題もAIが自分で選ぶので、知っていることが並びやすい面はあります。

間違いは、答えに添えた一言に出た

さきほどの答えは、真ん中の「本州の約8割」です。北海道の面積は本州の約37%で、Haikuの解説でした。

7つの指摘の一覧。北海道は本州の約8割、五輪は2都市で分散開催、麹は麹菌の一種、鳥取県の人口は約54万人、開かれるアジア競技大会、高木美帆選手の通算9個目、鎌倉幕府の成立年7つの指摘の一覧。北海道は本州の約8割、五輪は2都市で分散開催、麹は麹菌の一種、鳥取県の人口は約54万人、開かれるアジア競技大会、高木美帆選手の通算9個目、鎌倉幕府の成立年
指摘が残った7問。矢印の右が、確かめた事実撮影・作図: 編集部

7問のうち4問は解説で、残りの3問は問題文です。解説のずれ方はさまざまで、比率の勘違い、開催地の数え方、古い人口、麹と麹菌の取り違えがありました。司会が「へえ」を狙って読み上げる一言なので、ここを見落とすと恥をかきます。

一般常識も油断できません。7問のうち4問は、前半の問いでした。

問題文の3問には、時間のずれと言い切りが出ています。Haikuは10月に閉幕したアジア競技大会を「開かれる」と書き、検索ありのSonnetは五輪の途中の数字をそのまま使いました。

Opusの1問も、考えさせられました。「いまの教科書で多く採用されている鎌倉幕府の成立年」の答えは1185年です。一方で帝国書院は、成立を単独の年に求めず、段階を踏んで完成したととらえると説明します。「いい国つくろう」は変わった、という話は盛り上がりますが、断言すると歴史にくわしい人に止められるかもしれません。

問題の顔ぶれは、モデルで大きく違った

指摘の数は、Haikuが4問、Opusが1問、Sonnetは検索なしで0問、検索ありで2問です。この問数で、どのモデルが正確かまでは言い切れません。はっきり違ったのは、何を出題するかでした。

18の話題と4つの条件の表。日本一長い川や江戸幕府はOpus以外の3つで重なり、Opusは3つの話題だけが重なる。どの条件とも重ならない問いは、Haiku 8問、Sonnet 4問、Opus 17問、検索あり7問18の話題と4つの条件の表。日本一長い川や江戸幕府はOpus以外の3つで重なり、Opusは3つの話題だけが重なる。どの条件とも重ならない問いは、Haiku 8問、Sonnet 4問、Opus 17問、検索あり7問
2つ以上の条件で重なった話題。●がその条件で出題された話題撮影・作図: 編集部

Opus以外は、信濃川、北海道、徳川家康が3つともそろいました。正しいのですが、会社員30人のほとんどが知っていそうな問題です。

Opusの20問は、17問がほかと重なりません。ナポリタンの発祥の地、カニカマを開発した会社の県、海のない県の数。解説まで読みたくなる問いが並びます。

2026年の話題も同じです。

4つの条件の8問の話題の一覧。Haikuは令和何年、元日の曜日など灰色が3つ。Opusはパンダの返還、りくりゅう、WBC、青切符など8つとも今年の出来事。検索ありは五輪が5つ4つの条件の8問の話題の一覧。Haikuは令和何年、元日の曜日など灰色が3つ。Opusはパンダの返還、りくりゅう、WBC、青切符など8つとも今年の出来事。検索ありは五輪が5つ
後半8問の中身。灰色は、今年の話題と言いにくい問い撮影・作図: 編集部

Haikuの8問には「2026年は令和何年?」「2026年1月1日は何曜日?」が混ざりました。誤りではないものの、話題と呼ぶには苦しい問いです。検索ありのSonnetは、検索語に「ミラノ・コルティナ五輪」を入れて1回だけ検索し、8問のうち5問が冬季五輪になりました。検索を許せば話題が広がる、とは限らないようです。

高いモデルと安いモデルを10問で比べたときは、点がOpusは10点、Haikuは8点でした。モデルの差は、点だけでなく題材の選び方にも出るようです。

作り終えたときの返事も印象に残りました。Haikuだけが「2026年の問題は事実確認をしていません」と書き添え、確かめる番号を挙げてきました。指摘の2問は、その番号の中にあります。AIの断り書きは、消さずに読むと役に立ちます。

80問の正解の位置を数えると、1番目が21問、2番目と3番目が24問ずつ、4番目は11問でした。偶然なら20問ずつのはずですが、80問では偶然の範囲かもしれません。それでも参加者に読まれないよう、出す前に選択肢を並べ替えておくと安心です。

司会の画面は、そのまま使える

裏取りを通ったOpusの10問は、プロジェクターに映して使えます。問題、答え、解説の順に、ボタンか矢印キーで進みます。正解の位置は散らしてあります。

暗い地に、りくりゅうの順位を問う問題と4つの選択肢。2番の5位が緑に光り、下に解説が出ている
司会の画面。答えを見ると、正解の選択肢と解説が出る撮影・作図: 編集部

忘年会クイズの司会の画面を開く

自分の問題を出すときは、AIに次のように頼み、返ってきた文を画面の「自分の問題を入れる」に貼り付けます。Haikuで試すと、10問とも読み込めました。選択肢の順は、貼り付けるときに混ぜられます。ほかのAIでは試していませんが、同じ文で頼めるはずです。

テキスト
会社の忘年会の余興で使う4択クイズを10問作ってください。
参加者は20代から60代の会社員30人です。
1問を1行にして、「問題|選択肢1|選択肢2|選択肢3|選択肢4|正解の番号|解説」の形で書いてください。
見出しや説明は付けないでください。

読み上げる前に、答えに加えて解説も確かめてください。とくに数字と「日本一」「初めて」「最多」は、官公庁の統計や大手の報道を開いて1つずつ当たります。今年の話題は、終わった出来事を「これから」と書いていないか、大会の途中の数字になっていないかも見ます。

解説まで確かめる時間がなければ、答えだけ確かめて、解説は読まない手もあります。80問で事実と違う正解は見つからず、手直しが要ったのは添えた一言や問題文のほうでした。

測り方

80問の条件と、判定のしかた

作ったのはClaude Codeのサブエージェントで、1条件ごとに新しい会話です。編集部の作業環境のままなので、作業の決まりのファイルとメモの一覧が最初から読み込まれていました。ほかのAIでは試していません。

依頼は4つとも次の文です。「会社の忘年会の余興で使うクイズを作ってください。参加者は20代から60代の会社員30人です。4択で全部で20問。前半12問は一般常識(日本の地理、歴史、食べ物、スポーツ、科学)、後半8問は2026年に日本で話題になったこと(ニュース、スポーツ、流行)にしてください。各問に、正解と一言の解説をつけてください。」。前に、ふだんどおり1回でこなすこと、ほかのファイルを使わないこと、検索の可否を付け、後ろに保存のしかたを足しました。

判定の区分は作る前に決めました。問題なし、解説の誤り、正解の誤り、答えが2つ、古い、起きていない、確認できず、の7つです。下の表は問題なしの問数(前半は12問、後半は8問のうち)で、合計は73問です。ほかは解説の誤り3問、古い3問、答えが2つ1問で、正解の誤り、起きていない、確認できずは0問でした。

条件 前半 後半
Haiku 5.5 10 6
Sonnet 5.5 12 8
Opus 5.5 11 8
Sonnet検索あり 11 7

裏取りはClaude Code(Opus 5.5)の別の会話2つで行いました。作り手のOpusと同じモデルです。前半の依頼には解説の数字をとくに丁寧に見るよう、後半の依頼には問題文の細かい事実も確かめるよう書いたので、指摘の出方には頼み方の影響が残ります。1か所でも誤りがあれば数える決まりも、裏取りを頼むときに足しました。

誤りとした問いのうち、鳥取県の人口と鎌倉幕府は編集部がClaude Codeで出典を開き直し、北海道の面積と麹は校閲で確かめました。判定は校閲のあとで3問動かしています。「2都市で分散開催」は一度、開催地を書いたほかの問いにそろえて問題なしとしましたが、数を言い切っているので解説の誤りに戻しました。鳥取県の人口と高木美帆選手の通算9個目は、裏取りでは解説の誤りと問題なしでしたが、計画の定義に合わせて古いとしました。

判断が分かれた問いも残ります。納豆の選択肢の黒豆は大豆の一品種ですが、一般の納豆の原料を問う問いとして問題なしとしました。「北海道は岩手県の約5倍」は、正確には約5.5倍です。

NHK、五輪の公式サイト、FIFAの本体サイト、MLBのページは取得できず、通信社の配信記事やFIFAの関連サイトなどで確かめました。大河ドラマ、WBC、嵐、パンダ、りくりゅう、五輪の問いは報道が出典で、一部はコトバンクやWikipediaも使っています。

重なりと正解の位置は作る前に決めた項目ですが、数えたのは同じ問いではなく、中身を読んで手で付けた話題です。検索ありもSonnetなので、Sonnetどうしの重なりが含まれます。「今年の話題と言いにくい問い」は結果を見てから分けました。

貼り付けの試しと、司会の画面の問題文の手直しは計画の外です。貼り付けで試したのは読み込めるかどうかで、10問の中身は確かめていません。ナポリタンの問いは、考案したホテルの公式の説明ではソースにケチャップを使っていないので、「ケチャップ味でおなじみの」を外しました。

参考にした公式の情報

XFacebookはてブLINE

執筆・監修

佐々木 航@w_sasaki

with Claude Code

プロフィール

株式会社Game 代表取締役。工学部出身で、21歳で起業してからシステム会社の経営一筋で8期目。アプリの受託開発から始め、いまはAIを使ったシステムソリューションを手がけています。150社以上の企業とのプロジェクトで培った開発と情報システムの現場の経験と声を形にし、激動の時代を乗り越えたいと考えています。

この記事は、人が監修しながらAIを活用して執筆しています(使った道具: Claude Code)。執筆と監修は佐々木 航が担い、公開した記事も人が確認しています。記事の中身の責任は編集部が負います。画面の画像は、検証環境で実際に操作して撮影したものです(引用の画像は出典を記載しています)。内容の誤りはお問い合わせからお知らせください。直したときは、記事の末尾に更新の行を残します。AIの使い方と記事の責任

あわせて読みたい