AI五輪メダリストの開成高校生が、AI人材拡大のため、AIと議論した思考記録

「中身を理解しないまま、AIにKaggleをやらせていいのか」という問いは、Agora議論終了後に進行役がAIと相談して整理しました。そこで出た結論は、「やらせてはいけない。ただし全部理解しろというのも間違いで、理解には人に任せていい層と、任せられない層がある」でした。

① 道具の中身 ── 出来合いの道具が内部でやっている計算や数式。AIに任せてよい。専門家も詳しく中身を見ていません。車を運転するのにエンジンの理屈は要らないのと同じです。

② 手続きが正しいかどうか ── データの整え方、答えの漏れ込み、採点のやり方、練習データに合わせすぎていないか。ここが急所です。

③ 結論が正しいかどうか ── 出てきたものを「これで正しい」と受け取ってよいか。ここは任せられません。理由は1つで、正しさの基準を、AIは自分では決められないからです。だから自信のある口調で間違えますし、自分で書いたテストを自分で通して「問題ありませんでした」と報告してくることもあります。分析でも同じで、2つの数字が一緒に動いていれば、それを原因のように語ります。相関関係と因果関係は別ですが、そこを分けるのは人間の仕事です。しかも専門家でも意見が割れます。

② 手続きが正しいかどうか ── これが急所である理由は、難しいからではありません。②を間違えても、結果の見た目にはそれが出ないことがあるからです。しかも、悪いほうに出るとは限りません。

それが実際に起きた記録が1つあります。 Kaggle Competition Master で、Metaの機械学習エンジニアである Andrey Lukyanenko 氏が、2026年7月に公開した記録です。AIエージェントに、Kaggleのコンペを丸ごと走らせています。Agora議論終了後に、進行役が調べました。

① 道具の中身 ── この層は、全部AIがやりました。 課題は、健康診断の記録63万人分から、一人ずつ「要注意」か「問題なし」を見分けるものです。AIは、データの下調べをし、予測の手がかりになる列を自分で約140個作り、3種類のモデルを並行して学習させ、その混ぜ方まで自分で調整して、提出まで自力でやりました。人間は、プログラムをほとんど書いていません。列の中身も、モデルの中で何が計算されているかも、人間は見ていません。それで動きました。

② 手続きが正しいかどうか ── この層で、止まりました。 AIは、自分がうまくできているかを、自分で確かめながら改善を進めます。その確かめ方が、この課題と合っていませんでした。100人に縮めて書きます。

 100人を「要注意」と「問題なし」に振り分ける。
 実際の内わけは、こう偏っている

    要注意   94人  ●●●●●●●●●●●●●●●
    問題なし  6人  ○

 AIが使っていた数え方
    「100人のうち、何人当たったか」

 この課題で求められていた数え方
    「要注意の人を見つけられたか」と
    「問題なしの人を見つけられたか」を、同じ重さで見る

この違いが、AIの判断を片側へ引っぱります。

 判断に迷う一人が出てきたとする。どちらと答えるか

   要注意と答える    → 100人中94人が要注意なので、当たる確率が高い
   問題なしと答える  → 当たる確率は低い
        │
        ▼
   AIが使っていた数え方では、迷ったら要注意と答えるほうが得
        │
        ▼
   その積み重ねで、答えが要注意の側へ寄っていく
        │
        ▼
   問題なしの6人を見つける力は、育たない

AIは、手を抜いたのではありません。渡された数え方に対して、正しく最適化しました。極端まで進めば「全員に要注意」で、その数え方では100人中94人が当たります。一人も見分けていない答えが、いちばん高い数字を出します。そして、機械はここで警告を出しません。数字は上がり続けます。

③ 結論が正しいかどうか ── この層も、外しました。 提出した結果が悪かったとき、AIの診断は「データを増やすのが唯一の道だ」でした。他の参加者がアップロードした非公式のデータを使おうと提案し、これが壁を破る唯一の方法だと、自信を持って主張しました。人間が止めています。

人間が疑ったのは、データではなく、数え方のほうでした。直し方は、最初に自分で決めていたところへ戻すことでした。この課題が求める数え方をそのまま使い、その数え方で自分を確かめる仕組みに組み替える。AIに任せられたのは、①まででした。

3つ並べると、こうなります。

Kaggleが実世界に近づいたのは「汚さ」の1点です。実世界でいちばん難しいのは「そもそも何を解くべきか」を決めることで、Kaggleではそれを主催者が全部やってくれています。何を当てるか、何で測るか、データを集めることまで。

そして「閉じている」という1つの性質が、長所と弱点と限界を同時に作っていました。

• 訓練の場として優れている理由 ── やった結果がすぐ返ってくるので、自分の判断が正しかったかが分かる
• AIに追い抜かれる理由 ── 採点表があるので、機械がいちばん得意な形になっている
• 力の証明としての限界 ── 証明できるのは途中の作業の腕前だけ。そしてその途中の作業こそ、AIがいま得意になっている場所

1つめには、東大入試にはない仕掛けがあります。コンペが終わるまで、採点に使う答えの一部が隠されているのです。

期間中ずっと見えている点数に合わせて調整を重ねると、点はどんどん上がります。ところが最後に、隠されていた別のデータで採点し直した点が開きます。そこで順位が大きく落ちる人が出ます。見えている点に合わせるのは、その点を出すデータの癖に合わせているだけで、当てる力が上がったわけではないからです。これを過学習といいます。

つまりKaggleの採点は、答えが合っているかだけを測っていません。「自分の手元の採点を信じたか、それとも目の前に見えている点数に合わせにいったか」──自分の判断が正しかったかどうかの測定です。上の表で「採点がある」のは東大数学も同じですが、隠された採点があるのはKaggleだけです。逆も然りで、証明を厳密に書く力はKaggleでは身につきません。Kaggleでは証明を書かないからです。

AIの訓練で目指しているものは、3つです。順番に足していきます。① 見たものをなぞる（材料はインターネットの文章。次の1語を当てる練習）／② 人が好む方へ寄せる（材料は、AとBの2つを人に見せて、良いと思ったほうを選んでもらった記録。選ばれた方に高い点が付くようにする練習）／③ 機械で正誤が付くものを当てる（材料は数学とコード。正解と合っているかを機械が採点する練習）。

①でよく誤解されることがあります。AIは「よく見る語を好め」と教わってはいません。珍しい語にも正しい確率を付けるように鍛えられます。出てくる文が無難になるのは、この練習のせいではありません。聞き方の条件が薄いと、確率がよく見る言い回しに集まり、しかも出すときに高い山を選びやすくしているからです（→ コラム4）。

この3つに、「これは価値ある新しさか」を測る物差しはありません。①には「見た通りか」、②には「人が良いと思ったか」、③には「正解と合っているか」があります。新しさを測るものだけが、どこにもないのです。

ここで、②があるじゃないか、と思うはずです。「どちらが良いか」は機械では採点できないのに、人に選ばせて報酬にした。同じように「どちらがより新しいか」を選ばせればいい。理屈としては、できます。できるのに効かない理由は、別のところにあります。

本物の新しさは、出てきた時点では、少数の人にしか価値が分かりません。多数決で点を付けると、いちばん低い点が付きます。①は平均をなぞり、②は多数決に寄せる。2つとも、同じ方向へ働きます。

残るのは③ですが、③が使えるのは正解表が書ける場所だけです。「2 + 3 = 5」には機械が正誤を付けられますが、「この問いは面白いか」には付けられません。何を創るに値するかは、後者です。だから③にも載りません。欠陥ではありません。構造です。

AIが人間を超えた例を並べると、同じものが見えます。採点表を作ったのは、どれも人でした。

AIがやったのは、その採点表の中で点を上げることでした。AlphaZeroは自分で何百万局も指して、自分で練習相手を作りました。自分で問題を作ったように見えます。それでも、ルールと勝ち負けの決め方は人が置いたままです。動かしていないのは、そこです。

人の仕事は、問題と採点の仕組みを、前もって作ったところまででした。

この2時間が置かれていたのは、その真逆の場所です。答えを検算できず、報酬がどこにも無く、選別は人間がその場で1個ずつやる。候補は蛇口を全開にすれば何千個も出ます。だから創造の正体は「無から生む」より 「膨大な候補から、稀な意味あるものを選び抜く」ことになります。

ただし「AIは創造できない」は言い過ぎです。正確には「価値ある新しさを、自分で狙って、自分で判定することができない」。狙いと判定を外から入れれば、本物の発見に届きます。AlphaFoldは、そうやって届いた例です。

21時18分の出力は自明で、21時34分の出力は場を動かしました。この16分で、AIは1バイトも変わっていません。変わったのは、直前に人間が足した条件です。

ここには機構的な理由があります。AIは「この文脈の次に、どの語がどの確率で来るか」を出す機械です。だから雑に聞くと、条件が薄いので、確率は世の中でいちばんよく見る言い回しに集まります。無難な答えが返るのは故障ではなく、設計どおりの正常動作です。

ここでよく混同されるものが2つあります。

• 温度（Temperature）を下げる ── 温度は、答えを出させるときの設定です。下げると確率のいちばん高い語ばかりを選び、上げると低い語も拾うようになります。ただし、同じ分布の中で選び方を変えているだけです。真ん中の凡庸へ向かう操作です
• 条件を足す ── 分布そのものを変形させて、山の位置を動かす操作です。それまで裾に埋もれていた場所に、新しい山が立ちます

21時34分に足された条件は2つでした。山井さんの「工程を細分化してミニマムに」という方向と、「類似サービスを調べた上で」という縛りです。

ただし、条件は「ありふれた答えから外す」ことはできても、どの低確率領域に価値があるかは決めません。そこは外から与えるしかありません。

持ち帰れることが1つあります。答えに満足できないときは、AIを責める前に、直前の自分の条件を疑ってください。

2時間の最後に、北村さんはこの手法についてこう言っています ──「みんなで話して、AIに食わせて、AIに考え出させて。それは平均値じゃなくて、条件下での回答を出させるみたいなアプローチというのが、面白いなと思いました」。

「既にあるものの組み合わせ」であることは、価値がないという意味ではありません。理由は、組み合わせの数です。

だから新しさは、材料の側では決まりません。その連結を、まだ誰も見つけていなかったかどうかで決まります。

価値ある新ビジネスを創造した例として、よく知られているものから並べます。

  【タクシーの配車】       電話で呼んで、来るのを待つ
  【スマートフォンのGPS】   いま自分がどこにいるかが分かる
  【空いている時間と車】     使われないまま置かれている
              ↓
  3つをつないだものが Uber

  ※どれも2010年より前からあった。
    つないだ人がいなかったから、その仕組みが世に無かった

研究の世界にも、古くから知られている例があります。

  【魚油の研究】        血液の粘度を下げる
  【レイノー病の研究】   指先の血流が悪くなる病気
              ↓
  共通していたのは「血液の粘度」

  ※論文はどちらも先に存在していた。
    両方を読む人がいなかったから、誰もこの橋を渡らなかった

この日に起きたことも、同じ形でした。

  【将棋】     詰将棋という、分解された一問がある
  【Kaggle】   分解された一問が、無い
              ↓
  共通していたのは「実戦を工程分解した競技」という形

  ※どちらも誰でも知っている。
    並べて見る人がいなかったから、誰も気づいていなかった

ここで、AIが強い理由と、人が要る理由が分かれます。AIは、連結の候補を大量に出せます。人にできない量です。ところが、出てきた候補のどれに意味があるかは決められません。コラム3のとおり、それを測る物差しを持っていないからです。

AlphaFold と AlphaTensor が超人的になれたのは、賢いからというより、採点できたからでした。予測した形が実験と合うか、かけ算の回数が少ないかは、機械が判定できます。この2時間の問いは、そこが作れません。だから候補は出ても、選ぶのは人になります。

新しいものの作り方は、これだけではありません。もう1つあります。

  足す（連結）
    既にある要素を2つつなぐ
    例  将棋の詰将棋 × Kaggleの工程 ＝ 詰めKaggle
    ※組み合わせの数が膨大だから、見つけていないものが必ず残る

  引く（前提を外す）
    「これは前提だ」と思われていたものを、選択肢に変える
    例  平行線公理を捨てる
    ※組み合わせでは作れない。足し算の外にある操作

ユークリッドは「直線外の1点を通る平行線は1本だけ」を公理に置きました。それから約2000年、誰もがそれを他の公理から証明できるはずだと考えていました。1830年ごろ、ロバチェフスキーとボヤイは証明するのをやめて、その公理を捨てました。すると、平行線が無限にある世界も、1本もない世界も、矛盾なく作れました。

そして、引いたものは、あとから足したものに見えます。非ユークリッド幾何は、いまでは「4つの公理と、曲がった面の性質の組み合わせ」と説明できます。発見の前は誰も要素として持っておらず、発見の後は誰でも組み合わせとして説明できる。内と外の線は、見る時点で入れ替わります。

この日にやったのは、点をつなぐ側でした。「これは前提だ」と思われていたものを外す側は、やっていません。