Research
LLMは頭の中でコイントスができるか? ブログ:https://pub.sakana.ai/ssot 論文(#ICLR2026):https://arxiv.org/abs/2510.21150 一見簡単そうで奥深いこの問題を「プロンプトだけ」で解決した論文 'SSoT: Pro…
LLMは頭の中でコイントスができるか? ブログ:https://pub.sakana.ai/ssot 論文(#ICLR2026):https://arxiv.org/abs/2510.21150 一見簡単そうで奥深いこの問題を「プロンプトだけ」で解決した論文 'SSoT: Prompting LLMs for Distribution-Faithful and Diverse Generation
LLMは頭の中でコイントスができるか? ブログ:https://pub.sakana.ai/ssot 論文(#ICLR2026):https://arxiv.org/abs/2510.21150 一見簡単そうで奥深いこの問題を「プロンプトだけ」で解決した論文 "SSoT: Prompting LLMs for Distribution-Faithful and Diverse Generation" が #ICLR2026 に採択されました。 LLMに「コイントスをして」と100回プロンプトすると、出力の表と裏の比率は50:50から大きく離れてしまいます。明示的に確率の指示が与えられても、LLMがそれに忠実に従って出力を生成することは難しい問題です。 このことは、コイントスに留まりません。LLMに小説のアイデアを何本か出してもらったら似たような案ばかり出てきた、という経験はないでしょうか。コイントスを歪ませるのと同じ確率的な偏りが、創作やブレインストーミングなど多様な出力が求められるタスク全般で多様性を抑制しています。 私たちはこれらの問題の解決策として、String Seed of Thought (SSoT)というプロンプトを発見しました。SSoTは、LLMに頭の中で一旦ランダムな文字列を考えさせ、その文字列を操作させて結果を出力させるという非常にシンプルな手法です。外部の乱数生成器は一切使いません。 SSoTにより出力のバイアスはオープンモデルでもクローズドなモデルでも幅広いLLMで低減されます。一部のreasoningモデルでは、実際に乱数を使った場合とほぼ変わらない精度を達成しました。これは、2択の選択肢だけでなく一般の離散分布について有効です。 さらに重要なのは、SSoTはモデル出力の多様性を高めるのに使えることです。創作的な文書作成などにおいて、SSoTをプロンプトに加えるだけで、出力される文書などの多様性が高まることがわかりました。 本手法はコンテンツ生成やアイディア出し、推論時スケーリングの新手法の開発など、LLMを実世界のシステムに組み込んでいく上で重要な基盤になると考えています。 SSoTのメカニズム、理論的な解析、インタラクティブなデモについてはブログと論文をご覧ください。 OpenReview:https://openreview.net/forum?id=luXtbX1lVK Can LLMs flip coins in their heads? When prompted to “Flip a fair coin” 100 times, the heads to tails ratio drifts far from 50:50. LLMs can understand what the target probability should be, but generating outputs that faithfully follow a given distribution is a separate problem. …
Related
- String Seed of Thought: Prompting LLMs for Distribution-Faithful and Diverse Generation https://arxiv.org/abs/2510.21150 https://pub.sakana.…
- Getting LLMs to simulate “true” randomness or generate diverse outputs is surprisingly difficult. We found a simple prompting trick that sol…
- Sakana AIが昨年公開した日本語金融ベンチマーク「EDINET-Bench」が、国際会議 #ICLR2026 に採択されました。 ブログ:https://sakana.ai/edinet-bench/ EDINET-Benchは、金融庁EDINETの有価証券報告書約41,0…
Source: David Ha (X) | 2026-04-20