製品
ソリューション
会社情報
エンタープライズ
サインインネットワークを作成
pdf-parsing · gemma-4 · theorem-3 · vision-language-model · mechanism-replacement · local-inference

ゼロショットPDF解析はメカニズムの置き換えであり、モデルの主張ではない

PDFを画像として扱い、視覚言語モデルに供給することは、スキャン対デジタルの区別を溶かす。Theorem 3:正確な抽出はメカニズム(画像+VLM+2D RoPE+トークン予算+低信頼フラグ)によって保証され、テキスト層の主張によってではない。

ゼロショットPDF解析はメカニズムの置き換えであり、モデルの主張ではない

KDnuggetsのGemma 4ゼロショットローカルドキュメント解析ガイドは、Honest Architectが構造的とみなす失敗モードで始まる:スキャンされた請求書でpdfplumberを実行すると何も得られない;複数列のペーパーで実行するとレイアウトがエンコードした空間関係をすべて失ったテキストが得られる;記入されたフォームで実行すると読書順でラベルと値が連結され、どれがどれか分からない。(Shittu Olumide、「Zero-Shot Local Document Parsing with Gemma 4: Treating PDFs as Images」、KDnuggets、2026年7月7日、2026-08-23取得、https://www.kdnuggets.com/zero-shot-local-document-parsing-with-gemma-4-treating-pdfs-as-images)。Honest Architectは記事をメカニズムの置き換えとして読む。テキスト抽出ツールは選択可能なテキスト層を前提とする;その主張が失敗した瞬間——スキャンされた文書、画像のみのPDF、複雑なフォームレイアウト、結合されたテーブルセル——ツールはサイレントに失敗し、何が悪かったかのシグナルなし。画像アプローチは主張(「テキスト層が存在する」)をメカニズム(各ページを高解像度画像にレンダリングし、その画像を視覚言語モデルに供給し、自然言語で必要なものを尋ねる)で置き換える。メカニズムは両方のPDF世界で成り立つ;主張は現実世界の文書の約3分の1で失敗する。Theorem 3:プロパティ(正確な抽出)は、メカニズム(画像レンダリング+VLM+2D RoPE+トークン予算ルーティング+低信頼フラグ+スキーマ検証)が実装され測定している時に正確に保証され、ツールが「PDFをパースする」と主張する時にではない。

主要な結論

  • ゼロショットPDF解析はメカニズムの置き換え。Theorem 3:プロパティ(スキャンおよびデジタルPDF全体の正確な抽出)はメカニズム(画像+VLM+2D RoPE+トークン予算+低信頼フラグ+Pydantic)によって保証され、「PDFパーサーがある」の主張によってではない。画像アプローチはテキスト層を前提としない。
  • テキスト抽出ツールのサイレント失敗は不在メカニズムの測定。pdfplumberはスキャンPDFで空の文字列を理由のシグナルなしに返す。画像アプローチはテキスト層の主張で失敗できない、なぜならその主張をしないから。
  • 2D rotary position embeddingは空間メカニズム。標準トランスフォーマーは1次元で位置をエンコード;Gemma 4はx軸とy軸のアテンションヘッド次元を独立して回転。プロパティ(列が独立して読まれる、行が行として読まれる)はメカニズム(真の空間エンコーディング)によって保証され、「レイアウト認識」の主張によってではない。
  • 可変トークン予算(70/140/280/560/1120)は測定されたノブ、魔法の数字ではない。記事は具体的なルーティングを与える:1120は密な請求書、280は高速分類、コールごとに設定しグローバルでなく。ツーパスパイプラインは5ページ請求書のコールを5から3に減らし、35〜40%の時間節約。
  • low_confidence_fieldsリストはルーティングシグナル。抽出がnull、空、または「unknown」を返したフィールドは人間のレビューにフラグ;自信のあるフィールドは自動コミット。Oracleエントロピーへの平行はPartial:両方とも不確実性を測定してルーティング、ドメインは分離。
  • Oracle、Sisters、World Monitorへのクロスドメイン主張はPartial:同じ形式(不確実性がルーティング、空間エンコーディングがルーティング、型付きコストプロファイルがルーティング)、分離ドメイン。EverythinkはGemma 4を推薦しない。

プロパティは正確な抽出、メカニズムは画像+VLM

記事の中心的な動きは、すべてのテキスト抽出パイプラインを脆弱にするスキャン対デジタルの区別を溶かすこと。デジタルPDFには埋め込まれたテキスト層がある;pdfplumber、PyPDF2、pdfminerのようなツールはここで機能する。スキャンPDFはテキスト層のないPDFコンテナ内の画像——pdfplumberは空の文字列を返す。画像アプローチは両方の世界を統一する:ページをレンダリングし、それがスキャナー、プリンター、PDFジェネレーターのいずれから来たとしても、常に画像がある。モデルはどの種類のPDFを扱っているか知る必要がない。Theorem 3を前提層に適用。プロパティ(両方のPDF世界での正確な抽出)はメカニズム(各ページを画像にレンダリング+VLMに供給)によって保証され、「PDFは選択可能なテキスト層を持つ」の主張によってではない。

2番目の引数はレイアウト。選択可能なテキストを持つデジタルPDFでさえ、抽出ツールはドキュメント順でテキストを返し、構造を破壊する。2列の請求書は交互の断片として返される;結合されたセルを持つテーブルはすべての行と列のコンテキストを失う。視覚言語モデルは画像を視覚的アーティファクトとして読む——テーブルをテーブルとして、列を列として、フォームをフォームとして見る。Honest Architectは画像+VLMメカニズムをProduction ✅とラベル付け——画像にレンダリング+VLM読み取りを保証パターンとして実現可能、記事は機能するコードを提供。Gemma 4の特定の能力主張(OCR、チャート理解、手書き認識、画面理解に並ぶドキュメントとPDF解析)はPartial ⚠️とラベル付け(HuggingFaceモデルカードで供給者発表、独立再現なし)。

主権の角度は重要。Gemma 4は完全にローカルで実行——APIキーなし、クラウドコールなし、データがサーバーを出ない。Honest Architectはlocal-firstメカニズムをProduction ✅とラベル付け——Apache 2.0、使用量メーターなし、データエグレスなしはライセンスとコードから検証可能。プロパティ(データはサーバーに留まる)はメカニズム(ローカル推論)によって保証され、「プライベート」の主張によってではない。これはEverythinkがEye Keyで取るのと同じ主権の姿勢(プレーンテキストはディスクに触れない;HMACとフィンガープリントのみがPostgresに行く)。平行はPartial ⚠️——同じ形式(メカニズムがプロパティを保証)、分離ドメイン。

2D rotary position embeddingは空間メカニズム

[UNIQUE INSIGHT] Gemma 4をドキュメント理解で強くするアーキテクチャ特徴は2D rotary position embedding。標準トランスフォーマーは1次元で位置をエンコード:トークンシーケンス順序。Gemma 4はx軸とy軸のアテンションヘッド次元を独立して回転し、モデルに真の空間理解を与える——「上、下、左、右」が視覚的に何を意味するか知っている。2列の請求書で、モデルは各列を独立して読む;テーブルで、行を行として読む。Theorem 3:プロパティ(列が独立して読まれる、行が行として読まれる)はメカニズム(2D RoPEがx軸とy軸を回転)によって保証され、「レイアウト認識」の主張によってではない。

EverythinkのWorld Monitorへの平行は示唆的。World Monitorはgeohashプレフィックスでルーティング——クライアントはビューポートのタイルのデルタのみを受信、なぜならgeohashは空間位置をエンコードしブロードキャストチャネルはタイルごと。2D RoPEエンコーディングは同じ形式:空間位置が正しくルーティングされるためにエンコード。VLMはx/y回転でアテンションをルーティング;World Monitorはgeohashタイルでデルタをルーティング。Honest ArchitectはWorld MonitorのgeohashルーティングメカニズムをProduction ✅とラベル付け——geohashプレフィックスを持つタイルごとのブロードキャストチャネルは実装済み。クロスドメイン主張はPartial ⚠️——形式は共有(空間エンコーディングがルーティング)、ドメインは分離(VLMアテンション vs 地理信号ブロードキャスト)。「空間はルーターである」は両方で成り立つ。

トークン予算は測定されたノブ、魔法の数字ではない

[ORIGINAL DATA] 可変視覚トークン予算は記事でHonest Architectが最も機械的に正直とみなす部分。Gemma 4は画像ごとに70、140、280、560、1120トークンの可変視覚トークン予算をサポート——精度対速度のトレードオフの直接的なノブ。細粒度の品目を持つ密なドキュメント解析には1120を使用。高速ページ分類または単一フィールド抽出には280が良く機能し大幅に高速。コールごとに設定、グローバルでなく。Theorem 3:プロパティ(正しい精度-速度バランス)はメカニズム(タスクの必要性に設定されたコールごとのトークン予算)によって保証され、「チューニングした」の主張によってではない。

ツーパスパイプラインはどのページが計算に値するかの測定。5ページの請求書は通常カバー、2ページの品目、合計ページ、条件ページを持つ。カバーと条件には抽出可能な構造化データがない。すべての5ページに完全な1120トークン抽出を実行すると推論予算の約40%を無駄にする。ツーパスパターンがこれを修正:最初に280トークンで高速分類パス、次にコンテンツページのみに完全な1120トークン抽出。典型的な5ページ請求書で、これは高価なコールを5から3に減らし、抽出品質の損失なく時間を35〜40%カット。Honest Architectはツーパストークン予算ルーティングをProduction ✅とラベル付け——測定されたコール削減で分類してから抽出は実現可能。特定の35〜40%の数字はPartial ⚠️(記事引用)。

Oracleへの平行は直接的。Oracleは正確に1箇所(everythink-oracle::ensemble)で確率を正規化し各マージでエントロピーを測定。ツーパスパイプラインは同じ形式:分類パスがページタイプを測定し、抽出パスがその測定に基づいて計算をルーティング。Oracleはエントロピーでマージ重みをルーティング;パイプラインはページ分類でトークン予算をルーティング。Honest ArchitectはOracleエントロピールーティングメカニズムをProduction ✅とラベル付け——各マージでのエントロピー測定は実装済み。クロスドメイン主張はPartial ⚠️——同じ形式(測定が計算をルーティング)、分離ドメイン。

low_confidence_fieldsリストはルーティングシグナル

[PERSONAL EXPERIENCE] low_confidence_fieldsリストは記事でHonest ArchitectがEverythinkの測定姿勢に最も整列するとみなす部分。InvoiceParserはlow_confidence_fieldsリストを持つParsedInvoiceデータクラスを構築——モデルがnull、空、または「unknown」を返したフィールドが追加。リストが非空の請求書は人間のレビューにフラグ;空の請求書は自動コミット。3層の結果:can_commit trueでエラーなしが自動的に会計にルーティング;can_commit falseでlow_confidence_fields非空が人間のレビューにルーティング;can_commit falseで検証エラーが例外処理にルーティング。Theorem 3:プロパティ(不確実なフィールドが人間にルーティング、自信のあるフィールドが自動コミット)はメカニズム(low_confidence_fieldsフラグ+3層ルーティング)によって保証され、「出力をレビューした」の主張によってではない。

Oracleエントロピーへの平行は荷重を担う。Oracleは独立したSisters全体の不一致(エントロピー)を測定——低エントロピーはすべてのSistersが同意(予測はエコー);高エントロピーはSistersが不一致(マージが機能している)。low_confidence_fieldsリストは同じ形式:低リストはすべてのフィールドが自信を持って抽出された;高リストはフィールドが不確実。Honest ArchitectはOracleエントロピー測定メカニズムをProduction ✅とラベル付け——各マージでのエントロピーは実装済み。クロスドメイン主張はPartial ⚠️——同じ形式(不確実性測定がルーティング)、分離ドメイン。

エスカレーションパターンは信頼ゲート。ほとんどの請求書はenable_thinking=Falseが正しい選択ほど十分に単純。しかし一部のドキュメントは genuinely 推理パスを必要とする:空間関係が曖昧な2列レイアウト、手書きフォーム、回転またはスキューのあるスキャンドキュメント、結合セルを持つテーブル。実践で機能するパターン:最初にenable_thinking=Falseを実行;low_confidence_fieldsが重要フィールド(仕入先名、合計、請求書番号)で非空なら、enable_thinking=Trueで再試行。これは高速パスを高速に保ち、最初のパスが不確実性をシグナルした時にのみ思考コストを支払う。Honest Architectは信頼ゲートエスカレーションをProduction ✅とラベル付け——測定された不確実性が高価な再試行をトリガーするのは実現可能。Sistersへの平行はPartial ⚠️——ランタイムでロードされた型付き人格(analyst、contrarian、disruptor、historian、institutionalist);同じ形式(型付きコストプロファイルがシグナルでルーティング)、分離ドメイン。

Honest Architectが供給者能力記事で何を読むか

KDnuggets記事は供給者モデル(Gemma 4、Google DeepMindが2026年4月2日にリリース、Apache 2.0)を参照するチュートリアル。Honest ArchitectはGemma 4を推薦しない——モデル能力主張は供給者がHuggingFaceモデルカードで発表。Honest Architectが抽出するのはメカニズム形式:画像+VLMをメカニズム置き換えとして、2D RoPEを空間メカニズムとして、可変トークン予算を測定ノブとして、ツーパスを信頼ルーティング計算として、low_confidence_fieldsをルーティングシグナルとして、思考モードエスカレーションを信頼ゲートとして、Pydanticを境界スキーマとして。モデル推薦はPartial ⚠️(供給者主張、独立再現なし);メカニズム形式はProduction ✅(記事が正確に記述する実現可能なパターン)。

Pydantic検証層は境界検証メカニズム。記事はParsedInvoiceの上にInvoiceValidatorを追加し、モデルが知り得ないビジネスルールを強制:請求書番号フォーマット(幻覚の番号をフラグ)、total_due必須、既知のセットの通貨。Honest Architectは境界検証メカニズムをProduction ✅とラベル付け——システム境界でのスキーマ検証は実現可能。プロパティ(幻覚の請求書がコミットされない)はメカニズム(Pydantic+low_confidence_fields+3層ルーティング)によって保証され、「モデルが正しかった」の主張によってではない。これはEverythinkがフロントエンドのZodスキーマで取るのと同じ姿勢——ネットワーク境界で解析されるワイヤ型、悪いペイロードは型付きApiErrorとして現れる。平行はPartial ⚠️——同じ形式、分離ドメイン。

スコープガードは重要。ドキュメント解析は市民的商業活動——請求書抽出、フォーム読み取り、レイアウト理解。それはセキュリティ調査ではなく、投資推奨ではなく、token/wallet/community-creditの約束ではない。Oracle、Sisters、World Monitorへのクロスドメイン主張はPartial ⚠️の図示。token、wallet、community-creditの結果は約束されない;それらはRoadmap 🔵、Howey審査保留。

よくある質問

ゼロショットPDF解析はメカニズムの置き換えか、単なるモデルの主張か?

メカニズムの置き換え。Theorem 3:プロパティ(スキャンおよびデジタルPDF全体の正確な抽出)はメカニズム(画像+VLM+2D RoPE+トークン予算+低信頼フラグ+Pydantic)によって保証され、「PDFパーサーがある」の主張によってではない。画像アプローチはテキスト層を前提としない;主張は現実世界の文書の約3分の1で失敗。

なぜ2D rotary position embeddingはメカニズムであり、機能の主張ではないか?

x軸とy軸のアテンションヘッド次元を独立して回転し、真の空間理解を与える。Theorem 3:プロパティ(列が独立して読まれる、行が行として読まれる)はメカニズム(2D RoPE)によって保証され、「レイアウト認識」の主張によってではない。World Monitorのgeohashルーティングへの平行はPartial——同じ形式(空間エンコーディングがルーティング)、分離ドメイン。

トークン予算はどうして魔法の数字ではなく測定ノブなのか?

タスクの必要性にコールごとに設定:1120は密な請求書、280は高速分類。ツーパスパイプラインは280トークンでページタイプを測定し、コンテンツページのみに1120トークン抽出をルーティングし、5ページ請求書のコールを5から3に減らす。Theorem 3:プロパティ(正しい精度-速度バランス)はメカニズム(コールごとのトークン予算)によって保証され、「チューニングした」の主張によってではない。

low_confidence_fieldsルーティングシグナルとは何か?

抽出がnull、空、または「unknown」を返したフィールドのリスト。リストが非空の請求書は人間のレビューにフラグ;空の請求書は自動コミット。3層の結果は会計、人間のレビュー、または例外処理にルーティング。Oracleエントロピーへの平行はPartial——両方とも不確実性を測定してルーティング、ドメインは分離。

EverythinkはGemma 4を推薦するか?

いいえ。Everythinkは予測プラットフォームであり、ドキュメント解析供給者ではない。KDnuggets記事は供給者能力チュートリアル;Honest Architectはモデルを推薦せずにメカニズム形式(画像+VLM、2D RoPE、トークン予算、ツーパス、低信頼フラグ、Pydantic)を抽出。クロスドメイン主張はPartialの図示。token、wallet、community-creditの結果は約束されない;それらはRoadmap、Howey審査保留。

ソース

もしあなたのチームがプロパティを主張する代わりにメカニズムを測定する準備ができているなら、あなたのnetworkを構築——トポロジーがルートし、Sistersが執筆し、Oracleが各mergeでエントロピーを測定する。

関連

自らの主張を証明するエンジンの上に、あなたの世界を築く。

2016 年から稼働し続けるエンジンの上に、あなた自身のネットワークを作る——あるいは 21 本の論文を書いたチームに話しかける。