性能と精度
ScanToExcel の内部評価では、6種類・3000件のテスト文書で加重 F1 が98.0%でした。
評価日
お使いの文書に対する結果の意味
これらは、記載の日付に評価した文書と採点対象フィールドの結果です。個々の結果は文書の品質、構造、内容によって異なります。出力データは使用前に確認してください。
文書の種類別の結果
| 文書の種類 | テスト文書数 | フィールド単位の F1 | 評価対象の全フィールドが一致 |
|---|---|---|---|
| 請求書 | 600 | 99.5% | 96.2% |
| 表の画像 | 200 | 99.2% | 95.9% |
| クレジットカード明細書 | 500 | 98.8% | 95.7% |
| 銀行取引明細書 | 650 | 98.7% | 95.2% |
| 領収書 | 600 | 97.3% | 93.9% |
| 給与明細書 | 450 | 94.6% | 92.1% |
テスト全体の94.8%の文書で、評価対象のすべてのフィールドが正解データと一致しました。
| 文書の種類 | 適合率 | 再現率 |
|---|---|---|
| 請求書 | 0.993 | 0.997 |
| 表の画像 | 0.992 | 0.992 |
| クレジットカード明細書 | 0.989 | 0.987 |
| 銀行取引明細書 | 0.989 | 0.985 |
| 領収書 | 0.959 | 0.988 |
| 給与明細書 | 0.952 | 0.940 |
評価時の変換時間
| 文書の種類 | 中央値(p50) | 95パーセンタイル(p95) |
|---|---|---|
| 請求書 | 3.3秒 | 5.1秒 |
| 表の画像 | 2.6秒 | 7.0秒 |
| クレジットカード明細書 | 6.4秒 | 8.8秒 |
| 銀行取引明細書 | 10.2秒 | 17.2秒 |
| 領収書 | 2.3秒 | 3.1秒 |
| 給与明細書 | 5.5秒 | 8.7秒 |
開発時に分離したデータでの評価
開発中に別のデータセットを評価用に確保しました。表では、その F1 を主データセットと比較しています。差があるという事実だけでは、その原因はわかりません。
| 文書の種類 | 主データセット | 分離した評価セット | F1 の差 |
|---|---|---|---|
| 請求書 | 99.5% (n=600) | 97.8% (n=150) | −0.017 |
| 表の画像 | 99.2% (n=200) | 96.7% (n=50) | −0.025 |
| クレジットカード明細書 | 98.8% (n=500) | 99.9% (n=130) | +0.011 |
| 銀行取引明細書 | 98.7% (n=650) | 99.8% (n=160) | +0.011 |
| 領収書 | 97.3% (n=600) | 98.6% (n=150) | +0.013 |
| 給与明細書 | 94.6% (n=450) | 95.3% (n=110) | +0.007 |
測定値の見方
- 適合率
- 返されたフィールドのデータのうち、正解データと一致した割合です。
- 再現率
- 期待されるフィールドのデータのうち、正しく取得できた割合です。
- F1
- 適合率と再現率の調和平均です。結果の表ではパーセントで示しています。
- 評価対象のすべてのフィールドが一致
- 採点対象のフィールドについて文書単位で測る指標です。文書全体や出力全体の正確性を認証するものではありません。
評価時の変換時間
単一スレッドで文書を1件ずつ処理し、アップロードから出力の準備完了までを計測しました。p50 は中央値、p95 は95パーセンタイルであり、最大値ではありません。
評価方法
テスト文書数
公開データセットとサンプル、ライセンス取得または購入した文書、例外的なケースの合成文書を組み合わせています。ユーザーがアップロードした文書は、この評価用データに含まれません。
手作業で確認した正解データ
手作業で確認した参照データと、出力をフィールドごとに比較します。一致したフィールド、誤って返された値、欠落した値が、報告するスコアに反映されます。
評価したフィールド
ベンチマークで採点したフィールドです。すべての標準出力で使える列の一覧ではありません。
- 請求書 (16フィールド)
- 発行日、支払期日、通貨、仕入先情報、顧客情報、明細項目、小計、税額、税込みフラグ、税の行、明細の税フィールド、合計、源泉徴収。
- 表の画像 (5フィールド)
- 見出し行、見出しセル、行の識別、行の種類、行のセル。
- クレジットカード明細書 (20フィールド)
- カードブランド、名義人、明細期間、支払期日、最低支払額、利用限度額、利用可能額、購入・支払い・手数料・利息の集計、期首・期末残高、取引、記帳日、取引の種類、取引金額、通貨。
- 銀行取引明細書 (16フィールド)
- 口座名義人、口座の通貨、明細期間、期首・期末残高、支払利息、手数料、取引、記帳日、取引の種類、取引金額、取引後残高、入金合計、出金合計。
- 領収書 (11フィールド)
- 日付、通貨、店舗、明細項目、小計、税額、税の内訳行、チップ、合計、支払いの詳細。
- 給与明細書 (40フィールド)
- 従業員、雇用主、国、通貨、給与対象期間、基本給の単価と単位、年収、当期の手取り、年累計の集計(総支給、税、手取り)、行ごとの支給・税・控除・雇用主負担(各項目の時間、率、当期金額、年累計)。