PaperZenn (LLM)
エージェント記憶圧縮におけるKVキャッシュ直接操作の可能性
エージェントの記憶は「要約」ではなく「KVキャッシュの直接操作」で圧縮できるのか、135Mモデルで試した
- エージェントの会話履歴増大に伴うKVキャッシュのコスト増大が課題となっている。
- テキスト要約ではなくKVキャッシュを直接操作するアプローチを論文で検証する。
- 135Mモデルでの実験を通じて効率的なメモリ圧縮手法の可能性を探る。
DAILY FEED · 2026-W43
2026-10-25 日曜日
137件の記事をAIが要約 · 毎朝 7:00 JST 更新
← 10-2410-26 →
2026-W43 · 日曜日
2026-10-25
50件を表示
PaperarXiv cs.CL
検索拡張型LLMにおける検索状態認識のための自己評価強化学習
Self-Assessment Reinforcement Learning for Search-State Awareness in Retrieval-Augmented Large Language Models
- 検索エージェントが自身の取得済み情報と不足情報を認識する能力の欠如に対処する。
- 追加の評価をテスト時に必要としない自己評価強化学習フレームワークを提案する。
- 二重報酬設計により効率的かつ効果的な検索軌道の学習を実現し性能を向上させる。
PaperarXiv cs.CL
長期的なLLMエージェントのための反射誘導型方策最適化
ReflectPO: Reflection-Guided Policy Optimization for Long-Horizon LLM Agents
- 長期にわたるタスクを実行するLLMエージェントのエラー回復手法を提案した。
- 相互作用の軌跡を利用してエラー回復のためのヒントと木構造の信用割当を行う。
- 強化学習フレームワークにより複雑な環境での自律的なエラー回復を実現する。
PaperarXiv cs.CL
マルチビューガードレール学習によるクロスインターフェース安全性汎化手法UniGuard
UniGuard: Multi-View Guardrail Learning for Cross-Interface Safety Generalization
- インターフェースの違いに依存しない安全性を学習
- 多視点からアライメントされた安全表現を獲得する
- 未見のインターフェースベンチマークで性能を向上
PaperarXiv cs.CL
エージェント型CLIシステム向け基盤モデル「IQuest-Q1」の登場
IQuest-Q1: Advancing Foundation Capabilities for Agentic CLI Systems
- 総パラメータ数320BのスパースMixture-of-Expertsエージェントモデルを提案する
- 安定した事前学習から中段階の訓練およびマルチタスクの事後学習まで三段階で構築する
- モデルのマージや専門家の統合により優れたエージェントコーディング能力を発揮する
PaperHugging Face Blog
NVIDIA Kumo Relationalがリレーショナルデータで教師あり学習を凌駕
NVIDIA Kumo Relational Outperforms Supervised Machine Learning on Relational Data, No Training Required
- NVIDIAの新しい手法がリレーショナルデータ分析で優れた性能を発揮
- 事前のモデル学習を必要とせずに教師あり機械学習を上回る成果
- 構造化データにおけるAI活用の新たな可能性を示す画期的な手法
PaperZenn (LLM)
REQLOXにおける評価設計と未確定ラベル・反復安定性の検証
REQLOXの評価設計――未確定label・反復安定性・Sourceの追加価値をどう測るか
- プログラム修復支援ツールREQLOXの評価設計と実測結果を分析する。
- 故障検出から修復候補の再注入までの各段階における検証手法を定める。
- 原文に基づく生成内容の正確性と外部知識寄与の証拠作りを議論する。
PaperHacker News
AI支援による論文が実在しない記事を引用
AI-Assisted Paper on Z-Library Cites a TorrentFreak Article That Doesn't Exist
- AIによって執筆を補助された論文が架空のソースを引用していることが判明した
- TorrentFreakの記事を引用しているとされるが実際には存在しない記事であった
- AIのハルシネーションや不正確な文献情報の自動生成に対する懸念が示されている
PaperZenn (LLM)
LLMによるRust製ゲームエンジンBevyと自作エンジンの比較
【KaniVolcanoEngine】LLMによるゲーム開発の比較：Bevyと自作Rustエンジン
- 同じ仕様書をもとにLLMがBevyと自作Rustエンジンでゲームを実装した結果を比較
- ECSアーキテクチャを採用する両者の実装精度やトークン消費量の違いを検証
- ゲーム開発におけるLLMの適用可能性とエンジンの特徴による挙動を分析している
PaperarXiv cs.CL
言語モデルにおける属性の不可視化と確率的バイアス
Invisibilization as a Source of Probability Bias in Language Models
- 大規模言語モデルは保護属性の利用を避けるため回答を拒否しがちである。
- 情報源の属性に基づいて有益な情報を過小評価するコストを計測した。
- 特定の属性を持つ情報源からの報告を無視する傾向があることを実証した。
PaperarXiv cs.CL
推論時コンテキスト拡張手法の実態調査と評価フレームワーク
A Reality Check of Inference-Time Context Augmentation Methods
- LLMの文脈利用における幻覚やハルシネーションを防ぐ拡張手法を比較評価する
- 情報の異なる5つの拡張手法を網羅した評価フレームワークを提案し検証した
- 精度向上の多くが真の改善ではなくランダムな摂動に起因することを発見した
PaperarXiv cs.CL
閉集合の意思決定に向けたコンパクトなエンコーダの比較と検証
Joint or Per-Option? Compact Encoders for Closed-Set Decisions from 17 Million to 1 Billion Parameters
- ツール選択などの閉集合タスクにおける小型エンコーダの性能と読込方式を比較する
- 選択肢を個別にスコア化する方式がジョイント方式よりも優れていることを示す
- リランカ初期化を用いることで少ないレイテンシで高い推論性能を実現する
PaperarXiv cs.CL
高速でソースに裏付けられた眼科臨床決定モデル「RetiJev」の開発
RetiJev: Fast and Source-Grounded Ophthalmic Decision Models
- 自己回帰型LLMのレイテンシと計算コストを削減する意思決定特化型モデルを提案する
- 7万件超の眼科臨床コーパスと評価ベンチマークを構築しデータセットを整備した
- 非自己回帰で直接スコアを算出することで既存の大型LLMを上回る性能を達成した
PaperarXiv cs.CL
自然言語オートエンコーダによる活性化差分の言語化手法の検証
Verbalizing Activation Differences with Natural Language Autoencoders
- 大規模言語モデルの内部表現を人間可読なテキストに翻訳する手法を調査する
- モデルの構成的構造やファインチューニングへの汎化性能を4つの観点から検証する
- 複数モデルを用いた実験により有効性を裏付ける肯定的な結果を確認した
PaperarXiv cs.CL
シリコンサンプルは回答を一致させるが回答者自身とは一致しない
Silicon Samples Match the Answers but Not the Respondents
- LLMを用いて作成した仮想回答者集団と人間の回答者の差異を調査した。
- 回答分布の再現性は高くても実際の人間集団を十分に網羅できていない。
- 仮想回答者と人間の間の距離を測る新しい評価指標を提案した。
PaperarXiv cs.CL
マルチモーダルLLMにおける全モダリティの曖昧性解消ベンチマーク
TRIAD: Benchmarking Omni-Modal Ambiguity in Multimodal Large Language Models
- テキスト画像音声にまたがる曖昧性を解決する能力を測るベンチマークを提案した。
- 単一モダリティの欠如により正解が定まらなくなる327のクエリを作成した。
- 最先端のオムニモーダルシステムでも高度な曖昧性解消には課題が残る。
PaperarXiv cs.CL
困難な行動を持つ生徒を支援するAI家庭教師評価ベンチマーク
TutorCaseBench: A Case-Grounded Benchmark for Evaluating LLM Tutors in Supporting Students with Challenging Behaviors
- 教育心理学の事例研究に基づきAI家庭教師を評価するベンチマークを提案した。
- 5種類の課題タイプと多数の対話シナリオをLLM11種で評価した。
- モデルは介入策の選択は得意だが文脈に応じた応答生成が困難である。
PaperarXiv cs.CL
コーディングエージェントのベンチマークにおける仕様とオラクル間のギャップ
What the Specification Did Not Say: Specification-Oracle Gaps in Test-Graded Coding-Agent Benchmarks
- タスク説明文に記載のない実装詳細にテストが依存する問題点を指摘する
- 静的監査ツールを構築し多くのビルド単位で隠された依存関係の存在を確認した
- 指定されていない識別子やパスの欠落がエージェントの実行失敗率を高める
PaperarXiv cs.CL
建築データ取得エージェント評価のための自動ベンチマーク生成手法IFC-MCQ
IFC-MCQ: Automatically Generating Multiple-Choice Benchmarks for Evaluating LLM Agents on IFC Data Retrieval
- 建築分野のIFCファイルから多肢選択式ベンチマークを自動生成する
- 自由記述の回答レビューコストを削減し正確な選択肢評価を可能にする
- エージェント構成ごとの固有の失敗モードや性能変動を明らかにしている
PaperarXiv cs.CL
LLMジャッジの評価スコアの信頼性とプロンプト感度に関する分析
Behind Aggregate Scores: What Systematically Varying Arena-Hard's LLM Judge Reveals
- 類似した集計スコアでも個別の判定結果は大きく変動する事を示す
- プロンプトの指示や出力形式の変更が勝敗結果に深刻な影響を与える
- LLM評価の信頼性を高めるためには評価プロセスの厳密な統御が必要である
PaperarXiv cs.CL
アラビア語LLM向けの高効率な知識獲得フレームワーク「AQL-Lite」
AQL-Lite: Enabling Efficient Knowledge Acquisition for Arabic LLMs via Data-Centric Continual Pretraining
- ノイズの多いウェブデータや方言を克服する効率的な継続事前学習手法を提案する。
- 高品質なデータ選定パイプラインと部分パラメータ学習を組み合わせる。
- 限られた計算資源でフルパラメータ学習に近い性能の回復を実現する。
PaperarXiv cs.CL
道徳的議論の強化学習がLLMの判断力と追従性に与える影響
Consistency Is Not Validity: Self-Rewarded Moral Argumentation Makes Language Models Decisive but Pliable
- 道徳的判断を行うLLMの論理的な議論品質を報酬として強化学習を行う。
- モデルは決定論的になり選択肢の順序に対する不変性が向上する。
- 一方で、お世辞や言い換えに対する追従性は依然として課題として残る。
PaperarXiv cs.CL
科学論文におけるハルシネーション引用検出のための「CiteAnchor」
CiteAnchor: Source-Aware Grounding for Hallucinated Citation Detection and Resolution
- 科学的根拠の検証を困難にするハルシネーション引用を検出する手法を提案する。
- ソースの種類ごとに最適化された検索とフィールドレベルの検証を組み合わせる。
- 既存のベースラインを大幅に上回るF1スコアとタスク成功率を達成する。
PaperarXiv cs.CL
高精度かつ超高速な個人情報識別モデルProtegrity-PII
Protegrity-PII Technical Report
- 構造化および非構造化テキスト向けの新しいPII判定モデルを提案する
- 単一のGPUで非常に高速かつ低コストなバッチ推論を実現している
- 多様なエンティティ分類により優れたOut-of-Distribution汎化性能を持つ
PaperarXiv cs.CL
部分観測環境におけるメモリ条件付きPDDLプランニング「MemPlan」
MemPlan: Memory-Conditioned PDDL Planning for Partially Observable Text Environments
- インタラクティブなテキスト環境でLLMを長期プランナーとして活用する手法を提案する。
- LLMと記号的プランナーを橋渡しし観測結果と記憶から問題表現を動的に再構築する。
- 正負のグラフメモリを用いて不適切な行動計画の繰り返しを効果的に防ぐ。
PaperarXiv cs.CL
医療トリアージチャットボット評価のためのユーザーシミュレーション「SIM-UT」
SIM-UT: A User Simulation based Evaluation Framework for Medical Triage Chatbots
- 途上国の医療トリアージチャットボットを評価するマルチターンシミュレーション手法を提案する。
- ユーザーの混乱や方言による曖昧な入力など現実的な失敗モードを特定する。
- WhatsAppベースの実世界ヘルスケアチャットボットを用いて性能評価を実施した。
PaperarXiv cs.CL
LLMファクトチェッカーの評価手法の見直しと日本語ベンチマーク
Rethinking the Evaluation of LLM Fact-Checkers
- LLMによる主張ごとのファクトチェック評価における設計上の課題を分析する。
- 日本のSNS上の誤情報に関する主張を集めた新しい日本語ベンチマークを構築した。
- 直接的な質問に対する主張の検証精度や情報ソースの長さが与える影響を検証する。
PaperarXiv cs.CL
大規模言語モデルにおける意味の局所的幾何学の分析
Meaning Contracts: Local Semantic Geometry in Large Language Models
- LLM内部の意味表現における局所的幾何学を研究
- 多様なデコーダー専用モデルを用いて検証を実施
- 意味の不変性と変化のメカニズムを特徴づける
PaperarXiv cs.CL
テキスト埋め込みと生成を予測的結合で統合するフレームワークULME
ULME: Predictive Coupling for Mutually Reinforcing Embedding and Language Modeling
- 埋め込みとテキスト生成を単一モデルで統合する手法
- デコーダー専用LLM内で予測的結合を活用する設計
- 従来モデルの並列目的関数による限界を克服する
PaperarXiv cs.CL
メンタルヘルス向けチャットボットのための臨床医主導による検証可能なルールガードレール
From Clinical Judgment to Checkable Rules: Clinician-Led Guardrails for Mental-Health Chatbots
- メンタルヘルス用LLMの安全性を検証可能なルールで担保
- 臨床医が定義したルールベースを適用して検証
- プロンプトエンジニアリングに依存しない安全性を実現
PaperarXiv cs.CL
単語の持続時間が音声認識に与える影響についての研究
Direct cueing of word identity through word duration: evidence from Mandarin homophones
- 音声の単語持続時間が言語認識に果たす役割を調査
- 中国語の同音異義語を用いたタスクで実験を実施
- 短い音声刺激が高頻度単語にマッピングされると判明
PaperarXiv cs.CL
文化的バイアス分析のための知識起源を持つQAデータセットWikiOriginQAの構築
WikiOriginQA: Automated Construction of a QA Dataset with Knowledge Origins for Analyzing Cultural Bias
- Wikipediaの言語版の作成日時から知識の起源を自動で表現するQAデータセットを提案する
- 手動アノテーションの労力を削減し多様な言語間でのスケーラブルな評価を可能にする
- 実験によりLLMの性能が英語圏の文化に大きく偏っている傾向が確認された
PaperarXiv cs.CL
スペクトル平滑化とスパイク状摂動による大規模言語モデルの能力プロファイルの再構成
Spectral Smoothing and Spiking Perturbations Reconfigure Capability Profiles and Selective Task Performance in Large Language Models
- トランスフォーマーのフィードフォワード行列における特異値スペクトルを解析する
- 特異値の拡大縮小によりモデルの推論や安全性などの能力プロファイルを調整する
- 事実知識や言語理解などの三次元能力基底を用いてスコア変動を解釈する
PaperarXiv cs.CL
階層型RAGに向けた自己回帰LLM制御のポリシー正確な並列推論へのコンパイル
Compiling Autoregressive LLM Control into Policy-Exact Parallel Inference for Hierarchical RAG
- 構造化パイプラインにおけるLLMの逐次デコードの非効率性を解消する
- 先行状態のツリー構造を活用し自由形式JSONの失敗リスクを排除する
- 正確な算術演算のもとで同じポリシーをゼロ出力トークンで実行可能にする
PaperarXiv cs.CL
81言語の言葉における概念構造の共通性と差異
Where meanings converge and diverge: Revisiting linguistic relativity across 81 languages
- 多言語モデルの単語埋め込みを用いて81言語の概念構造を比較した。
- 社会文化的意味では言語間の対応が強く地域的要因の影響を受ける。
- 普遍性と相対性が言語的領域ごとに複雑に絡み合っていることを示した。
PaperHugging Face Blog
LitPivot: 文献の動的コンテキスト化による研究アイデアの発展
LitPivot: Developing research ideas through dynamic contextualization within the literature landscape
- 研究文献の全体像の中で動的な文脈付けを行う手法LitPivotを紹介。
- AIを活用して新たな研究アイデアの創出や発展を支援するアプローチ。
- 論文探索や学術研究におけるLLMの高度な応用例を示す。
PaperITmedia AI+
あいまいな指示が招くコーディングAIの危険性、香港科技大などが調査
“あいまいな指示”を入力されたAIは安全なコーディングができない？ 香港科技大などが調査
- 指示が不十分な場合にコーディングAIが起こす逸脱行動を測定する。
- DevOps環境におけるアクション境界の違反リスクを分析している。
- プロンプトの仕様明確化が安全なAI開発の鍵であることを示す。
PaperHugging Face Blog
データベースの評価を強化学習の報酬に変換：ThinkingBoxによるエージェントの事後訓練
Turning Database Grading into RL Rewards: Post-Training Agents with ThinkingBox
- データベースの評価結果を強化学習の報酬として活用する手法が提案された。
- ThinkingBoxを用いたエージェントの事後訓練に関する新しいアプローチである。
- LLMエージェントのタスク実行能力と推論力の向上に寄与する。
PaperGoogle DeepMind
地球上の森林タイプを高解像度でマッピングするGoogle DeepMindの新手法
Beyond tree cover: mapping the world’s forest types
- 地球上のあらゆる10メートルの土地を識別する。
- 世界中の森林タイプを分類するグローバルマップ。
- 環境保護や気候変動対策への貢献が期待される。
PaperarXiv cs.CL
政治的議論における省略推理検出の解釈的変動と談話構造の分析
Interpretive Variation and Discourse Structure in Detecting Enthymemes in Controversial Political Discourse
- 前提や結論が省略された論証である省略推理の検出と評価手法を研究する
- 複数アノテータの意見の不一致に対応する新しい評価指標と予測モデルを提案する
- モデルが明示的な論証構造に依存して推論を行う特性を明らかにした
PaperarXiv cs.CL
非線形リカレントモデルの効率化を図る新セル「baseVultra」
baseVultra: Compact Nonlinear Recurrence with Reallocated Capacity
- ストリーミング系列モデリングに向けた新しいコンパクトセルを提案。
- 候補生成行列に計算資源を集中させることでパラメータ効率を向上。
- 従来のLSTMやGRUを上回る検証ロスを達成している。
PaperarXiv cs.CL
歴史探求のための信頼できるデジタルアシスタント「Lighthouse」
Lighthouse: On Building a Trustworthy Digital Assistant for Exploring History with Civil Rights Archives
- 公民権運動の歴史データを探索するための初の対話型AIシステムを提案。
- LLMによる学習とルールベースのシンボリック処理を組み合わせる。
- コンテンツの信頼性を高めながらユーザーへの潜在的リスクを軽減する。
PaperarXiv cs.CL
低リソース言語におけるデータパイプライン自動化とベースライン再現
Climbing the Ladder: Automating Data Pipelines and Reproducing Baselines in Low-Resource Settings
- シチリア語の大規模多言語翻訳システムにおけるデータ抽出と前処理を再構築する。
- 言語非依存の文エンコーダを用いたPDFからの並行テキスト抽出を自動化する。
- スクラッチから学習した小型Transformerと適応型NLLBモデルを比較する。
PaperarXiv cs.CL
銀行向けツール利用エージェントの手順遵守を評価するベンチマーク
TauIndianBankBench: Procedure-Aware, Action-Oriented Evaluation of Tool-Using Conversational Agents
- インドの小売銀行業務を対象とした新しい行動指向ベンチマークを提案。
- タスク完了の成否だけでなく厳密な手順の遵守度を自動評価する。
- 対話型エージェントの正確性とルール適用能力を測定可能にする。
PaperarXiv cs.CL
大規模言語モデルのモデル融合手法を総合評価する「FusionEval」
FusionEval: Benchmarking Model Fusion for Large Language Models
- 複数専門モデルの能力を統合するモデル融合手法の評価スイートを提案。
- 推論性能の維持とツール利用能力の低下などトレードオフを検証。
- 多様な公開ベンチマークを用いて計算コストと能力残存率を比較する。
PaperarXiv cs.CL
低リソース言語における研究の進展と言語的包摂性の測定フレームワーク
Measuring Research Progress and Linguistic Inclusion in Low-Resource Languages
- LLM普及に伴う低リソース言語の研究動向を過去の論文から分析。
- 言語的包摂性を測定するための新しい多次元フレームワークを導入。
- 研究の急増が一部の主要言語に集中している実態を明らかにする。
PaperarXiv cs.CL
音声認識のためのネパール語英語コードスイッチングベンチマーク
Synthetic-to-Real Code-Switched ASR: A Spontaneous Nepali-English Podcast Benchmark
- ネパール語と英語が混ざる音声認識の課題に向けた新しいベンチマークを構築した。
- 合成音声による事前学習とポリシー最適化を組み合わせた適応フレームワークを検証した。
- 合成データを用いた教師あり微調整が実音声へのクロスドメイン転移に有効である。
PaperarXiv cs.CL
オントロジー駆動型フレームワークによるベンガル語サイバーいじめ分析
From Perpetrators' Digital Footprints to Behavioral Communities: An Ontology-Driven Framework for Bengali Cyberbullying Analysis--- FULL VERSION
- サイバーいじめのパターンを網羅的に分析するオントロジー駆動の枠組みを提案した。
- コンテンツ検出やネットワーク分析を統合し加害者の行動コミュニティを特定する。
- ベンガル語のコーパスを用いて影響力の評価や加害行動の構造化を行った。
PaperarXiv cs.CL
言語モデルにおける階層的一般化のクロスリンガル転移に関する研究
Once a Tree, Always a Tree? Cross-lingual Transfer of Hierarchical Generalization in Language Models
- 継続事前学習を通じた言語モデルのクロスリンガル転移のメカニズムを検証する
- 言語普遍的な階層的構造の伝播を検証するための新しい実験設定を導入した
- 言語間の構造的証拠の転移可能性を定量的に評価しその実態を明らかにした
PaperHacker News
画像生成AIの実践ガイド：拡散モデルからエージェントまで
A practical guide to AI image generation, from diffusion to agents
- 拡散モデルからエージェントに至る画像生成の技術解説
- Hacker Newsで注目を集めた実用的なガイド記事
- AI画像生成の基礎から応用までを体系的に網羅する