Research paper No FPGA board result in this paper

目標を保持するエージェントの熱力学的限界と最適テンポ

エネルギー予算をもつエージェントの定義、そのようなエージェントが毎秒・毎ジュールどれだけ速く行動できるかの物理的限界、そして完了した実行における1ジュールあたりの進捗として知能を読む見方。

David Charlot, Open Interface Engineering

本稿は英語版の翻訳です。相違がある場合は英語版が優先します。 英語の原文.

Research studies, not journal finals. Notation is defined in the paper. Analytical energy estimates are not board power. Interactive figures live under /living/. Shared terms: glossary.

Cite this

David Charlot, Open Interface Engineering. 目標を保持するエージェントの熱力学的限界と最適テンポ. Open Interface Engineering. Web: https://research.openie.dev/papers/agency/. PDF: https://research.openie.dev/pdfs/agency.pdf.

バージョン 1.1、2026年10月11日。データとコード:research.openie.dev/data/。LaTeX PDF:/pdfs/latex/agency.pdf(ソース)。

要旨

本稿は、エージェントをエネルギー予算のもとで目標を保持するシステムとして定義し、それが秒あたりおよびジュールあたりどれだけ速く行動できるかに対する物理的限界を導き、実行が完了した後のジュールあたりの進捗として知能を測る。

平易な言葉で

  1. エージェントとみなされるためには、システムは目標を目指し、世界に働きかけ、エネルギー予算の内にとどまらなければならない。
  2. 物理学はあらゆる決定に最小のエネルギーコストを課すので、どのエージェントもその限界より速く、あるいは安く行動することはできない。
  3. 仕事を正しくやり遂げるシステムのうち、より賢いのは、より少ないエネルギーを使ったほうである。

1. テーゼ

この提案は三つの層をもち、その順序は固定されている。

  1. エージェンシーが最初に来て、その定義は必須である。 本トラックはそれをエージェンシーの普遍法則として提案する。形式としては、それは定義とゲートの組である。四つの条項が何をエージェントとみなすかを述べ、第四の条項はジュール予算を破るあらゆる行為を拒否する。定義が満たされるまで、何ものもエージェントではない。それなしには、下流のいかなるものも定義されない。
  2. エージェンシーの運動学的限界は定義から導かれる。 それらは、エージェンシーが秒あたりおよびジュールあたりどれだけ速く動けるか、そして動くために何を支払わなければならないかを述べる。
  3. 知能はエージェンシーの微積分である。 知能は事後的な特性である。速度が記録された経路から読み取られるのと同じように、知能は完了した実行から読み取られる。したがってそれはエージェンシーの導関数である:。ここで は確認されたエージェンシー、 はジュールである。

テーゼ:あるタスクの正しさのテストに合格するシステムのうちでは、順位は完了までのエネルギー(ジュール単位)によって決まる。

このテーゼはそのゲートを通して読まれる。性能は捨てられない。性能こそがゲートである。Burnell らは、評価が一つの集計値ではなくインスタンスごとに結果を報告することを求めており [333]、Zhou らと Laber らは、性能と効率がモデル間および推論予算間で独立に変動することを見いだしている [334, 335]。これらの知見は、すべてが同じ述語に合格するわけではないシステムについてのものである。述語 と失敗率がいったん固定されれば、ジュール以外のすべての要因はゲートを通過する過程ですでに費やされており、それがテーゼの第二文の意味である。ゲート付きの順位付けは実践でもある。SPECpower はサーバの仕事を明示された負荷におけるワットあたりで順位付けし [338]、合格あたりのコストは正しい答えのコストによってモデルを順位付けし [336]、ワットあたりの知能は単位電力あたりの精度によってローカルモデルを順位付けする [337]。本稿の貢献は、拒否の条項と事後の導関数を備えたその順位付けのジュール形式であって、正しさのもとでコストによって順位付けるという発想そのものではない。

ゲートと順位付けは、しばしば混同される二つのもの、すなわち性能と知能を切り分ける。性能とは、そもそも に合格することである。知能とは、その合格にどれだけ少ないジュールしか要さないかである。Krakauer、Mitchell、Krakauer は複雑系科学から同じ線を引いている。印象的な性能は知能と取り違えられず、知能は問題を「迅速かつ節約的に、最小限のエネルギー支出で」解くことのために取っておかれる [339]。同じ正しい答えを、一方は直接に、他方は長い回り道の後に差し出す二つのシステムは、等しく高性能である。より知的であるのは前者だけであり、 がそれらを区別する量である。システムはより多く費やすことでより高性能にすることができる。より知的にするには、同じ合格に対してより少なく費やすしかない。

このテーゼには厳密な形式がある。正しさはゲートである。ジュールは順位付けである。完了述語 をもつタスク について、システム の正しい完了までのジュールは次のとおりである。

最小値は が実行できる方策 の上でとられ、 はタスクが許す失敗率である。タスクに期限がある場合、期限は に書き込まれる。期限を過ぎた答えは述語に不合格となる。したがって正しさ、期限、タスクの規模は本トラックの式に現れ、それぞれ制約として現れる。どれもスコアとしては現れない。ゲートに合格したシステムのあいだでは、ジュールだけがそれらを順序づける。パラメータ、トークン、ベンチマークのスコア、価格はその順序において重みがゼロである。それが「ゼロに帰する」の意味である。正しさは制約となり、エネルギーは唯一の指標となる。それがテーゼである。高性能計算における解までのエネルギーと、MLPerf Power の精度でゲートされた測定は同じ形式をもつ [260]。本トラックはゲートの前に適格性の定義を置き、ジュールを計量された密度として読む。第2.3節が順位付けを述べる。命題 8 は、それが有界な計測器誤差のもとでも保たれるシステム上の全順序であり、積分された はそうではないことを証明する。

順序が重要である。導関数には経路が必要である。経路には動く何かが必要である。定義は何が動くかを述べる。運動学はそれがどのように動きうるかを述べる。知能は後から経路から読み取られる。

本トラックはこの順序を文献に照らして検証する。すべての出典を三つの区分に分類する。

  • 証明済み: 定理と導出。結果は明示された仮定から導かれる。
  • 実証済み: 実験、測定、シミュレーション。結果は観測された。
  • 意見: ポジションペーパー、フレームワーク、定義、哲学。結果は論じられている。

方法を理由に除外される出典はない。各出典は、それが定義、運動学、微積分のいずれに何を与えるかによって配置される。

用語

  • SI: 国際単位系。
  • ジュール(J): エネルギーの SI 単位。一秒間の一ワット。
  • : Boltzmann 定数、 J/K、SI の定義により厳密。
  • エントロピー生成(): 過程が生み出す全エントロピー、 単位。可逆過程の場合に限りゼロである。
  • 相互情報量(): ある変数が別の変数について担うビット数。
  • 動的活動度(): 確率過程における状態間のジャンプの頻度。ダイナミクスがどれだけ忙しいかを測る。
  • TUR(熱力学的不確定性関係): 流れの精度をそのエントロピー生成に結びつける定理。
  • NMR(核磁気共鳴): 分子のスピンを制御し読み出す方法。
  • 不安定率(): 制御されない世界が目標からどれだけ速くずれていくか、ナット毎秒単位。毎秒 ステップで動かす線形プラントについては 。
  • リセット誤差(): リセットされた記録がその最も確からしい状態にない確率。
  • 計数観測量: 選ばれたジャンプを数える、軌道の量。決して減少しない。
  • Radon-Nikodym 導関数: ある測度の別の測度に関する密度。第二の測度が質量ゼロを与えるすべての集合に第一の測度も質量ゼロを与えるときに存在する。
  • Mixture of Limits(限界の混合): 十分である最も安価な機構(ギア)を用いるという規則。それを超えると追加のトークン、パラメータ、ジュールが検証可能な進捗を買わない下限が存在する。下限を超える支出は無駄である。その下限がプラトー(閾値収束)である。Mixture of Limits は一つの固定されたカスケードではない。固定されたカスケードの順序はその一つの事例である。σ 則セレクタは別の事例である。
  • レシート: すべての行為に付される記録で、その予測、その結果、そのジュールを保持する。

2. 形式的枠組み

定義は用語を固定する。命題は、仮定を明示したうえで、引用した定理から証明される。

図1は三つの層がどのように積み重なるかを示す。

三つの層を積み重ねた図。最下部の第1層:定義とゲート、適格性。四つの条項をもつ:予測が先、世界との結合、帰結を負うこと、ジュール予算。中間の第2層:運動学。エージェンシーが秒あたりおよびジュールあたりどれだけ速く動くかであり、Landauer 下限、速度限界、熱力学的不確定性関係、データレート定理によって制限される。最上部の第3層:微積分。知能 iota は dX を dJ で割ったものに等しく、事後に読み取られる。
図1. 三つの層におけるエージェンシー。第2.1節から第2.3節までの図:定義とゲート、運動学的限界、そしてエージェンシーの微積分としての知能。PNG 版も用意している。 Open full size · PNG

2.1 第1層。定義とそのゲート:適格性

システム 、行為 、ジュール単位のエピソード予算 について、適格性 は四つの条項がすべて成り立つときに限り 1 に等しい。

  1. 予測が先。 結果テンプレート が行為の前の時刻 に固定され、それは識別力をもつ:。ここで は、行為なしに引き出された結果をテンプレートが棄却する確率であり、 はテンプレートとともに固定される。あらゆる結果を受理するテンプレートは何も予測しない。
  2. 世界との結合。 。ここで はアクチュエータの下流にある世界の状態であり、 は Pearl の介入演算子である [1]。結合はシステム自身の入力に対する変更のもとでも保たれなければならない。自分自身のセンサを編集することは数に入らない [2]。
  3. 帰結を負うこと。 比較 (一致、部分一致、不一致)がシステムを変える:。
  4. 物理的な下限:ジュール予算。 。条項 1 から 4 までを満たす行為がなければ、その行為はレシートを伴う拒否である。

物理学はすでに条項 1 から 3 までに価格をつけている。フィードバックを伴う第二法則 [3, 4] と、測定と消去の限界 [5] は、温度 の一つの熱浴について次を与える。

ここで は行為の比較が獲得する相互情報量であり、ナット単位である。一ビットは ナットなので、各ビットのコストは である。比較してからリセットする受容器は、閉じたサイクルにわたって一ビットあたり少なくとも を支払う [6, 7]。定義はその第一の条項から物理的である。

定義 1。結合

条項 2 は因果的な情報の流れによって測られる。行為 が方策 から引き出されて介入によって設定され、 をアクチュエータの下流の世界とする。このとき

これは、行為のノードから への Ay と Polani の情報の流れである [8]。それは介入的な同時分布 の相互情報量に等しい。方策にわたるその最大値は、行為から世界への通信路の容量である。

ここで は利用可能な行為の集合である。Klyubin、Polani、Nehaniv は、 の代わりにエージェント自身の将来のセンサを置いたこの容量としてエンパワーメントを定義した [9]。条項 2 は世界の側をとるので、センサを編集しても何も加わらない [2]。

容量ではなく実現値。 行為に帰属される量は、エージェントが実行した方策のもとで実現された流れ、すなわちその における である。容量は上界であり、決して帰属されない。システムは、なしえたがなさなかった結合について評価されない。

推定。 流れはレシートから推定される。エージェントのランダム化された方策が行為を割り当てるので、レシートにおける の同時計数は介入的な標本である。それらの計数のプラグイン相互情報量は、 個の標本について約 ナットだけ上方に偏る。ここで は区別可能な世界の結果の集合である。その Miller-Madow 項を差し引き、ブートストラップ区間を報告する [315]。レシート規模の計数では、その補正は十分ではない。Nemenman、Shafee、Bialek のベイズ推定量 [325] が次回の実行のための明示された代替であり、レシートのスキーマはどの推定量が各数値を生み出したかを記録することになっている。ある文脈で方策が決定的である場合、そこでは行為はランダム化されず、その実行から流れは識別されない。その場合、レシートは容量の限界をそれ自身の列に、限界であることを明示して記録し、その文脈の は上界として報告される。第8.11節の実行は容量の限界 を帰属させた。その と は、実現された結合と実現された知能の上界である。その による順位付けは を用いないので、そのまま成り立つ。

なぜこの尺度なのか:

  • 介入的である。 Pearl の do 計算がその演算子を与える [1]。Kenton、Kumar、Farquhar、Richens、MacDermott、Everitt は、エージェントを、自らの行為が世界に異なる仕方で影響するとしたら方策を適応させるであろうシステムとして定義し、介入的なデータからエージェントを発見する [10]。レシートは構成上介入的である。エージェントが自らの行為を設定し、結果は世界から読み取られる。
  • 観測的な尺度は失敗する。 James、Barnett、Crutchfield は、移動エントロピーが情報の流れを測らないことを例によって示した [11]。Lizier と Prokopenko は情報の移動を因果的効果から切り分け、因果的効果を因果的な情報の流れに割り当てた [12]。
  • 価格がつけられている。 介入のもとでは、流れは相互情報量である。相互情報量は、フィードバックを伴う第二法則と、測定と消去の限界がジュールで価格をつける量である [3, 5]。
  • 因果グラフを必要としない。 Janzing、Balduzzi、Grosse-Wentrup、Schölkopf は、因果グラフと同時分布が与えられたもとで、公準から因果的影響の尺度を導いた [13]。レシートが担うのは行為と結果であって、エージェントの完全なグラフではない。流れはそれらから直接計算される。
  • 評価はそれを引き起こした行為に帰される。 複数の行為が一つの結果に触れるとき、行為 に帰属されるビットは、Albantakis、Marshall、Hoel、Tononi が与えた単一遷移に対する実際の因果の説明に従う [14]。

定義 2。エージェントの境界

物理的なシステムを、それぞれが計量された壁の内側にある構成要素の有限集合 とする。候補エージェントとは、すべての比較 の記録(条項 3)を保持し、 を の外側にもつ部分集合 、またはその粗視化である。完了した実行について、 を をエージェントとして帰属された確認済みの結合ビットとし、 を の壁で計量されたジュールとする。

エージェントとは、 を最大化する候補である。

は有限なので、候補は有限個である。ある候補が をもつならば、最大化元は必ず存在する。レシートは最大化元を名指しし、あらゆる同点を記録する。

行為に閉じた計量。 条項 4 は行為のジュールを行動するエージェントに課す。したがって、ある行為の結合を帰属された候補は、それを実現するすべてのジュール、すなわちその行為を実行するアクチュエータのジュールと、命令を運ぶリンクのジュールを課される。定義 2 の はこの規則のもとで読まれる。Takahashi と Hayashi は、なぜこの規則が必要かを示している。境界が開いていると、情報利得と境界内の散逸が切り離され、ジュールあたりのビットをいくらでも大きくできる [239]。

補題 1。最大化する境界はアクチュエータを含む

設定。 構成要素 、すなわちアクチュエータは、 の残りと世界とのあいだの切断である。 の構成要素から へのすべての因果経路は の出力 を通る。 である候補 は、 に送る命令 を通じてのみ に作用する。命題 7 と同様に壁は互いに素であるから、リンクのジュール を用いて である。

仮定。

  • (B1) 切断。 を含まない候補について、 への介入のもとで はマルコフ連鎖である。
  • (B2) 行為に閉じた計量。 を通じた結合を帰属された、 を含まない候補は、 を課される。
  • (B3) 候補間の同点は、包含関係で大きいほうに与えられる。

主張。 であり課されるジュールが正であるすべての候補 について、 である。したがって定義 2 のある最大化元は を含み、(B3) のもとでは名指しされる最大化元がそれを含む。アクチュエータが結合を加えるとき、すなわち のとき、不等式は厳密である。

証明。

  1. 一つの行為を固定する。 はすべての記録を保持し(定義 2)、 は を含むので、両方の候補は同じ比較の記録を保持する。したがって と は両者で同じである。(B1) と、介入的な同時分布に適用したデータ処理不等式により、 である。行為について和をとると、 である。
  2. (B2) と壁の合成(命題 7、第1部)により、 に課されるジュールは に等しい。
  3. ステップ 2 の共通の分母の上でステップ 1 をとると、不等式が得られる。 のときそれは厳密である。
  4. は有限なので、最大化元 が存在する。 ならば、ステップ 3 により も最大化元となり、(B3) がそれを名指しする。

読み方。 (B2) がなければ、定義 2 は退化する。記録を保持し、アクチュエータの消費をその壁の外に置く小さな部分集合は、より少ないジュールで同じ結合ビットを報告する。行為に閉じた計量はそれを取り除き、実際上コストはかからない。アクチュエータのジュールは条項 4 のもとですでにレシートに載っているからである。因果経路の外にある構成要素は、依然として比によって取り除かれる。そのような構成要素を一つ除いても は変わらず、 は下がる。探索は 個のすべての部分集合にわたって行われるのではない。記録を保持しアクチュエータを含む候補にわたって行われる。ホスト上ではそれらは少数である:プロセッサ、アクセラレータ、メモリ、アクチュエータ。計測器のドメインがそれらの構成要素に電力を帰属させるならば、一つの計測器で足りる(第8.1節)。

なぜこの境界なのか:

  • だけではなく比。 だけを最大化すると、ジュールを加えるが確認済みのビットを加えない構成要素に価格がつかない。比はそれらを取り除く。
  • マルコフブランケットではない。 Aguilera、Millidge、Tschantz、Buckley は、弱く結合した線形確率システムに対してさえ、マルコフブランケット条件はパラメータの狭い範囲でしか成り立たないことを導いた [15]。Biehl、Pollock、Kanai は、用いられているマルコフブランケットの定義どうしが同値でないことを反例によって証明した [16]。Bruineberg、Dołęga、Dewhurst、Baltieri は、推論の道具としてのブランケットを物理的境界としてのブランケットから切り分けている [17]。
  • 観測者を必要としない。 Orseau、McGregor McGill、Legg は、同じ振る舞いの二つの記述のベイズ的比較によってエージェントと装置を定義しており、そのためラベルは観測者の事前分布に依存する [18]。 と はレシートと計測器から読み取られる。
  • 尺度によって見いだされる境界。 IIT 4.0(統合情報理論)は、システムを最大の統合された原因結果力をもつ要素の集合とみなす [19]。Krakauer、Bertschinger、Olbrich、Flack、Ay は、個体を、過去から未来へ情報を伝播させる集合体として同定する [20]。定義 2 はその形式を保ち、定義自身の通貨、すなわちジュールあたりの確認済みの結合ビットを用いる。
  • 粗視化も数に入る。 Hoel、Albantakis、Tononi は、マクロな記述がミクロな記述よりも大きな因果力を担いうることを示した [21]。
  • 道具は境界を動かす。 人が道具を使うとき、候補には人だけ、道具だけ、そしてその組が含まれる。定義 2 は、行為のすべてのジュールを課したうえで、 を最大化するいずれかの候補に結合を帰属させる。Krakauer は、人、道具、タスクを、保持された能力と依存が共進化する一つの力学系としてモデル化する。道具の利用可能性がある臨界値を超えると、能力は依存的な下限へと崩壊し、目標が不確かなもとではエージェンシーそのものが道具へ移りうる [340]。そのモデルでは、そろばんのように使用者がその働きを再構成できる道具は、道具が取り除かれた後も能力を人のもとに残し、一方で衛星ナビゲーションは使用とともに能力が減少する領域にある [340]。定義 2 の比はこの移転を測定可能にする。道具なしで人をテストすれば、残る確認済みのビットがその人の保持するビットである。
  • すべての候補はインタフェースをもつ。 Rosas、Mediano、Biehl、Chandaria、Polani は、すべての二部確率過程が因果的ブランケットをもつことを証明し、定常状態やマルコフ性の仮定なしにデータからそれを見いだすアルゴリズムを与えた [22]。

2.2 第2層。運動学

累積ジュールは であり、 は計量された電力である。

エージェンシーの変位は、確認され結合された変化のビットを数える。

行為ごとに、 は を選んだ方策の実現された流れであり、同じ文脈における実行の行為にわたって推定される(定義 1)。

秒あたりの速度は である。ジュールあたりの速度は である。ジュールあたりの加速度は である。予算は である。

運動学的限界とは、これらの量に対する限界である。

K1。Landauer 下限、閉じたサイクル。 確認された各ビットは記録され、後に受容器をリセットするために消去される。したがって

K において、SI 定数から計算すると J である。これはジュールあたり約 ビットである。命題 1 は、記録についての明示された仮定のもとで、各行為の平均ジュールについて、K1 を行為ごとに証明する。

K2。古典的速度限界。 Shiraishi、Funo、Saito は、局所詳細つり合いをもつマルコフジャンプ過程についてこの限界を証明した [23]。

  • は二つの確率分布のあいだの完全な 距離である。1/2 の係数はない。全変動距離 を用いると、同じ限界は と読める。
  • は全エントロピー生成であり、システムと熱浴の和、 単位である。
  • は動的活動度であり、 は状態 から状態 へのジャンプ率である。 はその時間平均である。

書き換えると、 である。分布を遠くへ、速く、少ないジャンプで動かすことはエントロピーを要する。

ジュール形式。 一つの熱浴について、 であり、 は非平衡自由エネルギーである [24]。したがって散逸仕事は次に従う。

定常的な流れ。 同じ論文は を与える。ここで であり、 は Hatano-Sasa の、すなわち過剰なエントロピー生成である [23]。

K3。精度は散逸を要する。 行為は駆動されており定常ではないので、適用される形式は時間依存の駆動に対する Koyuk と Seifert の不確定性関係である [323]。定常状態の形式は参照のためにここに述べる。定常状態における時間反対称な流れ について、 である [25, 26]。エージェントはフィードバックを用い、フィードバックは実験においてこの限界を破る [27]。エージェントに対する限界はフィードバック形式であり、そこでは相互情報量が限界に入る [28]。命題 3 は確認されたエージェンシーについてそれを述べる。

K4。有限時間のコスト。 有限時間 でビットを消去するには より多くのコストがかかる。超過分は が縮むにつれて増える [29]。平衡の近くでは、プロトコルに沿った過剰仕事は、熱力学的長さの二乗を所要時間で割ったもので下から抑えられる [30]。命題 1 は行為全体に対する下限を与える。

K5。速度に対する量子的上限。 基底状態より上の平均エネルギー をもつシステムは、秒あたり高々 回の直交遷移を行う [31]。定数から計算すると、これはジュールあたり毎秒約 回の遷移である。ときに引用される約 という数値は であり、 であるから Margolus-Levitin の速度の半分である。

命題 1。有限時間における一つの行為のジュール下限

設定。 行為 はその比較を 個の状態をもつ記録 に書き込み、その後記録をリセットする。記録は局所詳細つり合いをもつマルコフジャンプ過程であり、温度 の一つの熱浴と接触している。書き込みのあいだ、比較された結果 は固定され、記録のジャンプ率はそれに依存してよい。リセットのあいだ、記録の率は他の何にも依存せず、したがって記録は単独で時間発展する。リセットは のあいだ続く。 はリセットのあいだの記録の時間平均された動的活動度である。ジュールと仕事は行為 のアンサンブルにわたる平均である。

仮定。

  • (R1) 記録の状態は等しいエネルギーをもつ。記録は書き込みの開始時にも終了時にも と相互作用エネルギーを共有しない。行為の開始時、記録は と独立な準備分布 にある。
  • (R2) 帰属されるビットは、書き込みの終了時に書き込みが記録に残す情報(ビット単位)を超えない:。記録は書き込みとリセットのあいだで変化しない。
  • (R3) リセットは記録を に戻す。リセット誤差は である。
  • (R4) 書き込みとリセットの仕事は計測器を通る:。

主張。

ここで 、 は二値エントロピー、 である。 上で は 0 から まで増加するので、その逆関数は 上で定義される。一ビットを確認する一ビットの記録については、 であり、

のとき、これは に近づく。

証明。

  1. 局所詳細つり合いをもつ等温マルコフジャンプ過程について、 として である。ここで であり、 はナット単位の Shannon エントロピーである [24]。
  2. 書き込み。 を固定して、ステップ 1 を組 に適用する。(R1) により平均エネルギーは変化せず、組は独立な状態から始まる。 のエントロピーは変化しない。したがって同時エントロピーは だけ変化する。ここで は書き込み後の記録の分布、 であり、すべてナット単位である。したがって である。
  3. リセット。記録は単独で時間発展するので、ステップ 1 は記録に適用される。そのエネルギーは変化しない。(R2) と (R3) により、そのエントロピーは から へ移る。したがって である。
  4. ステップ 2 と 3 と (R4) から が得られる。記録のエントロピーはサイクルにわたって相殺する。ビット単位では、(R2) により である。これは Sagawa と Ueda の測定と消去の限界 [5] であり、ここでは任意の準備分布について成り立つ。
  5. 古典的速度限界は、 として を与える [23]。 となる をとる。他の状態は合計で反対向きの変化を担うので、 である。
  6. 副情報なしで、最も確からしい状態を推測とする Fano の不等式は、ビット単位で を与える。 であり、そこで は増加するので、 である。(R2) により であり、 は増加する。したがって である。
  7. ステップ 4 から 6 までが主張を与える。

読み方。 下限は二つの価格の和である。情報の価格は確認されたビットあたり であり、準備状態が何であれ、閉じたサイクルにわたって支払われる。速度の価格はリセットに属する。有限の率をもつリセットは有限時間で単一の状態に到達することはないので、すべての有限の で であり、速度の価格はその誤差を担う。K1 はすべての において行為ごとに成り立つ。特定のダイナミクスに対するより厳しい消去の限界も、同じリセットに対する下界である(第4.1節)。行為ごとに、ジュールあたりの速度は次のとおりである。

有限の において であるときは常に、最後の不等式は厳密である。

命題 2。目標を保持するための維持ジュール

設定。 世界は線形プラント であり、 である。ステップ において、エージェントはプラントの有限値の記録 を書き込む。そのメモリ は の有限値関数であり、 は固定されている。その行為 は の関数である。すべての記録を保持すること、すなわち は、そのようなメモリの一つである。目標はプラントを保持することである:。

仮定。

  • (C1) ノイズ は と独立である。
  • (C2) は有限の微分エントロピーと有限の二次モーメントをもつ密度をもつ。
  • (C3) ステップごとの閉じたサイクルの会計。 は記録 に帰属される平均ジュール、すなわちその書き込みと、いつ支払われるにせよその後の消去のジュールである。情報をナット単位として である。これは、メモリ の各値において、準備状態にある新しい記録と書き込み中に固定された をもってとった、命題 1 のステップ 1 から 4 までである [5]。有界な大きさのメモリは各記録を有界なステップ数のうちに消去するので、帰属されたジュールは境界項を除いて実行の内部に収まる。

主張。 これは Tatikonda と Mitter [169] および Nair と Evans [170] のデータレート定理の、ジュールで価格をつけた系である。Touchette と Lloyd の閉ループ不等式 [32, 33] がレートを記録へと運び、Landauer の消去の価格 [6] が各ビットを ジュールに換算する。それはその合成としてのみ新しい。 を の固有値とする。このとき

証明。

  1. となる実座標を選ぶ。ここで は絶対値が 1 を超える固有値をちょうど担う。 を の不安定ブロックとする。このとき であり、 は の関数、 は (C1) により と独立である。座標の線形変換は微分エントロピーを定数だけずらすので、有限性は変わらない。
  2. とする。これはナット単位の条件付き微分エントロピーである。独立なノイズを加えても条件付きエントロピーは下がらない。 の関数だけずらしてもそれは変わらない。線形写像 は を加える。したがって である。
  3. は の関数であり、より少ないものに条件づけてもエントロピーは決して下がらない。したがって である。 は の関数であるから、 である。これは Touchette と Lloyd の閉ループ不等式である [32, 33]。
  4. ステップ 2 と 3 から が得られる。 ステップにわたって和をとると、 である。
  5. 各記録は有限値なので、各情報項は有限である。 は有限である。二次モーメントがそれを上から抑え、 を安定ブロックとして が (C2) によりそれを下から抑える。 であり、与えられた共分散に対してはガウス分布が最大のエントロピーをもつので、有界な二次モーメントが を上から抑える。 で割ると、極限において、ステップあたりの平均情報は少なくとも である。
  6. (C3) は各ナットに の価格をつけ、それはビットあたり である。

読み方。 不安定な世界に抗して目標を保持するエージェントは、毎秒 制御ステップにおいて少なくとも の維持電力を支払う。 をもつ一つの不安定モードはステップあたり一ビットを必要とし、それは 300 K においてステップあたり J である。記録のステップあたりのビットはその情報を上から抑えるので、証明はデータレート定理の非厳密な平均化された形式も与える(第4.1節)。この合成は短い。それは Tatikonda と Mitter および Nair と Evans のデータレート定理 [169, 170] に、Touchette と Lloyd [32, 33] を通じてビットあたり の価格をつけたものである。それが加えるのはジュールでの価格であり、それが予測 1 の必要とする下限である。

命題 3。確認されたエージェンシーの精度

設定。 エージェント、その世界、そのフィードバックは、有限個の状態上の一つの時間的に一様で既約なマルコフジャンプ過程をなし、その定常状態にある。確認された各行為は、印のついた種類の一つのジャンプである。 は における確認された行為を数える。 は におけるあらゆる種類のジャンプの平均回数であり、 は平均ジャンプ率である。

主張。

  1. 長時間極限において、 である。確認されたすべての行為が同じ ビットを帰属させるならば、 であり、同じ限界が についても成り立つ。
  2. を 番目の確認された行為が閉じる時刻とする。大きな について、 である。
  3. 代わりに が、情報項を含むゆらぎの関係 の逆向き実験への写像のもとで奇であるとする。このとき

逆向き実験が順向きの実験に等しいとき、これは と読める。

証明。 は計数観測量である。それはジャンプの部分集合を数え、決して減少しない。Garrahan は、定常マルコフジャンプ過程における計数観測量について第1部と第2部を証明した [34]。第1部は、計数観測量の分散を平均活動度で抑える彼の限界である。第2部は彼の初通過の限界であり、ジャンプの重みが 0 または 1 である計数について述べられたものであって、 は印のついた一種類のジャンプを数えるので、ここで成り立つ。 によるスケーリングは相対分散を変えない。第3部は、Potts と Samuelsson が測定とフィードバックを含む任意のゆらぎの関係から導いた不確定性関係 [28] を、 を観測量として適用したものである。

読み方。 第1部は時間反転の性質もフィードバックのモデルも必要としない。確認されたエージェンシーの精度は活動度によって買われる。第3部は散逸の価格であり、フィードバックのゆらぎの関係に基づくので、フィードバックのもとでも成り立つ。標準的な TUR は実験においてフィードバックエンジンを拘束しない [27]。それが、エージェントの形式が情報項を担う理由である。

命題 4。量子エージェントも下限を保つ

設定。 比較 は量子測定から得られ、古典的なレジスタ、すなわち条項 3 の記録に書き込まれる。レジスタのリセットは命題 1 の設定と (R2) および (R3) を満たし、 は測定の量子古典相互情報量である。リセットの仕事は計測器を通る:。

主張。

のとき、これは命題 1 の下限である。書き込みも計量される場合、Sagawa と Ueda の測定と消去の限界は、彼らが量子測定について述べる追加の仮定のもとで、すべての において を与える [5]。

証明。 命題 1 のステップ 3 は、レジスタとそのリセットのダイナミクスだけを用いる。それはエントロピーをビット単位として を与える。量子古典相互情報量は高々結果のエントロピーであるから [5]、 である。 であるから、Fano の不等式は を与える。命題 1 のステップ 5 と 6 が を抑える。

読み方。 量子資源は、エージェントが行為ごとに何をなしうるかを変える。それらはその記録の価格を下げない。記録はビットあたり のコストを要し、そこからリセットが厳密になるにつれて消える残余 が差し引かれる。記録を書き込む測定はそれ自身の価格を担い、それは第4.1節で与えられる。

2.3 第3層。微積分:事後に読み取られる導関数としての知能

実行はレシート、すなわち計量されたジュールと確認された変位の順序づけられた記録 を生み出す。各 は行為 が閉じた後にはじめてわかる。したがって経路 は実行が完了してはじめて存在する。

  • 知能、限界的: 。レシートから として推定される。
  • 実行積分: 。
  • 要件を満たすためのジュール: 。
  • 最適: 、すべての について 、かつ を制約として 。実行可能な方策がなければ、レシートを伴って拒否する。
  • 順位付け: 。

はタスクの完了述語 によって設定される。それはゲートであって、スコアではない。パラメータ、トークン、ベンチマークは を通じてのみ入る。他のすべての要因はゼロに帰する。

ここで事後とは文字どおりの意味である。速度は記録された経路から読み取られる。知能は記録された実行から読み取られる。レシートが経路である。

命題 5。知能はジュール軸上の有界な密度として存在する

設定。 上の実行は、計量された電力 (可積分)と、ジュール測度 をもつ。行為 は を占め、 ビットを計上する。行為は重なってよい。各行為には帰属電力 があり、それは の外ではゼロであり、 を満たす。そのジュールは である。重ならない行為については、その行為の区間上で である。

計上規則。 各行為のビットは、その行為自身のジュールにわたって配分される。

仮定(行為ごとの K1)。 すべての について である。命題 1 は (R1) から (R4) の下で、各行為の平均ジュールについてこれを与えるので、この主張は平均的な実行について成り立つ。単一の実行では、各行為が より多くを消費するならば常に成り立つ。第8.11節の実行におけるすべての確認された行為は、その 倍を超えるエネルギーを消費した。

主張。

  1. 時刻のすべての可測集合 について、 である。したがって は に関して絶対連続である。
  2. Radon-Nikodym 微分 が存在し、ジュールがゼロの集合を除いて一意であり、次を満たす。

である所では である。重ならない行為については、行為 上で であり、これはレシートの である。

  1. 確認されたエージェンシーは累積ジュールの関数 であり、 は非減少で、定数 をもつ Lipschitz 関数である。したがって はほとんどすべてのジュールで微分可能であり、ほとんどすべてのジュールで である。
  2. 代わりに各行為のビットをその行為が閉じる瞬間に計上するならば、ある が存在する限り、 は に関して特異である。このとき は階段関数であり、ほとんどすべてのジュールで であり、すべてのエージェンシーはジュールがゼロの集合の上に置かれる。

証明。

  1. 行為ごとの K1、次いで により、 である。 ならば である。
  2. 両方の測度は有限であるから、Radon-Nikodym の定理が を与える。 である集合 上で ならば、 となり、ステップ 1 に反する。 上では であり、 である所では である。これが明示的な形を与える。
  3. で ならば、ステップ 1 により であるから、 は矛盾なく定義される。 について である。 は連続であるから、 は 上で Lipschitz である。Lipschitz 関数は絶対連続であり、ほとんどいたるところで微分可能である。変数変換により を得る。したがって もまた に関する の密度であり、一意性によりそれは に等しい。
  4. は連続であるから、 である一方で である。したがって は絶対連続ではない。それはジュールがゼロの有限個の点の上に置かれるので、特異である。有限個の跳躍の間で一定である関数は、ほとんどいたるところで導関数がゼロである。

読み方。 各行為のビットをその行為が使ったジュールにわたって配分すれば、事後の知能はジュール軸上の矛盾なく定義された密度となる。 を存在させるのは計上規則である。点での計上は、すべてのエージェンシーをジュールがゼロの集合の上に置く。重なる行為は、計測器の読みより多くのジュールを決して割り当てないどのような帰属によっても扱える。各 は行為 が閉じた後にはじめて知られるので、 は完了した実行から読み取られる。

命題 5 は構成によって成り立つ。計上規則が を に関して絶対連続にするので、密度は定義により存在する。その内容は規則の選択にある。第4項は、もう一つの自然な規則である点での計上が、密度をまったく残さないことを示す。

命題 6。標本化された知能は収束する

設定。 計測器は累積ジュール で読まれ、メッシュは である。 上で、標本化された知能は次である。

は連続であるから、時間の標本はジュールの標本を細分する。

主張。 命題 5 の設定の下で、 のとき、ほとんどすべてのジュール で であり、すべてのメッシュで である。標本化された各区間に対する計測器の読みの相対誤差が高々 ならば、報告される比は の中にある。

証明。 は、長さ の標本化された区間 にわたる の平均である。 であるから、

右辺は のすべての Lebesgue 点で 0 に近づき、Lebesgue の微分定理により、ほとんどすべての は Lebesgue 点である。 の限界は、 の単調性と Lipschitz 定数である。読み は同じ を割る。

命題 7。ジュールと結合ビットの合成

設定。 メンバー からなるグループ が一つの世界 に作用する。各メンバーはそれ自身の計量された壁の内側にある。壁どうしは互いに素でグループの壁の内側にあり、すべてのメンバーはグループの外からエネルギーを引き込む。メンバーは独立な方策によって行為 を選ぶ。メンバー の結合は、ほかのメンバーがそれぞれ自身の方策の下で行動するものとして計算される。

主張。

  1. である。ここで は、グループの壁には入るがどのメンバーの壁にも入らないエネルギーである。
  2. であり、等号が成り立つのは、すべての について が与えられたもとで が と独立であるとき、かつそのときに限る。
  3. この不等式は、どのメンバーも単独では結合していないときに狭義となりうる。 を独立な一様ビットとし とすると、各メンバーの結合は 0 ビットであり、グループの結合は 1 ビットである。
  4. グループの壁における行為ごとの K1 の下で、命題 5 は に適用される。 が存在し、 である。定義 2 により、 が各メンバーを含むほかのすべての候補の を上回るとき、 がエージェントである。

証明。

  1. メンバーの壁に入るすべてのジュールは、まずグループの壁に入り、計量されたエネルギーは互いに素な壁にわたって加法的である。
  2. 介入の下で行為は積分布 をもち、各結合は介入的な同時分布の相互情報量である(定義 1)。ほかの行為について周辺化すれば、メンバー の結合はその同時分布における である。連鎖律により である。独立性により であるから、 である。すべての項で等号が成り立つのは、すべての について であるとき、かつそのときに限る。
  3. だけが与えられても は依然として一様なビットであるから であり、 についても同様である。両方の行為が与えられると は確定するので、 ビットである。
  4. 命題 5 が必要とするのは、実行、計測器、行為ごとの K1 だけである。それをグループの壁に適用する。

読み方。 ジュールは加法的であり、その上にグループの連結が加わる。独立なメンバーからの結合ビットは少なくとも加法的であり、グループのレベルでのみ存在するものもある。グループが を高めるのは、メンバーが単独で保持するより多くの結合ビットを得るとき、あるいはメンバーが別々に行動するときより少ないジュールで一緒に行動するときである。第4.1節は、この両方の項に価格を付ける定理を与える。

予測 1。目標を保持するエージェントの最適な行為時間

設定。 閉サイクルの受容器が行為を次々に実行する。各行為は 状態の記録を書き込み、確認されたとき ビットを計上する。リセットの前に行われる比較は、確率 で確認する。各リセットは命題 1 を満たし、継続時間 、平均活動度 、リセット誤差 をもつ。全体を通じて、エージェントは不安定率 の世界に抗して、別個のレジスタを通じて目標を保持する。すべてのジュールはエージェントの壁で計量される(定義 2)。

導出。 各行為は少なくとも 続く。命題 2 は、長期的に、保持に毎秒 の価格を付ける。命題 1 は行為に価格を付ける。二つのレジスタは別個であるから、それらの計量されたジュールは加法的である。行為あたり、平均で、

命題 5 により、実行の知能はジュールあたりの確認されたビット である。 に対する限界の右辺は で最小となり、そこでの値は である。一ビットの記録と厳密なリセットについて、これは二つの数を与える。

予測 1。

  1. 上限。 行動しながら不安定率 で目標を保持するどの受容器も、一ビットの行為について、どのような行為時間においても、 を超える には達しない。一般の上限は である。それは 、、、、、および比 のみに依存する。
  2. 最適な行為時間。 ある受容器の行為あたりの測定されたジュールが に従うとする。 と を目標を保持しない の掃引から測定し、維持電力 を行為なしで目標を保持した状態から測定する。このとき測定された は でピークとなり、その値は であり、 かつ である。誤差帯は次である。
  1. スケーリング。 不安定率の掃引にわたって、 は に対して傾き で減少する。

反証条件。 の測定された最大化点が の外にあること、または の少なくとも一桁にわたる に対する のフィットした傾きが から標準誤差の二倍を超えて外れること。いずれも、行為のジュールと維持ジュールが一つの計測器の上で加法的であり、 がそれらの密度として読まれるという主張を覆す。上限を超える測定された は、その実行の会計を覆す(F12、第8.7節)。

図2は予測 1 の曲線を描く。

予測 1 のモデルによる図解。tau の関数 J が J ゼロ足す a 割る tau 足す s 掛ける tau に等しい場合について、相対的な知能(tau の関数 iota)を対数軸上の行為時間 tau に対してプロットしている。s が 1 のときピークは tau スターが 1 の所にある。s が 4 のときピークは 0.5 に移動して低くなり、マイナス二分の一の傾きを示す。
図2. 最適な行為時間。測定ではなくモデルによる図解:正規化した単位で 、、。維持コストを四倍にすると は半分になり、これが反証条件の検定する の傾きである。PNG 版も用意している。 Open full size · PNG

最も近い研究との比較。 有限の最適サイクル時間それ自体は新しくない。Paneru らは、Brown 運動情報エンジンにおける電力最適なサイクル時間を測定した [330]。Panizon は測定コストの関数として最適な測定スケジュールを導出し [331]、Rolandi らは熱力学的計算におけるエネルギー、時間、精度のトレードオフに限界を与えた [332]。予測 1 が加えるのは、内部最適の源泉、すなわちドリフトに抗して目標を保持する維持コストと、そのスケーリング、すなわち が として減少することである。傾きの検定が特徴的な反証条件である。

何が新しいか。 有限時間の Landauer 限界はメモリだけに価格を付け、 が大きくなるにつれて に向かって下がる [29]。そこでは最も遅いリセットが最も安い。データレート定理は保持だけに毎秒の価格を付ける(第4.1節)。どちらも内部最適を与えない。この定義はエージェント全体を計量し、確認されたビットのみを数え、 をジュール軸上の密度として読む。すると目標の保持が遅さを高価にし、最良の行為時間は、係数 を除いて、跳躍時間 とドリフト時間 の幾何平均となる。Ehrich、Still、Sivak の研究でも、制御器自身のコストが同じようにジュールに入る(第5.1節)。

どこで検証するか。 コロイドのフィードバックトラップは、ソフトウェアで仮想ポテンシャルを課し、 スケールで軌道から仕事を計算する(第3.2節)。一方の座標は、リセット時間 の仮想二重井戸の中で一ビットの行為サイクルを実行する。もう一方は、率 の仮想反転井戸の頂上に保持される。電荷検出器を備えた単一電子箱は、すべての跳躍を数えながら同じ行為サイクルを実行するので、 が測定される(第3.2節)。第8.8節がそのプロトコルを与える。

命題 8。ゲート付きの順位付け

設定。 タスク 、その述語 、その許容失敗率 を固定する。各システム について、 は第1節の正しい完了までのジュールであり、 のどの方策もゲートを通過しないときは とする。 であるとき と定義する。

主張。

  1. はシステム上の全前順序、すなわち反射的、推移的かつ全域的である。第2.3節の順位付け はその狭義部分である。
  2. ゲートを通過するすべてのシステムは、ゲートを通過しないすべてのシステムより上位に順位付けられる。
  3. 方策の平均ジュールのすべての読みが、高々 の相対誤差をもつとする。 ならば、許容されるすべての読みの下で は より上位に順位付けられる。
  4. 積分された はこの順序を誘導しない。 かつ であるシステムが存在する。

証明。

  1. は、 上の全順序 の写像 による引き戻しである。全順序の引き戻しは全前順序である。その狭義部分は であり、これは第2.3節の順位付けである。
  2. すべての有限値は より小さい。
  3. 各方策の読みは の中にあるので、実行可能な方策にわたる読みの最小値は の中にある。したがって である。
  4. はタスクごとに 0.1 J の試行を一回行い、それは確率 1/2 で通過し、決して再試行しないとする。 は常に通過する 1 J の試行を一回行うとする。各通過は ビットを計上する。このとき ビット毎ジュール、 ビット毎ジュールである。任意の について、 は決してゲートを満たさないので であるが、一方で J である。

読み方。 第4項は第8.11節の R-F6 の仕組みである。安価な失敗は積分された を高め、 を変えないか無限のままにする。これが、 が実行内の密度として読まれ、 がシステム間の順位付けである理由である。第3項は、各計測器について検証された の範囲で P6 を解決する。

命題 9。最も安いものから試すことが最適となるとき

設定。 あるタスクにギア がある。ギア による試行は ジュールかかり、全額が支払われ、確率 で を通過する。方策はある順序でギアを試し、最初の通過で停止し、最後のギアの後は拒否する。二つの構造を扱う。独立:異なるギアの通過は独立な事象である。入れ子: が通過するならば後のすべてのギアが通過し、通過確率は である。

主張。

  1. 独立なギア。ある順序の期待ジュールは、ギアを の降順に試すとき最小となる。最も安いものから試すことが最適となるのは、コストの昇順が同時に の降順でもあるとき、まさにそのときである。
  2. 入れ子のギアが二つで、重いギアが十分である場合()。軽いギアを先に試すことが期待ジュールを下げるのは、 であるとき、かつそのときに限る。
  3. 予算。 である厳格な予算 の下では、軽いものを先に試すとタスクを確率 で閉じる。重いものだけならば確率 1 で閉じる。

証明。

  1. 順序 の期待ジュールは である。生存確率 の接頭部に続く隣接した二つのギア 、次いで を入れ替える。それらの寄与は から に変わり、ほかには何も変わらない。したがって を先にすることが劣らないのは 、すなわち であるとき、かつそのときに限る。この比で整列されていない任意の順序には順序の乱れた隣接対があり、それを入れ替えても期待ジュールは上がらない。有限回の入れ替えで順序は整列される。これは、全か無かの解をもつ探索に対する Simon と Kadane の比の規則である [318]。
  2. 重いギアは軽いギアが失敗したときにだけ実行されてその後通過するので、軽いものを先にするコストは である。重いものだけのコストは である。前者が小さいのは であるとき、かつそのときに限る。
  3. 軽いギアの試行が失敗すると が残るので、重いギアは実行できない。

読み方。 固定されたカスケード、すなわち固定された順序で十分なもののうち最も安いものから試す方式は、安価なギアが自らの失敗の代償を払えるほど頻繁に通過するとき最適である。すなわち、入れ子のカスケードの各段階で であるか、独立なギアの間で上昇するコストが下降する と一致するときである。この条件が成り立たないときは、より重いギアに直行するほうが勝り、拘束力のある予算の下では、それがタスクを閉じる唯一の方法となりうる。これが第8.11節のセレクタの結果の仕組みである。σ 則セレクタは、較正された通過確率でこの比を推定する。それは Russell と Wefald および Horvitz の意味での、ジュールをコストとする計算の価値の規則である(第5.1節)。それは、次の行為がもはやそのジュールに見合わなくなったときに停止する。どちらの規則も、それ以上のジュールが検証可能な進捗を何も買わなくなる下限で停止するので、どちらも Mixture of Limits(限界の混合)の事例である。P7(第7.1節)は未解決の点を挙げる。通過確率が推定される場合や十分性が単調でない場合のリグレット限界、そして三つ以上のギアをもつ入れ子の場合であり、後者はギアの増加部分列上の動的計画法である。

2.4 各研究の位置づけ

  • Mixture of Limits は最適演算子である。十分なもののうち最も安いギアは、ジュールについての argmin である。それは一つの固定された順序ではなく哲学である。支出はプラトーで止まり、そこではそれ以上は浪費である。
  • レシートは、すべての行為について 、、、 を運ぶ。

3. 第1層。提案するエージェンシーの普遍法則:定義とゲート

この定義は四つの条項をもつ。行為の前に固定された予測、介入を通じた世界への結合、システムが負う帰結、そしてレシート上の拒否を伴うジュールでの物理的な下限である。

3.0 下限への異論

ここで用いる下限には異論があり、命題 1 の仮定 (R1) から (R4) が、それらの異論に応える場所である。Norton は、Landauer の原理は熱力学的に不可逆なステップをもつプロトコルについてのみ成り立つと論じる [326]。Maroney と Sagawa は論理的不可逆性と熱力学的不可逆性を区別する。 はメモリのエントロピー変化に価格を付けるのであって、ビットそのものに価格を付けるのではない [327, 328]。López-Suárez、Neri、Gammaitoni は、不可逆な論理ゲートを 未満で動作させた [329]。Wolpert らは、実際のコンピュータのコストは消去よりも、ミスマッチ、モジュール性、クロッキングに支配されていると論じる [320]。それぞれの異論は主張を覆すのではなく、その範囲を狭める。命題 1 は (R1) から (R4) を満たす記録、すなわち等エネルギーの状態と共有相互作用エネルギーのない固定状態へのリセットについてのみ述べられており、これはこの限界が成り立つ場合である。下限は下側の限界であり、第8.11節の実行のうち計測器が分解したすべての確認された行為は、それを 14 桁を超えて上回る。K5 も同様の範囲をもつ。Jordan は、Margolus-Levitin 限界は情報密度に関する仮定なしにはエネルギーによって計算速度を制限しないことを示しており [324]、したがって K5 はクロック速度ではなく直交する状態変化についての限界として読まれる。

3.1 証明済み

情報には価格がある。 Landauer は、論理的に不可逆な操作がビットあたり少なくとも を散逸することを示した [6]。これが条項 4 の下にある下限である。Bennett は可逆な Turing 機械を構成し、コストを払わなければならないのは消去だけであることを示した [35]。エージェンシーの避けられないコストは、思考にではなく受容器のリセットにある。Bennett は次いで、デーモンのメモリを消去するコストによって Maxwell のデーモンを解決した [7]。デーモンは最小のエージェントである。その収支は、そのメモリがリセットされたときにのみ閉じる。それが条項 3 と条項 4 を合わせたものである。

フィードバックは情報によって価格付けられる。 Sagawa と Ueda は、フィードバックがある場合、取り出せる仕事が によって上から抑えられることを証明した [3]。測定に基づいて行動することの価値は、その測定が運ぶ情報によって上限が定められる。彼らは、測定の仕事と消去の仕事の和が少なくとも であることを証明した [5]。予測、比較、リセットという完全なサイクルにはジュールで価格が付く。彼らはフィードバックの下での厳密な Jarzynski 等式 [4] と、部分系間の情報交換を伴うゆらぎの定理 [36] を導出した。結合は第二法則に入る相関である。Hartle、Wolpert、Stier、Kempes、Manzano は、ノイズのある測定、限られたメモリ、限られたプロトコルのレパートリーを伴うフィードバックに価格を付けた。ランダムな行動を基準とすると、フィードバックの便益は得られた情報を桁違いに上回りうる [37]。ビットは自由エネルギーに対する仕事を抑える。基準に対する価値は計測器から読み取られる。

エントロピーはジュールに換算される。 Esposito と Van den Broeck は、等温で駆動される系について を導出した [24]。第2層のすべての運動学的限界は、この恒等式を通じてジュールの限界となる。Horodecki と Oppenheim は、小さなスケールでの単発操作の仕事コストを証明した [38]。エージェンシーの行為は単発である。標準的なレビューは、確立した見解を述べている。情報は価格をもつ熱力学的資源である [39, 40]。

制御には結合が必要である。 Conant と Ashby は、よい調整器はそれが調整するシステムのモデルでなければならないことを証明した [41]。よく調整するシステムは、すでに予測を担っている。Touchette と Lloyd は、制御器が取り除くエントロピーは、そのシステムとの相互情報量によって上から抑えられることを証明した [32, 33]。結合は制御の通貨である。閉ループ制御、すなわち比較に基づいて行動することが、この定義の要求するものである。Pearl の do 演算は、介入演算子と、その効果が識別可能となる条件を与える [1]。条項 2 はこの演算子で書かれている。Everitt らは、エージェントが自らの報酬や入力を改ざんしうる仕方を分類した [2]。結合は、エージェント自身のセンサーへのものではなく、世界へのものでなければならない。Richens と Everitt は、大きな分布シフトの集合の下でリグレット限界を満たすどのエージェントも、そのデータを生成する過程の近似的な因果モデルを学習していることを証明した [42]。Richens、Abel、Bellot、Everitt は、多段階の目標指向タスクに汎化するどのエージェントも、その環境の予測モデルを学習しており、そのモデルは方策から抽出できることを証明した [43]。有能なエージェントは予測を担う。それが条項 1 であり、現代のエージェントについて証明されている。

情報はエージェントの内部を流れる。 Horowitz と Esposito は、部分系間の情報の流れが各部分系の第二法則に入ることを示した [44]。結合は率になる。Ito と Sagawa は、移動エントロピーを伴う任意の因果ネットワークに対する第二法則を証明した [45]。予測、行為、結果は、そのようなネットワーク上のノードである。Hartich、Barato、Seifert は、移動エントロピー、学習率、散逸を結びつけた [46]。Allahverdyan、Janzing、Mahler は、結合した系の間の情報の流れの効率に限界を与えた [47]。Esposito と Schaller は、障壁だけを変えるフィードバックもエントロピー収支に入ることを示した [48]。純粋に情報的な行為もジュールの台帳に載る。

自律的なデーモン。 Mandal と Jarzynski は、テープにビットを書き込むことで重りを持ち上げるデーモンを解いた [49]。それには外部の操作者がおらず、メモリがその仕事の代価を払う。Boyd、Mandal、Crutchfield は、そのようなラチェットの仕事を入力テープと出力テープのエントロピー率で上から抑えた [50]。彼らは、モジュール型の設計が Landauer を超える散逸を払うことを示した [51]。エージェントの作り方がその下限を変える。Wolpert と Kolchinsky は、回路の内部でゲートが払う追加のエントロピー生成を計算し、それが回路のトポロジーによって決まることを示した [52]。配線は下限の一部である。

予測の質にはジュールの価格がある。 Kolchinsky と Wolpert は、ある入力分布に合わせて調整された過程が、ほかのどの分布の上でも相対エントロピー項の分だけ余分に散逸することを証明した [53]。Still、Sivak、Bell、Crooks は、予測しないメモリは散逸のコストを伴うことを示した [54]。予測するものだけを保持するのが安価な設計である。Kolchinsky と Wolpert は、意味的情報を、システムが自らを平衡から遠ざけておくために因果的に必要な情報として、熱力学的な価値とともに定義した [55]。それはジュールを伴う既存の説明のうち最も近いものである。それは運動学の手前、そして知能演算子の手前で止まっている。Ortega と Braun は、情報コストを伴う自由エネルギー原理から限定合理的な意思決定を導出した [56]。Kolchinsky と Wolpert は、万能計算の熱をプログラムの複雑さによって上から抑えた [57]。Kolchinsky と Wolpert は、利用可能なプロトコルに対する制約が、取り出せる仕事と情報の価値を制限することを示した [58]。Manzano らは、ランダムな時刻に停止する計算について、ゆらぎの関係式と第二法則に類する不等式を導出した [59]。述語が通過したときに停止する実行は、そのような計算である。

結合と境界は定理の上に立つ。 Ay と Polani は、介入を通じて因果的な情報の流れを定義した [8]。移動エントロピーがその流れを測らないことは、例によって示されている [11]。Markov ブランケット条件は、導出により、パラメータの狭い範囲でのみ成り立ち [15]、使われているその定義は、反例により、互いに異なる [16]。定理により、すべての二部確率過程は因果ブランケットをもつ [22]。定義 1 と定義 2 はこれらの結果の上に立つ。

3.2 実証済み

測定された Landauer の下限。 光学的二重井戸の中のコロイド粒子は、消去が遅くなるにつれて平均熱 に近づいた [60]。フィードバックトラップは同じ接近を高い精度で測定し、短いサイクル時間では余分なコストを測定した [61]。行為が速いと下限は上がる。それは第1層の実験で見られた第2層の効果である。断熱的な電子回路は、不可逆な動作に対する Landauer コストと、可逆な動作に対する 未満の散逸を示した [62]。下限が拘束するのはリセットであって、論理ではない。ナノ磁性メモリビットは、メモリハードウェアにおける下限を示した [63]。自由エネルギーの会計が完全であるとき、ほぼゼロの仕事での消去が現れる [64]。下限は全エントロピーにかかるので、レシートは完全な会計を運ばなければならない。限界に入るエントロピーは、Gibbs-Shannon 形式をもつことが測定された [65]。単一の捕捉イオンは量子的な下限を示した [66]。下限は検証されたすべての基盤上で成り立つ。不足減衰のマイクロメカニカル振動子は、高速で下限に達した [67]。量子ドットは、熱力学的長さから設計されたプロトコルにより、与えられた継続時間に対して最小の散逸でビットを消去した [68]。

フィードバックエージェントは情報を仕事に変える。 螺旋階段状のポテンシャル上のコロイドは、なされた仕事を上回る自由エネルギーを、情報によって支払われる形で得て、一般化された Jarzynski 等式を確認した [69]。これは、その価値がそれ以前に行われた測定によって決まる行為の、初めての直接観測である。単一電子箱は、ビットあたり に近い仕事を取り出し [70]、相互情報量を伴うゆらぎの定理を測定した [71]。自律的なオンチップのデーモンは、自身の発熱を測定されながら、情報によって系を冷却した [72]。エージェントのコストがその効果と並べて測定された。

量子エージェントも同じ限界に従う。分子スピン上の NMR は、情報限界の範囲内で、フィードバックによってエントロピー生成を減らし [73]、下限において情報をエネルギーに変換した [74]。超伝導回路は、フィードバックの間にデーモンのメモリを追跡し [75]、一般化された積分型ゆらぎの定理を検証し [76]、フィードバックの間に得られた情報と失われた情報を測定した [77]。結合は減衰するので、レシートは行為の時点でそれを記録しなければならない。三次元光格子の中の冷却原子が、測定によって並べ替えられた [78]。Linpeng らは、回路量子電磁力学の構成において、量子光、コヒーレント光、熱的光を用いて量子測定のエネルギーコストを測定した。単一光子の光は、得られる情報の単位あたりのエネルギーコストが最も小さかった [79]。記録を書き込む測定には、測定された価格がある。

古典的なエンジンは、その価格を完全なスケールで測定した。光ピンセットのエンジンは、理論的限界で情報を仕事に変換した [80]。コロイドのエンジンは、入力の時間相関に依存する仕事を取り出した [81]。連続的な監視下にある DNA ヘアピンは、サイクルあたり多数の測定が行われたとき、情報量と整合して、サイクルあたり を超える仕事を生み出した [82]。遅延フィードバックを伴う浮上した微粒子は、遅延の二桁にわたって一般化された第二法則に従い、大きな遅延ではフィードバックは失敗した [83]。遅れた行為は弱い行為である。フィードバックトラップのエンジンは、出力と速度を最大化し [84]、ノイズのある測定を最適に活用し [85]、非平衡浴からエネルギーを収穫した [86]。量子ドットは、情報から仕事への変換の間の仕事のゆらぎを散逸に結びつけた [87]。捕捉イオンは、Zeng と Wang の理論 [89] に従い、デーモン自身の散逸を含むゆらぎの定理を検証した [88]。

機能系エージェントの構築と実行。 行為結果の受容器をもつシミュレートされた線虫は、移動と走化性を学習した [90]。物理的な移動ロボットが、同じ機能系制御器を実行した [91]。条項 1 と条項 3 は、ソフトウェア上でも身体の上でも動作する。どちらもジュールを計量していない。

3.3 文献における立場

目的をもつシステムと予期。 Rosenblueth、Wiener、Bigelow は、目標に向かう負のフィードバックによって目的的な振る舞いを定義した [92]。それにはエネルギー項がない。Anokhin の機能系は、求心性統合、決定、行為の前に固定される行為結果の受容器、行動、そして比較をもつ [93, 94]。これは条項 1 と条項 3 の最初の体系的な形であり、動物実験の上に築かれている。Sudakov はその結果を系形成因子として述べた [95]。予測の条項が組織原理である。Shvyrkov は単一ニューロンの記録から、目標が神経活動を組織することを示した [96]。Rosen は予期システムを、自身とその世界の予測モデルを含み、その予測に基づいて行動するシステムとして定義した [97]。これらのいずれもジュールの下限を設けていない。Sterling はアロスタシスを予測による調節として定義する [98]。生理学は予測を行為の前に置く。Virgo、Biehl、McGregor は、システムの状態が Bayes の定理によって更新される信念として読める条件を与えた [99]。Biehl と Virgo は、システムが POMDP(部分観測 Markov 決定過程)を解いていると読めるとき、それをエージェントと呼ぶ [100]。どちらも形式的な定義である。条項 1 はより少なくを求め、より多くを固定する。一つのテンプレートを、 に固定し、レシート上にハッシュとして記録する。

自律性と組織化。 Maturana と Varela は、生命を自己産出によって定義した [101]。Kauffman は、自律的エージェントの定義の内部に熱力学的な仕事サイクルを置いた [102]。それには予測の条項がない。Di Paolo は、適応性、すなわち自らの存続可能性の調節を、意味生成の条件とした [103]。それが条項 3 である。Barandiaran と Moreno は、認知的組織化の最小基準を提案し、適応的調節を代謝に根拠づけた [104, 105]。Barandiaran、Di Paolo、Rohde は、エージェンシーを個体性、相互作用の非対称性、規範性によって定義した [106]。Ruiz-Mirazo、Moreno、Mossio は、自律性を自己維持的な代謝組織として捉えた [107, 108]。Montévil と Mossio は、生物を熱力学的な流れに対する制約の閉包として記述した [109]。それはこの学派の中でジュールに最も近い。Aguilera と Barandiaran は、確率熱力学における自律的エージェンシーの最小モデルを構築した [110]。自律性の伝統はジュールに向かって動いている。Barandiaran と Almendros は、個体性、規範性、相互作用の非対称性を大規模言語モデルに適用した。モデルは最初の二つを満たさず、三つ目も部分的に満たさない [111]。この定義はゲートを行為ごとに適用する。モデル呼び出しは、そのレシートが 、、 を運ぶとき行為である。Levin の TAME(Technological Approach to Mind Everywhere)は、エージェンシーを段階的なものとして、あらゆるスケールで実験によって検証可能なものとして扱う [112]。この定義は、ゲートを行為ごとに二値のまま保ち、段階づけを に置く。

自由エネルギーとエージェンシーの物理学。 Friston は、エージェントが変分自由エネルギーを最小化すると提案する [113, 114]。その自由エネルギーはジュールではなく情報的なものであり、すべての有界なシステムが該当するので、下限を設けない。Rovelli はエージェンシーをエントロピー勾配によって説明する [115]。エージェンシーは根本において熱力学的である。Jaeger は、エージェンシーには自己製造が必要であり、現在の人工知能にはそれが欠けていると論じる [116]。それは、いかなる知能の主張よりも前にゲートを求める要求である。Azadi はエージェンシーを計算的還元不能性に結びつける [117]。Wissner-Gross と Freer は、将来の経路の多様性に向かう力を提案する [118]。その因果的温度は浴の温度ではないので、その単位はジュールではない。Kappen のコメントはそれを批判している [119]。Fields、Goldstein、Sandved-Smith は、能動的推論エージェントにおいて、ジュールで表される熱力学的自由エネルギーを変分自由エネルギーから区別し、両者を関係づける [120]。K1 に入るのはジュールの量だけである。Bruineberg らは、推論の道具としての Markov ブランケットを物理的境界としてのブランケットから区別する [17]。定義 2 は境界を定義から取る。Bartlett らは、意味的情報によって測られる目標指向の情報処理を、生命システムの特徴とする [121]。それは生命の基準としての条項 2 と条項 3 である。

4. 第2層。エージェンシーの運動学的限界

ある行為が適格になると、エージェンシーが毎秒、ジュールあたりにどれだけ速く進むか、そして精度と速度にどれだけのコストがかかるかを、物理が限界づける。これらの限界は四つの族に分かれる。速度限界、TUR、有限時間のコスト、レート上限である。

4.1 証明済み

速度限界。 Shiraishi、Funo、Saito は第2.2節の古典的な速度限界を証明した [23]。エージェントの状態分布を時間 のうちに距離 だけ動かすにはエントロピーが、したがってジュールがかかる。この限界は開放量子系 [122]、および一般の環境との強結合 [123] へと拡張される。Vo、Van Vu、Hasegawa は速度限界と TUR を一つの不等式から導いた [124]。Falasco と Esposito は、遷移を完了するまでの時間に、費やされた散逸による限界を与えた [125]。Ito は、分布の情報幾何学的な速さにエントロピー生成による限界を与えた [126]。Ito と Dechant は、任意の観測量の変化率に Fisher 情報と散逸による限界を与えた [127]。Nakazato と Ito は、エントロピー生成に移動した Wasserstein 距離による限界を与えた [128]。Dechant、Sasa、Ito は、エントロピー生成を、系を動かす部分と系を動かし続ける部分とに分けた [129]。Van Vu と Saito は、最適輸送を通じて TUR、最小散逸、速度限界を統一した [130]。Nagayama、Yoshimura、Ito は、活動度の一般化平均で添字づけられた速度限界の族を導いた [131]。Yoshimura と Ito は、決定論的な化学反応ネットワークにおいて TUR と速度限界を証明した [132]。Aurell、Mejía-Monasterio、Muratore-Ginanneschi は、有限時間の最小散逸を最適輸送問題として解いた [133]。運動学的限界は一つの族をなす。エージェントの状態を動かす最も安価な方法は輸送写像である。Hasegawa は、速度限界、TUR、Heisenberg の原理を一つのバルク・境界対応から導いた [134]。Van Vu と Hasegawa は、古典および量子の Markov 系において、不可逆なエントロピー生成に修正 Wasserstein 距離による限界を与えた [135]。Delvenne と Falasco は、エントロピー生成に動力学的観測量の統計による限界を与えた [136]。

精度は散逸を要する。 Barato と Seifert は TUR、 を述べた [25]。信頼できるエージェントは、その信頼性の対価を払う。 における から、1% の精度には少なくとも 20,000 がかかる [137]。Gingrich、Horowitz、Perunov、England は、すべての定常状態のカレントについて TUR を証明した [26]。Horowitz と Gingrich は有限の観測時間についてそれを証明した [138]。エージェントがもつのはそれである。さらなる結果は、揺らぎの分布全体に限界を与え [139]、離散的な時間ステップを扱い [140]、揺らぎの定理が成り立つところならどこへでも TUR を拡張し [141]、Langevin 動力学、不足減衰運動、速度フィードバックを扱う [142, 143, 144]。カレント間の相関は限界を引き締める [145]。Potts と Samuelsson は、測定とフィードバックがある場合も含めて、あらゆる揺らぎの関係式が TUR を含意することを示した [28]。これがエージェントの精度の限界である。ある総説がこの分野の現状を述べている [146]。Barato と Seifert は時計の精度に価格をつけた [147]。Salazar は、詳細揺らぎの定理から得られる情報によって、エントロピー生成に限界を与えた [148]。Landi と Paternostro は、古典から量子までのエントロピー生成を総説した [149]。フィードバックの形式は、いまやエージェントが出会う場合を扱っている。Van Vu と Hasegawa は、任意の制御プロトコルの下での揺らぎに、エントロピー生成と動力学的項による限界を与えた [150]。Tanogami、Van Vu、Saito は、部分系のカレントに、それ自身のエントロピー生成と、相手との間の情報流による限界を与えた [151]。Kumasaki、Tojo、Sagawa、Funo は、フィードバック冷却のための TUR を導いた [152]。Honma と Van Vu は、連続モニタリングと Markov フィードバックの下にある開放量子系について、エントロピー生成と並んで量子相互情報量を含む有限時間の TUR を導いた [153]。計数観測量については、Garrahan が揺らぎに動的活動度による限界を与え、初通過時間に対応する限界を与えた [34]。Gingrich と Horowitz は、正味のカレントを蓄積するまでの初通過時間について共役な関係を導いた [154]。命題 3 はこれらの結果を確認されたエージェンシーに適用する。

有限時間のコスト。 Schmiedl と Seifert は、両端に跳びをもつ最適な有限時間プロトコルを見いだした [155]。有限の速さにおける最適な行為は、遅い行為ではない。Sivak と Crooks は、過剰仕事に、熱力学的長さの二乗を所要時間で割ったものによる限界を与えた [30]。Proesmans、Ehrich、Bechhoefer は、時間 のうちにビットを消去する最小コストを見いだした [29, 156]。第1層の下限は第2層の曲線になる。Zhen らは、リセットのエネルギーに対する普遍的な有限時間の限界を述べた [157]。速度と効率は定理によって互いに引き換えになる。最大出力時の効率 [158, 159]、有限の出力が Carnot 効率を禁じること [160]、出力、効率、恒常性の三者間のトレードオフ [161]、低散逸熱機関に対する普遍的な制約 [162] である。Tsirlin らは、一定のレートにおける最小散逸を見いだした [163]。Lee、Lee、Kwon、Park は、高度に不可逆な過程に対する速度限界を引き締め、厳密な有限時間の Landauer 限界を得た [164]。Van Vu と Saito は、有限時間の量子 Landauer 原理と、その中でのコヒーレンスの役割を導いた [165]。Rolandi と Perarnau-Llobet は、弱結合を超えた有限時間の Landauer 原理を導いた [166]。Kamijima、Funo、Sagawa は、測定とフィードバックの間の有限時間のトレードオフを導いた [167]。Tkachenko は物理ニューラルネットワークについて、準静的な推論は仕事を必要としない一方、有限の速さの推論には少なくとも輸送距離分のコストがかかることを示した(プレプリント) [168]。推論には、遅い動作の下でも残る下限はない。リセットにはある。命題 1 がそれに価格をつける。

目標の保持。 Tatikonda と Mitter [169]、および Nair と Evans [170] はデータレート定理を証明した。不安定な線形系を保持するには、その不安定固有値の絶対値の底 2 の対数の和を上回る通信路レートが必要である。Nair、Fagnani、Zampieri、Evans はこの分野を総説した [171]。Sandberg、Delvenne、Newton、Mitter は、連続的に測定するデーモンが有限時間に取り出す最大仕事を見いだし、いかなる実装にも外部電源が必要であることを示した [172]。Horowitz と Sandberg は、第二法則の不等式に現れる情報項が階層をなし、それぞれが、異なる測定によってその情報を獲得する最小コストであることを示した [173]。命題 2 はビット数をステップあたりのジュールの下限に変える。それはデータレート定理のジュールで価格づけされた系であり、新しい法則ではない。

量子のフィードバックと測定。 フィードバックの第二法則は量子系についても成り立つ [3]。Jacobs はそれを弱測定に拡張した [174]。Funo、Watanabe、Ueda は、量子の測定とフィードバックの下での積分型揺らぎの定理を導いた [175]。Guryanova、Friis、Huber は、理想的な射影測定には無限の資源が必要であることを証明し、系の統計を再現する指針のエネルギーコストを与えた [176]。Danageozian、Wilde、Buscemi は、誤り同定の測定熱に Groenewold の情報利得による限界を与えた [177]。これらは記録を書き込む測定に価格をつける。命題 4 は記録そのものの下限を保つ。

集団。 Wolpert は、各部分系がどの部分系に依存するかという制約から、相互作用する部分系の最小エントロピー生成率に対する厳密に非ゼロの下限を導いた [178]。Tasnim と Wolpert は、この理論を、同時に状態を変える部分系へと拡張した [179]。Wolpert は、ベイズネット全体のエントロピー生成を、その部分におけるカレントの精度に関係づけた [180]。Rolandi、Abiuso、Perarnau-Llobet は、集団的プロトコルによって、散逸する仕事を構成員の数に対して劣線形に増やせることを示した [181]。Fujimoto と Ito は、ゲーム理論的な方法によって、相互作用する部分系の部分エントロピー生成が互いに引き換えになること、そして部分系がペナルティを等しく分け合うときに総量が最小になることを見いだした [182]。命題 7 は、これらのジュールを集団の結合ビットと合成する。

レート上限。 Margolus と Levitin は、毎秒の直交遷移の数にエネルギーによる限界を与えた [31]。Lloyd はその限界をコンピュータ全体に適用した [183]。Deffner と Campbell は量子速度限界の族を総説した [184]。

生きたセンサ。 細菌の走化性において、エネルギー散逸、適応の速さ、正確さは互いに結びついている [185]。環境について学習するにはエネルギーが必要であり [186]、推論の正確さは散逸に結びついている [187]。感知の精度は受容体、時間、エネルギーによって制限され、それらの間には最適な配分がある [188]。どの資源も省くことはできない。これは Mixture of Limits(限界の混合)に合致する。適応の内部での消去にはコストがある [189]。散逸したエネルギーあたりに獲得される情報は、生きたセンサにおいて に最も近い既存の量である [190, 191]。情報の複製にはエネルギーがかかる [192]。レシートを書くことには価格がある。正確で同期した生化学的時計には自由エネルギーがかかり [193, 194]、高い感度でノイズを減らすことにもかかる [195]。系を平衡から離れた状態に保つには最小の電力がある [196]。それが、行動する準備のできたエージェントの維持コストである。Bryant と Machta は、細胞の物理的な通信路を通じて一ビットを送るエネルギーに、大きさ、距離、レイテンシの関数として、ビットあたりの を単位とする限界を与え、それが一を何桁も上回ることを見いだした [197]。Tjalma らは、未来を最もよく予測する過去のビットは、細胞のネットワークにとって法外にコストが高いことを示した [198]。

選択によって獲得される情報。 選択もまたビットを書き込み、そのレートには限界がある。Kimura は、自然選択がゲノムに蓄積する情報を置換荷重によって測り、彼が代表的とみなした荷重の値を用いて、世代あたり約 0.29 ビットと推定した [341]。Worden は、選択がゲノムに情報を加えうるレートに、世代あたりに働く選択による限界を与えた [342]。Hledík、Barton、Tkačik は、確率的な集団において、そのレートが集団サイズと選択のコストの積によって限界づけられることを、Wright-Fisher、Moran、拡散の各モデルにわたって示した [343]。そのような限界はすべて世代あたりのレートである。生物が大きくなるにつれて世代は長くなるので、選択によってのみ学習する担い手は、毎秒得る結合ビットがますます遅くなる。神経系は一生のうちにビットを書き込み、文化的記録は複数の生涯にわたってビットを書き込む。第2.2節の運動学はそれぞれの担い手に適用される。担い手ごとに変わるのは、書き込まれるビットあたりの時間であり、これが、世界が世代の交代よりも速く変わるとき、エージェンシーがゲノムから脳へ、脳から道具へと移る理由である。

図3は三つの担い手を順に並べる。

結合ビットの三つの担い手を、毎秒の書き込み速度の軸上に配置した定性的な図。世代ごとの選択によるゲノム(Kimura によれば世代あたり約 0.29 ビット)、一生のうちの学習による脳、そして複数の生涯にわたる文化による道具と記録。
図3. 結合ビットが書き込まれる場所。定性的な図であり、唯一の数値は Kimura の推定値である [341]。限界:Worden [342]、Hledík、Barton、Tkačik [343]。PNG 版も用意している。 Open full size · PNG

ジュールを伴わない情報レート。 Schreiber は、ステップあたりの有向情報流である移動エントロピーを定義した [199]。それは時間あたりであってジュールあたりではなく、適格性ゲートをもたない。Tishby と Polani は Bellman 再帰においてステップあたりの情報にコストを課した [200]。Landauer はそれらのビットをジュールに換算する。Stratonovich は、与えられた量の情報から得られる最大の利得に限界を与えた [201]。それは結合ビットあたりの価値の上限である。

4.2 実証済み

TUR の検証。 二量子ビットの NMR 実験は一般化された TUR に従い、理論が予測するところで特殊化された TUR を破った [202]。光ピンセットの情報エンジンは、最大効率の近くで元の TUR を破り、相互情報量を含む一般化された限界に従った [27]。エージェントにはフィードバックの形式が必要である。量子ドットの Szilard エンジンがそれを独立に確かめた [203]。原子スケールの導体は、測定された電流ノイズ、すなわちあらゆるチップの物理によって TUR を調べた [204]。分子モーターは単位散逸あたりの精度で評価された [205]。観測されたカレントの揺らぎは散逸に下からの限界を与える [206]。揺らぎのレシートは、ジュールに対する下限の計測器である。

速度限界と有限時間のコストの検証。 光格子中の単一原子は、Mandelstam-Tamm 限界と Margolus-Levitin 限界、そしてその間のクロスオーバーを示した [207]。レート上限は測定されている。捕捉されたコロイドは、速い熱的遷移における時間とエントロピーのトレードオフを測定した [208]。最適輸送プロトコルで駆動されたブラウン粒子は、有限時間の最小散逸の限界を飽和させた [209]。運動学的な最適は到達可能である。フィードバックトラップは、二つの力によるブラウン機械を線形応答の限界に照らして測定した [210]。光子の実験はエントロピー生成に対する幾何学的な限界を検証した [211]。Dago と Bellon は、二重井戸メモリにおける高速の消去を測定し、Landauer の限界を上回る超過分をその発生源までたどった [212]。

生きたセンサの測定。 Mattingly、Kamino、Machta、Emonet は、E. coli が走化性の間に情報を獲得するレートを測定し、細胞がそのレートの定める限界に近い形で勾配を登ることを示した [213]。情報が行動を制限することが、測定されたのである。

有限の速さの熱機関。 単一のコロイドがマイクロメートルの Stirling エンジンを動かした [214]。捕捉されたビーズがブラウン Carnot サイクルを動かし、最大出力時の効率が測定された [215]。二つの選択肢のうち一つを選ぶエネルギーコストが測定された [216]。それは最小の行為である。コロイドのエンジンが活性な細菌浴の上で動作し [217]、設計されたノイズは、緩和を短縮することによって、有限の出力で Carnot に近い効率を与えた [218]。活動を設計することは限界を動かす。情報エンジンはノイズによって冷凍機から加熱器へと反転した [219]。レシートは平均値だけでなくレジームも記録しなければならない。

シミュレーションにおけるエンパワーメント。 Klyubin、Polani、Nehaniv は、行動から未来のセンサへの通信路容量であるエンパワーメントを定義した [9]。それは連続制御について計算され [220]、総説された [221]。それは、エージェントが世界をどれだけ動かせるかをビットで測る。それはジュールあたりのレートではない。

4.3 文献における立場

運動学はおおむね定理と実験である。ここでの意見は、どの変数が正しいかに関するものである。Seifert は、揺らぎからの推論が隠れたコストへの道であるとする [137]。Rovelli、および Wissner-Gross と Freer は、いずれもエントロピー的な運動学を提案している [115, 118]。Kolchinsky は、散逸だけでは複製子がどれだけ速く増殖または減衰するかを限界づけられないことを示す [222]。レートは散逸と活動度とを合わせたものによって限界づけられる。それが速度限界の形であり、そこでは が と並んで現れる。Adlam、McQueen、Waegell は、純粋に量子的な系はエージェントになりえないと論じる。世界モデルを構築し熟考するには複製が必要であり、それを複製不可能定理が禁じるからである(プレプリント) [223]。条項 3 はすでに の古典的な記録を求めている。

5. 第3層。エージェンシーの微積分としての知能

知能とは、ゲートを通過したエージェンシーのジュールに関する微分であり、完了した実行から読み取られる。この層は文献から三つのものを必要とする。学習と意思決定をジュールに結びつける理論、有用な仕事の単位あたりのジュールの測定、そして知能とは何かについての立場である。

5.1 証明済み

ジュールで価格づけされた学習と予測。 Goldt と Seifert は、学習するネットワークが獲得する情報に、それが生成するエントロピーによる限界を与えた [224]。学習効率は高々一である。これは行為の学習部分についての であり、上限を伴う。Still は、最適なメモリは予測情報だけを保持することを示した [225]。メモリに費やされる限界的なジュールは予測を買わなければならない。Boyd、Crutchfield、Gu は、データから最も多くの仕事を取り出すエージェントは、そのデータの最尤モデルをもつことを証明した [226]。より良いモデルは、ジュールあたりにより多くの仕事を生む。Boyd、Crutchfield、Gu、Binder は、過学習と汎化をエネルギー論として述べた [227]。汎化はジュールとして現れる。Ehrich、Still、Sivak は、制御器が使う情報を超えて、制御器そのものに価格をつけた [228]。したがって はシステム全体の壁面で計量されなければならない。Ehrich と Sivak は、自律機械におけるエネルギーと情報の流れの収支を与えた [229]。Wolpert は、Landauer を超える計算コストを総説した [230]。Wolpert らは、確率熱力学における計算のエネルギーコストについての未解決問題を整理した [320]。Levy と Baxter は、単位エネルギーあたりのビットを最大化する神経符号が、ビットを最大化する符号とは異なることを示した [231]。脳にとって正しい目的関数はジュールあたりの情報である。Balasubramanian、Kimber、Berry は、探索的レジームの目的関数を単位電力あたりの伝送レートとした [232]。それはジュールあたりのビットである。Goldt と Seifert は、バッチ学習とオンライン学習について、ネットワークが規則について学習する情報に、学習の熱力学的コストによる限界を与えた [233]。Fiderer、Barth、Smith、Briegel は、環境通信路の仕事容量、すなわち知覚・行為ループにおいて任意のエージェントが期待しうる仕事の取り出しの最大レートを定義した。仕事効率の高いエージェントは予測と忘却の釣り合いをとる(プレプリント) [234]。Elliott、Gu、Garner、Thompson は、量子適応エージェントが、メモリ最小の古典エージェントよりもはるかに少ないメモリで済みうることを示した [235]。リセットすべきメモリが少なければ、支払うべき下限も低い。

意思決定と有界最適性。 Russell と Subramanian は有界最適性を定義した。与えられた機械と環境に対する最良のプログラムである [236]。ここでの資源はジュールであり、最適は の制約の下での である。Russell と Wefald は、各計算に、そのコストを差し引いた意思決定への期待効果によって価格をつけ、正味の価値が正である計算がなくなったところで熟考を止めた [316]。Horvitz は、資源制約の下での推論について同じトレードオフを定式化した [317]。σ 則セレクタは、コストを計量されたジュールとしたその規則である。命題 9 はカスケードに対するその厳密な形を与える。Genewein らは、効用から情報コストを引いたものから抽象化と階層を導いた [237]。Mixture of Limits のギアはそのような階層である。Legg と Hutter は、知能を、すべての計算可能な環境にわたる、複雑性で重み付けした期待報酬として定義した [238]。それは積分であるが、報酬についてのものであり、エネルギーを伴わず、計算不可能である。ジュールに関する微分は、報酬を確認された結合ビットに、測度を計量されたジュールに置き換える。Takahashi と Hayashi は、ジュールによる既存の微積分として最も近いものを与えている [239]。彼らは明示的な計上規約の下で二つの比を定義する。ジュールあたりの熱力学的エピプレキシティは である。すなわち、環境変数 についてエージェントの状態に保持される新しいビットを、明示された境界の内側で消費されたジュールで割ったものである。ジュールあたりのエンパワーメントは、行為から観測への通信路の、単位期待エネルギーコストあたりの容量であり、Verdú の単位コストあたりの容量である。彼らは、熱力学的学習不等式とデータ処理とを結びつけることで閉サイクルの Landauer ベンチマークを証明し、可逆な複製の構成によって、境界が開いていて新しいメモリが無料で持ち込まれる場合、情報利得と境界内の散逸とが切り離されることを示す。彼らは報告チェックリストで締めくくる。境界、エネルギー収支、ベースライン、粗視化、ホライズンとリセット、スループット、推定量である。本研究はその仕事から四つのものを受け取る。彼らの閉サイクルのベンチマークは、学習についての K1 である。彼らの切り離しの構成は、定義 2 における行為に閉じた計量の理由である(補題 1)。彼らのチェックリストは第8.12節で採用される。ジュールあたりのビットを毎秒のビットと並べて報告せよという彼らの助言は、予測 1 が最適化する変数である。定義は彼らの指標と、四つの点で厳密に異なる。ジュールあたりのエンパワーメントは容量であり、行為の分布にわたる上確界である。定義は実際に走った方策の実現されたフローを計上し(定義 1)、容量はその限界である。彼らの数値は、彼ら自身の言明によれば、ベンチマークに相対的な効率の報告である。本研究は正しさのゲートの背後で によってシステムを順位づける(命題 8)。彼らには、行為の前に固定される予測も、帰結条項も、拒否もない。定義は、いかなるビットも数える前にその三つすべてを要求する。彼らは時間の運動学を与えない。予測 1 は、同じジュールの計上から最適な行為時間と上限を導く。Ortega、Braun、Dyer、Kim、Tishby は、情報理論的な限定合理性を整理した [240]。Zénon、Solopchuk、Pezzulo は、認知のコストを情報として捉えた [241]。Sims はレート歪み理論を知覚に適用した [242]。彼らの通貨はビットである。Landauer はリセットにおいてビットをジュールに換算する。

5.2 実証済み

脳。 Laughlin、de Ruyter van Steveninck、Anderson は、クロバエの光受容細胞と介在ニューロンにおけるビットあたりのエネルギーコストを測定した [243]。情報レートが高いほど、ビットあたりのコストは高い。それは生きたエージェントにおける測定された であり、測定された収穫逓減、すなわち感知における である。Attwell と Laughlin は、灰白質のエネルギー予算を過程ごとに構築した [244]。Lennie は、エネルギーが、一度に活動できる皮質ニューロンの数を制限することを示した [245]。エネルギーが制約であり、残りはそれに適応する。活動電位あたりのエネルギーはニューロンの種類によって大きく異なる [246]。同じ機能で、異なるジュールである。神経の設計はエネルギー効率に従う [247]。Levy と Calvert はヒトの皮質を監査した。通信には計算の 35 倍のコストがかかり、ニューロンの計算は、ジュールあたりのビットの可能な最良値から 倍の隔たりがある [248]。それは下限までの距離である。Harris らは、視覚経路のシナプスが、情報ではなく単位エネルギーあたりの情報を最大化するような大きさになっていることを見いだした [249]。目的関数はジュールあたりのビットであり、一つのシナプスで測定されている。Padamsey、Katsanevaki、Dupuy、Rochefort は、食餌制限によってマウス視覚皮質におけるシナプスの ATP(アデノシン三リン酸)の使用が 29% 減り、方位チューニングが 32% 広がることを見いだした [250]。より少ないジュールは、より低い精度しか買わなかった。Plaçais と Preat は、飢餓状態のハエがコストの高い嫌悪性の長期記憶を停止させ、それを強制的に戻すと生存率が下がることを示した [251]。Plaçais らは、キノコ体におけるエネルギー流束の上昇が長期記憶を引き起こすことを見いだした [252]。Mery と Kawecki は、長期記憶の形成がハエの乾燥への耐性を下げることを見いだした [253]。学習には測定された代謝的な価格がある。Hechler、de Lange、Riedl は、確信をもった予測の間に皮質の酸素消費が最大 12% 低くなることを測定した(プレプリント) [254]。予測を先に行うことはジュールを節約しうる。Malkin らは、訓練されたネットワークにおいてシナプスに信頼性のためのエネルギーコストを与え、その最適解にベイズ推論の兆候を見いだした [255]。Li と van Rossum は、素朴なシナプス可塑性は極端なエネルギーを要し、固定化の前に変化をキャッシュすることでそれを節約できることを示した [256]。Lynn らは、神経画像からヒトの脳における詳細つり合いの破れを推定し、それが身体的および認知的な負荷とともに増すことを示した [257]。そのエントロピー生成は粗視化された情報的なものである。それはジュールの計測器ではない。

機械。 メモリアクセスは算術演算よりもはるかに多くのエネルギーを要する [258]。パラメータ数は、それによって動かさなければならないジュールを通じてのみ意味をもつ。ワットあたりの知能は、ローカルなアクセラレータにおける単位電力あたりのタスク精度を測る [259]。その分子はベンチマークの精度であり、ゲートを通過したエージェンシーではない。MLPerf Power は、マイクロワットからメガワットまでの電力測定を標準化しており、各結果は精度目標によってゲートされている [260]。そのゲートは の形である。FrugalGPT は言語モデルをカスケードにし、採点器が答えを受け入れたところで止まる [321]。RouteLLM は、コスト目標の下で各クエリを強いモデルか弱いモデルに送ることを学習する [322]。それらのコストはクエリあたりのドルであり、それらのゲートは品質の閾値である。計量されたジュールと、ゲートとしての で読めば、どちらも命題 9 の意味でのカスケードである。ML.ENERGY は推論のエネルギーを自動的に測定する [261]。TokenPowerBench は大規模言語モデル(LLM)の推論の電力をベンチマークする [262]。Jin、Wei、Brooks はテスト時計算のエネルギーを分析する [263]。汎用モデルは、タスク特化のモデルよりもタスクあたりはるかに多くのエネルギーを要する [264]。ジュールにおいては、十分なモデルのうち最も安価なものが勝つ。それは測定された Mixture of Limits である。Samsi らは、GPU(グラフィックス処理装置)上での大規模言語モデルの推論のエネルギーを測定した [265]。Dillavou らは、プロセッサを用いない物理回路における分散学習を実証した [266]。Stern らは、電力効率の高い解のための自己学習回路を訓練し、電力と誤差のトレードオフを測定した [267]。Saggio らは、光子の実験において学習エージェントの量子高速化を実証した [268]。学習に必要な相互作用が少なければ、閉じるべき行為も少ない。

カーネル報告型の受容器。 第8.11節は、予測の先行、比較、拒否、拘束力のあるジュール予算を備えた受容器エージェントを、ノートパソコン上で事前登録して実行した結果を報告する。反証条件は実行の前に固定され、そのうちいくつかが発動した。R-F1(共通のタスクにおけるセレクタ間のジュールは区別できない)、R-F2(5,400 エピソードのうち 36 が予算超過した。 において σ 則アームで 9、固定カスケードで 7、 においてゴールブラインドのベースラインで 20)、R-F3、R-F5、R-F6 である(第8.11節)。 は 4,940 枚のレシートから読み取られた。確認された行為の中央値は、報告されたジュールあたり ビットを与え、これはビットあたりのジュールで下限の約 倍である。拘束的な予算の下で、σ 則セレクタは固定カスケードよりも多くのタスクを閉じた。これは Mixture of Limits の一つの事例である。その比較は実行の後に選ばれたので探索的なものであり、閉じたタスクあたりのジュールは等しかった。事前登録された第二の実行と第二の機械は、最も緩い予算においてのみその利得を再現した(第8.11.2節)。積分した は、緩い予算においてゴールブラインドのエージェントを第一位に順位づけたが、 はそれを最下位に順位づけた。

集団のシミュレーション。 Crosato らは、シミュレートした集団運動の熱力学的量を、その臨界点をまたいで計算した [269]。Chen と Prokopenko は、臨界性の近くでの集団行動の説明として、熱力学的効率と純粋に情報的な効用とを比較した [270]。命題 7 における は、そのような比の、ゲートされ計量された形である。

計測器。 RAPL(Running Average Power Limit)は、Intel および AMD のプロセッサにおけるダイ上のエネルギーカウンタの集合である。その読み取り値は外部測定に照らして検証された [271]。DRAM(ダイナミックランダムアクセスメモリ)の読み取り値は別に検証された [272]。計測器の品質はプロセッサの世代に依存する [273]。Apple の powermetrics のマニュアルは、その平均電力値が「推定値であり、不正確な場合がある」と述べ、デバイスの比較に用いるべきではないとしている [274]。Apple silicon では、powermetrics の読み取り値は報告値である。その機械についての実測ジュールは外部のコンセント計測器から得られる。

圧縮の採点。 Hutter Prize は、英語版 Wikipedia のダンプの最初のギガバイトの可逆圧縮を採点し、賞金総額は 500,000 ユーロで、実行時間とメモリに制限がある [275]。それは時間とメモリを限界づけるが、ジュールは決して限界づけない。ジュールの上限を設ければ、それは一つのタスククラスについてのエージェンシーの微積分のベンチマークになるだろう。

推定値。 これらの情報源には価値があり、そのジュールの数値はモデル化、外挿、または計算によるものである。それらは実測ジュールの傍らに置かれ、決してその代わりにはならない。推定値は決して measured_j ではない。Strubell、Ganesh、McCallum は、短い実行について電力をサンプリングし、自然言語処理モデルの訓練全体へと外挿した [276]。Patterson らは、報告されたハードウェア、実行時間、データセンターのデータから訓練のエネルギーを計算した [277]。Lacoste らは、ハードウェアの種類、実行時間、地域から計算する計算器を構築した [278]。BLOOM のフットプリントは、計量された入力とモデル化された入力とを混ぜている [279]。Carbontracker はデバイス上のカウンタを読み、実行全体の合計を予測する [280]。その予測は推定値である。Elsworth らは、アクセラレータ、ホスト、アイドル容量、データセンターのオーバーヘッドを数えて、Gemini Apps のテキストプロンプトあたり中央値 0.24 Wh を報告している [281]。それは運用者が報告した数値であり、reported_j として記録される。

5.3 文献における立場

各立場を定義に照らして位置づける。知能とは、ゲートを通過したエージェンシーのジュールに関する微分であり、完了した実行から読み取られる。

  • Schmidhuber は、内発的報酬を圧縮の進捗、すなわちエージェントが自らの履歴をどれだけうまく圧縮するかの一階微分として扱う [282]。それは、実行から読み取られる微分としての知能に最も近い先例である。その変数は圧縮であって、ジュールではない。
  • Krakauer、Mitchell、Krakauer は、知能を、問題を解くために創発的能力をますます安く速く用いることに表れる創発的性質として定義し、「少ないほど豊か」と要約する [339]。彼らは、大規模言語モデルが示すのはせいぜい創発的能力であって、創発的知能ではないと結論する。彼らの定義は、言葉の上では に最も近い。それはエネルギーを分母として名指しするが、それを計量しない。この微積分は、計測器、能力と知能とを分けるゲート(第1節)、そして実行から読み取られる微分を提供する。
  • Chollet は、知能を、事前知識と経験に対するスキル獲得の効率として定義し、ARC(Abstraction and Reasoning Corpus)ベンチマークを提示する [283]。それは比である。その分母は情報とデータであって、ジュールではない。ARC Prize のリーダーボードは、効率の尺度として、タスクあたりのコストをスコアに対してプロットする [284]。そのコストはドルである。ジュールの計測器があれば、それは になる。
  • Hernández-Orallo は、種と機械をまたぐ普遍的な心理測定を構築する [285]。それはタスクによって評価する。本研究は、タスクを閉じるまでのジュールによって評価する。Hernández-Orallo と Dowe の随時テストは、利用可能な時間に適応する [286]。この微積分は、利用可能なジュールに適応する。
  • Gershman、Horvitz、Tenenbaum は、知能を、計算コストを差し引いた期待効用として定義する [287]。本研究はそのコストをジュールにする。
  • Lieder と Griffiths は、認知を限られた資源の最適な利用として扱う [288]。それは Mixture of Limits に近い。資源は抽象的なままにされている。
  • Balasubramanian は、脳の設計をそのエネルギーの限界を通して読み解く [289]。
  • Silver、Singh、Precup、Sutton は、報酬で十分であるとする [290]。報酬は設計者によって選ばれる。ジュールは計測器から読み取られる。Vamplew らは、スカラーの報酬では多目的の目標を表現できないと反論する [291]。本研究は一つの変数、ジュールを保ち、多重性をゲート の中へ移す。
  • Hafez らは、エージェンシーと知能を合わせて定義する [292]。それはジュールに根ざしたものではない。
  • Karagoz は、エネルギーの自己維持を目的関数とする [293]。それには予測のゲートも、運動学も、システムをまたぐジュールによる順位づけもない。
  • Chaisson は、宇宙の進化をまたぐ複雑性の指標として、エネルギー率密度、すなわち単位質量あたりのパワーを提案する [294]。それはキログラムあたりのワットで表されるレートである。この微積分は、確認されたビットをジュールで割る。

の範囲はその分子から導かれる。 は世界への確認された結合を数えるので、 は、エージェントが予測したとおりに世界をどれだけ安価に変えるかを測る。それは理解を測らない。Krakauer、Mitchell、Krakauer は、知能を簡潔で伝達可能な表現に結びつける [339]。簡潔な表現は、その効果を通じてこの微積分に入る。それをもつエージェントは、後のタスクをより少ないジュールで閉じる。行為を決して変えない理解は、 が読み取るものの外にある。

5.4 この微積分の現状

  • 証明済み: 学習、メモリ、予測、制御は、それぞれ上限を伴うジュールの価格をもつ。
  • 実証済み: ビットあたりのジュールは脳において測定されている。タスクあたりのジュールは機械において測定されている。計測器は検証できる。
  • 本研究で証明済み: は、ジュール比例の計上の下で、ジュール軸上の有界な密度である(命題 5)。サンプリングされた はそれに収束する(命題 6)。集団は命題 7 によって合成される。目標を保持することは、最適な行為時間と の上限を定める(予測 1)。
  • 本研究で実証済み: と が、事前に固定された反証条件とともに、カーネル報告型の受容器のレシートから読み取られた(第8.11節)。 はエージェントを順位づける。積分した はそうではない。
  • 本研究が加えるもの: ゲートを通過し完了した実行から として読み取られる知能と、順位づけとしての 。Takahashi と Hayashi は、明示的な計上の下でのジュールあたりのビットの比によって、最も近いところまで来ている [239]。本研究は、適格性ゲート、容量の代わりの実現されたフロー、ゲートを通過した順位づけとその証明(命題 8)、そして最適な行為時間(予測 1)を加える。

6. 方法別の世界的な知見

検索はロシア語、中国語、日本語、ドイツ語、フランス語、スペイン語、ポルトガル語、韓国語、イタリア語、ポーランド語、ヒンディー語、アラビア語で行い、英語で追跡検索を行った。第二回目の検索では、日本語、中国語、ロシア語、ドイツ語、フランス語、スペイン語、韓国語で再び検索し、ペルシア語、トルコ語、ヘブライ語を加えた。その結果は、何を証明し、測定し、または定義するかに応じて、第2節から第5節まで、および第8節に組み入れてある。結果は方法と結果の種類によって整理されている。言語はメタデータにすぎない。どの項目も、それがどこから来たかによって順位づけられてはいない。

6.1 定理と総説:情報には熱力学的な価格がある

  • Poplavskii は、情報の獲得と処理のエネルギーコストについて、初期の体系的な扱いを与えた [295]。ロシア語で書かれ、英訳がある。層:定義。
  • Stratonovich は情報の価値の定理を証明した [201]。ロシア語の単行本の英語版である。層:運動学。
  • Ito と Sagawa は、ネットワーク上の情報熱力学を E. coli の走化性に適用した。移動エントロピーが頑健性を限界づけ、通常の熱力学的効率が低いところで情報熱力学的効率は高い [296]。日本語で書かれている。層:定義と運動学。
  • Sun と Quan は、Maxwell のデーモンと、情報処理における散逸の物理的な下限を総説した [297]。中国語で書かれている。層:定義。
  • Quan、Dong、Sun はメソスコピック熱力学を総説した。消去を数に入れればデーモンは第二法則と整合し、出力と効率の制約が検証された [298]。中国語で書かれ、英語の要旨がある。層:定義と運動学。
  • Parrondo の百科事典的な総説は、熱力学的資源としての情報について現在の説明を与える [299]。層:定義。
  • Strasberg の博士論文は、情報熱力学における一般的な仮定を物理モデルによって検証する [300]。英語で書かれ、ドイツ語の要旨がある。層:定義。
  • 日本語、ロシア語、中国語、韓国語、ポルトガル語、イタリア語、ポーランド語での検索を通じて、さらなる定理が見つかった。化学ネットワークにおける速度限界と TUR [127, 131, 132]、有限時間熱力学 [159, 162, 163]、Langevin の TUR [143, 144]、エントロピー生成に対する情報の限界 [148, 149]、そしてシングルショットの仕事コスト [38] である。

6.2 実験:測定された価格

  • Dago の博士論文は、不足減衰のマイクロカンチレバー上で、高速に、最小エネルギーに近い 1 ビットの消去と書き込みを報告する [301]。フランス語で書かれている。層:運動学的な速さで到達された、定義のジュールの下限。
  • Lagoin の博士論文は、粒状気体中の羽根から、Szilard エンジンを含む巨視的な Maxwell のデーモンを構築する [302]。フランス語で書かれている。層:定義。デーモンの計上は微視的な領域の外でも成り立つ。
  • Ciampini らは、光子の実験において、取り出し可能な仕事を用いて量子相関を検証した [303]。層:定義。
  • 韓国語、ポルトガル語、ヒンディー語、イタリア語、スペイン語、中国語、日本語での検索を通じて、実験が見つかった。情報エンジン [27, 80]、NMR のデーモン [73, 74]、量子ビット上の TUR [202]、活性浴のエンジン [217, 218]、幾何学的な限界 [211]、対称性の破れと Carnot サイクル [215, 216]、捕捉イオンのデーモン [66, 88]、そしてフィードバックによる変換と最適輸送 [69, 76, 209] である。

6.3 機能系理論:行為の前の予測

Anokhin 学派は、条項 1 と条項 3 を生理学の用語で述べている。結果テンプレート、すなわち行為結果の受容器が行為の前に形成され、行為の後に比較され、その比較が行動を再編成する。これらの研究はロシア語での検索を通じて見つかった。

  • Anokhin の機能系 [93, 94]。
  • 系形成因子としての結果と、行動の確率的予測についての Sudakov [95, 304, 305, 306]。
  • ニューロン活動を組織化する目標と、ニューロン系の選択としての学習についての Shvyrkov [96, 307]。
  • 機能系の要素のハイパーネットワークとしての脳の認知構造についての K. V. Anokhin [308]。
  • 予期としての系形成因子についての Saltykov と Grachev [309]。
  • 結果を予測する規則学習として形式化された目的性についての Vityaev [310]。

実装と実行。 機能系理論に基づく認知アーキテクチャは、シミュレーションと実機ロボットの上で、結果テンプレートを形成し、比較し、下位目標を学習する [90, 91, 311, 312, 313]。どれもジュールを計量しない。これらのエージェントのいずれかに計測器を加えれば、定義、運動学、微積分という順序全体を既存の実装の上で検証できるだろう。微分可能な確率論理ネットワークは関連する微積分のツールであるが、機能系に基づいておらず、適格性ゲートもジュールもない [314]。

6.4 自律性、組織、最小限のエージェンシー

スペイン語、フランス語、ドイツ語での検索を通じて見つかった。エージェンシーとは、自らの相互作用を調節する自己維持的な組織である [103, 104, 105, 106, 107, 108]。その組織は、熱力学的な流れに対する制約の閉包である [109]。自律性の学派は確率熱力学へと踏み込んでいる [110]。層:定義。いかなる行為が数えられるよりも前に存在しなければならない組織として。

6.5 機械知能についての実測ジュール

推論のエネルギーについての中国語での検索を通じて見つかった。推論エネルギーの自動測定 [261]、トークンあたりの電力のベンチマーク [262]、そしてテスト時の推論のエネルギー [263] である。

6.6 エージェンシーの哲学

Rovelli のエージェンシーの物理学は、ドイツ語を通じて見つかった [115]。Jaeger と Azadi が立場表明論文の一式を完成させる [116, 117]。

6.7 一次研究が見つからなかった検索

ヒンディー語とアラビア語での検索では、それらの言語による一次研究は見つからなかった。英語での追跡検索によってさらなる研究が見つかり、上に方法別に挙げてある。ペルシア語、トルコ語、ヘブライ語での検索では、学位論文、総説、すでに引用した研究が見つかったが、新しい一次研究はなかった。

6.8 収束の観察:情報、エネルギー、予測

最近の九つの文献が、情報、エネルギー、予測を関係づけている。四つは全文を読み、それらが述べている内容について引用する:Takahashi と Hayashi [239]、Perrier [344]、Xu と Li [345]、そして Still、Sivak、Bell と Crooks [54] である。五つは一部を読み、名指しした箇所についてのみ引用する:Wolpert [230]、Ortega と Braun [56]、Zhang、Zhu、Zhang と Hu [348]、Fagan [346]、そして Kumar [347] である。本節は、それぞれが何を述べ、何を示していないかを記録する。これは重なり合う問いの観察であって、結果の比較でも、優先権についての主張でもない。節と式の番号は、名指しした版のものである。引用文は、保存したテキストと照合してスクリプトで確認した。「再計算」と記した値は本論文自身の計算である。

平易な言葉で

  1. 何人かの著者が同じ種類の量を書いている:獲得された、または行為に用いられた情報を、費やしたエネルギーで割ったもの(ジュールあたりのビット)、あるいはその逆数(知能の単位あたりのワット)である。
  2. 確かな結果は熱の下限である。それらは物理的に最低限どれだけのエネルギーが必要かを述べるのであって、実際の機械がどれだけ使うかを述べるのではない。
  3. ここで読んだ文献のどれも、実際のハードウェア上でエネルギーを測定していない。エネルギーの数値が現れる場合、それは FLOP 数またはモデルの仮定から推定されたものである。

単位。 J/K。 K において、 J/ビット(再計算)であり、その逆数は bit/J(再計算)である。 とすると、nat 単位の情報は を掛けることで、ビット単位の情報は を掛けることでジュールに換算される。

全文を読んだ文献

Takahashi と Hayashi、arXiv:2602.05463v2(2026年7月20日)[239]。 読んだ版は arXiv の投稿版である。

  • ジュールあたりのエピプレキシティは bit/J 単位の であり、 である(式 3 と式 10、第2.2節)。エネルギー収支は である(式 1)。
  • ジュールあたりのエンパワーメントは bit/J 単位の であり(式 18、第3.2節)、コスト制約つきの曲線を伴う(式 19)。エンパワーメントは、行為から後の観測への通信路容量である(式 17、第3.1節)。
  • 閉じたサイクルの限界は である(式 15)。したがって のとき となる(式 16、系 1)。式 15 は式 14 を移項することで得られる(確認済み)。系 1 には二部マルコフの仮定と局所詳細つり合いの仮定が必要である。
  • 著者らは、学習についてのジュールあたりのビットの計量、制御についてのもう一つの計量、そして報告のチェックリストを与える:境界、基準エネルギー、時間範囲、推定量である(第5.1節)。彼らの命題 1 は分離の構成であり、計上の境界が新しいメモリを準備するコストを除外すると限界が成り立たなくなることを示す。
  • 述べられている適用範囲:「得られる数値はベンチマーク相対的であり、普遍的ではない」。上限について:「Landauer スケールの限界は、現在のハードウェアをはるかに超えた概念的な物差しである」。
  • 第5節の計算例は、公表されたパープレキシティ、 トークン、そして仮定された FLOP/J における FLOP から推定されたエネルギーを用いる。再計算: ビット、(410M モデル) J、限界効率 bit/J。著者らは次のように書く:「この数値は慣習に依存するが、チェックリストを実際に運用してみせるものである」。
  • ここでは検証していない点:補題 1 は、読んでいない研究からの不等式を再述している。式 17 は を用いているが、第3.2節の本文は に言及している。式 20 には著者ら自身が注記している:「これは仮定なしの普遍的な恒等式として主張されるものではない」。

Perrier、arXiv:2504.05328v2(2025年6月16日)[344]。 定義のみを引用する。

  • 知能あたりワットは である(式 7、第3.3節)。ここで はタスクで重みづけした性能の和(式 2)、または Legg と Hutter の和(式 1)である。仮定は、 およびオーバーヘッド のもとでの (式 5)と、 を特定しない (式 6)である。定理 1 は を与える(式 8)。
  • 著者は前提を率直に述べている:「本研究は、不可逆計算と知能のあいだの相関を仮定する」。論文には測定が含まれていない。述べているのは「実際には、実際のハードウェア使用量を測定することもできるだろう」ということだけである。
  • 見つかった誤り(私の読みであり、著者には確認していない):(1) 第3.1節は を単位時間あたりで定義するが、式 3 と式 5 は にわたる を用いており、それには総量としての が必要である。そうすると は が大きくなるにつれてゼロに落ちる。(2) は自由なので、定理 1 は数値的な下限を与えない。(3) 定理 2 の証明は という形の限界を与え、それは に対して負であるのに、本文は を正として扱っている。(4) と を組み合わせると が得られるが、式 14 には も もなく、 への依存も逆である。(5) は負になりうるし、式 13 における Landauer の価格の結びつけの向きは論証されていない。定理 3 はこれを引き継ぐ。(6) ハードウェアの順序 は、値なしで主張されている。

Xu と Li、arXiv:2511.19156v4(2025年12月30日)[345]。 保存したテキストについては全文を読んだ。図はキャプションと印刷された値のみを読んだ。定義のみを引用する。

  • 導出深さ (式 10)と導出エントロピー 。ここで、述べられた古典的領域において nat である(式 14、仮定 3)。主張されている限界:(命題 4、式 98 と式 99)と (命題 5、式 100)。再計算と保存のあいだの損益分岐となる問い合わせ頻度が、抽象的なコスト単位で与えられている(定理 5、式 32)。
  • 著者らは自らのコストを「エネルギー消費の情報理論的な代理指標」と呼ぶ。数値的検証(第VI節)は、合成した 100K 個のアトムからなる知識ベースと論文自身の抽象的なコストを用いているので、モデルをそれ自身に対して検証していることになる。応用の数値(1000 kWh、45% の削減)は測定方法なしに示されており、ここでは用いない。
  • 要旨は「我々の発見は、導出エントロピーの最小化が支配原理であることを示唆する」と述べる。本文は別の箇所で、鋭い結果を主張することを控えている:最後の観察を相転移の定理として「我々は意図的に定式化を控える」。
  • 見つかった誤り(私の読みであり、著者らには確認していない):(1) 仮定 1 は を J s 単位の作用とする をもつが、系 1 はエネルギーである を置き、 を落としている。(2) 式 98 はすべての推論ステップがビットを一つ消去すると仮定しており(仮定 3)、同じ論文の注意 15 は可逆計算がこのコストを避けることを認めている。(3) 補題 2 では、背理法の議論が限界を否定して とし、これが と矛盾すると主張する。 なので、矛盾しない。したがって下限は証明されておらず、定理 4 から 6 と系 7 はそれに依存している。(4) 定理 6 の場合 (b) は、 が必要なところで を用いている。(5) のときの式 135 の臨界記憶容量は、印刷された ではなく、(底 2 の対数)、(ln)、または (底 10 の対数)と再計算される。表 II の本文(密着度 0.50 から 0.93)は表(0.50 から 0.81、高頻度で 0.89)と一致しない。

Still、Sivak、Bell と Crooks、arXiv:1203.3271v3(2012年10月5日)[54]。 arXiv 版を読んだ。雑誌版は読んでいない。

  • 系の状態 と駆動信号 について、 および であり、単位は nat である。ステップごとに である(式 14)。全体では である(式 18)。精密化された Landauer の限界は である(式 21)。
  • 信号の次の値の予測に役立たない信号の記憶は、nat あたり の散逸仕事を要する。著者らが述べる帰結:「環境についての記憶を保持し、最大のエネルギー効率で動作するように構築されたいかなる系も、予測的でなければならない」。
  • これは、駆動信号の記憶を保持する系に対する散逸の下限である。実際の系がそれに到達することを示すものではなく、一般のエージェントについての言明でもない。実験もジュールのデータもない。
  • 確認済み:脚注 24 は正しい。式 17 は式 11、14、15 から従う。式 18 は式 16 から従う。式 21 は式 19 と式 20 から従う。300 K で meV(再計算。論文は 25 meV としている)。検証していない点:任意の信号過程に対するステップごとの項の非負性は、本文で述べられているが証明されておらず、ここでも証明していない。

一部を読んだ文献

各項目は、述べた箇所に限られる。読んでいない部分については何も主張しない。

  • Wolpert、arXiv:1905.05669v3 [230]。 第V節(式 29 から 44、例 1 から 6)、第XVI節、付録 A、付録 B の冒頭を読んだ。第V節は (式 29)と、固定した入力分布に対してのみ定義される Landauer コスト (式 35)を述べる。115 ページのうち約 70% は読んでおらず、命題 1 は読んでいない引用結果に依拠している。
  • Ortega と Braun、arXiv:1204.6481v2 [56]。 本文(第1節から第8節)を読んだ。定理 5 から 7 の証明と補足資料は入手できなかった。式 9 の と、第1.1節の一分子の例示(コスト )について引用する。式 5 と系 3 に印刷上の誤りが見つかった。図 4 で述べられている最適値 は、私の設定の読みのもとでは 33 と再計算される。
  • Zhang、Zhu、Zhang と Hu、arXiv:2607.24287v1 [348]。 第4.1節から第4.6節(T1 から T6 の証明)を読んだ。公理 1 が「現在の枠組みの中で導出されるのではなく、経験的な公準として採用されている」という記述と、そのエネルギーが無次元(nat)であることについて引用する。T7 から T10 の証明と第4.7節および第4.8節は読んでいない。T5 の Euler-Lagrange 方程式における不一致が一つ未解決である。
  • Fagan、arXiv:2601.00021v2 [346]。 第5.3節から第14節と参考文献を読んだ。第1節から第5.2節は以前に読み、読み直していない。式 116 の と、その代理指標が「系のあいだで数値的に一致する必要はない」という著者の記述について引用する。シミュレーション(第12節)はジュールではなく代理指標を用いており、第12.1節の曲線の一つは構成上 とともに減少する。
  • Kumar、Zenodo 18993403 [347]。 付録 A.1 から A.28 と参考文献を読んだ。本文は以前に読み、読み直していない。保存したテキストでは上付き文字が失われているので、A.26 と A.28 に印刷された指数は引用しない。(式 125)について引用する。その前提を論文は条件つきとして述べている(「有用な知識の生成が不可逆な情報処理を必要とするならば」)。再計算:310 K で 20 W に対して bit/s。

九つの文献が合わせて示すこと

文献示していること示していないこと読了状況
Takahashi と Hayashi二つの bit/J の計量(学習、制御)。述べられた仮定のもとでの閉じたサイクルの Landauer スケールの上限。報告のチェックリスト測定されたジュール。実際の系に対するエピプレキシティまたはエンパワーメントの推定。限界の検証全文(16 ページ、付録なし)
Perrier定義 と、仮定された結びつき のもとでのみ成り立つ限界測定されたエネルギー。数値的な下限。定理 2 または 3 の正しい証明全文(12 ページ)。定義のみ引用
Xu と Li導出深さと導出エントロピーの定義。条件つきの Landauer 型の限界。合成シミュレーション測定されたエネルギー。補題 2 の正しい証明。独立した検証保存したテキストについて全文。定義のみ引用
Still、Sivak、Bell と Crooks非予測的な記憶に等しい散逸の下限 実際の系による到達。一般のエージェント。測定されたジュール全文(5 ページ)。雑誌版は読んでいない

九つの文献すべてを通じて、読んだテキストのどれも、実際のハードウェア上で測定されたジュールを報告していない。現れるエネルギーの数値は、FLOP 数、公称の電力定格、またはモデルの仮定から推定されたものである。限界が現れる場合、それは述べられた仮定のもとでの散逸の下限であるか、測定を待つ比の定義である。

本節の限界。 引用文は PDF から変換したテキストと照合して検証しており、二段組の変換では行が入り混じることがある。挙げた誤りは私の読みと再計算によるものであり、著者らには送っていない。版の違い(v1 から v2)は、Takahashi と Hayashi、Perrier、Xu と Li についてのみ、構成と要旨によって比較した。

7. 未解決問題

7.1 証明すべきこと

P1. 実行経路は明確に定義される。 証明済み。命題 5 は、ジュール比例の計上の下で、 を満たすジュール軸上の密度として を与える。命題 6 は、計測器のサンプリングが細かくなるにつれてサンプリングされた が収束することを、計測器の相対誤差を誤差項として与える。

P2. エージェンシーでゲートされた Landauer 限界。 閉サイクルの計上の下では、確認された結合ビットはそれぞれ少なくとも のコストがかかるので、 である。既にあるもの:測定と消去の仕事は少なくとも であり [5]、消去にはビットあたり少なくとも がかかる [6, 7]。欠けているもの: に計上される結合ビットが、比較の間に受容器のメモリに記録されるビットを超えられないことを示すデータ処理のステップ。条項 3 はすでに、確認 が物理的な記録から来ることを要求している。命題 1 は、このステップを仮定(R2)として、行為ごとの下限を証明する。

P3. エージェンシーの速度限界。 記録が(R1)から(R4)までを満たす行為について証明済み。命題 1 は、Fano の不等式を通じて、行為 の平均ジュールに、 に 、、リセット誤差 、確認されたビットについての有限時間の項を加えたものによる下からの限界を与える。予測 1 は目標を保持する維持ジュールを加え、最適な行為時間を与える。

P4. エージェントの精度の限界。 証明済み。命題 3 は、確認されたエージェンシーの相対分散に、確認された行為の数については動的活動度による限界を、フィードバックの下ではエントロピー生成と情報項による限界を与える。

P5. 事後定理。 は完了したレシートだけの関数である。実行前のいかなる量もそれを定めない。既にあるもの:各 は結果を行為の前に固定された予測と比較するので、 は行為 が閉じる前には未知である。欠けているもの:実行前の予測器が見るすべてについて一致し、ある において異なる二つの世界の構成。P1 と合わせて、これは「知能は完了した実行から読み取られる」を定理にする。

P6. 順位づけは計測器の誤差に耐える。 証明済み。命題 8 の第3部: を計測器の相対誤差の限界として、 ならば、その誤差内のいかなる読み取り値の下でも である。欠けているもの:各計測器について検証された [271]。

P7. Mixture of Limits の最適性。 一部証明済み。命題 9 は、独立なギアと二つの入れ子のギアについての厳密な条件、および予算の機構を与える。固定カスケードの事例は、最も安価なギアから順に試し、出力が を通過した最初のギアで止まり、次のギアが予算を破るならばレシートを伴って拒否する。それは失敗した試行のコストを除いてジュールの最小を達成する。既にあるもの:十分性がギアの順序について単調であり、ギアのコストが順序とともに増すならば、最初の十分なギアが最も安価な十分なギアである。欠けているもの:合格確率が推定される場合や十分性が単調でない場合のリグレットの限界、三つ以上のギアをもつ入れ子の場合、そしてこの規則と σ 則セレクタ、すなわち の制約の下での とが同じ行為を選ぶ条件。

P8. エージェンシーが複利的に積み上がるとき。 実行全体にわたって となり、先のレシートが後の完了のジュールを下げる条件。欠けているもの:保存されたレシートが後の を、保存と検索のジュールを上回る分だけ削減する再利用のモデル。Still はメモリのコストの側を与えている [225]。第8.10節は、各行為のジュールのうちテンプレートが占める割合を測定する。

7.2 実証すべきこと

ID主張必要な証拠
D1タスクあたりの が、少なくとも二つのファブリック上で、推定ではなく測定されるx86 Linux 上の RAPL と、Apple silicon 上の外部のコンセント計測器による measured_j
D2拘束的な予算の下で、σ 則セレクタが固定カスケードよりも少ない実測ジュールでタスクを閉じる同じタスク、ギア、述語、予算、計測器による対応のある実行
D3レシートを伴う拒否が機能する予算超過ゼロ、達成不可能なタスクでの拒否、達成可能なタスクでの少ない拒否
D4 がレシートから読み取られ、シード間で安定している事前に設定した限界内のばらつきをもつ、実行ごとの の系列
D5推定値は測定の代わりにならないest_j と measured_j の順位の一致を報告し、決して統合しない
D6物理的な下限が守られ、その隔たりが既知である確認されたビットあたりの実測ジュールを で割ったもの
D7予測 1:目標を保持するエージェントの最適な行為時間と上限二つ以上の不安定率における の掃引。行為ジュールと維持ジュールを別々に、また合わせて計量する

第8.11節は、報告されたジュールにもとづく、D2 から D6 までに対する最初の実行を報告する。第8.11.1節は、ガードと拒否の修正を加えた同じ機械上での第二の実行を報告し、第8.11.2節はそれを第二の機械で繰り返す。

8. 実験計画

この計画のすべての表、レシート、図は一つの規則に従う。推定値は決して measured_j ではない。モデル化された数値には est_j のラベルを付ける。計量された数値には measured_j のラベルを付け、その計測器を明記する。

8.1 計測器

略語:CPU(中央処理装置)、GPU(グラフィックス処理装置)、ANE(Apple Neural Engine)、AC(交流)、NVML(NVIDIA Management Library)。

階層計測器読み取る対象ラベル
M0外付けのコンセント型電力計測器、1 Hz 以上の頻度で記録システム全体の AC 電力measured_j、wall
M1Linux powercap を介した RAPL、存在する場合はパッケージ、コア、アンコア、DRAM の各ドメインダイ上の累積エネルギー(マイクロジュール単位)measured_j、rapl
M1gディスクリート GPU 上の NVML 総エネルギーカウンタGPU ボードの累積エネルギーmeasured_j、nvml
M2Apple powermetrics、CPU と GPU のサンプラを 100 ms 間隔で使用システムが報告する CPU、GPU、ANE の電力reported_j、powermetrics
  • RAPL。 各行為の前後でカウンタを読む。ラップアラウンドを処理する。較正用ワークロード上で M0 と照合して検証する [271, 272]。
  • powermetrics。 読み取り値は reported_j として記録する。Apple シリコン上の測定ジュールは M0 から得る。一台のマシン内では、reported_j はジュールを CPU、GPU、ANE に配分する。
  • アイドル時ベースライン。 各ブロックの前に、すべての計測器で 120 s のアイドル電力を記録する。総ジュールとアイドル分を差し引いたジュールを並べて報告する。差し引いた数値だけを報告することは決してしない。
  • 状態の管理。 オペレーティングシステムが許す範囲で CPU 周波数ガバナを固定する。周囲温度と熱圧力を記録する。バックグラウンドジョブを終了する。各アームにつき一回のウォームアップ実行を破棄する。

8.2 タスク

各タスクは機械で検査可能な完了述語 をもつ。コードには単体テスト、算術には完全一致、抽出にはスキーマ検証、ツール使用には検証済みの最終状態である。二つの層を事前に固定する。準最適タスクとは、最も安いギアが通常完了させるタスクである。複利的タスクとは、先行するレシートを再利用できるタスクの系列である。 は によって定まる。合格はゲートであり、スコアではない。

8.3 アーム

すべてのアームは、ギア、述語、予算、計測器、およびランダム化された交互配置の実行順序を共有する。

  1. σ 則セレクタ: のもとで をとり、レシート付きで拒否する。
  2. 固定カスケード(最安優先): 最安で十分な規則であり、ギアを最も安いものから上へ固定の順序で試す。これは対応のとれた比較対象である。情報、ギア、予算、拒否の権利は同じである。選択規則だけが異なる。
  3. 常に最大のギア: 参照上限。
  4. 常に最小のギア: 参照下限であり、失敗したときは拒否する。

どちらのセレクタも Mixture of Limits(限界の混合)の実例である。その考え方は、十分である最も安いギアを使うことである。下限を越えると、追加のジュールは検証可能な進捗を買わないからである。固定カスケードはそれを固定の順序で適用する。σ 則セレクタは、次の行為がもはやそのジュールに見合わなくなったときに停止する。これは閾値収束の規則であり、したがってこれも Mixture of Limits の実例である。比較は一つの考え方の二つの実例の間で行われる。コードとデータファイルでは、固定カスケードはアーム mol、σ 則セレクタはアーム sigma である。

8.4 予算、シード、統計

  • パイロットはアーム 2 を予算なしで実行し、タスクあたりの測定ジュールの中央値 を記録する。
  • 予算水準は に、制約なしを加えたものである。ある水準が拘束的となるのは、パイロットにおいて少なくとも 20% のタスクがそれを超える場合に限る。拘束的でない水準は報告したうえで D2 の検定から除外する。
  • アーム、タスク、予算ごとに少なくとも 10 シードとする。パイロットにより、10 では中央値 の 10% の差を 95% の信頼度で分解できないと示された場合はさらに増やす。
  • タスクごとに の平均、中央値、標準偏差、95% ブートストラップ信頼区間を報告する。アーム 1 と 2 を、タスクごとの中央値 に対する Wilcoxon 符号順位検定で効果量とともに比較する。
  • 事前登録は主要評価項目を名指しする。副次的な比較は Holm のステップダウン法で補正する。実行の後に選ばれた分析は、要約を含めそれが現れるあらゆる箇所で事後的とラベル付けされ、決して主要な結果とはされない。それが主要評価項目となるのは、次の実行の事前登録においてのみである。

8.5 レシートのスキーマ

レシートは実行の記録である。行為ごとに一つの記録をとる。

act_id, run_id, task_id, arm, seed, budget_j, gear
prediction_hash, prediction_ts        # R*, fixed before the act
outcome_hash, outcome_ts              # R
m                                     # 1, mu, or 0
coupled_bits_est                      # realized I(do(a); W'), bias-corrected, with interval
coupled_bits_bound                    # capacity bound, never credited as X
t_start, t_end
measured_j   {meter, domains, gross_j, idle_w, idle_subtracted_j}
reported_j   {meter, cpu_j, gpu_j, ane_j}    # powermetrics only
wall_j       {meter, gross_j, idle_w, idle_subtracted_j}
est_j        {model, inputs}                 # never merged with measured_j
cumulative_measured_j
refused, refuse_reason
passed_C
record_states, record_bits            # N and H of the act's record M_k
joule_share                           # P_k attribution when acts overlap
template_j   {meter, write_j, hold_j, reset_j}   # joules for R*
trajectory_j {tau, activity, work}    # physical runs only, Section 8.8

8.6 指標

  • タスクごとの : に合格するまでの測定ジュール。M0 があればそこから、なければ M1 から得る。
  • アームと予算ごとの完了率。
  • 予算超過: を超えた行為。目標はゼロである。
  • 拒否の質:いずれかのアームによって 内では実行不可能と示されたタスクに対する、拒否の適合率と再現率。
  • 知能系列:実行ごとの と、そのシード間のばらつき。
  • 加速度の符号:層ごとに、 を累積 に回帰して得られる の符号。
  • 推定値の検査:est_j と measured_j の間の Kendall の順位相関。
  • 下限までの距離:確認された結合ビットあたりの測定ジュールを、記録された温度における で割ったもの。
  • 行為の知能:行為ごとの であり、その行為における命題 5 の密度に等しい。
  • テンプレートの割合:行為ごとの と曲線 (第8.10節)。

8.7 反証条件(いかなる実行よりも前に固定)

ID観測打ち破られる主張
F1中央値 の対応のある差(σ 則から固定カスケードを引いたもの)の 95% 区間が、すべての拘束的な予算においてゼロを含むか、ゼロを上回るσ 則セレクタはジュールにおいて公正な競合相手に勝つ
F2いずれかのアームが予算超過を記録するそのアームの拒否の実装
F3実行不可能なタスクに対する拒否の再現率が 0.9 未満である、または拒否の 10% 超が、別のアームが 内で完了させたタスクに対するものである拒否の正しさ
F4est_j と measured_j の間の Kendall の相関が 0.8 未満であるいかなる順位づけにおいてもその推定器を用いること
F5あるタスクで、平均 のシード間の変動係数が 0.25 を超えるそのタスクの粒度で を読むこと
F6複利的な層において、当てはめた が 95% の信頼度で正ではないそれらのタスクにおける複利効果
F7ある実行における確認されたビットあたりの平均測定ジュールが を下回る、または巨視的な機械のいずれかの行為がそれを下回る会計そのもの:計測器または記帳の不具合であり、他のいかなる結果を報告するよりも前に修正する
F8較正用ワークロード上で、M1 と M0 が P6 の誤差限界を超えて食い違うそのマシン上で測定ソースとしてその RAPL ドメインを用いること
F9物理的な行為サイクルが、記録された と において命題 1 の下限を下回る仕事を示すその実行の会計:見落とされたジャンプのチャネル、誤って較正されたポテンシャル、または計量されていない仕事の源
F10定常的な実行が、信頼区間を超えて を下回る を示すその実行のジャンプ数:一部のジャンプが数えられていなかった
F11制御器が、ステップあたり を下回る測定ジュールでプラントを保持するその実行の計測器またはプラントモデル
F12測定された の最大化点が予測 1 の の外にある、または に対する の傾きが標準誤差の二倍を超えて から外れる、あるいはある実行の が予測 1 の上限を超える一つの計測器上での行為ジュールと維持ジュールの加法性、およびそれらの密度としての 。上限については、その実行の会計

8.8 物理的な行為サイクル

これらの実行は、物理的な下限において命題 1 から 4 までを検証する。仕事は、[61, 67, 70] と同様に、測定された軌道と較正されたポテンシャルから計算する。それは trajectory_j として記録され、measured_j、reported_j、est_j と決して合算されない。

  • 電荷レジスタ上の行為サイクル(命題 1 と 4)。 [68, 70, 71] と同様に、単一電子箱または量子ドットが 一ビットの記録を保持する。各サイクルは時間 のうちに比較を書き込み、行動し、記録をリセットする。電荷検出器があらゆるトンネルジャンプを数えるので、 は測定される。 を少なくとも二桁にわたって掃引する。結果の形式: に対するサイクルあたりの仕事であり、これは かつ の場合の命題 1 の下限である。
  • 確認された行為を数える(命題 3)。 同じレジスタを定常状態でサイクルさせ、等しい長さの繰り返しの窓にわたって、確認された行為 とすべてのジャンプ を数える。結果の形式: に対する 、および に対する のばらつき。[27] と同様のフィードバックトラップ型情報エンジン上で、順方向と逆方向の実験を行い、測定された軌道から を計算し、その第3項を検証する。
  • 最適な行為時間(予測 1)。 これが実験室での検証である。
    • 設定。 温度 の水中のコロイドビーズがフィードバックトラップの中にある [61]。その位置は ごとに読み取られ、フィードバック力が仮想ポテンシャル を課す。仕事は確率的エネルギー論によって軌道から計算される。 [319]。一方の座標は仮想的な二重井戸の中で 一ビットの行為サイクルを実行し、時間 でリセットされる。他方の座標は仮想的な逆さ井戸 の頂上に保持され、その不安定率 は とビーズの移動度によって定まる。
    • ブロック。 の各値について、三つのブロックをランダム化した順序で交互に実行する。ブロック A:目標を保持せずに行為を行う。少なくとも二桁にわたる、対数間隔の九つ以上の の値で行い、 と を当てはめる。ブロック B:行為なしで目標を保持する。これは維持電力 を与える。ブロック C:両方を同時に、同じ の値で行う。これは を与える。各点につき少なくとも 200 サイクルとする。
    • の掃引。 少なくとも一桁にわたる、少なくとも四つの の値をとり、 が少なくとも一桁にわたるようにする。
    • 当てはめ。 ブロック C に対し、重み付き最小二乗法で を当てはめる。 における局所二次当てはめにより、 の最大値において測定された を読み取る。ブロック A と B から とその帯 を計算する。最小二乗法で を に回帰し、傾きをその標準誤差とともに報告する。
    • 反証。 傾きが標準誤差の二倍を超えて から外れる場合、測定された が の外にある場合、またはブロック C の行為あたりのジュールがブロック A と B の和から、それらを合わせた 95% 区間を超えて異なる場合、主張は成り立たない。最後の検定は一つの計測器上での加法性であり、予測の物理的な内容である。
    • 検出力。 傾きの標準誤差は 0.1 未満でなければならない。そうでなければ、その実行は結論が出なかったものとして報告され、掃引が拡張される。結論の出ない実行は合格ではない。
    • 第二の基板。 電荷検出器を備えた単一電子箱がこのプロトコルを繰り返し、 はジャンプごとに数えられる [70]。二つの基板での一致が検証である。
    • すべての仕事は軌道から計算され、trajectory_j として記録される。
  • 不安定なプラントの保持(命題 2)。 デジタル制御器が、ステップあたり固定の をもつ一つの不安定モードを有するプラントを、毎秒 ステップで保持する。制御器を M0 と M1 で計量する。ステップあたりの記録のビット数を記録する。結果の形式:ステップあたりの測定ジュールを で割ったものであり、下限までの距離として報告する。 と を掃引する。

8.9 生きたエージェント:測定された ι

結果の形式:生きた標本における であり、決定あたりのビットを決定あたりのジュールで割ったものである。どちらも同じ標本で得られ、下限までの距離とともに報告される。生きた が測定されたものとみなされるのは、両方の項が測定されている場合に限る。コンダクタンスから計算された、またはイメージングから推論されたジュールの数値は est_j として記録される。脳イメージングから推論されたエントロピー生成は粗視化された情報的なものであるため、ジュールの計測器ではない [257]。

  • 細菌の走化性。 定められた勾配における単一細胞の行動から得られる情報レートであり、Mattingly らが測定したとおりである [213]。ジュールは同じ培養の酸素消費量を細胞数で割って得る。比較の下限は、Bryant と Machta による、細胞のシグナル伝達チャネルを通じて 一ビットを送るコストであり [197]、 と並べて示す。
  • マウスの視覚皮質。 二光子イメージングから得られる試行あたりの方位情報と、全細胞記録から得られるシナプスの ATP 使用量であり、Padamsey らが両方を得たとおりである [250]。食餌制限はジュールを動かす。ジュールに対する情報の測定された応答が、皮質における の符号と大きさである。
  • ハエの記憶。 長期記憶形成中のキノコ体におけるエネルギー流束であり、Plaçais らが行ったようにイメージングし [252]、学習された連合あたりで求め、保持を確認とする。飢餓と乾燥のもとでの生存が結果のコストである [251, 253]。

8.10 予測を先にすることのジュール価格

結果の形式。各行為の計量されたジュールを、テンプレートの分とそれ以外に分割する。。 は の書き込み、保持、リセットを含む。 ビットのエントロピーをもつテンプレートのリセットには少なくとも のコストがかかる [6, 24]。予測しない記憶は散逸のコストを伴う [54]。テンプレートが を高めるのは、それが節約する行為のジュールがそれ自身のジュールを上回る場合である。測定される結果は、テンプレート幅 ( のビット数)にわたる曲線 であり、その最大化点 と各ステップにおける比 を伴う。

プロトコル。タスク、ギア、述語、予算を固定する。 をあらかじめ定めたグリッド上で変化させる。行為は、その結果がテンプレートに照らして確定した時点で停止してよい。すべての行為について、同じ計測器で template_j とその行為の残りのジュールを記録する。

手元にある証拠:確信のある予測は、代謝イメージングで測定したところ、ヒトの皮質の酸素使用量を最大 12% 下げた(プレプリント)[254]。細胞ネットワークでは、未来を最もよく予測する過去のビットは法外にコストが高い [198]。知覚と行為のループでは、仕事効率のよいエージェントは予測と忘却の釣り合いをとる [234]。

8.11 最初の実行:ラップトップ上のカーネル報告型アクセプタ

この実行は、第8.1節から第8.7節までを一台のマシン上の一つのタスククラスに適用する。コード、タスクセット、レシート、分析はサイトのリポジトリの experiments/agency-run にある。事前登録とその反証条件が最初にコミットされた(e830bff)。次にパイロットと固定された較正が(5828420)、その後に本実行が(35c967a)コミットされた。

方法。

  • エージェントとタスク。 一つの Python プロセスが数独パズルを完了させる。完了述語 は、盤面が埋まり、すべての行、列、ボックスが 1 から 9 までを含み、すべての既知の数字が保たれているときに合格となる。確認されたタスクは ビット、すなわち行為が選ぶ埋め方の数を計上する。これは定義 1 の容量限界である。テストセットは 30 パズルからなり、層(易、中、難)ごとに 10 であり、固定のシードから生成される。別の 30 からなるセットがセレクタを較正する。
  • ギア。 g0 はネイキッドシングルを埋める。g1 はヒドゥンシングルを加える。g2 は深さ優先探索を加える。
  • アーム。 σ 則セレクタは をとる。ここで は、すでに試したギアを所与とした較正済みの合格確率に を掛けたものであり、 である。固定カスケード(最安優先)は、較正済みの合格確率が少なくとも 0.5 である最も安いギアをとる。どちらも各行為の前に を固定し、それを SHA-256(Secure Hash Algorithm、256 ビット)でハッシュ化してタイムスタンプを付ける。どちらも行為の後に比較を行い、予算に収まる行為がないときはレシート付きで拒否する。ゴールブラインドのベースラインは、予測も比較もエスカレーションも拒否もなしに、一つのギアを無作為に引く。予算がそれを打ち切る。
  • 予算とシード。 タスクごとに であり、これは g2 単独でのパイロットの中央値である。水準 0.5 と 1.0 は拘束的である。パイロット実行の 98% と 40% がそれらを超える。水準 2.0 は拘束的でない(0.7%)。条件ごとに 20 シードがあり、シード付きの交互配置順序で実行される。全体で 5,400 エピソードが実行され、4,940 の行為があった。
  • エネルギーのラベル。 すべてのジュールは reported_j である。すなわち、エージェントに対するカーネルのプロセスごとのエネルギー推定値(proc_pid_rusage の ri_energy_nj)であり、各行為の前後に特権なしで読み取られる。プロセスがエージェントの壁である。数独の盤面はそのプロセスの内部に保持されているため、世界 は定義 2 が要求するように の外部にはない。この実行は運動学とゲート付きの順位づけを検証するものであり、定義を検証するものではない。定義を検証する実行は、盤面をソケットの向こうの第二のプロセス、またはマイクロコントローラ上に保持する。コンセント計測器が接続されていなかったため、measured_j は空である。est_j はサイクル数に J(パイロットの中央値の比)を掛けたものである。

結果。 20 シードにわたる平均 ± 標準偏差。一つの実行とは、一つの予算水準における一つのアームの、全 30 タスクにわたる実行である。CV は変動係数であり、標準偏差を平均で割ったものである。

アーム30 タスク中の完了数(ビット)(報告値、mJ)(報告ジュールあたりのビット) の CV拒否打ち切り予算超過
σ 則0.50.60 ± 0.50108 ± 9120.8 ± 0.35,254 ± 4,4020.8429.4000
σ 則1.09.10 ± 1.861,479 ± 31643.8 ± 4.034,454 ± 10,0070.2920.9009
σ 則2.028.40 ± 0.604,823 ± 10566.2 ± 5.873,345 ± 6,4430.091.6000
固定カスケード(最安優先)0.50.70 ± 0.47126 ± 8518.8 ± 0.36,801 ± 4,5690.6729.3000
固定カスケード(最安優先)1.06.45 ± 1.501,047 ± 25444.7 ± 3.623,804 ± 7,0670.3023.5507
固定カスケード(最安優先)2.027.50 ± 0.514,668 ± 9267.0 ± 6.770,418 ± 7,7660.112.5000
ゴールブラインド0.50.25 ± 0.4445 ± 8014.1 ± 3.12,775 ± 4,9991.80020.3520
ゴールブラインド1.03.85 ± 1.84623 ± 30126.6 ± 5.724,153 ± 13,3640.55017.450
ゴールブラインド2.018.25 ± 2.713,034 ± 47134.1 ± 9.792,724 ± 15,6900.1701.350
  • 行為ごと。 1,902 の行為が確認された。行為の の中央値は報告ジュールあたり ビットであり、四分位範囲は から までであった。確認されたビットあたりのジュールは、300 K における の少なくとも 倍であり、中央値は 倍であった。下限はジュールあたり ビットを許す。
  • 完了したタスクあたりのジュール。 アーム間の中央値は、易タスクで 0.34 から 0.38 mJ まで、中タスクで 1.58 から 1.70 mJ まで、難タスクで 4.05 から 4.28 mJ までであった。
  • シードで対応づけたセレクタ(探索的、事後的)。 この分析は実行の後に選ばれたので、探索的である。 において、σ 則セレクタは固定カスケードよりも実行あたり 2.65 多くのタスクを完了させた(95% ブートストラップ区間 1.5 から 3.8 まで)。その実行の はジュールあたり 10,650 ビット高かった(4,747 から 16,592 まで)。 では 0.9 多く完了させた(0.55 から 1.25 まで)。σ 則の規則は十分なギアへ直接進むので、失敗した軽い試行のジュールは予算の中に残る。完了したタスクあたりのジュールは等しかった。 で両アームが完了させた 4 タスクにおいて、対応のある区間は から µJ までであった(R-F1)。
  • パッケージによる照合。 30 s の窓で非対話的に実行した powermetrics は、エージェントが休止している間、マシン上の他の作業による約 12.1 W の CPU 電力と 13.6 W の GPU 電力を読み取った。エージェントはそれ自身の計測器で約 0.6 W を加えた。バックグラウンドの CPU 電力は窓の間で約 0.5 W 変動したため、アイドル分を差し引いたパッケージのジュールは負になった。プロセスごとの計測器がこの実行の計測器である。D1 と D5 には、それ以外はアイドル状態のマシン上のコンセント計測器が必要である。

反証条件の結果。 すべて実行の前に固定された。

ID観測結果
R-F1中央値 のタスクごとの対応のある差(σ 則から固定カスケードを引いたもの)の 95% 区間が、すべての拘束的な水準でゼロを含む発動。 で、両方が完了させた 4 タスク:区間 から µJ まで。 では、両方が完了させたタスクはない。両方が完了させるタスクでは、ジュールは等しい
R-F2いずれかのエピソードが予算を超えて終わる発動。5,400 中 36。 で σ 則 9、固定カスケード 7 であり、最後の比較がガードの外で実行されたときに 0.07% から 3.6% まで超過した。 でゴールブラインド 20 であり、計測器の検査数回分の幅しかない予算で、最大 33% 超過した
R-F3実行不可能なタスク水準に対する拒否の再現率が 0.9 未満、または拒否の 10% 超が、いずれかのアームが半数のシードで完了させるタスク水準に対するもの発動。41 の実行不可能なタスク水準で再現率 1.00。拒否の 13.1% が、いずれかのアームが完了させたタスク水準に対するものであった
R-F4行為ごとの est_j と reported_j の間の Kendall の tau-b が 0.8 未満存続。4,000 の行為で 0.96
R-F5いずれかの条件で実行の の CV が 0.25 を超える拘束的な水準で発動(0.29 から 1.80 まで)。 で存続(0.09、0.11、0.17)
R-F6 による順位づけが、積分された による順位づけと異なる発動。 で、 は σ 則、固定カスケード、ゴールブラインドの順に並べる。積分された はゴールブラインドを一位に並べる。 では後の二つが入れ替わる
R-F7確認された行為がビットあたり を下回る存続。最も低い行為でも 倍上にあった
R-F8拘束的な水準で、ゴールブラインドの実行の が、より良いセレクタのもの以上である存続。 で 2,775 対 6,801。 で 24,153 対 34,454

この実行が決着させること。

  • は、命題 5 と 6 が要求するとおり、行為ごと、実行ごとにレシートから読み取られる。緩い予算では、それはシード間で安定している。
  • が順位づけであり、積分された はそうではない。ゴールブラインドのエージェントは緩い予算で最も高い実行の をもち、28 に対して 30 タスク中 18 を完了させた。その失敗は安かった。 は によってゲートされるので、そのエージェントを最下位に並べる。これが、第2.3節が をゲートとして で順位づける理由である。
  • 探索的、事後的:拘束的な予算のもとで、σ 則セレクタは固定カスケードよりも多くのタスクを完了させ、完了したタスクあたりのジュールは等しかった。利得は、どのタスクが予算に収まるかにあり、同じタスクをより安く完了させることにあるのではない。第8.11.2節は、後の実行が何を再現するかを述べる。
  • 次の実行の前に二つの実装上の修正を行う。比較とレシートの書き込みをガードされた領域の内部へ移す。測定された完了コストを各行為の前に課金する。

図4は、緩い予算におけるゲートと測定された順位づけを並べて示す。

図とデータ。候補の実行は、ゲート C(z)、すなわち X が要求値 X_req 以上であるという条件を通過する。通過したものは J*、すなわち正しい完了までの最小のジュールで順位づけられ、通過しなかったものは順位づけられない。下段は予算 2.0 における実行 1 である。σ 則は 30 タスク中 28.40 を完了させ、実行の ι はジュールあたり 73,345 ビットであった。固定カスケードは 27.50 で 70,418、ゴールブラインドは 18.25 で 92,724 であった。積分された ι だけでは、ゴールブラインドのエージェントが一位に順位づけられる。
図4. まずゲート、次にジュールで順位づける。実行 1 のデータを で示した図であり、値は上の結果表からの 20 シードにわたる平均である。積分された だけではゴールブラインドのエージェントが一位に順位づけられる(R-F6)。出典:experiments/agency-run/results。PNG 版も用意している。 Open full size · PNG

8.11.1 第二の実行:ガード付きアクセプタ、40 シード

この実行は、第8.11節と同じタスククラス、同じギア、同じ三つのアームを、同じラップトップ上で用いる。第二の実行の事前登録が最初にコミットされた(610dd4c)。次にパイロットと固定された較正が(c88511f)、その後に本実行が(920d7e2)コミットされた。予測 1 はこの実行にソフトウェア上の対応物をもたない。エージェントには、行為時間とともに減少する宣言された行為コストも、それが制御する維持コストもないため、事前登録は用量反応の設計を実行しないと述べている。

方法。

  • ガード。 エピソードのすべてのジュールはガードの内部で課金される。選択、ハッシュ、ギアのステップ、比較、レシート、最後の読み取りである。開始時の検査は消費量 を用いる。法則のアームはガードが失敗すると拒否する。ゴールブラインドのアームは打ち切られる。
  • 拒否の閾値。 どちらのセレクタも、予算への適合の検査に較正コストの 分位点を用いる。 は本実行の前に較正の再生から固定された。 であり、較正分割において再現率 1.0、適合率約 0.976 であった。
  • 予算とシード。 タスクごとに であり、これは g2 単独でのパイロットの中央値である。水準 0.5 と 1.0 は拘束的である。それらを超えるパイロットの割合は 0.98 と 0.4 である。水準 2.0 は拘束的でない(0.0067)。条件ごとに 40 シードがある。全体で 10,800 エピソードが実行された。
  • 静穏な窓。 静穏は達成されなかった。プローブは上限まで実行された。開始前の最後のプローブ(現地時間 21:46)は、他のプロセスの CPU 使用率が一コアの約 621% であることを記録し、上位は mediaanalysisd とエディタのヘルパーであった。ベースラインのパッケージ電力は約 21.4 W であった。本実行の窓におけるパッケージ電力は約 22.7 W であった。この実行は quiet_window = no を記録している。
  • エネルギーのラベル。 すべてのジュールは reported_j である。すなわち、エージェントに対するカーネルのプロセスごとのエネルギー推定値(proc_pid_rusage の ri_energy_nj)であり、照合に用いた箇所では powermetrics によるパッケージの数値を伴う。est_j はサイクル数に、パイロットで固定された J を掛けたものである。measured_j は空である。コンセント計測器は接続されていなかった。
  • パッケージによる照合。 本実行の窓において、プロセスの計測器は 42.35 J を読み取った。正味のパッケージジュールは 121.81 J であり、プロセスに対する比は約 2.88 であった。ベースラインのパッケージのドリフトは約 W であった。quiet_window = no であるため、照合は達成不可能と宣言される。プロセスごとの計測器が引き続きこの実行の計測器である。

結果。 40 シードにわたる平均 ± 標準偏差。一つの実行とは、一つの予算水準における一つのアームの、全 30 タスクにわたる実行である。CV は変動係数であり、標準偏差を平均で割ったものである。 は第8.11節との比較のためにミリジュールで報告する。

アーム30 タスク中の完了数(ビット)(報告値、mJ)(報告ジュールあたりのビット) の CV拒否打ち切り予算超過
σ 則0.50.62 ± 0.49113 ± 8959.5 ± 2.01,942 ± 1,5250.78529.3800
σ 則1.02.90 ± 1.74523 ± 314133.7 ± 13.84,150 ± 2,8920.69727.1000
σ 則2.022.73 ± 1.303,980 ± 206197.3 ± 18.220,359 ± 2,3880.1177.2800
固定カスケード(最安優先)0.50.57 ± 0.50104 ± 9060.1 ± 2.11,777 ± 1,5480.87129.4300
固定カスケード(最安優先)1.02.67 ± 1.25483 ± 226140.3 ± 13.53,593 ± 1,9480.54227.3200
固定カスケード(最安優先)2.019.93 ± 1.423,509 ± 227201.2 ± 20.417,684 ± 2,9090.16410.0700
ゴールブラインド0.50.12 ± 0.3323 ± 6135.4 ± 11.6513 ± 1,3972.723022.850
ゴールブラインド1.01.00 ± 0.93181 ± 16972.0 ± 19.52,661 ± 2,5790.969020.000
ゴールブラインド2.010.65 ± 2.271,859 ± 40097.3 ± 30.120,302 ± 5,7660.28408.700
  • 行為ごと。 7,960 の行為が実行された。2,448 が確認された。est_j と reported_j の間の Kendall の tau-b は、4,000 の行為で 0.942 であった。行為の の中央値は報告ジュールあたり約 ビットであった。確認されたすべての行為は、ビットあたり をはるかに上回っていた。最も低いものでもその下限の約 倍であった。
  • 拒否。 49 の実行不可能なペアで再現率は 1.0 であった。拒否は 5,223 件であった。いずれかのアームが完了させたタスクに対する割合は約 0.081 であった。
  • 予算超過。 予算を超えて終わったエピソードはゼロであった。最大の超過率は であった。すべてのエピソードが予算内で終わった。
  • シードで対応づけたセレクタ。 この分析は事前登録で宣言されていた。 において、σ 則セレクタは固定カスケードよりも実行あたり 2.8 多くのタスクを完了させた(95% ブートストラップ区間 2.3 から 3.275 まで)。その実行の はジュールあたり 2,674 ビット高かった(1,831 から 3,504 まで)。40 シード中 39 で、σ 則セレクタのほうが多く完了させた。 と では、完了タスク数の差の区間はゼロを含む。これらの結果はいずれの反証条件も発動させない。

反証条件の結果。 すべて実行の前に固定された。表は第二の実行の結果を最初の実行の結果と並べて示す。

ID観測実行 2実行 1
R-F1すべての拘束的な水準で、中央値 のタスクごとの対応のある差(σ 則から固定カスケードを引いたもの)の 95% 区間がゼロを含むか、ゼロを上回る存続。ただし区間を形成できなかったためである。 では両方が完了させたタスクはなく、 では一つであった。共有タスクのジュールは σ 則による節約を示さない発動
R-F2いずれかのエピソードが予算を超えて終わる存続。10,800 中 0。ガードが比較、レシート、最後の読み取りを課金する発動
R-F3実行不可能なペアに対する拒否の再現率が 0.9 未満、または拒否の 10% 超が、いずれかのアームが完了させるペアに対するもの存続。49 の実行不可能なペアで再現率 1.0。いずれかのアームが完了させたタスクに対する割合は約 0.081。 分位点による拒否の閾値が実行 1 からの変更点である発動
R-F4行為ごとの est_j と reported_j の間の Kendall の tau-b が 0.8 未満存続。4,000 の行為で 0.942存続
R-F5いずれかの条件で実行の の CV が 0.25 を超える拘束的な水準(0.54 から 2.72 まで)と、 のゴールブラインドのアーム(0.284)で発動。 の両セレクタで存続(0.117、0.164)発動
R-F6 による順位づけが、積分された による順位づけと異なる発動。 で、 は σ 則、固定カスケード、ゴールブラインドの順に並べる。積分された は σ 則、ゴールブラインド、固定カスケードの順に並べる発動
R-F7確認された行為がビットあたり を下回る存続。最も低い行為でも約 倍上にあった存続
R-F8拘束的な水準で、ゴールブラインドの実行の が、より良いセレクタのもの以上である存続。 で 513 対 1,942。 で 2,661 対 4,150存続

この実行が決着させること。

  • ガードが R-F2 を解決する。予算超過はゼロである。
  • 拒否の分位点が R-F3 を解決する。再現率は 1.0 のままであり、完了可能なタスクに対する拒否の割合は 10% 未満に下がる。
  • は引き続き順位づけである。積分された は緩い予算において依然としてそれと一致しない(R-F6)。
  • 実行の は、拘束的な予算では依然としてシード間で不安定である(R-F5)。
  • R-F1 が存続したのは、両セレクタが完了させたタスクが少なすぎて区間を形成できなかったからにすぎない。σ 則セレクタが共有タスクをより少ないジュールで完了させることを示す実行はない。 におけるシードで対応づけた利得は、より多くのタスクの完了であり、同じタスクのより安い完了ではない。

8.11.2 第二のマシン:パッケージエネルギーカウンタによる再現

この実行は、第8.11.1節の第二の実行のプロトコルを、異なるエネルギーカウンタをもつ第二のマシン上で繰り返す。これはセレクタの比較の再現であり、エネルギーの測定ではない。コード、レシート、要約は experiments/agency-run にある。PREREGISTRATION_v2_jetson.md とその修正 1、results_jetson/summary.md(パート A)、results_jetson_cyc/summary.md(パート B)である。事前登録の追補が最初にコミットされ(cb059f0)、次に計測器のバックエンドとハーネスが(1938577)、その次に修正 1 が(7703822)コミットされた。続いてパート A のパイロット(6ddd086)と本実行(a652503)、その後にパート B のパイロット(3fde1fb)と本実行(1bb2444)がコミットされた。

方法。

  • マシン。 14 コアの x86 プロセッサを搭載した Linux ラップトップである。各 2 スレッドの性能コアが 6 個、効率コアが 8 個である。ターボはオフであった。すべてのコアはベース周波数に固定された。性能コアで 2.6 GHz、効率コアで 1.9 GHz である。エージェントは一つの性能コアのスレッドに固定して実行され、一度に一エピソードずつ処理した。ブロック中のエージェントのコアの周波数の中央値は 2.6 GHz であった。元の設定は実行後に復元された。
  • 変更なし。 タスク、述語、結合ビット、ギア g0 から g2 まで、三つのアーム、ガード、拒否の再生、予算水準 、40 シード、パートごとに 10,800 エピソード、反証条件 R-F1 から R-F8 まで、およびシードで対応づけた分析は、第8.11.1節のものと同じである。
  • エネルギーカウンタ。 RAPL(Running Average Power Limit)はプロセッサのオンチップのパッケージエネルギーカウンタである。各区間には、パッケージのジュールから、そのブロックのアイドル時ベースライン電力に区間の秒数を掛けたものを差し引いた値が課金された。RAPL はチップ内部のモデルとセンサであり、コンセント計測器ではない。それはパッケージ上のすべてのプロセスを数える。
  • 静穏な窓。 静穏は達成されなかった。quiet_window = no である。CI(継続的インテグレーション)ランナーが実行中ずっとマシン上で Rust コードをビルドしていた。開始前の 40 回のプローブでは、他のプロセスが 1.0 から 20.0 コアまでを使用し、パッケージ電力は 2.3 から 28.7 W までであった。ブロックごとのゲートは、パート A では 360 ブロック中 180、パート B では 360 中 244 のブロックの前に満たされた。98 と 208 のブロックが、その全期間にわたって静穏であった。
  • パート A。 エージェントの計測器は、各行為の前後に読み取られる RAPL である。すべての数値は reported_j である。
  • パート B。 修正 1 は、いかなるパイロットよりも前にこのパートを追加した。ハーネスの試験で、行為が約 0.01 から 6 ms まで続く一方、RAPL は約 1 ms ごとに約 5 から 60 mJ までの刻みで更新されることが示されたからである。エージェントの計測器は est_j である。すなわち、エージェントのスレッドのユーザーサイクル数に を掛けたものである。 はパート B のパイロットにおいて、アイドル分を差し引いて、3 s の 8 ラウンドにわたり、二回目の試行で RAPL に対して較正された。 J/サイクルであり、62,516,635,701 サイクルにわたる 41.11 J の正味のパッケージエネルギーから得た。パート B のジュールの数値はすべて est_j である。それと並べて記録された RAPL の数値は reported_j のままである。
  • ラベル。 どちらのパートでも measured_j は空である。コンセント計測器もシャント計測器も接続されていなかった。
  • アーム名。 アーム名とそのコード上のフィールドは第8.3節に従う。ゴールブラインドのベースラインは blind である。

パート A の結果:行為ごとに読み取った RAPL。 40 シードにわたる平均 ± 標準偏差。 は要約と同様に、ジュール単位の reported_j である。水準 0.5、1.0、2.0 はいずれも拘束的である。パイロットの g2 実行の 0.647、0.40、0.353 がそれらを超える。

アーム30 タスク中の完了数(ビット)(報告値、J)(報告ジュールあたりのビット) の CV拒否打ち切り予算超過
σ 則0.50.0000.00180該当なし30.000.00323
σ 則1.00.0000.00020該当なし30.000.00322
σ 則2.01.00 ± 0.39181 ± 710.0018 ± 0.033614,427 ± 18,6801.29529.000.00322
固定カスケード(最安優先)0.50.000-0.00080該当なし30.000.00326
固定カスケード(最安優先)1.00.000-0.00050該当なし30.000.00324
固定カスケード(最安優先)2.01.00 ± 0.51181 ± 910.0107 ± 0.028615,451 ± 23,7671.53829.000.00320
ゴールブラインド0.50.0000.00260該当なし0.0030.00327
ゴールブラインド1.00.0000.00090該当なし0.0030.00323
ゴールブラインド2.00.28 ± 0.4550 ± 820.0019 ± 0.01803,801 ± 13,7493.6180.0028.90321
  • カウンタの分解能。 エピソードの中央値は約 0.04 ms 続いた。10,800 エピソード中 10,075 で、パッケージカウンタに変化が見られなかった。10,549 は、アイドル分を差し引いた後の reported_j がゼロ以下であった。
  • 予算。 のパイロットの中央値は から J までの範囲にあり、中央値は J であった。ガードの開始閾値は 0.117 J であった。三つの水準で、30 タスク中それぞれ 30、30、28 のタスクについて予算がそれを下回ったため、法則のアームはほぼすべてのタスクを拒否した。
  • 予算超過。 すべての条件で 320 から 327 までの予算超過が記録された。最大の超過率は 10.86 であった。大半の行為ではゼロを読み、少数の行為ではカウンタの一刻み分をまるごと読むような課金では、数ミリジュールの予算を守ることはできない。
  • 行為ごと。 137 の行為が実行された。91 が確認された。44 の行為はゼロを読んだ。26 の確認された行為はゼロ以下を読んだ。est_j と reported_j の間の Kendall の tau-b は、93 の行為で 0.368 であった。
  • 照合。 ブロックのパッケージの正味は 3.445 J であり、エピソードにわたって合計した 2.737 J に対し、比は 0.794 であった。アイドル時のパッケージ電力は、実行前に 4.01 W、実行後に 5.55 W であった。照合は達成不可能と宣言される。
  • シードで対応づけたセレクタ。 において、完了タスク数の差は 0 であった(95% ブートストラップ区間 から まで)。実行の の差は報告ジュールあたり 1,328 ビットであった( から まで)。40 シード中 30 が同数であった。0.5 と 1.0 では、どのアームもタスクを完了させなかった。

パート B の結果:サイクル数に RAPL で較正した定数を掛けたもの。 40 シードにわたる平均 ± 標準偏差。 は要約と同様に、ジュール単位の est_j である。水準 0.5 と 1.0 は拘束的である。パイロットの g2 実行の 0.98 と 0.40 がそれらを超える。水準 2.0 は拘束的でない(0.0)。

アーム30 タスク中の完了数(ビット)(推定値、J)(推定ジュールあたりのビット) の CV拒否打ち切り予算超過
σ 則0.51.10 ± 0.98200 ± 1780.0345 ± 0.00176,027 ± 5,4580.90628.900.000
σ 則1.08.75 ± 3.141,574 ± 5650.0805 ± 0.009820,519 ± 8,5160.41521.250.000
σ 則2.028.60 ± 0.984,882 ± 1540.1008 ± 0.023450,667 ± 10,0880.1991.400.000
固定カスケード(最安優先)0.51.15 ± 0.92208 ± 1670.0366 ± 0.00135,833 ± 4,7570.81628.850.000
固定カスケード(最安優先)1.09.22 ± 3.071,660 ± 5510.0813 ± 0.010621,412 ± 8,1300.38020.770.000
固定カスケード(最安優先)2.027.77 ± 2.304,745 ± 3770.1099 ± 0.033947,108 ± 13,2160.2812.230.000
ゴールブラインド0.50.20 ± 0.4636 ± 840.0210 ± 0.00551,722 ± 3,9272.2800.0021.500
ゴールブラインド1.03.73 ± 2.12667 ± 3810.0436 ± 0.014016,393 ± 9,2460.5640.0016.680
ゴールブラインド2.015.65 ± 2.502,662 ± 4330.0499 ± 0.016057,266 ± 14,5960.2550.004.170
  • 行為ごと。 7,800 の行為が実行された。3,847 が確認された。行為の の中央値は推定ジュールあたり 69,892 ビットであり、四分位範囲は 35,759 から 146,697 までであった。確認されたすべての行為は、ビットあたり をはるかに上回っていた。最も低いものでもその下限の約 倍であり、中央値は約 倍であった。
  • 拒否。 45 の実行不可能なペアで再現率は 1.0 であった。拒否は 4,136 件であった。いずれかのアームが完了させたタスクに対する割合は約 0.071 であった。
  • 予算超過。 予算を超えて終わったエピソードはゼロであった。最大の超過率は であった。
  • 共有タスク。 では、9 タスクを両セレクタが完了させた。中央値 のタスクごとの対応のある差(σ 則から固定カスケードを引いたもの)の平均は J であった(95% 区間 から まで、Wilcoxon )。 では一つのタスクを両方が完了させ、差は J であった。 では 29 タスクを両方が完了させ、平均の差は J であった( から まで、)。
  • シードで対応づけたセレクタ。 において、σ 則セレクタは固定カスケードよりも実行あたり 0.825 多くのタスクを完了させた(95% ブートストラップ区間 0.125 から 1.575 まで)。その実行の は推定ジュールあたり 3,559 ビット高かった( から まで)。40 シード中 9 が σ 則セレクタに有利で、27 が同数であった。 では完了タスク数の差は であった( から まで)。 では であった( から まで)。
  • 推定値とカウンタの比較。 各エピソードの est_j と同じエピソードの RAPL パッケージ正味との間の Kendall の tau-b は、4,000 エピソードで であった。10,800 エピソード中 5,258 で、パッケージカウンタに変化が見られなかった。ブロックにわたって合計すると、est_j は 23.23 J であり、RAPL パッケージ正味の 17.14 J に対し、比は 1.355 であった。アイドル時のパッケージ電力は、実行前に 9.37 W、実行後に 3.17 W であった。照合は達成不可能と宣言される。

反証条件の結果。 すべて実行の前に固定された。修正 1 が述べるとおり、パート B は R-F4 を RAPL に対するエピソード単位の検定で置き換える。実行 2 とここでの二つのパートにおいて、「存続」は観測が起こらなかったことを意味する。

ID観測パート A(行為ごとの RAPL)パート B(サイクルモデル)実行 2
R-F1すべての拘束的な水準で、中央値 のタスクごとの対応のある差(σ 則から固定カスケードを引いたもの)の 95% 区間がゼロを含むか、ゼロを上回る存続。ただし区間を形成できなかったためである。両方が完了させたタスクは における一つで、差は J であり、他の水準ではなかった存続。この観測にはすべての拘束的な水準が必要であり、 には共有タスクが一つ( J)しかなく区間がないためである。 では区間はゼロを含む存続
R-F2いずれかのエピソードが予算を超えて終わる発動。条件ごとに 320 から 327 まで存続。10,800 中 0存続
R-F3実行不可能なペアに対する拒否の再現率が 0.9 未満、または拒否の 10% 超が、いずれかのアームが完了させるペアに対するもの存続。88 のペアで再現率 1.0。割合 0.0011存続。45 のペアで再現率 1.0。割合 0.071存続
R-F4パート A:行為ごとの est_j と reported_j の間の Kendall の tau-b が 0.8 未満。パート B:エピソードの est_j とエピソードの RAPL 正味との間の tau-b が 0.8 未満発動。93 の行為で 0.368発動。4,000 エピソードで 存続
R-F5いずれかの条件で実行の の CV が 0.25 を超える発動(1.295 から 3.618 まで)発動。拘束的な水準で 0.380 から 2.280 まで。 で:σ 則 0.199、固定カスケード 0.281、ゴールブラインド 0.255発動
R-F6 による順位づけが、積分された による順位づけと異なる発動。 で、 は σ 則、固定カスケード、ゴールブラインドの順に並べる。積分された は固定カスケードを一位に並べる発動。 で、 は σ 則、固定カスケード、ゴールブラインドの順に並べる。積分された はゴールブラインド、σ 則、固定カスケードの順に並べる発動
R-F7確認された行為がビットあたり を下回る発動。26 の確認された行為がゼロ以下を読み、そのためそれらは下限を下回る。これはカウンタの量子化である存続。最も低い行為でも約 倍上にあった存続
R-F8拘束的な水準で、ゴールブラインドの実行の が、より良いセレクタのもの以上である発動。 と では、すべてのアームが 0 を示す存続。 で 1,722 対 6,027。 で 16,393 対 21,412存続

この再現が決着させること。

  • 行為ごとの RAPL は、一ミリ秒より短い行為を計量できない。大半のエピソードではカウンタの更新が見られなかったため、ガードは量子化だけが原因で拒否するか予算を超過した。パート A は計測器の分解能に関する結果である。それはセレクタについては何も語らない。
  • サイクル計測器を用いると、選択の結果は において実行 2 と同じ符号をもつ。σ 則セレクタは実行あたりより多くのタスクを完了させた。利得はより小さく(2.8 に対して 0.825)、このマシンでは水準 2.0 は拘束的でなかった。拘束的な水準では、区間はゼロを含む。
  • サイクルモデルはエピソードごとにパッケージカウンタを追跡しなかった(tau-b )。また、そのブロックの合計はカウンタの正味の 1.355 倍であった。パート B のジュールはサイクル数によって行為を順位づける。それらはエネルギーの読み取り値ではない。
  • 共有タスクのジュールは、ここでも σ 則による節約を示さない。σ 則セレクタが利得を得る場合、その利得は完了したタスクの数にあり、同じタスクのより安い完了にあるのではない。
  • この節のいかなる数値も measured_j ではない。

図5は、三つの実行の完了タスクの結果を並べて示す。

実行 1、実行 2、第二のマシンのパート B について、アームと予算水準ごとの 30 タスク中の完了タスク数を示す三つの棒グラフのパネル。緩い水準 2.0 では、σ 則セレクタは 28.40、22.73、28.60 を完了させ、固定カスケードは 27.50、19.93、27.77、ゴールブラインドのベースラインは 18.25、10.65、15.65 であった。誤差棒は一標準偏差を示す。
図5. 事前登録された三つの実行における 30 タスク中の完了タスク数。データ図:第8.11節、第8.11.1節、第8.11.2節(パート B)の結果表から得た、シードにわたる平均 ± 一標準偏差。出典:experiments/agency-run/results、results2、results_jetson_cyc。PNG 版も用意している。 Open full size · PNG

何が再現され、何が再現されないか。 実行 1 のセレクタの結果は探索的であった。後の二つの実行が、事前登録のもとでそれを検証した。

実行 1 からの主張(探索的)実行 2(事前登録)第二のマシン、パート B(事前登録)
でより多くのタスクを完了:+2.65(1.5 から 3.8 まで)再現されず。区間はゼロを含む再現されず。( から まで)
でより多くのタスクを完了:+0.9(0.55 から 1.25 まで)再現された。+2.8(2.3 から 3.275 まで)再現された。+0.825(0.125 から 1.575 まで)
完了したタスクあたりのジュール等しい。共有タスクでの節約なし等しい。共有タスクの区間はゼロを含む

再現された結果は狭い。最も緩い予算水準において、σ 則セレクタは二台のマシンで固定カスケードよりも多くのタスクを完了させる。同じ完了タスクについてより少ないジュールを示す実行はなく、実行 1 の拘束的予算における利得は再現されなかった。パート A は計測器の分解能に関する結果であり、どちらの主張も検証しない。

次の実行のための測定プロトコル。 どちらのパートも計測器の段階で失敗しているので、セレクタを再び検証する前にプロトコルを変更する。

  1. アイドル状態のマシン。 他人に属するものは何も停止しない。静穏な窓を待つか、それを予定する。実行全体にわたって他のプロセスが 0.5 コア以下であり、quiet_window = yes が記録されること。静穏に達しなければ、実行は開始しない。
  2. コンセント計測器またはシャント計測器。 コンセント電力計測器、または電源レール上のシャント計測器を接続し、一つの行為よりも速くサンプリングする。その読み取り値だけが measured_j を埋める。
  3. まず分解能の検査。 パイロットの前に、行為の長さの中央値に対する計測器の更新間隔と刻み幅を記録する。計測器が一つの行為を分解できない場合は、行為のブロックを計量して回数で配分し、そのことを事前登録に明記する。
  4. 計測器上で推定値を較正する。 ブロック水準でコンセント計測器またはシャント計測器に対して est_j を当てはめ、est_j がガードを駆動する前に R-F4 が存続することを要求する。
  5. 固定と記録。 周波数を固定し、前後のアイドル時ベースラインを記録し、ドリフトを報告し、パッケージカウンタをラベル付きの照合として残す。
  6. タスクの完了が主要である。 次の実行の事前登録は、タスクの完了を主要評価項目とする。すなわち、各予算水準における、完了タスク数のシードで対応づけた差(σ 則から固定カスケードを引いたもの)であり、水準間で Holm のステップダウン補正を行う。共有タスクのジュール(R-F1)は副次的である。

8.12 報告

結果とともに、すべてのレシート、生の計測器トレース、アイドル時ベースライン、分析コードを公開する。測定ジュール、報告ジュール、推定ジュールを別々の列で報告する。階層をまたいで合計することは決してしない。どの反証条件が発動したかを、合格したものと同じ目立ち方で述べる。すべての実行は Takahashi と Hayashi のチェックリストにも答える [239]。会計の境界、エネルギー収支の項(蓄えられたエネルギーと外部へ出された仕事、またはそれらが無視できるという言明)、ベースラインと、ジュールが総量か増分か、結果の粗視化、ホライズンとリセットのプロトコル、ジュールあたりビットと並べた実時間と平均電力、そしてバイアス補正を伴う結合ビットの推定器である。

参考文献

Entries marked “preprint” are cited by their arXiv posting. Entries published in a language other than English say so.

  1. Pearl, J. (1995). Causal diagrams for empirical research. Biometrika 82:669-688. https://doi.org/10.1093/biomet/82.4.669
  2. Everitt, T., Hutter, M., Kumar, R. and Krakovna, V. (2019). Reward tampering problems and solutions in reinforcement learning: a causal influence diagram perspective. arXiv:1908.04734 (preprint).
  3. Sagawa, T. and Ueda, M. (2008). Second law of thermodynamics with discrete quantum feedback control. Physical Review Letters 100:080403. https://doi.org/10.1103/PhysRevLett.100.080403
  4. Sagawa, T. and Ueda, M. (2010). Generalized Jarzynski equality under nonequilibrium feedback control. Physical Review Letters 104:090602. https://doi.org/10.1103/PhysRevLett.104.090602
  5. Sagawa, T. and Ueda, M. (2009). Minimal energy cost for thermodynamic information processing: measurement and information erasure. Physical Review Letters 102:250602. https://doi.org/10.1103/PhysRevLett.102.250602
  6. Landauer, R. (1961). Irreversibility and heat generation in the computing process. IBM Journal of Research and Development 5:183-191. https://doi.org/10.1147/rd.53.0183
  7. Bennett, C. H. (1982). The thermodynamics of computation: a review. International Journal of Theoretical Physics 21:905-940. https://doi.org/10.1007/BF02084158
  8. Ay, N. and Polani, D. (2008). Information flows in causal networks. Advances in Complex Systems 11:17-41. https://doi.org/10.1142/S0219525908001465
  9. Klyubin, A. S., Polani, D. and Nehaniv, C. L. (2005). Empowerment: a universal agent-centric measure of control. 2005 IEEE Congress on Evolutionary Computation 1:128-135. https://doi.org/10.1109/CEC.2005.1554676
  10. Kenton, Z., Kumar, R., Farquhar, S., Richens, J. et al. (2023). Discovering agents. Artificial Intelligence 322:103963. https://doi.org/10.1016/j.artint.2023.103963
  11. James, R. G., Barnett, N. and Crutchfield, J. P. (2016). Information flows? A critique of transfer entropies. Physical Review Letters 116:238701. https://doi.org/10.1103/PhysRevLett.116.238701
  12. Lizier, J. T. and Prokopenko, M. (2010). Differentiating information transfer and causal effect. The European Physical Journal B 73:605-615. https://doi.org/10.1140/epjb/e2010-00034-5
  13. Janzing, D., Balduzzi, D., Grosse-Wentrup, M. and Schölkopf, B. (2013). Quantifying causal influences. The Annals of Statistics 41. https://doi.org/10.1214/13-AOS1145
  14. Albantakis, L., Marshall, W., Hoel, E. and Tononi, G. (2019). What caused what? A quantitative account of actual causation using dynamical causal networks. Entropy 21:459. https://doi.org/10.3390/e21050459
  15. Aguilera, M., Millidge, B., Tschantz, A. and Buckley, C. L. (2022). How particular is the physics of the free energy principle? Physics of Life Reviews 40:24-50. https://doi.org/10.1016/j.plrev.2021.11.001
  16. Biehl, M., Pollock, F. A. and Kanai, R. (2021). A technical critique of some parts of the free energy principle. Entropy 23:293. https://doi.org/10.3390/e23030293
  17. Bruineberg, J., Dołęga, K., Dewhurst, J. and Baltieri, M. (2022). The emperor’s new Markov blankets. Behavioral and Brain Sciences 45:e183. https://doi.org/10.1017/S0140525X21002351
  18. Orseau, L., McGregor McGill, S. and Legg, S. (2018). Agents and devices: a relative definition of agency. arXiv:1805.12387 (preprint).
  19. Albantakis, L., Barbosa, L., Findlay, G., Grasso, M. et al. (2023). Integrated information theory (IIT) 4.0: formulating the properties of phenomenal existence in physical terms. PLOS Computational Biology 19:e1011465. https://doi.org/10.1371/journal.pcbi.1011465
  20. Krakauer, D., Bertschinger, N., Olbrich, E., Flack, J. C. and Ay, N. (2020). The information theory of individuality. Theory in Biosciences 139:209-223. https://doi.org/10.1007/s12064-020-00313-7
  21. Hoel, E. P., Albantakis, L. and Tononi, G. (2013). Quantifying causal emergence shows that macro can beat micro. Proceedings of the National Academy of Sciences 110:19790-19795. https://doi.org/10.1073/pnas.1314922110
  22. Rosas, F. E., Mediano, P. A. M., Biehl, M., Chandaria, S. and Polani, D. (2020). Causal blankets: theory and algorithmic framework. In Active Inference: IWAI 2020, Communications in Computer and Information Science, Springer, pp. 187-198. https://doi.org/10.1007/978-3-030-64919-7_19
  23. Shiraishi, N., Funo, K. and Saito, K. (2018). Speed limit for classical stochastic processes. Physical Review Letters 121:070601. https://doi.org/10.1103/PhysRevLett.121.070601
  24. Esposito, M. and Van den Broeck, C. (2011). Second law and Landauer principle far from equilibrium. EPL 95:40004. https://doi.org/10.1209/0295-5075/95/40004
  25. Barato, A. C. and Seifert, U. (2015). Thermodynamic uncertainty relation for biomolecular processes. Physical Review Letters 114:158101. https://doi.org/10.1103/PhysRevLett.114.158101
  26. Gingrich, T. R., Horowitz, J. M., Perunov, N. and England, J. L. (2016). Dissipation bounds all steady-state current fluctuations. Physical Review Letters 116:120601. https://doi.org/10.1103/PhysRevLett.116.120601
  27. Paneru, G., Dutta, S., Tlusty, T. and Pak, H. K. (2020). Reaching and violating thermodynamic uncertainty bounds in information engines. Physical Review E 102:032126. https://doi.org/10.1103/PhysRevE.102.032126
  28. Potts, P. P. and Samuelsson, P. (2019). Thermodynamic uncertainty relations including measurement and feedback. Physical Review E 100:052137. https://doi.org/10.1103/PhysRevE.100.052137
  29. Proesmans, K., Ehrich, J. and Bechhoefer, J. (2020). Finite-time Landauer principle. Physical Review Letters 125:100602. https://doi.org/10.1103/PhysRevLett.125.100602
  30. Sivak, D. A. and Crooks, G. E. (2012). Thermodynamic metrics and optimal paths. Physical Review Letters 108:190602. https://doi.org/10.1103/PhysRevLett.108.190602
  31. Margolus, N. and Levitin, L. B. (1998). The maximum speed of dynamical evolution. Physica D 120:188-195. https://doi.org/10.1016/S0167-2789(98)00054-2
  32. Touchette, H. and Lloyd, S. (2000). Information-theoretic limits of control. Physical Review Letters 84:1156-1159. https://doi.org/10.1103/PhysRevLett.84.1156
  33. Touchette, H. and Lloyd, S. (2004). Information-theoretic approach to the study of control systems. Physica A 331:140-172. https://doi.org/10.1016/j.physa.2003.09.007
  34. Garrahan, J. P. (2017). Simple bounds on fluctuations and uncertainty relations for first-passage times of counting observables. Physical Review E 95:032134. https://doi.org/10.1103/PhysRevE.95.032134
  35. Bennett, C. H. (1973). Logical reversibility of computation. IBM Journal of Research and Development 17:525-532. https://doi.org/10.1147/rd.176.0525
  36. Sagawa, T. and Ueda, M. (2012). Fluctuation theorem with information exchange: role of correlations in stochastic thermodynamics. Physical Review Letters 109:180602. https://doi.org/10.1103/PhysRevLett.109.180602
  37. Hartle, H., Wolpert, D., Stier, A., Kempes, C. P. and Manzano, G. (2024). Work extraction with feedback control using limited resources. arXiv:2407.05507 (preprint).
  38. Horodecki, M. and Oppenheim, J. (2013). Fundamental limitations for quantum and nanoscale thermodynamics. Nature Communications 4:2059. https://doi.org/10.1038/ncomms3059
  39. Parrondo, J. M. R., Horowitz, J. M. and Sagawa, T. (2015). Thermodynamics of information. Nature Physics 11:131-139. https://doi.org/10.1038/nphys3230
  40. Seifert, U. (2012). Stochastic thermodynamics, fluctuation theorems and molecular machines. Reports on Progress in Physics 75:126001. https://doi.org/10.1088/0034-4885/75/12/126001
  41. Conant, R. C. and Ashby, W. R. (1970). Every good regulator of a system must be a model of that system. International Journal of Systems Science 1:89-97. https://doi.org/10.1080/00207727008920220
  42. Richens, J. and Everitt, T. (2024). Robust agents learn causal world models. International Conference on Learning Representations (ICLR 2024), oral, honorable mention. arXiv:2402.10877.
  43. Richens, J., Abel, D., Bellot, A. and Everitt, T. (2025). General agents contain world models. arXiv:2506.01622 (preprint).
  44. Horowitz, J. M. and Esposito, M. (2014). Thermodynamics with continuous information flow. Physical Review X 4:031015. https://doi.org/10.1103/PhysRevX.4.031015
  45. Ito, S. and Sagawa, T. (2013). Information thermodynamics on causal networks. Physical Review Letters 111:180603. https://doi.org/10.1103/PhysRevLett.111.180603
  46. Hartich, D., Barato, A. C. and Seifert, U. (2014). Stochastic thermodynamics of bipartite systems: transfer entropy inequalities and a Maxwell’s demon interpretation. Journal of Statistical Mechanics P02016. https://doi.org/10.1088/1742-5468/2014/02/P02016
  47. Allahverdyan, A. E., Janzing, D. and Mahler, G. (2009). Thermodynamic efficiency of information and heat flow. Journal of Statistical Mechanics P09011. https://doi.org/10.1088/1742-5468/2009/09/P09011
  48. Esposito, M. and Schaller, G. (2012). Stochastic thermodynamics for “Maxwell demon” feedbacks. EPL 99:30003. https://doi.org/10.1209/0295-5075/99/30003
  49. Mandal, D. and Jarzynski, C. (2012). Work and information processing in a solvable model of Maxwell’s demon. PNAS 109:11641-11645. https://doi.org/10.1073/pnas.1204263109
  50. Boyd, A. B., Mandal, D. and Crutchfield, J. P. (2016). Identifying functional thermodynamics in autonomous Maxwellian ratchets. New Journal of Physics 18:023049. https://doi.org/10.1088/1367-2630/18/2/023049
  51. Boyd, A. B., Mandal, D. and Crutchfield, J. P. (2018). Thermodynamics of modularity: structural costs beyond the Landauer bound. Physical Review X 8:031036. https://doi.org/10.1103/PhysRevX.8.031036
  52. Wolpert, D. H. and Kolchinsky, A. (2020). Thermodynamics of computing with circuits. New Journal of Physics 22:063047. https://doi.org/10.1088/1367-2630/ab82b8
  53. Kolchinsky, A. and Wolpert, D. H. (2017). Dependence of dissipation on the initial distribution over states. Journal of Statistical Mechanics 083202. https://doi.org/10.1088/1742-5468/aa7ee1
  54. Still, S., Sivak, D. A., Bell, A. J. and Crooks, G. E. (2012). Thermodynamics of prediction. Physical Review Letters 109:120604. https://doi.org/10.1103/PhysRevLett.109.120604
  55. Kolchinsky, A. and Wolpert, D. H. (2018). Semantic information, autonomous agency and non-equilibrium statistical physics. Interface Focus 8:20180041. https://doi.org/10.1098/rsfs.2018.0041
  56. Ortega, P. A. and Braun, D. A. (2013). Thermodynamics as a theory of decision-making with information-processing costs. Proceedings of the Royal Society A 469:20120683. https://doi.org/10.1098/rspa.2012.0683
  57. Kolchinsky, A. and Wolpert, D. H. (2020). Thermodynamic costs of Turing machines. Physical Review Research 2:033312. https://doi.org/10.1103/PhysRevResearch.2.033312
  58. Kolchinsky, A. and Wolpert, D. H. (2021). Work, entropy production, and thermodynamics of information under protocol constraints. Physical Review X 11:041024. https://doi.org/10.1103/PhysRevX.11.041024
  59. Manzano, G., Kardeş, G., Roldán, É. and Wolpert, D. H. (2024). Thermodynamics of computations with absolute irreversibility, unidirectional transitions, and stochastic computation times. Physical Review X 14:021026. https://doi.org/10.1103/PhysRevX.14.021026
  60. Bérut, A., Arakelyan, A., Petrosyan, A., Ciliberto, S., Dillenschneider, R. and Lutz, E. (2012). Experimental verification of Landauer’s principle linking information and thermodynamics. Nature 483:187-189. https://doi.org/10.1038/nature10872
  61. Jun, Y., Gavrilov, M. and Bechhoefer, J. (2014). High-precision test of Landauer’s principle in a feedback trap. Physical Review Letters 113:190601. https://doi.org/10.1103/PhysRevLett.113.190601
  62. Orlov, A. O., Lent, C. S., Thorpe, C. C., Boechler, G. P. and Snider, G. L. (2012). Experimental test of Landauer’s principle at the sub-k_BT level. Japanese Journal of Applied Physics 51:06FE10. https://doi.org/10.1143/JJAP.51.06FE10
  63. Hong, J., Lambson, B., Dhuey, S. and Bokor, J. (2016). Experimental test of Landauer’s principle in single-bit operations on nanomagnetic memory bits. Science Advances 2:e1501492. https://doi.org/10.1126/sciadv.1501492
  64. Gavrilov, M. and Bechhoefer, J. (2016). Erasure without work in an asymmetric double-well potential. Physical Review Letters 117:200601. https://doi.org/10.1103/PhysRevLett.117.200601
  65. Gavrilov, M., Chétrite, R. and Bechhoefer, J. (2017). Direct measurement of weakly nonequilibrium system entropy is consistent with Gibbs-Shannon form. PNAS 114:11097-11102. https://doi.org/10.1073/pnas.1708689114
  66. Yan, L. L., Xiong, T. P., Rehan, K., Zhou, F., Liang, D. F. et al. (2018). Single-atom demonstration of the quantum Landauer principle. Physical Review Letters 120:210601. https://doi.org/10.1103/PhysRevLett.120.210601
  67. Dago, S., Pereda, J., Barros, N., Ciliberto, S. and Bellon, L. (2021). Information and thermodynamics: fast and precise approach to Landauer’s bound in an underdamped micromechanical oscillator. Physical Review Letters 126:170601. https://doi.org/10.1103/PhysRevLett.126.170601
  68. Scandi, M., Barker, D., Lehmann, S., Dick, K. A., Maisi, V. F. and Perarnau-Llobet, M. (2022). Minimally dissipative information erasure in a quantum dot via thermodynamic length. Physical Review Letters 129:270601. https://doi.org/10.1103/PhysRevLett.129.270601
  69. Toyabe, S., Sagawa, T., Ueda, M., Muneyuki, E. and Sano, M. (2010). Experimental demonstration of information-to-energy conversion and validation of the generalized Jarzynski equality. Nature Physics 6:988-992. https://doi.org/10.1038/nphys1821
  70. Koski, J. V., Maisi, V. F., Pekola, J. P. and Averin, D. V. (2014). Experimental realization of a Szilard engine with a single electron. PNAS 111:13786-13789. https://doi.org/10.1073/pnas.1406966111
  71. Koski, J. V., Maisi, V. F., Sagawa, T. and Pekola, J. P. (2014). Experimental observation of the role of mutual information in the nonequilibrium dynamics of a Maxwell demon. Physical Review Letters 113:030601. https://doi.org/10.1103/PhysRevLett.113.030601
  72. Koski, J. V., Kutvonen, A., Khaymovich, I. M., Ala-Nissila, T. and Pekola, J. P. (2015). On-chip Maxwell’s demon as an information-powered refrigerator. Physical Review Letters 115:260602. https://doi.org/10.1103/PhysRevLett.115.260602
  73. Camati, P. A., Peterson, J. P. S., Batalhão, T. B., Micadei, K., Souza, A. M. et al. (2016). Experimental rectification of entropy production by Maxwell’s demon in a quantum system. Physical Review Letters 117:240502. https://doi.org/10.1103/PhysRevLett.117.240502
  74. Peterson, J. P. S., Sarthour, R. S., Souza, A. M., Oliveira, I. S., Goold, J. et al. (2016). Experimental demonstration of information to energy conversion in a quantum system at the Landauer limit. Proceedings of the Royal Society A 472:20150813. https://doi.org/10.1098/rspa.2015.0813
  75. Cottet, N., Jezouin, S., Bretheau, L., Campagne-Ibarcq, P., Ficheux, Q. et al. (2017). Observing a quantum Maxwell demon at work. PNAS 114:7561-7564. https://doi.org/10.1073/pnas.1704827114
  76. Masuyama, Y., Funo, K., Murashita, Y., Noguchi, A., Kono, S. et al. (2018). Information-to-work conversion by Maxwell’s demon in a superconducting circuit quantum electrodynamical system. Nature Communications 9:1291. https://doi.org/10.1038/s41467-018-03686-y
  77. Naghiloo, M., Alonso, J. J., Romito, A., Lutz, E. and Murch, K. W. (2018). Information gain and loss for a quantum Maxwell’s demon. Physical Review Letters 121:030604. https://doi.org/10.1103/PhysRevLett.121.030604
  78. Kumar, A., Wu, T.-Y., Giraldo, F. and Weiss, D. S. (2018). Sorting ultracold atoms in a three-dimensional optical lattice in a realization of Maxwell’s demon. Nature 561:83-87. https://doi.org/10.1038/s41586-018-0458-7
  79. Linpeng, X., Bresque, L., Maffei, M., Jordan, A. N. et al. (2022). Energetic cost of measurements using quantum, coherent, and thermal light. Physical Review Letters 128:220506. https://doi.org/10.1103/PhysRevLett.128.220506
  80. Paneru, G., Lee, D. Y., Tlusty, T. and Pak, H. K. (2018). Lossless Brownian information engine. Physical Review Letters 120:020601. https://doi.org/10.1103/PhysRevLett.120.020601
  81. Admon, T., Rahav, S. and Roichman, Y. (2018). Experimental realization of an information machine with tunable temporal correlations. Physical Review Letters 121:180601. https://doi.org/10.1103/PhysRevLett.121.180601
  82. Ribezzi-Crivellari, M. and Ritort, F. (2019). Large work extraction and the Landauer limit in a continuous Maxwell demon. Nature Physics 15:660-664. https://doi.org/10.1038/s41567-019-0481-0
  83. Debiossac, M., Grass, D., Alonso, J. J., Lutz, E. and Kiesel, N. (2020). Thermodynamics of continuous non-Markovian feedback control. Nature Communications 11:1360. https://doi.org/10.1038/s41467-020-15148-5
  84. Saha, T. K., Lucero, J. N. E., Ehrich, J., Sivak, D. A. and Bechhoefer, J. (2021). Maximizing power and velocity of an information engine. PNAS 118:e2023356118. https://doi.org/10.1073/pnas.2023356118
  85. Saha, T. K., Lucero, J. N. E., Ehrich, J., Sivak, D. A. and Bechhoefer, J. (2022). Bayesian information engine that optimally exploits noisy measurements. Physical Review Letters 129:130601. https://doi.org/10.1103/PhysRevLett.129.130601
  86. Saha, T. K., Ehrich, J., Gavrilov, M., Still, S., Sivak, D. A. and Bechhoefer, J. (2023). Information engine in a nonequilibrium bath. Physical Review Letters 131:057101. https://doi.org/10.1103/PhysRevLett.131.057101
  87. Barker, D., Scandi, M., Lehmann, S., Thelander, C., Dick, K. A., Perarnau-Llobet, M. and Maisi, V. F. (2022). Experimental verification of the work fluctuation-dissipation relation for information-to-work conversion. Physical Review Letters 128:040602. https://doi.org/10.1103/PhysRevLett.128.040602
  88. Yan, L.-L., Bu, J.-T., Zeng, Q., Zhang, K., Cui, K.-F. et al. (2024). Experimental verification of demon-involved fluctuation theorems. Physical Review Letters 133:090402. https://doi.org/10.1103/PhysRevLett.133.090402
  89. Zeng, Q. and Wang, J. (2021). New fluctuation theorems on Maxwell’s demon. Science Advances 7:eabf1807. https://doi.org/10.1126/sciadv.abf1807
  90. Demin, A. V. and Vityaev, E. E. (2014). Learning in a virtual model of the C. elegans nematode for locomotion and chemotaxis. Biologically Inspired Cognitive Architectures 7:9-14. https://doi.org/10.1016/j.bica.2013.11.005
  91. Putintsev, N. I., Isupov, O. V. and Vityaev, E. E. (2015). Adaptive control system for a mobile agent in a physical environment based on functional systems theory. Russian Journal of Genetics: Applied Research 5:601-608. https://doi.org/10.1134/S2079059715060131
  92. Rosenblueth, A., Wiener, N. and Bigelow, J. (1943). Behavior, purpose and teleology. Philosophy of Science 10:18-24. https://doi.org/10.1086/286788
  93. Anokhin, P. K. (1968). The functional system as a unit of organism integrative activity. In Systems Theory and Biology, Springer, pp. 376-403. https://doi.org/10.1007/978-3-642-88343-9_15
  94. Anokhin, P. K. (1974). The biological roots of the conditioned reflex. In Biology and Neurophysiology of the Conditioned Reflex and Its Role in Adaptive Behavior, Pergamon, pp. 1-24. https://doi.org/10.1016/B978-0-08-021516-7.50008-2
  95. Sudakov, K. V. (1997). The theory of functional systems: general postulates and principles of dynamic organization. Integrative Physiological and Behavioral Science 32:392-414. https://doi.org/10.1007/BF02688634
  96. Shvyrkov, V. B. (1980). Goal as a system-forming factor in behavior and learning. In Neural Mechanisms of Goal-directed Behavior and Learning, Academic Press, pp. 199-219. https://doi.org/10.1016/B978-0-12-688980-2.50018-7
  97. Rosen, R. (2012). Anticipatory Systems: Philosophical, Mathematical, and Methodological Foundations, 2nd ed. Springer. https://doi.org/10.1007/978-1-4614-1269-4
  98. Sterling, P. (2012). Allostasis: a model of predictive regulation. Physiology & Behavior 106:5-15. https://doi.org/10.1016/j.physbeh.2011.06.004
  99. Virgo, N., Biehl, M. and McGregor, S. (2021). Interpreting dynamical systems as Bayesian reasoners. In Machine Learning and Principles and Practice of Knowledge Discovery in Databases (ECML PKDD 2021 workshops), Communications in Computer and Information Science, Springer, pp. 726-762. https://doi.org/10.1007/978-3-030-93736-2_52
  100. Biehl, M. and Virgo, N. (2023). Interpreting systems as solving POMDPs: a step towards a formal understanding of agency. In Active Inference: IWAI 2022, Communications in Computer and Information Science 1721, Springer, pp. 16-31. https://doi.org/10.1007/978-3-031-28719-0_2
  101. Maturana, H. R. and Varela, F. J. (1980). Autopoiesis and Cognition: The Realization of the Living. Reidel. https://doi.org/10.1007/978-94-009-8947-4
  102. Kauffman, S. (2003). Molecular autonomous agents. Philosophical Transactions of the Royal Society A 361:1089-1099. https://doi.org/10.1098/rsta.2003.1186
  103. Di Paolo, E. A. (2005). Autopoiesis, adaptivity, teleology, agency. Phenomenology and the Cognitive Sciences 4:429-452. https://doi.org/10.1007/s11097-005-9002-y
  104. Barandiaran, X. and Moreno, A. (2006). On what makes certain dynamical systems cognitive: a minimally cognitive organization program. Adaptive Behavior 14:171-185. https://doi.org/10.1177/105971230601400208
  105. Barandiaran, X. and Moreno, A. (2008). Adaptivity: from metabolism to behavior. Adaptive Behavior 16:325-344. https://doi.org/10.1177/1059712308093868
  106. Barandiaran, X. E., Di Paolo, E. and Rohde, M. (2009). Defining agency: individuality, normativity, asymmetry, and spatio-temporality in action. Adaptive Behavior 17:367-386. https://doi.org/10.1177/1059712309343819
  107. Ruiz-Mirazo, K. and Moreno, A. (2011). Autonomy in evolution: from minimal to complex life. Synthese 185:21-52. https://doi.org/10.1007/s11229-011-9874-z
  108. Moreno, A. and Mossio, M. (2015). Biological Autonomy: A Philosophical and Theoretical Enquiry. Springer. https://doi.org/10.1007/978-94-017-9837-2
  109. Montévil, M. and Mossio, M. (2015). Biological organisation as closure of constraints. Journal of Theoretical Biology 372:179-191. https://doi.org/10.1016/j.jtbi.2015.02.029
  110. Aguilera, M. and Barandiaran, X. E. (2024). Thermina: a minimal model of autonomous agency from the lens of stochastic thermodynamics. ALIFE 2024: Proceedings of the 2024 Artificial Life Conference. https://doi.org/10.1162/isal_a_00826
  111. Barandiaran, X. E. and Almendros, L. S. (2024). Transforming agency: on the mode of existence of large language models. arXiv:2407.10735 (preprint).
  112. Levin, M. (2022). Technological approach to mind everywhere: an experimentally-grounded framework for understanding diverse bodies and minds. Frontiers in Systems Neuroscience 16:768201. https://doi.org/10.3389/fnsys.2022.768201
  113. Friston, K. (2010). The free-energy principle: a unified brain theory? Nature Reviews Neuroscience 11:127-138. https://doi.org/10.1038/nrn2787
  114. Friston, K. (2013). Life as we know it. Journal of the Royal Society Interface 10:20130475. https://doi.org/10.1098/rsif.2013.0475
  115. Rovelli, C. (2020). Agency in physics. arXiv:2007.05300 (preprint).
  116. Jaeger, J. (2023). Artificial intelligence is algorithmic mimicry: why artificial “agents” are not (and won’t be) proper agents. arXiv:2307.07515 (preprint).
  117. Azadi, P. (2025). Computational irreducibility as the foundation of agency. arXiv:2505.04646 (preprint).
  118. Wissner-Gross, A. D. and Freer, C. E. (2013). Causal entropic forces. Physical Review Letters 110:168702. https://doi.org/10.1103/PhysRevLett.110.168702
  119. Kappen, H. J. (2013). Comment: causal entropic forces. arXiv:1312.4185 (preprint).
  120. Fields, C., Goldstein, A. and Sandved-Smith, L. (2024). Making the thermodynamic cost of active inference explicit. Entropy 26:622. https://doi.org/10.3390/e26080622
  121. Bartlett, S., Eckford, A. W., Egbert, M., Lingam, M. et al. (2025). Physics of life: exploring information as a distinctive feature of living systems. PRX Life 3:037003. https://doi.org/10.1103/rsx4-8x5f
  122. Funo, K., Shiraishi, N. and Saito, K. (2019). Speed limit for open quantum systems. New Journal of Physics 21:013006. https://doi.org/10.1088/1367-2630/aaf9f5
  123. Shiraishi, N. and Saito, K. (2021). Speed limit for open systems coupled to general environments. Physical Review Research 3:023074. https://doi.org/10.1103/PhysRevResearch.3.023074
  124. Vo, V. T., Van Vu, T. and Hasegawa, Y. (2020). Unified approach to classical speed limit and thermodynamic uncertainty relation. Physical Review E 102:062132. https://doi.org/10.1103/PhysRevE.102.062132
  125. Falasco, G. and Esposito, M. (2020). Dissipation-time uncertainty relation. Physical Review Letters 125:120604. https://doi.org/10.1103/PhysRevLett.125.120604
  126. Ito, S. (2018). Stochastic thermodynamic interpretation of information geometry. Physical Review Letters 121:030605. https://doi.org/10.1103/PhysRevLett.121.030605
  127. Ito, S. and Dechant, A. (2020). Stochastic time evolution, information geometry, and the Cramér-Rao bound. Physical Review X 10:021056. https://doi.org/10.1103/PhysRevX.10.021056
  128. Nakazato, M. and Ito, S. (2021). Geometrical aspects of entropy production in stochastic thermodynamics based on Wasserstein distance. Physical Review Research 3:043093. https://doi.org/10.1103/PhysRevResearch.3.043093
  129. Dechant, A., Sasa, S.-i. and Ito, S. (2022). Geometric decomposition of entropy production in out-of-equilibrium systems. Physical Review Research 4:L012034. https://doi.org/10.1103/PhysRevResearch.4.L012034
  130. Van Vu, T. and Saito, K. (2023). Thermodynamic unification of optimal transport: thermodynamic uncertainty relation, minimum dissipation, and thermodynamic speed limits. Physical Review X 13:011013. https://doi.org/10.1103/PhysRevX.13.011013
  131. Nagayama, R., Yoshimura, K. and Ito, S. (2025). Infinite variety of thermodynamic speed limits with general activities. Physical Review Research 7:013307. https://doi.org/10.1103/PhysRevResearch.7.013307
  132. Yoshimura, K. and Ito, S. (2021). Thermodynamic uncertainty relation and thermodynamic speed limit in deterministic chemical reaction networks. Physical Review Letters 127:160601. https://doi.org/10.1103/PhysRevLett.127.160601
  133. Aurell, E., Mejía-Monasterio, C. and Muratore-Ginanneschi, P. (2011). Optimal protocols and optimal transport in stochastic thermodynamics. Physical Review Letters 106:250601. https://doi.org/10.1103/PhysRevLett.106.250601
  134. Hasegawa, Y. (2023). Unifying speed limit, thermodynamic uncertainty relation and Heisenberg principle via bulk-boundary correspondence. Nature Communications 14:2828. https://doi.org/10.1038/s41467-023-38074-8
  135. Van Vu, T. and Hasegawa, Y. (2021). Geometrical bounds of the irreversibility in Markovian systems. Physical Review Letters 126:010601. https://doi.org/10.1103/PhysRevLett.126.010601
  136. Delvenne, J.-C. and Falasco, G. (2024). Thermokinetic relations. Physical Review E 109:014109. https://doi.org/10.1103/PhysRevE.109.014109
  137. Seifert, U. (2017). Stochastic thermodynamics: from principles to the cost of precision. arXiv:1707.03759 (lecture notes).
  138. Horowitz, J. M. and Gingrich, T. R. (2017). Proof of the finite-time thermodynamic uncertainty relation for steady-state currents. Physical Review E 96:020103. https://doi.org/10.1103/PhysRevE.96.020103
  139. Pietzonka, P., Barato, A. C. and Seifert, U. (2016). Universal bounds on current fluctuations. Physical Review E 93:052145. https://doi.org/10.1103/PhysRevE.93.052145
  140. Proesmans, K. and Van den Broeck, C. (2017). Discrete-time thermodynamic uncertainty relation. EPL 119:20001. https://doi.org/10.1209/0295-5075/119/20001
  141. Hasegawa, Y. and Van Vu, T. (2019). Fluctuation theorem uncertainty relation. Physical Review Letters 123:110602. https://doi.org/10.1103/PhysRevLett.123.110602
  142. Dechant, A. and Sasa, S.-i. (2018). Entropic bounds on currents in Langevin systems. Physical Review E 97:062101. https://doi.org/10.1103/PhysRevE.97.062101
  143. Lee, J. S., Park, J.-M. and Park, H. (2019). Thermodynamic uncertainty relation for underdamped Langevin systems driven by a velocity-dependent force. Physical Review E 100:062132. https://doi.org/10.1103/PhysRevE.100.062132
  144. Lee, J. S., Park, J.-M. and Park, H. (2021). Universal form of thermodynamic uncertainty relation for Langevin dynamics. Physical Review E 104:L052102. https://doi.org/10.1103/PhysRevE.104.L052102
  145. Dechant, A. and Sasa, S.-i. (2021). Improving thermodynamic bounds using correlations. Physical Review X 11:041061. https://doi.org/10.1103/PhysRevX.11.041061
  146. Horowitz, J. M. and Gingrich, T. R. (2020). Thermodynamic uncertainty relations constrain non-equilibrium fluctuations. Nature Physics 16:15-20. https://doi.org/10.1038/s41567-019-0702-6
  147. Barato, A. C. and Seifert, U. (2016). Cost and precision of Brownian clocks. Physical Review X 6:041053. https://doi.org/10.1103/PhysRevX.6.041053
  148. Salazar, D. S. P. (2021). Information bound for entropy production from the detailed fluctuation theorem. Physical Review E 103:022122. https://doi.org/10.1103/PhysRevE.103.022122
  149. Landi, G. T. and Paternostro, M. (2021). Irreversible entropy production: from classical to quantum. Reviews of Modern Physics 93:035008. https://doi.org/10.1103/RevModPhys.93.035008
  150. Van Vu, T. and Hasegawa, Y. (2020). Thermodynamic uncertainty relations under arbitrary control protocols. Physical Review Research 2:013060. https://doi.org/10.1103/PhysRevResearch.2.013060
  151. Tanogami, T., Van Vu, T. and Saito, K. (2023). Universal bounds on the performance of information-thermodynamic engine. Physical Review Research 5:043280. https://doi.org/10.1103/PhysRevResearch.5.043280
  152. Kumasaki, K., Tojo, K., Sagawa, T. and Funo, K. (2026). Thermodynamic uncertainty relation for feedback cooling. Physical Review E 113:024134. https://doi.org/10.1103/4pq6-7djm
  153. Honma, R. and Van Vu, T. (2026). Thermodynamic uncertainty relation with quantum feedback. Physical Review Letters. https://doi.org/10.1103/6d8l-94pv. Preprint: arXiv:2602.22651.
  154. Gingrich, T. R. and Horowitz, J. M. (2017). Fundamental bounds on first passage time fluctuations for currents. Physical Review Letters 119:170601. https://doi.org/10.1103/PhysRevLett.119.170601
  155. Schmiedl, T. and Seifert, U. (2007). Optimal finite-time processes in stochastic thermodynamics. Physical Review Letters 98:108301. https://doi.org/10.1103/PhysRevLett.98.108301
  156. Proesmans, K., Ehrich, J. and Bechhoefer, J. (2020). Optimal finite-time bit erasure under full control. Physical Review E 102:032105. https://doi.org/10.1103/PhysRevE.102.032105
  157. Zhen, Y.-Z., Egloff, D., Modi, K. and Dahlsten, O. (2021). Universal bound on energy cost of bit reset in finite time. Physical Review Letters 127:190602. https://doi.org/10.1103/PhysRevLett.127.190602
  158. Esposito, M., Kawai, R., Lindenberg, K. and Van den Broeck, C. (2010). Efficiency at maximum power of low-dissipation Carnot engines. Physical Review Letters 105:150603. https://doi.org/10.1103/PhysRevLett.105.150603
  159. Tu, Z. C. (2008). Efficiency at maximum power of Feynman’s ratchet as a heat engine. Journal of Physics A 41:312003. https://doi.org/10.1088/1751-8113/41/31/312003
  160. Shiraishi, N., Saito, K. and Tasaki, H. (2016). Universal trade-off relation between power and efficiency for heat engines. Physical Review Letters 117:190601. https://doi.org/10.1103/PhysRevLett.117.190601
  161. Pietzonka, P. and Seifert, U. (2018). Universal trade-off between power, efficiency, and constancy in steady-state heat engines. Physical Review Letters 120:190602. https://doi.org/10.1103/PhysRevLett.120.190602
  162. Ma, Y.-H., Xu, D., Dong, H. and Sun, C.-P. (2018). Universal constraint for efficiency and power of a low-dissipation heat engine. Physical Review E 98:042112. https://doi.org/10.1103/PhysRevE.98.042112
  163. Tsirlin, A. M., Mironova, V. A., Amelkin, S. A. and Kazakov, V. (1998). Finite-time thermodynamics: conditions of minimal dissipation for thermodynamic processes with given rate. Physical Review E 58:215-223. https://doi.org/10.1103/PhysRevE.58.215
  164. Lee, J. S., Lee, S., Kwon, H. and Park, H. (2022). Speed limit for a highly irreversible process and tight finite-time Landauer’s bound. Physical Review Letters 129:120603. https://doi.org/10.1103/PhysRevLett.129.120603
  165. Van Vu, T. and Saito, K. (2022). Finite-time quantum Landauer principle and quantum coherence. Physical Review Letters 128:010602. https://doi.org/10.1103/PhysRevLett.128.010602
  166. Rolandi, A. and Perarnau-Llobet, M. (2023). Finite-time Landauer principle beyond weak coupling. Quantum 7:1161. https://doi.org/10.22331/q-2023-11-03-1161
  167. Kamijima, T., Funo, K. and Sagawa, T. (2024). Finite-time thermodynamic bounds and tradeoff relations for information processing. arXiv:2409.08606 (preprint).
  168. Tkachenko, A. V. (2025). Thermodynamic cost of inference and learning in physical neural networks. arXiv:2503.09980 (preprint). Title of the current arXiv version.
  169. Tatikonda, S. and Mitter, S. (2004). Control under communication constraints. IEEE Transactions on Automatic Control 49:1056-1068. https://doi.org/10.1109/TAC.2004.831187
  170. Nair, G. N. and Evans, R. J. (2004). Stabilizability of stochastic linear systems with finite feedback data rates. SIAM Journal on Control and Optimization 43:413-436. https://doi.org/10.1137/S0363012902402116
  171. Nair, G. N., Fagnani, F., Zampieri, S. and Evans, R. J. (2007). Feedback control under data rate constraints: an overview. Proceedings of the IEEE 95:108-137. https://doi.org/10.1109/JPROC.2006.887294
  172. Sandberg, H., Delvenne, J.-C., Newton, N. J. and Mitter, S. K. (2014). Maximum work extraction and implementation costs for nonequilibrium Maxwell’s demons. Physical Review E 90:042119. https://doi.org/10.1103/PhysRevE.90.042119
  173. Horowitz, J. M. and Sandberg, H. (2014). Second-law-like inequalities with information and their interpretations. New Journal of Physics 16:125007. https://doi.org/10.1088/1367-2630/16/12/125007
  174. Jacobs, K. (2009). Second law of thermodynamics and quantum feedback control: Maxwell’s demon with weak measurements. Physical Review A 80:012322. https://doi.org/10.1103/PhysRevA.80.012322
  175. Funo, K., Watanabe, Y. and Ueda, M. (2013). Integral quantum fluctuation theorems under measurement and feedback control. Physical Review E 88:052121. https://doi.org/10.1103/PhysRevE.88.052121
  176. Guryanova, Y., Friis, N. and Huber, M. (2020). Ideal projective measurements have infinite resource costs. Quantum 4:222. https://doi.org/10.22331/q-2020-01-13-222
  177. Danageozian, A., Wilde, M. M. and Buscemi, F. (2022). Thermodynamic constraints on quantum information gain and error correction: a triple trade-off. PRX Quantum 3:020318. https://doi.org/10.1103/PRXQuantum.3.020318
  178. Wolpert, D. H. (2020). Minimal entropy production rate of interacting systems. New Journal of Physics 22:113013. https://doi.org/10.1088/1367-2630/abc5c6
  179. Tasnim, F. and Wolpert, D. H. (2023). Stochastic thermodynamics of multiple co-evolving systems: beyond multipartite processes. Entropy 25:1078. https://doi.org/10.3390/e25071078
  180. Wolpert, D. H. (2020). Uncertainty relations and fluctuation theorems for Bayes nets. Physical Review Letters 125:200602. https://doi.org/10.1103/PhysRevLett.125.200602
  181. Rolandi, A., Abiuso, P. and Perarnau-Llobet, M. (2023). Collective advantages in finite-time thermodynamics. Physical Review Letters 131:210401. https://doi.org/10.1103/PhysRevLett.131.210401
  182. Fujimoto, Y. and Ito, S. (2024). Game-theoretical approach to minimum entropy productions in information thermodynamics. Physical Review Research 6:013023. https://doi.org/10.1103/PhysRevResearch.6.013023
  183. Lloyd, S. (2000). Ultimate physical limits to computation. Nature 406:1047-1054. https://doi.org/10.1038/35023282
  184. Deffner, S. and Campbell, S. (2017). Quantum speed limits: from Heisenberg’s uncertainty principle to optimal quantum control. Journal of Physics A 50:453001. https://doi.org/10.1088/1751-8121/aa86c6
  185. Lan, G., Sartori, P., Neumann, S., Sourjik, V. and Tu, Y. (2012). The energy-speed-accuracy trade-off in sensory adaptation. Nature Physics 8:422-428. https://doi.org/10.1038/nphys2276
  186. Mehta, P. and Schwab, D. J. (2012). Energetic costs of cellular computation. PNAS 109:17978-17982. https://doi.org/10.1073/pnas.1207814109
  187. Lang, A. H., Fisher, C. K., Mora, T. and Mehta, P. (2014). Thermodynamics of statistical inference by cells. Physical Review Letters 113:148103. https://doi.org/10.1103/PhysRevLett.113.148103
  188. Govern, C. C. and ten Wolde, P. R. (2014). Optimal resource allocation in cellular sensing systems. PNAS 111:17486-17491. https://doi.org/10.1073/pnas.1411524111
  189. Sartori, P., Granger, L., Lee, C. F. and Horowitz, J. M. (2014). Thermodynamic costs of information processing in sensory adaptation. PLoS Computational Biology 10:e1003974. https://doi.org/10.1371/journal.pcbi.1003974
  190. Barato, A. C., Hartich, D. and Seifert, U. (2013). Information-theoretic versus thermodynamic entropy production in autonomous sensory networks. Physical Review E 87:042104. https://doi.org/10.1103/PhysRevE.87.042104
  191. Barato, A. C., Hartich, D. and Seifert, U. (2014). Efficiency of cellular information processing. New Journal of Physics 16:103024. https://doi.org/10.1088/1367-2630/16/10/103024
  192. Ouldridge, T. E., Govern, C. C. and ten Wolde, P. R. (2017). Thermodynamics of computational copying in biochemical systems. Physical Review X 7:021004. https://doi.org/10.1103/PhysRevX.7.021004
  193. Cao, Y., Wang, H., Ouyang, Q. and Tu, Y. (2015). The free-energy cost of accurate biochemical oscillations. Nature Physics 11:772-778. https://doi.org/10.1038/nphys3412
  194. Zhang, D., Cao, Y., Ouyang, Q. and Tu, Y. (2019). The energy cost and optimal design for synchronization of coupled molecular oscillators. Nature Physics 16:95-100. https://doi.org/10.1038/s41567-019-0701-7
  195. Sartori, P. and Tu, Y. (2015). Free energy cost of reducing noise while maintaining a high sensitivity. Physical Review Letters 115:118102. https://doi.org/10.1103/PhysRevLett.115.118102
  196. Horowitz, J. M., Zhou, K. and England, J. L. (2017). Minimum energetic cost to maintain a target nonequilibrium state. Physical Review E 95:042102. https://doi.org/10.1103/PhysRevE.95.042102
  197. Bryant, S. J. and Machta, B. B. (2023). Physical constraints in intracellular signaling: the cost of sending a bit. Physical Review Letters 131:068401. https://doi.org/10.1103/PhysRevLett.131.068401
  198. Tjalma, A. J., Galstyan, V., Goedhart, J., Slim, L. et al. (2023). Trade-offs between cost and information in cellular prediction. Proceedings of the National Academy of Sciences 120:e2303078120. https://doi.org/10.1073/pnas.2303078120
  199. Schreiber, T. (2000). Measuring information transfer. Physical Review Letters 85:461-464. https://doi.org/10.1103/PhysRevLett.85.461
  200. Tishby, N. and Polani, D. (2011). Information theory of decisions and actions. In Perception-Action Cycle, Springer, pp. 601-636. https://doi.org/10.1007/978-1-4419-1452-1_19
  201. Stratonovich, R. L. (2020). Theory of Information and its Value (English edition of the 1975 Russian monograph). Springer. https://doi.org/10.1007/978-3-030-22833-0
  202. Pal, S., Saryal, S., Segal, D., Mahesh, T. S. and Agarwalla, B. K. (2020). Experimental study of the thermodynamic uncertainty relation. Physical Review Research 2:022044. https://doi.org/10.1103/PhysRevResearch.2.022044
  203. Barker, D., Lehmann, S., Dick, K. A., Samuelsson, P. et al. (2025). Information thermodynamics in a quantum dot Szilard engine: experimentally investigating fluctuation theorems and thermodynamic uncertainty relations. arXiv:2511.08541 (preprint).
  204. Friedman, H. M., Agarwalla, B. K., Shein-Lumbroso, O., Tal, O. and Segal, D. (2020). Thermodynamic uncertainty relation in atomic-scale quantum conductors. Physical Review B 101:195423. https://doi.org/10.1103/PhysRevB.101.195423
  205. Hwang, W. and Hyeon, C. (2018). Energetic costs, precision, and transport efficiency of molecular motors. Journal of Physical Chemistry Letters 9:513-520. https://doi.org/10.1021/acs.jpclett.7b03197
  206. Li, J., Horowitz, J. M., Gingrich, T. R. and Fakhri, N. (2019). Quantifying dissipation using fluctuating currents. Nature Communications 10:1666. https://doi.org/10.1038/s41467-019-09631-x
  207. Ness, G., Lam, M. R., Alt, W., Meschede, D., Sagi, Y. and Alberti, A. (2021). Observing crossover between quantum speed limits. Science Advances 7:eabj9119. https://doi.org/10.1126/sciadv.abj9119
  208. Pires, L. B., Goerlich, R., Luna da Fonseca, A., Debiossac, M., Hervieux, P.-A. et al. (2023). Optimal time-entropy bounds and speed limits for Brownian thermal shortcuts. Physical Review Letters 131:097101. https://doi.org/10.1103/PhysRevLett.131.097101
  209. Oikawa, S., Nakayama, Y., Ito, S., Sagawa, T. and Toyabe, S. (2025). Experimentally achieving minimal dissipation via thermodynamically optimal transport. Nature Communications 16:10424. https://doi.org/10.1038/s41467-025-66519-9
  210. Proesmans, K., Dreher, Y., Gavrilov, M., Bechhoefer, J. and Van den Broeck, C. (2016). Brownian duet: a novel tale of thermodynamic efficiency. Physical Review X 6:041010. https://doi.org/10.1103/PhysRevX.6.041010
  211. Mancino, L., Cavina, V., De Pasquale, A., Sbroscia, M., Booth, R. I. et al. (2018). Geometrical bounds on irreversibility in open quantum systems. Physical Review Letters 121:160602. https://doi.org/10.1103/PhysRevLett.121.160602
  212. Dago, S. and Bellon, L. (2022). Dynamics of information erasure and extension of Landauer’s bound to fast processes. Physical Review Letters 128:070604. https://doi.org/10.1103/PhysRevLett.128.070604
  213. Mattingly, H. H., Kamino, K., Machta, B. B. and Emonet, T. (2021). Escherichia coli chemotaxis is information limited. Nature Physics 17:1426-1431. https://doi.org/10.1038/s41567-021-01380-3
  214. Blickle, V. and Bechinger, C. (2012). Realization of a micrometre-sized stochastic heat engine. Nature Physics 8:143-146. https://doi.org/10.1038/nphys2163
  215. Martínez, I. A., Roldán, É., Dinis, L., Petrov, D., Parrondo, J. M. R. and Rica, R. A. (2016). Brownian Carnot engine. Nature Physics 12:67-70. https://doi.org/10.1038/nphys3518
  216. Roldán, É., Martínez, I. A., Parrondo, J. M. R. and Petrov, D. (2014). Universal features in the energetics of symmetry breaking. Nature Physics 10:457-461. https://doi.org/10.1038/nphys2940
  217. Krishnamurthy, S., Ghosh, S., Chatterji, D., Ganapathy, R. and Sood, A. K. (2016). A micrometre-sized heat engine operating between bacterial reservoirs. Nature Physics 12:1134-1138. https://doi.org/10.1038/nphys3870
  218. Krishnamurthy, S., Ganapathy, R. and Sood, A. K. (2023). Overcoming power-efficiency tradeoff in a micro heat engine by engineered system-bath interactions. Nature Communications 14:6842. https://doi.org/10.1038/s41467-023-42350-y
  219. Paneru, G., Dutta, S., Sagawa, T., Tlusty, T. and Pak, H. K. (2020). Efficiency fluctuations and noise induced refrigerator-to-heater transition in information engines. Nature Communications 11:1012. https://doi.org/10.1038/s41467-020-14823-x
  220. Jung, T., Polani, D. and Stone, P. (2011). Empowerment for continuous agent-environment systems. Adaptive Behavior 19:16-39. https://doi.org/10.1177/1059712310392389
  221. Salge, C., Glackin, C. and Polani, D. (2013). Empowerment: an introduction. arXiv:1310.1863 (preprint).
  222. Kolchinsky, A. (2024). Thermodynamic dissipation does not bound replicator growth and decay rates. arXiv:2404.01130 (preprint).
  223. Adlam, E. C., McQueen, K. J. and Waegell, M. (2025). Agency cannot be a purely quantum phenomenon. arXiv:2510.13247 (preprint).
  224. Goldt, S. and Seifert, U. (2017). Stochastic thermodynamics of learning. Physical Review Letters 118:010601. https://doi.org/10.1103/PhysRevLett.118.010601
  225. Still, S. (2020). Thermodynamic cost and benefit of memory. Physical Review Letters 124:050601. https://doi.org/10.1103/PhysRevLett.124.050601
  226. Boyd, A. B., Crutchfield, J. P. and Gu, M. (2022). Thermodynamic machine learning through maximum work production. New Journal of Physics 24:083040. https://doi.org/10.1088/1367-2630/ac4309
  227. Boyd, A. B., Crutchfield, J. P., Gu, M. and Binder, F. C. (2025). Thermodynamic overfitting and generalization: energetics of predictive intelligence. New Journal of Physics 27:063901. https://doi.org/10.1088/1367-2630/addf71
  228. Ehrich, J., Still, S. and Sivak, D. A. (2023). Energetic cost of feedback control. Physical Review Research 5:023080. https://doi.org/10.1103/PhysRevResearch.5.023080
  229. Ehrich, J. and Sivak, D. A. (2023). Energy and information flows in autonomous systems. Frontiers in Physics 11:1108357. https://doi.org/10.3389/fphy.2023.1108357
  230. Wolpert, D. H. (2019). The stochastic thermodynamics of computation. Journal of Physics A 52:193001. https://doi.org/10.1088/1751-8121/ab0850
  231. Levy, W. B. and Baxter, R. A. (1996). Energy efficient neural codes. Neural Computation 8:531-543. https://doi.org/10.1162/neco.1996.8.3.531
  232. Balasubramanian, V., Kimber, D. and Berry, M. J., II (2001). Metabolically efficient information processing. Neural Computation 13:799-815. https://doi.org/10.1162/089976601300014358
  233. Goldt, S. and Seifert, U. (2017). Thermodynamic efficiency of learning a rule in neural networks. New Journal of Physics 19:113001. https://doi.org/10.1088/1367-2630/aa89ff
  234. Fiderer, L. J., Barth, P. C., Smith, I. D. and Briegel, H. J. (2025). Information thermodynamics of agents: the work capacity of channels with memory. arXiv:2504.06209 (preprint).
  235. Elliott, T. J., Gu, M., Garner, A. J. P. and Thompson, J. (2022). Quantum adaptive agents with efficient long-term memories. Physical Review X 12:011007. https://doi.org/10.1103/PhysRevX.12.011007
  236. Russell, S. J. and Subramanian, D. (1995). Provably bounded-optimal agents. Journal of Artificial Intelligence Research 2:575-609. https://doi.org/10.1613/jair.133
  237. Genewein, T., Leibfried, F., Grau-Moya, J. and Braun, D. A. (2015). Bounded rationality, abstraction, and hierarchical decision-making: an information-theoretic optimality principle. Frontiers in Robotics and AI 2:27. https://doi.org/10.3389/frobt.2015.00027
  238. Legg, S. and Hutter, M. (2007). Universal intelligence: a definition of machine intelligence. Minds and Machines 17:391-444. https://doi.org/10.1007/s11023-007-9079-x
  239. Takahashi, K. and Hayashi, Y. (2026). Thermodynamic limits of physical intelligence. In Artificial General Intelligence: 19th International Conference, AGI 2026, Proceedings, Part II, Lecture Notes in Computer Science. Springer. https://doi.org/10.1007/978-3-032-33195-3_24. arXiv:2602.05463.
  240. Ortega, P. A., Braun, D. A., Dyer, J., Kim, K.-E. and Tishby, N. (2015). Information-theoretic bounded rationality. arXiv:1512.06789 (preprint).
  241. Zénon, A., Solopchuk, O. and Pezzulo, G. (2019). An information-theoretic perspective on the costs of cognition. Neuropsychologia 123:5-18. https://doi.org/10.1016/j.neuropsychologia.2018.09.013
  242. Sims, C. R. (2016). Rate-distortion theory and human perception. Cognition 152:181-198. https://doi.org/10.1016/j.cognition.2016.03.020
  243. Laughlin, S. B., de Ruyter van Steveninck, R. R. and Anderson, J. C. (1998). The metabolic cost of neural information. Nature Neuroscience 1:36-41. https://doi.org/10.1038/236
  244. Attwell, D. and Laughlin, S. B. (2001). An energy budget for signaling in the grey matter of the brain. Journal of Cerebral Blood Flow and Metabolism 21:1133-1145. https://doi.org/10.1097/00004647-200110000-00001
  245. Lennie, P. (2003). The cost of cortical computation. Current Biology 13:493-497. https://doi.org/10.1016/S0960-9822(03)00135-0
  246. Sengupta, B., Stemmler, M., Laughlin, S. B. and Niven, J. E. (2010). Action potential energy efficiency varies among neuron types in vertebrates and invertebrates. PLoS Computational Biology 6:e1000840. https://doi.org/10.1371/journal.pcbi.1000840
  247. Sengupta, B., Stemmler, M. B. and Friston, K. J. (2013). Information and efficiency in the nervous system: a synthesis. PLoS Computational Biology 9:e1003157. https://doi.org/10.1371/journal.pcbi.1003157
  248. Levy, W. B. and Calvert, V. G. (2021). Communication consumes 35 times more energy than computation in the human cortex, but both costs are needed to predict synapse number. Proceedings of the National Academy of Sciences 118:e2008173118. https://doi.org/10.1073/pnas.2008173118
  249. Harris, J. J., Jolivet, R., Engl, E. and Attwell, D. (2015). Energy-efficient information transfer by visual pathway synapses. Current Biology 25:3151-3160. https://doi.org/10.1016/j.cub.2015.10.063
  250. Padamsey, Z., Katsanevaki, D., Dupuy, N. and Rochefort, N. L. (2022). Neocortex saves energy by reducing coding precision during food scarcity. Neuron 110:280-296.e10. https://doi.org/10.1016/j.neuron.2021.10.024
  251. Plaçais, P.-Y. and Preat, T. (2013). To favor survival under food shortage, the brain disables costly memory. Science 339:440-442. https://doi.org/10.1126/science.1226018
  252. Plaçais, P.-Y., de Tredern, É., Scheunemann, L., Trannoy, S. et al. (2017). Upregulated energy metabolism in the Drosophila mushroom body is the trigger for long-term memory. Nature Communications 8:15510. https://doi.org/10.1038/ncomms15510
  253. Mery, F. and Kawecki, T. J. (2005). A cost of long-term memory in Drosophila. Science 308:1148. https://doi.org/10.1126/science.1111331
  254. Hechler, A., de Lange, F. P. and Riedl, V. (2023). The energy metabolic footprint of predictive processing in the human brain. bioRxiv preprint, version 2 posted 2024. https://doi.org/10.1101/2023.12.08.570804
  255. Malkin, J., O’Donnell, C., Houghton, C. J. and Aitchison, L. (2024). Signatures of Bayesian inference emerge from energy-efficient synapses. eLife 12:RP92595. https://doi.org/10.7554/eLife.92595
  256. Li, H. L. and van Rossum, M. C. W. (2020). Energy efficient synaptic plasticity. eLife 9:e50804. https://doi.org/10.7554/eLife.50804
  257. Lynn, C. W., Cornblath, E. J., Papadopoulos, L., Bertolero, M. A. and Bassett, D. S. (2021). Broken detailed balance and entropy production in the human brain. Proceedings of the National Academy of Sciences 118:e2109889118. https://doi.org/10.1073/pnas.2109889118
  258. Horowitz, M. (2014). Computing’s energy problem (and what we can do about it). 2014 IEEE International Solid-State Circuits Conference, pp. 10-14. https://doi.org/10.1109/ISSCC.2014.6757323
  259. Saad-Falcon, J., Narayan, A., Akengin, H. O., Griffin, J. W. et al. (2025). Intelligence per watt: measuring intelligence efficiency of local AI. arXiv:2511.07885 (preprint).
  260. Tschand, A., Rajan, A. T. R., Idgunji, S., Ghosh, A. et al. (2025). MLPerf Power: benchmarking the energy efficiency of machine learning systems from μWatts to MWatts for sustainable AI. 2025 IEEE International Symposium on High Performance Computer Architecture (HPCA), 1201-1216. https://doi.org/10.1109/HPCA61900.2025.00092. arXiv:2410.12032.
  261. Chung, J.-W., Ma, J. J., Wu, R., Liu, J. et al. (2025). The ML.ENERGY benchmark: toward automated inference energy measurement and optimization. arXiv:2505.06371 (preprint).
  262. Niu, C., Zhang, W., Li, J., Zhao, Y. et al. (2025). TokenPowerBench: benchmarking the power consumption of LLM inference. arXiv:2512.03024 (preprint).
  263. Jin, Y., Wei, G.-Y. and Brooks, D. (2025). The energy cost of reasoning: analyzing energy usage in LLMs with test-time compute. arXiv:2505.14733 (preprint).
  264. Luccioni, S., Jernite, Y. and Strubell, E. (2024). Power hungry processing: watts driving the cost of AI deployment? ACM FAccT 2024, pp. 85-99. https://doi.org/10.1145/3630106.3658542
  265. Samsi, S., Zhao, D., McDonald, J., Li, B. et al. (2023). From words to watts: benchmarking the energy costs of large language model inference. 2023 IEEE High Performance Extreme Computing Conference (HPEC), pp. 1-9. https://doi.org/10.1109/HPEC58863.2023.10363447
  266. Dillavou, S., Stern, M., Liu, A. J. and Durian, D. J. (2022). Demonstration of decentralized physics-driven learning. Physical Review Applied 18:014040. https://doi.org/10.1103/PhysRevApplied.18.014040
  267. Stern, M., Dillavou, S., Jayaraman, D., Durian, D. J. and Liu, A. J. (2024). Training self-learning circuits for power-efficient solutions. APL Machine Learning 2:016114. https://doi.org/10.1063/5.0181382
  268. Saggio, V., Asenbeck, B. E., Hamann, A., Strömberg, T. et al. (2021). Experimental quantum speed-up in reinforcement learning agents. Nature 591:229-233. https://doi.org/10.1038/s41586-021-03242-7
  269. Crosato, E., Spinney, R. E., Nigmatullin, R., Lizier, J. T. and Prokopenko, M. (2018). Thermodynamics and computation during collective motion near criticality. Physical Review E 97:012120. https://doi.org/10.1103/PhysRevE.97.012120
  270. Chen, Q. and Prokopenko, M. (2025). Why collective behaviours self-organize to criticality: a primer on information-theoretic and thermodynamic utility measures. Royal Society Open Science 12:241655. https://doi.org/10.1098/rsos.241655
  271. Khan, K. N., Hirki, M., Niemi, T., Nurminen, J. K. and Ou, Z. (2018). RAPL in action: experiences in using RAPL for power measurements. ACM Transactions on Modeling and Performance Evaluation of Computing Systems 3:1-26. https://doi.org/10.1145/3177754
  272. Desrochers, S., Paradis, C. and Weaver, V. M. (2016). A validation of DRAM RAPL power measurements. Proceedings of the Second International Symposium on Memory Systems, pp. 455-470. https://doi.org/10.1145/2989081.2989088
  273. Hackenberg, D., Schöne, R., Ilsche, T., Molka, D., Schuchart, J. and Geyer, R. (2015). An energy efficiency feature survey of the Intel Haswell processor. 2015 IEEE IPDPS Workshops, pp. 896-904. https://doi.org/10.1109/IPDPSW.2015.70
  274. Apple. powermetrics(1) manual page. macOS developer tools documentation.
  275. Hutter Prize for Lossless Compression of Human Knowledge. http://prize.hutter1.net/
  276. Strubell, E., Ganesh, A. and McCallum, A. (2019). Energy and policy considerations for deep learning in NLP. arXiv:1906.02243 (preprint).
  277. Patterson, D., Gonzalez, J., Le, Q., Liang, C. et al. (2021). Carbon emissions and large neural network training. arXiv:2104.10350 (preprint).
  278. Lacoste, A., Luccioni, A., Schmidt, V. and Dandres, T. (2019). Quantifying the carbon emissions of machine learning. arXiv:1910.09700 (preprint).
  279. Luccioni, A. S., Viguier, S. and Ligozat, A.-L. (2022). Estimating the carbon footprint of BLOOM, a 176B parameter language model. arXiv:2211.02001 (preprint).
  280. Anthony, L. F. W., Kanding, B. and Selvan, R. (2020). Carbontracker: tracking and predicting the carbon footprint of training deep learning models. arXiv:2007.03051 (preprint).
  281. Elsworth, C., Huang, K., Patterson, D., Schneider, I. et al. (2025). Measuring the environmental impact of delivering AI at Google scale. arXiv:2508.15734 (preprint).
  282. Schmidhuber, J. (2010). Formal theory of creativity, fun, and intrinsic motivation (1990-2010). IEEE Transactions on Autonomous Mental Development 2:230-247. https://doi.org/10.1109/TAMD.2010.2056368
  283. Chollet, F. (2019). On the measure of intelligence. arXiv:1911.01547 (preprint).
  284. ARC Prize Foundation. ARC-AGI leaderboard. https://arcprize.org/leaderboard (accessed 8 October 2026).
  285. Hernández-Orallo, J. (2017). The Measure of All Minds: Evaluating Natural and Artificial Intelligence. Cambridge University Press. https://doi.org/10.1017/9781316594179
  286. Hernández-Orallo, J. and Dowe, D. L. (2010). Measuring universal intelligence: towards an anytime intelligence test. Artificial Intelligence 174:1508-1539. https://doi.org/10.1016/j.artint.2010.09.006
  287. Gershman, S. J., Horvitz, E. J. and Tenenbaum, J. B. (2015). Computational rationality: a converging paradigm for intelligence in brains, minds, and machines. Science 349:273-278. https://doi.org/10.1126/science.aac6076
  288. Lieder, F. and Griffiths, T. L. (2020). Resource-rational analysis: understanding human cognition as the optimal use of limited computational resources. Behavioral and Brain Sciences 43:e1. https://doi.org/10.1017/S0140525X1900061X
  289. Balasubramanian, V. (2021). Brain power. PNAS 118:e2107022118. https://doi.org/10.1073/pnas.2107022118
  290. Silver, D., Singh, S., Precup, D. and Sutton, R. S. (2021). Reward is enough. Artificial Intelligence 299:103535. https://doi.org/10.1016/j.artint.2021.103535
  291. Vamplew, P., Smith, B. J., Källström, J., Ramos, G., Rădulescu, R. et al. (2022). Scalar reward is not enough: a response to Silver, Singh, Precup and Sutton (2021). Autonomous Agents and Multi-Agent Systems 36:41. https://doi.org/10.1007/s10458-022-09575-5
  292. Hafez, W., Wei, C., Pena, R., Nazeri, A. et al. (2026). A mathematical theory of agency and intelligence. arXiv:2602.22519 (preprint).
  293. Karagoz, A. (2025). Energentic intelligence: from self-sustaining systems to enduring artificial life. arXiv:2506.04916 (preprint).
  294. Chaisson, E. J. (2011). Energy rate density as a complexity metric and evolutionary driver. Complexity 16:27-40. https://doi.org/10.1002/cplx.20323
  295. Poplavskii, R. P. (1975). Thermodynamic models of information processes. Uspekhi Fizicheskikh Nauk 115:465 (in Russian), https://doi.org/10.3367/UFNr.0115.197503d.0465. English translation: Soviet Physics Uspekhi 18:222-241, https://doi.org/10.1070/PU1975v018n03ABEH001955
  296. Ito, S. and Sagawa, T. (2017). Information thermodynamics on networks and its application to biological information processing. Butsuri (日本物理学会誌) 72(9):658 (in Japanese). https://doi.org/10.11316/butsuri.72.9_658
  297. Sun, C.-P. and Quan, H.-T. (2013). Maxwell’s demon and the physical limits on information processing. Wuli (物理, Physics) 42(11) (in Chinese). doi:10.7693/wl20131101
  298. Quan, H.-T., Dong, H. and Sun, C.-P. (2023). Theory and experiments of mesoscopic statistical thermodynamics. Acta Physica Sinica 72:230501 (in Chinese, with English abstract). https://doi.org/10.7498/aps.72.20231608
  299. Parrondo, J. M. R. (2023). Thermodynamics of information. arXiv:2306.12447 (encyclopedia chapter preprint).
  300. Strasberg, P. Thermodynamics and information processing at the nanoscale. Doctoral thesis, Technische Universität Berlin.
  301. Dago, S. (2022). Thermodynamique stochastique: pilotage de micro-oscillateurs et applications à l’étude et l’optimisation du traitement de l’information. Doctoral thesis, École normale supérieure de Lyon (in French). https://theses.fr/2022LYSEN019
  302. Lagoin, M. (2023). Thermodynamique dans les systèmes stationnaires hors équilibre macroscopiques: démons de Maxwell et machines thermiques aléatoires. Doctoral thesis, École normale supérieure de Lyon (in French).
  303. Ciampini, M. A., Mancino, L., Orieux, A., Vigliar, C. et al. (2017). Experimental extractable work-based multipartite separability criteria. npj Quantum Information 3:10. https://doi.org/10.1038/s41534-017-0011-9
  304. Sudakov, K. V. (2004). Functional systems theory and the probabilistic prediction of behavior. Neuroscience and Behavioral Physiology 34:505-507. https://doi.org/10.1023/B:NEAB.0000022638.96382.dd
  305. Sudakov, K. V. (2015). Theory of functional systems: a keystone of integrative biology. In M. Nadin (ed.), Anticipation: Learning from the Past, Springer, pp. 153-173. https://doi.org/10.1007/978-3-319-19446-2_9
  306. Sudakov, K. V. (2022). Cognitive activity from the perspective of functional systems theory. In Russian Cognitive Neuroscience, Brill, pp. 87-117. https://doi.org/10.1163/9789004505667_005
  307. Shvyrkov, V. B. (1985). Toward a psychophysiological theory of behavior. Advances in Psychology, pp. 47-71. https://doi.org/10.1016/S0166-4115(08)61596-4
  308. Anokhin, K. V. (2021). The cognitome: seeking the fundamental neuroscience of a theory of consciousness. Neuroscience and Behavioral Physiology 51:915-937. https://doi.org/10.1007/s11055-021-01149-4
  309. Saltykov, A. and Grachev, S. (2015). Anticipation and the concept of system-forming factor in the theory of functional systems. In M. Nadin (ed.), Anticipation: Learning from the Past, Springer, pp. 507-520. https://doi.org/10.1007/978-3-319-19446-2_30
  310. Vityaev, E. E. (2015). Purposefulness as a principle of brain activity. In M. Nadin (ed.), Anticipation: Learning from the Past, Springer, pp. 231-254. https://doi.org/10.1007/978-3-319-19446-2_13
  311. Vityaev, E. E. and Demin, A. V. (2011). Recursive subgoals discovery based on the functional systems theory. Frontiers in Artificial Intelligence and Applications (BICA 2011), IOS Press. https://doi.org/10.3233/978-1-60750-959-2-425
  312. Vityaev, E. E. and Demin, A. V. (2018). Cognitive architecture based on the functional systems theory. Procedia Computer Science 145:623-628. https://doi.org/10.1016/j.procs.2018.11.072
  313. Vityaev, E., Kolonin, A., Kurpatov, A., Molchanov, A. et al. (2022). Brain principles programming. arXiv:2202.12710 (preprint).
  314. Potapov, A., Belikov, A., Bogdanov, V., Scherbatiy, A. et al. (2019). Differentiable probabilistic logic networks. arXiv:1907.04592 (preprint).
  315. Paninski, L. (2003). Estimation of entropy and mutual information. Neural Computation 15:1191-1253. https://doi.org/10.1162/089976603321780272
  316. Russell, S. and Wefald, E. (1991). Principles of metareasoning. Artificial Intelligence 49:361-395. https://doi.org/10.1016/0004-3702(91)90015-C
  317. Horvitz, E. J. (1987). Reasoning about beliefs and actions under computational resource constraints. Proceedings of the Third Conference on Uncertainty in Artificial Intelligence (UAI 1987), 429-447. arXiv:1304.2759.
  318. Simon, H. A. and Kadane, J. B. (1975). Optimal problem-solving search: all-or-none solutions. Artificial Intelligence 6:235-247. https://doi.org/10.1016/0004-3702(75)90002-8
  319. Sekimoto, K. (1998). Langevin equation and thermodynamics. Progress of Theoretical Physics Supplement 130:17-27. https://doi.org/10.1143/PTPS.130.17
  320. Wolpert, D. H., Korbel, J., Lynn, C. W., Tasnim, F., Grochow, J. A., Kardeş, G. et al. (2024). Is stochastic thermodynamics the key to understanding the energy costs of computation? PNAS 121:e2321112121. arXiv:2311.17166. https://doi.org/10.1073/pnas.2321112121
  321. Chen, L., Zaharia, M. and Zou, J. (2023). FrugalGPT: how to use large language models while reducing cost and improving performance. arXiv:2305.05176 (preprint).
  322. Ong, I., Almahairi, A., Wu, V., Chiang, W.-L. et al. (2024). RouteLLM: learning to route LLMs with preference data. arXiv:2406.18665 (preprint).
  323. Koyuk, T. and Seifert, U. (2020). Thermodynamic uncertainty relation for time-dependent driving. Physical Review Letters 125:260604. arXiv:2005.02312. https://arxiv.org/abs/2005.02312
  324. Jordan, S. P. (2017). Fast quantum computation at arbitrarily low energy. Physical Review A 95:032305. arXiv:1701.01175. https://arxiv.org/abs/1701.01175
  325. Nemenman, I., Shafee, F. and Bialek, W. (2002). Entropy and inference, revisited. Advances in Neural Information Processing Systems 14. arXiv:physics/0108025. https://arxiv.org/abs/physics/0108025
  326. Norton, J. D. (2005). Eaters of the lotus: Landauer’s principle and the return of Maxwell’s demon. Studies in History and Philosophy of Modern Physics 36:375-411. https://doi.org/10.1016/j.shpsb.2004.12.002
  327. Maroney, O. J. E. (2005). The (absence of a) relationship between thermodynamic and logical reversibility. Studies in History and Philosophy of Modern Physics 36:355-374. arXiv:physics/0406137. https://arxiv.org/abs/physics/0406137
  328. Sagawa, T. (2014). Thermodynamic and logical reversibilities revisited. Journal of Statistical Mechanics P03025. arXiv:1311.1886. https://arxiv.org/abs/1311.1886
  329. López-Suárez, M., Neri, I. and Gammaitoni, L. (2016). Sub-kBT micro-electromechanical irreversible logic gate. Nature Communications 7:12068. https://doi.org/10.1038/ncomms12068
  330. Paneru, G., Lee, D. Y., Park, J.-M., Park, J. T., Noh, J. D. and Pak, H. K. (2018). Optimal tuning of a Brownian information engine operating in a nonequilibrium steady state. Physical Review E 98:052119. https://doi.org/10.1103/PhysRevE.98.052119
  331. Panizon, E. (2026). Optimal control of a mesoscopic information engine. arXiv:2603.29804 (preprint). https://arxiv.org/abs/2603.29804
  332. Rolandi, A., Abiuso, P., Lipka-Bartosik, P. et al. (2026). Energy-time-accuracy tradeoffs in thermodynamic computing. arXiv:2601.04358 (preprint). https://arxiv.org/abs/2601.04358
  333. Burnell, R., Schellaert, W., Burden, J. et al. (2023). Rethink reporting of evaluation results in AI. Science 380:136-138. https://doi.org/10.1126/science.adf6369
  334. Zhou, L., Pacchiardi, L., Martínez-Plumed, F. et al. (2025). General scales unlock AI evaluation with explanatory and predictive power. arXiv:2503.06378 (preprint). https://arxiv.org/abs/2503.06378
  335. Laber, M., Shafi, Z., Savcisens, G. et al. (2026). Scaling of capability and efficiency at inference time in large reasoning models. arXiv:2609.27166 (preprint). https://arxiv.org/abs/2609.27166
  336. Erol, M. H., El, B., Suzgun, M., Yuksekgonul, M. and Zou, J. (2025). Cost-of-Pass: an economic framework for evaluating language models. arXiv:2504.13359 (preprint). https://arxiv.org/abs/2504.13359
  337. Saad-Falcon, J., Narayan, A., Akengin, H. O. et al. (2025). Intelligence per Watt: measuring intelligence efficiency of local AI. arXiv:2511.07885 (preprint). https://arxiv.org/abs/2511.07885
  338. Standard Performance Evaluation Corporation. SPECpower_ssj2008. https://www.spec.org/power_ssj2008/
  339. Krakauer, D. C., Mitchell, M. and Krakauer, J. W. (2026). Large language models and emergence: a complex systems perspective. Philosophical Transactions of the Royal Society A 384:20250014. https://doi.org/10.1098/rsta.2025.0014. arXiv:2506.11135.
  340. Krakauer, D. C. (2026). Competitive and complementary tools. arXiv:2607.18460 (preprint). https://arxiv.org/abs/2607.18460
  341. Kimura, M. (1961). Natural selection as the process of accumulating genetic information in adaptive evolution. Genetical Research 2:127-140. https://doi.org/10.1017/S0016672300000616
  342. Worden, R. P. (1995). A speed limit for evolution. Journal of Theoretical Biology 176:137-152. https://doi.org/10.1006/jtbi.1995.0183
  343. Hledík, M., Barton, N. and Tkačik, G. (2022). Accumulation and maintenance of information in evolution. PNAS 119:e2123152119. https://doi.org/10.1073/pnas.2123152119
  344. Perrier, E. (2025). Watts-per-intelligence: Part I (energy efficiency). arXiv:2504.05328 (preprint). https://arxiv.org/abs/2504.05328
  345. Xu, J. and Li, Z. (2025). Information physics of intelligence: unifying derivation depth and entropy under thermodynamic constraints. arXiv:2511.19156v4 (preprint; the arXiv listing title reads “unifying logical depth and entropy”). https://arxiv.org/abs/2511.19156
  346. Fagan, P. D. (2025). Toward a physical theory of intelligence. arXiv:2601.00021v2 (preprint; first submitted 22 December 2025, revised 7 March 2026). https://arxiv.org/abs/2601.00021
  347. Kumar, S. (2026). The Laws of Intelligence: Computation Efficiency and the Physical Scaling Limits of AI Systems. Zenodo (preprint), concept DOI 10.5281/zenodo.18993403, version DOI 10.5281/zenodo.18993404. https://doi.org/10.5281/zenodo.18993404
  348. Zhang, J., Zhu, H., Zhang, J. J. and Hu, H. (2026). The semantic least-energy principle: a hypothesis for intelligence. arXiv:2607.24287 (preprint). https://arxiv.org/abs/2607.24287