Lorenz 63: Chaos & Predictability

%23%20%2F%2F%2F%20script%0A%23%20requires-python%20%3D%20%22%3E%3D3.11%22%0A%23%20dependencies%20%3D%20%5B%0A%23%20%20%20%22marimo%3E%3D0.19.10%22%2C%0A%23%20%20%20%22numpy%22%2C%0A%23%20%20%20%22scipy%22%2C%0A%23%20%20%20%22plotly%22%2C%0A%23%20%5D%0A%23%20%2F%2F%2F%0A%22%22%22%0ALorenz%2063%3A%20Chaos%2C%20Predictability%2C%20and%20Ensemble%20Forecasting%0AFERS%20Summer%20School%202026%20%E2%80%94%20Weather%20%26%20Climate%20Predictability%0A%0AInteractive%20tutorial%20notebook.%0A%0ATo%20run%3A%0A%20%20%20%20uvx%20marimo%20run%20lorenz63_ensemble_explorer.py%0A%0ATo%20edit%3A%0A%20%20%20%20uvx%20marimo%20edit%20lorenz63_ensemble_explorer.py%0A%22%22%22%0A%0Aimport%20marimo%0A%0A__generated_with%20%3D%20%220.24.0%22%0Aapp%20%3D%20marimo.App(width%3D%22full%22%2C%20app_title%3D%22Lorenz%2063%3A%20Chaos%20%26%20Predictability%22)%0A%0A%0A%40app.cell%0Adef%20imports()%3A%0A%20%20%20%20import%20marimo%20as%20mo%0A%20%20%20%20import%20numpy%20as%20np%0A%20%20%20%20from%20scipy.integrate%20import%20solve_ivp%0A%20%20%20%20import%20plotly.graph_objects%20as%20go%0A%0A%20%20%20%20_sigma%2C%20_rho%2C%20_beta%20%3D%2010.0%2C%2028.0%2C%208.0%20%2F%203.0%0A%0A%20%20%20%20def%20lorenz(t%2C%20s)%3A%0A%20%20%20%20%20%20%20%20x%2C%20y%2C%20z%20%3D%20s%0A%20%20%20%20%20%20%20%20return%20%5B_sigma%20*%20(y%20-%20x)%2C%20x%20*%20(_rho%20-%20z)%20-%20y%2C%20x%20*%20y%20-%20_beta%20*%20z%5D%0A%0A%20%20%20%20return%20go%2C%20lorenz%2C%20mo%2C%20np%2C%20solve_ivp%0A%0A%0A%40app.cell%0Adef%20compute_attractor(lorenz%2C%20np%2C%20solve_ivp)%3A%0A%20%20%20%20_sol%20%3D%20solve_ivp(%0A%20%20%20%20%20%20%20%20lorenz%2C%20(0%2C%2080)%2C%20%5B1.0%2C%201.0%2C%201.0%5D%2C%0A%20%20%20%20%20%20%20%20t_eval%3Dnp.linspace(10%2C%2080%2C%208000)%2C%0A%20%20%20%20%20%20%20%20method%3D%22RK45%22%2C%20rtol%3D1e-9%2C%20atol%3D1e-12%2C%0A%20%20%20%20)%0A%20%20%20%20attractor_ref%20%3D%20_sol.y%0A%20%20%20%20attractor_size%20%3D%20float(np.mean(np.std(attractor_ref%2C%20axis%3D1)))%0A%20%20%20%20return%20attractor_ref%2C%20attractor_size%0A%0A%0A%40app.cell%0Adef%20sdic_controls(mo)%3A%0A%20%20%20%20sep_exp%20%3D%20mo.ui.slider(%0A%20%20%20%20%20%20%20%20start%3D-8%2C%20stop%3D-1%2C%20step%3D0.5%2C%20value%3D-4%2C%0A%20%20%20%20%20%20%20%20label%3D%22Log%E2%82%81%E2%82%80%20initial%20separation%20%20%CE%B4%E2%82%80%22%2C%0A%20%20%20%20%20%20%20%20show_value%3DTrue%2C%0A%20%20%20%20)%0A%20%20%20%20sdic_lead%20%3D%20mo.ui.slider(%0A%20%20%20%20%20%20%20%20start%3D1%2C%20stop%3D30%2C%20step%3D1%2C%20value%3D10%2C%0A%20%20%20%20%20%20%20%20label%3D%22Lead%20time%20(MTU)%22%2C%0A%20%20%20%20%20%20%20%20show_value%3DTrue%2C%0A%20%20%20%20)%0A%20%20%20%20return%20sdic_lead%2C%20sep_exp%0A%0A%0A%40app.cell%0Adef%20ens_controls(mo)%3A%0A%20%20%20%20ic_choice%20%3D%20mo.ui.dropdown(%0A%20%20%20%20%20%20%20%20options%3D%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Predictable%20region%20(near%20lobe%20center)%22%3A%20%22predictable%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Near%20saddle%20point%20(unstable%20equilibrium)%22%3A%20%22saddle%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Chaotic%20lobe%20transition%22%3A%20%22chaotic%22%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20value%3D%22Predictable%20region%20(near%20lobe%20center)%22%2C%0A%20%20%20%20%20%20%20%20label%3D%22Starting%20location%20on%20attractor%22%2C%0A%20%20%20%20)%0A%20%20%20%20perturb_exp%20%3D%20mo.ui.slider(%0A%20%20%20%20%20%20%20%20start%3D-6%2C%20stop%3D-1%2C%20step%3D0.5%2C%20value%3D-4%2C%0A%20%20%20%20%20%20%20%20label%3D%22Log%E2%82%81%E2%82%80%20perturbation%20size%20%20%CE%B4%E2%82%80%22%2C%0A%20%20%20%20%20%20%20%20show_value%3DTrue%2C%0A%20%20%20%20)%0A%20%20%20%20n_members%20%3D%20mo.ui.slider(%0A%20%20%20%20%20%20%20%20start%3D5%2C%20stop%3D50%2C%20step%3D5%2C%20value%3D20%2C%0A%20%20%20%20%20%20%20%20label%3D%22Ensemble%20size%20%20N%22%2C%0A%20%20%20%20%20%20%20%20show_value%3DTrue%2C%0A%20%20%20%20)%0A%20%20%20%20lead_time%20%3D%20mo.ui.slider(%0A%20%20%20%20%20%20%20%20start%3D1%2C%20stop%3D30%2C%20step%3D1%2C%20value%3D10%2C%0A%20%20%20%20%20%20%20%20label%3D%22Lead%20time%20(MTU)%22%2C%0A%20%20%20%20%20%20%20%20show_value%3DTrue%2C%0A%20%20%20%20)%0A%20%20%20%20return%20ic_choice%2C%20lead_time%2C%20n_members%2C%20perturb_exp%0A%0A%0A%40app.cell%0Adef%20display_title(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%20%F0%9F%A6%8B%20Chaos%2C%20Predictability%2C%20and%20Ensemble%20Forecasting%0A%0A%20%20%20%20**FERS%20Summer%20School%202026%20%E2%80%94%20Weather%20%26%20Climate%20Predictability**%0A%0A%20%20%20%20This%20tutorial%20accompanies%20the%20lecture%20on%20chaos%20and%20predictability%20in%20the%20atmosphere.%0A%20%20%20%20Scroll%20from%20top%20to%20bottom%20and%20interact%20with%20each%20panel%20before%0A%20%20%20%20reading%20the%20explanation%20beneath%20it%20%E2%80%94%20building%20intuition%20by%20*doing*%0A%20%20%20%20is%20more%20effective%20than%20reading%20first.%0A%0A%20%20%20%20---%0A%0A%20%20%20%20%23%23%23%20Learning%20objectives%0A%0A%20%20%20%20By%20the%20end%20of%20this%20notebook%20you%20will%20be%20able%20to%3A%0A%0A%20%20%20%201.%20**Describe**%20the%20Lorenz%20(1963)%20system%20and%20explain%20what%20each%20variable%20represents%20physically%0A%20%20%20%202.%20**Demonstrate**%20sensitive%20dependence%20on%20initial%20conditions%20(SDIC)%20by%20running%20your%20own%20experiments%0A%20%20%20%203.%20**Measure**%20the%20leading%20Lyapunov%20exponent%20from%20the%20slope%20of%20the%20error-growth%20curve%0A%20%20%20%204.%20**Explain**%20why%20ensemble%20forecasting%20is%20the%20correct%20operational%20response%20to%20SDIC%0A%20%20%20%205.%20**Calculate**%20the%20gain%20in%20predictable%20time%20from%20a%20given%20improvement%20in%20observational%20accuracy%0A%20%20%20%206.%20**Distinguish**%20predictability%20of%20the%20first%20kind%20(initial-value)%20from%20the%20second%20kind%20(forced%20response)%0A%0A%20%20%20%20---%0A%0A%20%20%20%20%23%23%23%20How%20to%20read%20this%20notebook%0A%0A%20%20%20%20%7C%20Symbol%20%7C%20Meaning%20%7C%0A%20%20%20%20%7C--------%7C---------%7C%0A%20%20%20%20%7C%20%E2%9A%99%EF%B8%8F%20**Controls**%20%7C%20Sliders%20and%20dropdowns%20you%20manipulate%20%7C%0A%20%20%20%20%7C%20%F0%9F%93%90%20**Theory**%20%7C%20Background%20equations%20and%20concepts%20%7C%0A%20%20%20%20%7C%20%F0%9F%94%AC%20**Experiment**%20%7C%20Step-by-step%20activity%20%7C%0A%20%20%20%20%7C%20%F0%9F%92%A1%20**Observation**%20%7C%20Live%20readout%20that%20updates%20as%20you%20explore%20%7C%0A%0A%20%20%20%20---%0A%0A%20%20%20%20%23%23%23%20Tutorial%20structure%0A%0A%20%20%20%20%7C%20Section%20%7C%20Topic%20%7C%20Key%20concept%20%7C%0A%20%20%20%20%7C---------%7C-------%7C-------------%7C%0A%20%20%20%20%7C%20**1**%20%7C%20The%20Lorenz%20(1963)%20system%20%7C%20Strange%20attractor%2C%20deterministic%20chaos%20%7C%0A%20%20%20%20%7C%20**2**%20%7C%20Sensitive%20dependence%20on%20initial%20conditions%20%7C%20Lyapunov%20exponent%2C%20butterfly%20effect%20%7C%0A%20%20%20%20%7C%20**3**%20%7C%20Ensemble%20forecasting%20%7C%20Predictability%20horizon%2C%20ensemble%20spread%20%7C%0A%20%20%20%20%7C%20**4**%20%7C%20Connection%20to%20the%20real%20atmosphere%20%7C%20Error%20doubling%20time%2C%202nd-kind%20predictability%20%7C%0A%20%20%20%20%7C%20**%F0%9F%93%9D**%20%7C%20Guided%20questions%20%7C%20Synthesis%20and%20quantitative%20reasoning%20%7C%0A%0A%20%20%20%20%3E%20**Unit%20convention%3A**%20One%20*model%20time%20unit*%20(MTU)%20%E2%89%88%20**5%20days**%20in%20the%20real%20atmosphere.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20cell_lorenz_story(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20---%0A%20%20%20%20%23%23%23%20%F0%9F%95%B0%EF%B8%8F%20Historical%20context%3A%20how%20chaos%20was%20discovered%20by%20accident%0A%0A%20%20%20%20In%20the%20winter%20of%201961%2C%20Edward%20Lorenz%20was%20running%20a%20primitive%20numerical%20weather%20model%20on%20the%0A%20%20%20%20Royal%20McBee%20LGP-30%20computer%20at%20MIT.%20%20He%20wanted%20to%20re-examine%20a%20particular%20simulation%20from%20the%0A%20%20%20%20middle%2C%20so%20instead%20of%20restarting%20from%20the%20beginning%20he%20typed%20in%20the%20intermediate%20values%0A%20%20%20%20from%20a%20printout%20%E2%80%94%20but%20he%20entered%20them%20rounded%20to%20three%20decimal%20places%20(0.506)%20instead%20of%0A%20%20%20%20the%20full%20six-digit%20precision%20(0.506127)%20stored%20in%20the%20computer's%20memory.%0A%0A%20%20%20%20He%20expected%20the%20two%20runs%20to%20agree.%20%20Instead%2C%20after%20a%20few%20simulated%20weeks%2C%20the%20two%0A%20%20%20%20solutions%20had%20**diverged%20completely**%20%E2%80%94%20not%20just%20a%20small%20discrepancy%2C%20but%20an%20entirely%0A%20%20%20%20different%20weather%20pattern.%20%20At%20first%20he%20suspected%20a%20hardware%20fault.%20%20Then%20the%20insight%0A%20%20%20%20hit%3A%20the%20tiny%20rounding%20error%20%E2%80%94%20about%20one%20part%20in%20a%20thousand%20%E2%80%94%20had%20grown%20exponentially%0A%20%20%20%20until%20it%20erased%20all%20predictive%20information.%0A%0A%20%20%20%20%3E%20*%22At%20this%20point%20I%20became%20rather%20excited.%20%20It%20no%20longer%20seemed%20that%20predicting%0A%20%20%20%20%3E%20the%20weather%20for%20two%20weeks%20or%20a%20month%20would%20merely%20be%20a%20question%20of%20developing%0A%20%20%20%20%3E%20better%20equations.%22*%0A%20%20%20%20%3E%20%E2%80%94%20Edward%20Lorenz%2C%20*The%20Essence%20of%20Chaos*%20(1993)%0A%0A%20%20%20%20This%20accidental%20discovery%20led%20directly%20to%20the%201963%20paper%20that%20founded%20the%20mathematical%0A%20%20%20%20study%20of%20chaos.%20%20The%20three-equation%20model%20in%20that%20paper%20was%20a%20deliberate%20simplification%0A%20%20%20%20of%20the%20full%20convection%20equations%20%E2%80%94%20a%20toy%20designed%20to%20be%20analytically%20tractable%20%E2%80%94%20but%0A%20%20%20%20it%20captured%20the%20essential%20unpredictability%20of%20the%20real%20atmosphere.%0A%0A%20%20%20%20**The%20%22butterfly%20effect%22%20name**%20came%20a%20decade%20later.%20%20At%20the%20December%201972%20meeting%20of%0A%20%20%20%20the%20American%20Meteorological%20Society%2C%20Lorenz%20delivered%20a%20talk%20titled%3A%0A%0A%20%20%20%20%3E%20*%22Does%20the%20flap%20of%20a%20butterfly's%20wings%20in%20Brazil%20set%20off%20a%20tornado%20in%20Texas%3F%22*%0A%0A%20%20%20%20The%20title%20was%20chosen%20half-jokingly%20by%20the%20session%20organiser%20Philip%20Merilees%2C%20not%20by%0A%20%20%20%20Lorenz%20himself.%20%20Lorenz%20used%20it%20to%20sharpen%20a%20point%20he%20had%20been%20making%20since%201963%3A%0A%20%20%20%20in%20a%20chaotic%20system%2C%20an%20*arbitrarily%20small*%20perturbation%20anywhere%20%E2%80%94%20even%20one%20too%20small%0A%20%20%20%20to%20measure%20%E2%80%94%20can%2C%20in%20principle%2C%20alter%20the%20large-scale%20evolution%20weeks%20later.%0A%20%20%20%20This%20is%20**not**%20a%20statement%20that%20butterflies%20literally%20cause%20tornadoes.%0A%20%20%20%20It%20is%20a%20statement%20about%20the%20*fundamental%20structure%20of%20deterministic%20predictability%20limits*.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20display_section1_text(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20---%0A%20%20%20%20%23%23%201%20%C2%B7%20The%20Lorenz%20(1963)%20System%0A%0A%20%20%20%20In%201963%20Edward%20Lorenz%20published%20a%20three-variable%20model%20of%20**Rayleigh%E2%80%93B%C3%A9nard%20convection**%20%E2%80%94%0A%20%20%20%20the%20buoyancy-driven%20overturning%20of%20a%20fluid%20heated%20from%20below.%0A%20%20%20%20Despite%20its%20simplicity%2C%20it%20became%20the%20founding%20example%20of%20*deterministic%20chaos*.%0A%0A%20%20%20%20%23%23%23%20The%20governing%20equations%0A%0A%20%20%20%20%24%24%5Cfrac%7BdX%7D%7Bdt%7D%20%3D%20%5Csigma%5C%2C(Y%20-%20X)%24%24%0A%20%20%20%20%24%24%5Cfrac%7BdY%7D%7Bdt%7D%20%3D%20X%5C%2C(%5Crho%20-%20Z)%20-%20Y%24%24%0A%20%20%20%20%24%24%5Cfrac%7BdZ%7D%7Bdt%7D%20%3D%20X%5C%2CY%20-%20%5Cbeta%5C%2CZ%24%24%0A%0A%20%20%20%20**What%20the%20variables%20represent%3A**%0A%0A%20%20%20%20%7C%20Variable%20%7C%20Physical%20meaning%20%7C%0A%20%20%20%20%7C----------%7C-----------------%7C%0A%20%20%20%20%7C%20%24X%24%20%7C%20Intensity%20of%20the%20convective%20overturning%20circulation%20%7C%0A%20%20%20%20%7C%20%24Y%24%20%7C%20Temperature%20difference%20between%20ascending%20and%20descending%20fluid%20%7C%0A%20%20%20%20%7C%20%24Z%24%20%7C%20Deviation%20of%20the%20vertical%20temperature%20profile%20from%20linearity%20%7C%0A%0A%20%20%20%20**Classic%20parameter%20values**%20that%20produce%20chaotic%20behaviour%3A%0A%0A%20%20%20%20%7C%20Parameter%20%7C%20Value%20%7C%20Physical%20role%20%7C%0A%20%20%20%20%7C-----------%7C-------%7C--------------%7C%0A%20%20%20%20%7C%20%24%5Csigma%20%3D%2010%24%20%7C%20Prandtl%20number%20%E2%80%94%20ratio%20of%20momentum%20to%20thermal%20diffusivity%20%7C%0A%20%20%20%20%7C%20%24%5Crho%20%3D%2028%24%20%7C%20Normalised%20Rayleigh%20number%20%E2%80%94%20strength%20of%20thermal%20forcing%20relative%20to%20dissipation%20%7C%0A%20%20%20%20%7C%20%24%5Cbeta%20%3D%208%2F3%24%20%7C%20Geometric%20factor%20%E2%80%94%20aspect%20ratio%20of%20convection%20cells%20%7C%0A%0A%20%20%20%20%23%23%23%20Fixed%20points%20and%20the%20route%20to%20chaos%0A%0A%20%20%20%20The%20system%20has%20**three%20fixed%20points**%20(where%20all%20derivatives%20are%20zero)%3A%0A%0A%20%20%20%20-%20**Origin**%20%24(0%2C%200%2C%200)%24%3A%20the%20purely%20conductive%20state%20(no%20convection).%0A%20%20%20%20%20%20Always%20exists%3B%20unstable%20for%20%24%5Crho%20%3E%201%24.%0A%20%20%20%20-%20**Two%20symmetric%20points**%20%24C%5E%5Cpm%20%3D%20(%5Cpm%5Csqrt%7B%5Cbeta(%5Crho-1)%7D%2C%5C%3B%20%5Cpm%5Csqrt%7B%5Cbeta(%5Crho-1)%7D%2C%5C%3B%20%5Crho-1)%24%3A%0A%20%20%20%20%20%20steady%20convective%20rolls.%20%20These%20become%20**unstable**%20(Hopf%20bifurcation)%20when%20%24%5Crho%20%3E%20%5Crho_H%20%5Capprox%2024.74%24.%0A%0A%20%20%20%20At%20%24%5Crho%20%3D%2028%20%3E%2024.74%24%2C%20*none*%20of%20the%20three%20fixed%20points%20is%20stable.%0A%20%20%20%20Trajectories%20cannot%20settle%20anywhere%20%E2%80%94%20they%20must%20wander%20forever%2C%20tracing%20out%20the%20**strange%20attractor**.%0A%0A%20%20%20%20%23%23%23%20The%20strange%20attractor%0A%0A%20%20%20%20For%20these%20parameters%20the%20system%20is%20*chaotic*%3A%20trajectories%20are%20**bounded**%20(they%0A%20%20%20%20stay%20on%20the%20attractor%20forever)%20but%20**never%20periodic**%20(they%20never%20exactly%20repeat).%0A%20%20%20%20The%20geometric%20object%20they%20trace%20out%20is%20called%20a%20**strange%20attractor**%20%E2%80%94%20a%20fractal%20set%0A%20%20%20%20with%20non-integer%20dimension%20(~2.06).%0A%0A%20%20%20%20The%20figure%20below%20shows%2070%20MTU%20of%20trajectory%20after%20transients%20have%20decayed.%0A%20%20%20%20The%20colour%20encodes%20%24Z%24%20%E2%80%94%20notice%20how%20the%20trajectory%20alternates%20between%20the%20two%20lobes%0A%20%20%20%20(the%20%22butterfly%20wings%22)%2C%20corresponding%20to%20opposite%20senses%20of%20convective%20overturning.%0A%20%20%20%20The%20number%20of%20loops%20on%20each%20lobe%20before%20switching%20is%20*unpredictable*%20%E2%80%94%20that%20is%20the%20chaotic%20signature.%0A%0A%20%20%20%20%3E%20%F0%9F%92%A1%20**Tip%3A**%20Click%20and%20drag%20to%20rotate%20the%20plot%20in%203-D.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20display_section1_fig(attractor_ref%2C%20go%2C%20mo)%3A%0A%20%20%20%20_fig%20%3D%20go.Figure(go.Scatter3d(%0A%20%20%20%20%20%20%20%20x%3Dattractor_ref%5B0%5D%2C%20y%3Dattractor_ref%5B1%5D%2C%20z%3Dattractor_ref%5B2%5D%2C%0A%20%20%20%20%20%20%20%20mode%3D%22lines%22%2C%0A%20%20%20%20%20%20%20%20line%3Ddict(%0A%20%20%20%20%20%20%20%20%20%20%20%20color%3Dattractor_ref%5B2%5D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20colorscale%3D%22Viridis%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20width%3D1.5%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20cmin%3Dfloat(attractor_ref%5B2%5D.min())%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20cmax%3Dfloat(attractor_ref%5B2%5D.max())%2C%0A%20%20%20%20%20%20%20%20)%2C%0A%20%20%20%20%20%20%20%20hoverinfo%3D%22skip%22%2C%0A%20%20%20%20))%0A%20%20%20%20_fig.update_layout(%0A%20%20%20%20%20%20%20%20height%3D520%2C%0A%20%20%20%20%20%20%20%20title%3Ddict(%0A%20%20%20%20%20%20%20%20%20%20%20%20text%3D%22The%20Lorenz%20Strange%20Attractor%20%20(%CF%83%20%3D%2010%2C%20%CF%81%20%3D%2028%2C%20%CE%B2%20%3D%208%2F3)%20%E2%80%94%20colour%20%3D%20Z%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20x%3D0.5%2C%20font_size%3D13%2C%0A%20%20%20%20%20%20%20%20)%2C%0A%20%20%20%20%20%20%20%20scene%3Ddict(%0A%20%20%20%20%20%20%20%20%20%20%20%20xaxis_title%3D%22X%20%20(convective%20intensity)%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20yaxis_title%3D%22Y%20%20(temperature%20contrast)%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20zaxis_title%3D%22Z%20%20(vertical%20distortion)%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20bgcolor%3D%22rgba(245%2C248%2C255%2C0.9)%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20camera%3Ddict(eye%3Ddict(x%3D1.6%2C%20y%3D1.0%2C%20z%3D0.8))%2C%0A%20%20%20%20%20%20%20%20)%2C%0A%20%20%20%20%20%20%20%20margin%3Ddict(l%3D0%2C%20r%3D0%2C%20t%3D55%2C%20b%3D0)%2C%0A%20%20%20%20%20%20%20%20paper_bgcolor%3D%22white%22%2C%0A%20%20%20%20%20%20%20%20showlegend%3DFalse%2C%0A%20%20%20%20)%0A%20%20%20%20mo.vstack(%5B_fig%5D)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20display_section1_callout(mo)%3A%0A%20%20%20%20mo.callout(%0A%20%20%20%20%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20**What%20makes%20this%20attractor%20%22strange%22%3F**%20%20A%20periodic%20orbit%20would%20be%20a%20closed%20loop.%0A%20%20%20%20A%20fixed%20point%20would%20be%20a%20dot.%20%20This%20attractor%20is%20*neither*%20%E2%80%94%20it%20is%20a%20**fractal%20set**%20with%0A%20%20%20%20non-integer%20(Hausdorff)%20dimension%20of%20approximately%20**2.06**.%0A%0A%20%20%20%20Trajectories%20wind%20around%20the%20two%20lobes%20in%20an%20order%20that%20looks%20random%20but%20is%20in%20fact%0A%20%20%20%20*completely%20determined*%20by%20the%20initial%20condition.%20%20The%20catch%3A%20two%20trajectories%20starting%0A%20%20%20%20from%20almost%20identical%20initial%20conditions%20will%20eventually%20end%20up%20on%20opposite%20lobes%20with%0A%20%20%20%20no%20correlation%20between%20them.%20%20That%20is%20precisely%20what%20the%20next%20section%20demonstrates.%0A%20%20%20%20%22%22%22)%2C%0A%20%20%20%20%20%20%20%20kind%3D%22info%22%2C%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20cell_sdic_intuition(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20---%0A%20%20%20%20%23%23%23%20%F0%9F%93%90%20Quantifying%20chaos%3A%20the%20Lyapunov%20exponent%0A%0A%20%20%20%20Before%20the%20interactive%20demonstration%2C%20let's%20build%20intuition%20about%20how%20we%20*measure*%20chaos.%0A%0A%20%20%20%20**The%20key%20question%3A**%20If%20two%20trajectories%20start%20with%20separation%20%24%5Cdelta_0%24%2C%20how%20fast%20does%20it%20grow%3F%0A%0A%20%20%20%20In%20a%20chaotic%20system%2C%20the%20answer%20(averaged%20over%20the%20attractor)%20is%20**exponentially**%3A%0A%0A%20%20%20%20%24%24%5Cdelta(t)%20%5Capprox%20%5Cdelta_0%20%5C%2C%20e%5E%7B%5Clambda%20t%7D%24%24%0A%0A%20%20%20%20where%20%24%5Clambda%24%20is%20the%20**leading%20Lyapunov%20exponent**.%20%20Its%20sign%20determines%20the%20system%20type%3A%0A%0A%20%20%20%20%7C%20Sign%20of%20%24%5Clambda%24%20%7C%20System%20type%20%7C%20Example%20%7C%0A%20%20%20%20%7C-------------------%7C-------------%7C---------%7C%0A%20%20%20%20%7C%20%24%5Clambda%20%3C%200%24%20%7C%20Stable%20fixed%20point%20or%20limit%20cycle%20%7C%20Damped%20pendulum%20%7C%0A%20%20%20%20%7C%20%24%5Clambda%20%3D%200%24%20%7C%20Marginally%20stable%20%7C%20Integrable%20Hamiltonian%20%7C%0A%20%20%20%20%7C%20%24%5Clambda%20%3E%200%24%20%7C%20**Chaotic**%20%E2%80%94%20exponential%20divergence%20%7C%20Lorenz%2063%2C%20real%20atmosphere%20%7C%0A%0A%20%20%20%20**The%20Lorenz%2063%20Lyapunov%20spectrum**%20%24(%5Clambda_1%2C%20%5Clambda_2%2C%20%5Clambda_3)%24%3A%0A%0A%20%20%20%20%7C%20Exponent%20%7C%20Value%20(MTU%E2%81%BB%C2%B9)%20%7C%20Meaning%20%7C%0A%20%20%20%20%7C----------%7C--------------%7C---------%7C%0A%20%20%20%20%7C%20%24%5Clambda_1%24%20%7C%20%E2%89%88%20%2B0.906%20%7C%20Exponential%20stretching%20%E2%80%94%20the%20source%20of%20chaos%20%7C%0A%20%20%20%20%7C%20%24%5Clambda_2%24%20%7C%20%E2%89%88%200.000%20%7C%20Neutral%20%E2%80%94%20along%20the%20flow%20direction%20%7C%0A%20%20%20%20%7C%20%24%5Clambda_3%24%20%7C%20%E2%89%88%20%E2%88%9214.57%20%7C%20Strong%20contraction%20%E2%80%94%20the%20attractor%20has%20zero%20volume%20%7C%0A%0A%20%20%20%20The%20sum%20%24%5Clambda_1%20%2B%20%5Clambda_2%20%2B%20%5Clambda_3%20%5Capprox%20-13.67%24%20is%20the%20**divergence**%20of%20the%20vector%0A%20%20%20%20field%2C%20confirming%20the%20system%20is%20dissipative%20(volume-shrinking).%0A%0A%20%20%20%20The%20**Kaplan%E2%80%93Yorke%20dimension**%20estimates%20the%20fractal%20dimension%20of%20the%20attractor%3A%0A%20%20%20%20%24%24D_%7BKY%7D%20%3D%202%20%2B%20%5Cfrac%7B%5Clambda_1%7D%7B%7C%5Clambda_3%7C%7D%20%3D%202%20%2B%20%5Cfrac%7B0.906%7D%7B14.57%7D%20%5Capprox%202.062%24%24%0A%0A%20%20%20%20This%20non-integer%20value%20(between%20a%20surface%20and%20a%20volume)%20is%20the%20hallmark%20of%20a%20fractal%20strange%20attractor.%0A%0A%20%20%20%20**The%20Lyapunov%20time**%20%24%5Ctau_%5Clambda%20%3D%201%2F%5Clambda_1%20%5Capprox%201.1%24%20MTU%20is%20the%20e-folding%20time%20for%20error%20growth.%0A%20%20%20%20Taking%20logarithms%20of%20the%20growth%20equation%3A%0A%20%20%20%20%24%24%5Cln%5Cdelta(t)%20%5Capprox%20%5Cln%5Cdelta_0%20%2B%20%5Clambda%5C%2Ct%24%24%0A%20%20%20%20This%20is%20a%20**straight%20line%20on%20a%20log-scale%20plot**%20of%20separation%20vs.%20time%2C%20with%20slope%20%24%5Clambda%24.%0A%20%20%20%20That%20is%20exactly%20what%20the%20right-hand%20panel%20of%20Section%202%20shows.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20display_section2_text(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20---%0A%20%20%20%20%23%23%202%20%C2%B7%20Sensitive%20Dependence%20on%20Initial%20Conditions%0A%0A%20%20%20%20The%20defining%20signature%20of%20chaos%20is%20that%20two%20trajectories%20starting%20from%0A%20%20%20%20**arbitrarily%20close**%20initial%20conditions%20diverge%20exponentially%20fast.%0A%20%20%20%20This%20is%20*sensitive%20dependence%20on%20initial%20conditions*%20(SDIC)%20%E2%80%94%20the%20butterfly%20effect.%0A%0A%20%20%20%20%23%23%23%20What%20the%20two%20panels%20show%0A%0A%20%20%20%20%7C%20Left%20panel%20%7C%20Right%20panel%20%7C%0A%20%20%20%20%7C------------%7C-------------%7C%0A%20%20%20%20%7C%20Both%20trajectories%20in%203-D%20phase%20space%20%7C%20Separation%20%24%5C%7C%5Cmathbf%7BA%7D%20-%20%5Cmathbf%7BB%7D%5C%7C%24%20vs%20time%20on%20a%20**log%20scale**%20%7C%0A%20%20%20%20%7C%20Green%20dot%20%3D%20shared%20start%3B%20coloured%20squares%20%3D%20positions%20at%20lead%20time%20%24T%24%20%7C%20Straight%20line%20on%20log%20scale%20%3D%20exponential%20growth%20%7C%0A%20%20%20%20%7C%20Overlapping%20paths%20%3D%20predictable%3B%20separated%20paths%20%3D%20not%20%7C%20Orange%20dotted%20line%20%3D%20fitted%20%24e%5E%7B%5Clambda%20t%7D%24%20slope%20%7C%0A%20%20%20%20%7C%20Grey%20cloud%20%3D%20full%20attractor%20(for%20reference)%20%7C%20Dashed%20red%20line%20%3D%20attractor%20diameter%20(no%20skill%20beyond%20this)%20%7C%0A%0A%20%20%20%20%23%23%23%20How%20to%20read%20the%20log-separation%20plot%0A%0A%20%20%20%20-%20**Flat%20or%20slowly%20rising**%3A%20error%20growing%2C%20but%20sub-exponentially%20(very%20early%20phase).%0A%20%20%20%20-%20**Straight%20line%20(exponential%20phase)**%3A%20error%20doubling%20every%20%24%5Cln%202%2F%5Clambda%20%5Capprox%200.8%24%20MTU%20%E2%80%94%20classic%20chaotic%20regime.%0A%20%20%20%20-%20**Levelling%20off%20at%20the%20red%20dashed%20line**%3A%20error%20saturated.%20%20The%20two%20forecasts%20are%20now%20statistically%0A%20%20%20%20%20%20independent%20%E2%80%94%20completely%20uncorrelated.%20%20Forecast%20skill%20has%20dropped%20to%20zero.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20display_section2_experiment(mo)%3A%0A%20%20%20%20mo.callout(%0A%20%20%20%20%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20**%F0%9F%94%AC%20Experiment%20%E2%80%94%20measure%20the%20Lyapunov%20exponent%3A**%0A%0A%20%20%20%201.%20Set%20lead%20time%20%3D%20**5%20MTU**%20and%20%CE%B4%E2%82%80%20%3D%20**10%E2%81%BB%E2%81%B4**.%20%20Are%20the%20blue%20and%20red%20paths%20still%20together%3F%0A%20%20%20%202.%20Drag%20lead%20time%20slowly%20to%20**20%20MTU**.%20%20At%20what%20time%20do%20they%20separate%20on%20the%203-D%20plot%3F%0A%20%20%20%20%20%20%20Does%20the%20right%20panel%20enter%20the%20%22exponential%20growth%22%20straight-line%20regime%3F%0A%20%20%20%203.%20Reduce%20%CE%B4%E2%82%80%20to%20**10%E2%81%BB%E2%81%B6**%20(two%20decades%20smaller).%20%20How%20many%20extra%20MTU%20of%20predictability%20does%20that%20buy%3F%0A%20%20%20%20%20%20%20Is%20the%20gain%20proportional%20to%20the%20change%20in%20%CE%B4%E2%82%80%3F%0A%20%20%20%204.%20Read%20off%20%CE%BB%20from%20the%20slope%20of%20the%20orange%20dotted%20line.%20%20Compare%20to%20the%20theoretical%20value%20%E2%89%88%200.9%20MTU%E2%81%BB%C2%B9.%0A%20%20%20%205.%20Try%20%CE%B4%E2%82%80%20%3D%20**10%E2%81%BB%C2%B9**%20(a%20large%20perturbation).%20%20Does%20it%20diverge%20immediately%2C%20or%20is%20there%20still%20a%20coherent%20phase%3F%0A%20%20%20%20%22%22%22)%2C%0A%20%20%20%20%20%20%20%20kind%3D%22neutral%22%2C%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20display_section2_interactive(%0A%20%20%20%20attractor_ref%2C%0A%20%20%20%20attractor_size%2C%0A%20%20%20%20go%2C%0A%20%20%20%20lorenz%2C%0A%20%20%20%20mo%2C%0A%20%20%20%20np%2C%0A%20%20%20%20sdic_lead%2C%0A%20%20%20%20sep_exp%2C%0A%20%20%20%20solve_ivp%2C%0A)%3A%0A%20%20%20%20%23%20----%20compute%20two%20nearby%20trajectories%20----%0A%20%20%20%20_x0%20%3D%20np.array(%5B8.5%2C%208.5%2C%2027.0%5D)%0A%20%20%20%20_delta0%20%3D%2010.0%20**%20sep_exp.value%0A%20%20%20%20_T%20%3D%20sdic_lead.value%0A%20%20%20%20_t_eval%20%3D%20np.linspace(0%2C%20_T%2C%20800)%0A%0A%20%20%20%20_sol_a%20%3D%20solve_ivp(lorenz%2C%20(0%2C%20_T)%2C%20_x0%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20t_eval%3D_t_eval%2C%20method%3D%22RK45%22%2C%20rtol%3D1e-10%2C%20atol%3D1e-13)%0A%20%20%20%20_sol_b%20%3D%20solve_ivp(lorenz%2C%20(0%2C%20_T)%2C%20_x0%20%2B%20np.array(%5B_delta0%2C%200.0%2C%200.0%5D)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20t_eval%3D_t_eval%2C%20method%3D%22RK45%22%2C%20rtol%3D1e-10%2C%20atol%3D1e-13)%0A%20%20%20%20_traj_a%20%3D%20_sol_a.y%0A%20%20%20%20_traj_b%20%3D%20_sol_b.y%0A%20%20%20%20_sep%20%3D%20np.sqrt(np.sum((_traj_a%20-%20_traj_b)%20**%202%2C%20axis%3D0))%0A%0A%20%20%20%20%23%20----%20estimate%20Lyapunov%20exponent%20from%20early%20exponential%20growth%20----%0A%20%20%20%20_early%20%3D%20(_t_eval%20%3C%20_T%20%2F%203)%20%26%20(_sep%20%3E%200)%0A%20%20%20%20if%20_early.sum()%20%3E%205%20and%20_sep%5B_early%5D%5B0%5D%20%3E%200%3A%0A%20%20%20%20%20%20%20%20_log_sep%20%3D%20np.log(_sep%5B_early%5D%20%2B%201e-20)%0A%20%20%20%20%20%20%20%20_slope%2C%20_%20%3D%20np.polyfit(_t_eval%5B_early%5D%2C%20_log_sep%2C%201)%0A%20%20%20%20%20%20%20%20_lambda_est%20%3D%20max(0.0%2C%20float(_slope))%0A%20%20%20%20%20%20%20%20_lambda_str%20%3D%20f%22%7B_lambda_est%3A.2f%7D%20MTU%E2%81%BB%C2%B9%20(%E2%89%88%20%7B_lambda_est%20%2F%205%3A.2f%7D%20day%E2%81%BB%C2%B9)%22%0A%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20_lambda_est%20%3D%20None%0A%20%20%20%20%20%20%20%20_lambda_str%20%3D%20%22%E2%80%94%20(extend%20lead%20time%20to%20see%20exponential%20growth)%22%0A%0A%20%20%20%20%23%20----%20predictability%20regime%20----%0A%20%20%20%20_final_sep%20%3D%20float(_sep%5B-1%5D)%0A%20%20%20%20_frac%20%3D%20_final_sep%20%2F%20attractor_size%0A%20%20%20%20if%20_frac%20%3E%200.8%3A%0A%20%20%20%20%20%20%20%20_regime%20%3D%20%22%F0%9F%94%B4%20Forecasts%20completely%20uncorrelated%20%E2%80%94%20beyond%20predictability%20horizon%22%0A%20%20%20%20%20%20%20%20_ck%20%3D%20%22danger%22%0A%20%20%20%20elif%20_frac%20%3E%200.3%3A%0A%20%20%20%20%20%20%20%20_regime%20%3D%20%22%F0%9F%9F%A0%20Diverging%20rapidly%20%E2%80%94%20entering%20semi-predictable%20regime%22%0A%20%20%20%20%20%20%20%20_ck%20%3D%20%22warn%22%0A%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20_regime%20%3D%20%22%F0%9F%9F%A2%20Forecasts%20still%20agree%20%E2%80%94%20within%20predictable%20window%22%0A%20%20%20%20%20%20%20%20_ck%20%3D%20%22success%22%0A%0A%20%20%20%20%23%20----%20phase-space%20figure%20----%0A%20%20%20%20_fig3d%20%3D%20go.Figure()%0A%20%20%20%20_fig3d.add_trace(go.Scatter3d(%0A%20%20%20%20%20%20%20%20x%3Dattractor_ref%5B0%5D%2C%20y%3Dattractor_ref%5B1%5D%2C%20z%3Dattractor_ref%5B2%5D%2C%0A%20%20%20%20%20%20%20%20mode%3D%22lines%22%2C%0A%20%20%20%20%20%20%20%20line%3Ddict(color%3D%22rgba(180%2C180%2C180%2C0.15)%22%2C%20width%3D1)%2C%0A%20%20%20%20%20%20%20%20showlegend%3DFalse%2C%20hoverinfo%3D%22skip%22%2C%0A%20%20%20%20))%0A%20%20%20%20_fig3d.add_trace(go.Scatter3d(%0A%20%20%20%20%20%20%20%20x%3D_traj_a%5B0%5D%2C%20y%3D_traj_a%5B1%5D%2C%20z%3D_traj_a%5B2%5D%2C%0A%20%20%20%20%20%20%20%20mode%3D%22lines%22%2C%20line%3Ddict(color%3D%22royalblue%22%2C%20width%3D2.5)%2C%0A%20%20%20%20%20%20%20%20name%3D%22Truth%20(A)%22%2C%0A%20%20%20%20))%0A%20%20%20%20_fig3d.add_trace(go.Scatter3d(%0A%20%20%20%20%20%20%20%20x%3D_traj_b%5B0%5D%2C%20y%3D_traj_b%5B1%5D%2C%20z%3D_traj_b%5B2%5D%2C%0A%20%20%20%20%20%20%20%20mode%3D%22lines%22%2C%20line%3Ddict(color%3D%22crimson%22%2C%20width%3D2.5)%2C%0A%20%20%20%20%20%20%20%20name%3D%22Perturbed%20forecast%20(B)%22%2C%0A%20%20%20%20))%0A%20%20%20%20_fig3d.add_trace(go.Scatter3d(%0A%20%20%20%20%20%20%20%20x%3D%5B_traj_a%5B0%2C%200%5D%5D%2C%20y%3D%5B_traj_a%5B1%2C%200%5D%5D%2C%20z%3D%5B_traj_a%5B2%2C%200%5D%5D%2C%0A%20%20%20%20%20%20%20%20mode%3D%22markers%22%2C%20marker%3Ddict(size%3D8%2C%20color%3D%22limegreen%22)%2C%0A%20%20%20%20%20%20%20%20name%3Df%22Shared%20start%20%20(%CE%B4%E2%82%80%20%3D%2010%5E%7Bsep_exp.value%3A.1f%7D)%22%2C%0A%20%20%20%20))%0A%20%20%20%20_fig3d.add_trace(go.Scatter3d(%0A%20%20%20%20%20%20%20%20x%3D%5B_traj_a%5B0%2C%20-1%5D%5D%2C%20y%3D%5B_traj_a%5B1%2C%20-1%5D%5D%2C%20z%3D%5B_traj_a%5B2%2C%20-1%5D%5D%2C%0A%20%20%20%20%20%20%20%20mode%3D%22markers%22%2C%20marker%3Ddict(size%3D7%2C%20color%3D%22royalblue%22%2C%20symbol%3D%22square%22)%2C%0A%20%20%20%20%20%20%20%20name%3Df%22A%20at%20t%20%3D%20%7B_T%7D%20MTU%22%2C%0A%20%20%20%20))%0A%20%20%20%20_fig3d.add_trace(go.Scatter3d(%0A%20%20%20%20%20%20%20%20x%3D%5B_traj_b%5B0%2C%20-1%5D%5D%2C%20y%3D%5B_traj_b%5B1%2C%20-1%5D%5D%2C%20z%3D%5B_traj_b%5B2%2C%20-1%5D%5D%2C%0A%20%20%20%20%20%20%20%20mode%3D%22markers%22%2C%20marker%3Ddict(size%3D7%2C%20color%3D%22crimson%22%2C%20symbol%3D%22square%22)%2C%0A%20%20%20%20%20%20%20%20name%3Df%22B%20at%20t%20%3D%20%7B_T%7D%20MTU%22%2C%0A%20%20%20%20))%0A%20%20%20%20_fig3d.update_layout(%0A%20%20%20%20%20%20%20%20height%3D480%2C%0A%20%20%20%20%20%20%20%20title%3Ddict(text%3D%22Phase-space%20view%20%E2%80%94%20two%20trajectories%20from%20(almost)%20the%20same%20start%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20x%3D0.5%2C%20font_size%3D13)%2C%0A%20%20%20%20%20%20%20%20scene%3Ddict(xaxis_title%3D%22X%22%2C%20yaxis_title%3D%22Y%22%2C%20zaxis_title%3D%22Z%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20bgcolor%3D%22rgba(245%2C248%2C255%2C0.6)%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20camera%3Ddict(eye%3Ddict(x%3D1.5%2C%20y%3D1.0%2C%20z%3D0.8)))%2C%0A%20%20%20%20%20%20%20%20margin%3Ddict(l%3D0%2C%20r%3D0%2C%20t%3D50%2C%20b%3D0)%2C%0A%20%20%20%20%20%20%20%20paper_bgcolor%3D%22white%22%2C%0A%20%20%20%20%20%20%20%20legend%3Ddict(x%3D0.01%2C%20y%3D0.99%2C%20font_size%3D11%2C%20bgcolor%3D%22rgba(255%2C255%2C255%2C0.88)%22)%2C%0A%20%20%20%20)%0A%0A%20%20%20%20%23%20----%20separation%20time-series%20figure%20----%0A%20%20%20%20_fig2d%20%3D%20go.Figure()%0A%20%20%20%20_fig2d.add_trace(go.Scatter(%0A%20%20%20%20%20%20%20%20x%3D_t_eval%2C%20y%3D_sep%2C%0A%20%20%20%20%20%20%20%20mode%3D%22lines%22%2C%0A%20%20%20%20%20%20%20%20line%3Ddict(color%3D%22darkorchid%22%2C%20width%3D2.5)%2C%0A%20%20%20%20%20%20%20%20fill%3D%22tozeroy%22%2C%20fillcolor%3D%22rgba(148%2C0%2C211%2C0.07)%22%2C%0A%20%20%20%20%20%20%20%20name%3D%22%7CA%20%E2%88%92%20B%7C%22%2C%0A%20%20%20%20))%0A%20%20%20%20if%20_lambda_est%20and%20_lambda_est%20%3E%200%3A%0A%20%20%20%20%20%20%20%20_t_ref%20%3D%20_t_eval%5B_early%5D%0A%20%20%20%20%20%20%20%20_sep_ref_start%20%3D%20float(_sep%5B_early%5D%5B0%5D)%0A%20%20%20%20%20%20%20%20_fig2d.add_trace(go.Scatter(%0A%20%20%20%20%20%20%20%20%20%20%20%20x%3D_t_ref%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20y%3D_sep_ref_start%20*%20np.exp(_lambda_est%20*%20(_t_ref%20-%20_t_ref%5B0%5D))%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mode%3D%22lines%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20line%3Ddict(color%3D%22orange%22%2C%20width%3D1.5%2C%20dash%3D%22dot%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20name%3Df%22e%5E(%CE%BBt)%2C%20%20%CE%BB%20%E2%89%88%20%7B_lambda_est%3A.2f%7D%20MTU%E2%81%BB%C2%B9%22%2C%0A%20%20%20%20%20%20%20%20))%0A%20%20%20%20_fig2d.add_hline(%0A%20%20%20%20%20%20%20%20y%3Dattractor_size%2C%0A%20%20%20%20%20%20%20%20line%3Ddict(color%3D%22firebrick%22%2C%20dash%3D%22dash%22%2C%20width%3D1.5)%2C%0A%20%20%20%20%20%20%20%20annotation_text%3D%22Attractor%20diameter%20%E2%80%94%20fully%20random%22%2C%0A%20%20%20%20%20%20%20%20annotation_position%3D%22top%20left%22%2C%0A%20%20%20%20%20%20%20%20annotation_font_size%3D11%2C%0A%20%20%20%20)%0A%20%20%20%20_fig2d.update_layout(%0A%20%20%20%20%20%20%20%20height%3D480%2C%0A%20%20%20%20%20%20%20%20title%3Ddict(text%3D%22Separation%20%7CA%20%E2%88%92%20B%7C%20over%20time%20%20(log-scale%20y-axis)%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20x%3D0.5%2C%20font_size%3D13)%2C%0A%20%20%20%20%20%20%20%20xaxis%3Ddict(title%3D%22Lead%20time%20(MTU)%22%2C%20gridcolor%3D%22%23ebebeb%22)%2C%0A%20%20%20%20%20%20%20%20yaxis%3Ddict(title%3D%22Euclidean%20distance%20%7CA%20%E2%88%92%20B%7C%22%2C%20type%3D%22log%22%2C%20gridcolor%3D%22%23ebebeb%22)%2C%0A%20%20%20%20%20%20%20%20margin%3Ddict(l%3D60%2C%20r%3D20%2C%20t%3D50%2C%20b%3D50)%2C%0A%20%20%20%20%20%20%20%20paper_bgcolor%3D%22white%22%2C%0A%20%20%20%20%20%20%20%20legend%3Ddict(x%3D0.01%2C%20y%3D0.01%2C%20font_size%3D11%2C%20bgcolor%3D%22rgba(255%2C255%2C255%2C0.88)%22)%2C%0A%20%20%20%20)%0A%0A%20%20%20%20mo.vstack(%5B%0A%20%20%20%20%20%20%20%20mo.md(%22%23%23%23%20%E2%9A%99%EF%B8%8F%20Controls%22)%2C%0A%20%20%20%20%20%20%20%20mo.hstack(%5Bsep_exp%2C%20sdic_lead%5D%2C%20gap%3D%224rem%22)%2C%0A%20%20%20%20%20%20%20%20mo.hstack(%5B_fig3d%2C%20_fig2d%5D%2C%20widths%3D%5B3%2C%202%5D)%2C%0A%20%20%20%20%20%20%20%20mo.callout(%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.md(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22**%F0%9F%92%A1%20Live%20readout**%20%26nbsp%3B%7C%26nbsp%3B%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22%CE%B4%E2%82%80%20%3D%2010%5E%7Bsep_exp.value%3A.1f%7D%20%26nbsp%3B%C2%B7%26nbsp%3B%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22Lead%20time%20%3D%20%7B_T%7D%20MTU%20%26nbsp%3B%C2%B7%26nbsp%3B%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22Final%20separation%20%3D%20**%7B_final_sep%3A.3g%7D**%20(%7B_frac%3A.0%25%7D%20of%20attractor%20size)%20%20%5Cn%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22Estimated%20%CE%BB%20from%20early%20growth%3A%20**%7B_lambda_str%7D**%20%20%5Cn%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_regime%7D%22%0A%20%20%20%20%20%20%20%20%20%20%20%20)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20kind%3D_ck%2C%0A%20%20%20%20%20%20%20%20)%2C%0A%20%20%20%20%5D)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20display_section2_weather(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Why%20this%20matters%20for%20weather%20forecasting%0A%0A%20%20%20%20In%20the%20real%20atmosphere%20the%20leading%20Lyapunov%20exponent%20is%20%24%5Clambda%20%5Capprox%200.35%5C%3B%5Ctext%7Bday%7D%5E%7B-1%7D%24%2C%0A%20%20%20%20giving%20an%20error%20**doubling%20time**%20of%0A%0A%20%20%20%20%24%24%5Ctau_%7B2%7D%20%3D%20%5Cfrac%7B%5Cln%202%7D%7B%5Clambda%7D%20%5Capprox%20%5Cfrac%7B0.69%7D%7B0.35%5C%3B%5Ctext%7Bday%7D%5E%7B-1%7D%7D%20%5Capprox%202%5C%3B%5Ctext%7Bdays%7D%24%24%0A%0A%20%20%20%20This%20means%20that%20even%20a%20perfect%201-hour%20analysis%20error%20doubles%20in%20two%20days.%0A%20%20%20%20A%2010-day%20forecast%20must%20survive%20five%20doublings%20%E2%80%94%20an%20amplification%20factor%20of%20%242%5E5%20%3D%2032%24.%0A%20%20%20%20No%20conceivable%20improvement%20in%20observations%20or%20models%20can%20eliminate%20this%20growth%2C%0A%20%20%20%20because%20it%20is%20a%20property%20of%20the%20underlying%20flow%2C%20not%20of%20our%20instruments.%0A%0A%20%20%20%20**The%20practical%20predictability%20ceiling**%20in%20the%20real%20atmosphere%20is%20approximately%0A%20%20%20%20**2%E2%80%933%20weeks**%20%E2%80%94%20beyond%20which%20even%20a%20perfect%20initial%20state%20cannot%20yield%20a%20useful%0A%20%20%20%20deterministic%20forecast.%20%20This%20is%20a%20mathematical%20consequence%20of%20the%20Lorenz%20time%20of%20the%20atmosphere%2C%0A%20%20%20%20not%20a%20pessimistic%20statement%20about%20the%20current%20state%20of%20NWP.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20cell_ensemble_history(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20---%0A%20%20%20%20%23%23%23%20%F0%9F%95%B0%EF%B8%8F%20The%20operational%20history%20of%20ensemble%20forecasting%0A%0A%20%20%20%20The%20mathematical%20case%20for%20ensemble%20NWP%20was%20made%20long%20before%20it%20was%20computationally%20feasible%3A%0A%0A%20%20%20%20%7C%20Year%20%7C%20Development%20%7C%0A%20%20%20%20%7C------%7C------------%7C%0A%20%20%20%20%7C%20**1963**%20%7C%20Lorenz%20shows%20deterministic%20chaos%20implies%20finite%20predictability%20%7C%0A%20%20%20%20%7C%20**1965**%20%7C%20Lorenz%20estimates%20the%20atmospheric%20predictability%20limit%20%7C%0A%20%20%20%20%7C%20**1969**%20%7C%20**Epstein**%20proposes%20stochastic-dynamic%20forecasting%20%E2%80%94%20the%20first%20ensemble%20concept%20%7C%0A%20%20%20%20%7C%20**1974**%20%7C%20**Leith**%20demonstrates%20Monte%20Carlo%20ensemble%20forecasting%20in%20a%20simple%20model%20%7C%0A%20%20%20%20%7C%20**1992**%20%7C%20ECMWF%20launches%20the%20**Ensemble%20Prediction%20System%20(EPS)**%20operationally%20%7C%0A%20%20%20%20%7C%20**1992**%20%7C%20NCEP%20launches%20the%20**Global%20Ensemble%20Forecast%20System%20(GEFS)**%20%7C%0A%20%20%20%20%7C%20**2002**%20%7C%20Ensemble%20Kalman%20filter%20(EnKF)%20applied%20to%20NWP%20by%20Hamill%20%26%20Snyder%20%7C%0A%20%20%20%20%7C%20**2010s**%20%7C%20Hybrid%20ensemble-variational%20(En-Var)%20data%20assimilation%20adopted%20by%20major%20centres%20%7C%0A%20%20%20%20%7C%20**2020s**%20%7C%20Machine-learning%20ensemble%20post-processing%20and%20diffusion-model%20ensemble%20generation%20%7C%0A%0A%20%20%20%20**How%20are%20operational%20perturbations%20chosen%3F**%0A%0A%20%20%20%20Simply%20adding%20random%20noise%20(as%20we%20do%20below)%20is%20not%20optimal%20%E2%80%94%20it%20wastes%20ensemble%20members%0A%20%20%20%20on%20directions%20that%20do%20not%20grow.%20%20Real%20NWP%20centres%20use%20more%20sophisticated%20methods%3A%0A%0A%20%20%20%20%7C%20Method%20%7C%20Idea%20%7C%20Used%20by%20%7C%0A%20%20%20%20%7C--------%7C------%7C---------%7C%0A%20%20%20%20%7C%20**Bred%20vectors**%20%7C%20Evolve%20a%20perturbation%20for%20a%20short%20time%2C%20rescale%2C%20repeat%20%E2%80%94%20breeds%20fast-growing%20modes%20%7C%20NCEP%20(1992%E2%80%93)%20%7C%0A%20%20%20%20%7C%20**Singular%20vectors**%20%7C%20Find%20the%20perturbation%20that%20grows%20most%20over%20a%20chosen%20optimisation%20period%20%7C%20ECMWF%20(1992%E2%80%93)%20%7C%0A%20%20%20%20%7C%20**Ensemble%20Kalman%20filter**%20%7C%20Use%20the%20ensemble%20itself%20as%20the%20background-error%20covariance%20in%20data%20assimilation%20%7C%20Many%20regional%20centres%20%7C%0A%20%20%20%20%7C%20**Stochastic%20physics**%20%7C%20Add%20random%20noise%20to%20model%20tendencies%20to%20represent%20model%20uncertainty%20%7C%20ECMWF%20(2009%E2%80%93)%20%7C%0A%0A%20%20%20%20**ECMWF%20EPS%20at%20a%20glance%20(2024)%3A**%2051%20members%20(1%20control%20%2B%2050%20perturbed)%2C%0A%20%20%20%2018%20km%20horizontal%20resolution%2C%20137%20vertical%20levels%2C%2015-day%20medium-range%20and%2046-day%20extended-range%20products.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20display_section3_text(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20---%0A%20%20%20%20%23%23%203%20%C2%B7%20Ensemble%20Forecasting%0A%0A%20%20%20%20A%20single%20deterministic%20forecast%20is%20an%20*answer%20without%20an%20error%20bar*.%0A%20%20%20%20The%20operational%20response%20to%20SDIC%20is%20the%20**ensemble%20forecast**%3A%20integrate%20%24N%24%20slightly%0A%20%20%20%20different%20trajectories%20from%20initial%20states%20that%20sample%20the%20analysis%20uncertainty.%0A%0A%20%20%20%20%23%23%23%20What%20the%20ensemble%20tells%20us%0A%0A%20%20%20%20The%20**ensemble%20mean**%20%24%5Cbar%20X(t)%20%3D%20%5Cfrac%7B1%7D%7BN%7D%5Csum_%7Bi%3D1%7D%5EN%20X_i(t)%24%20is%20a%20better%0A%20%20%20%20point%20forecast%20than%20any%20single%20member.%0A%0A%20%20%20%20The%20**ensemble%20spread**%20%E2%80%94%20the%20RMS%20standard%20deviation%20across%20members%20%E2%80%94%20measures%20forecast%20uncertainty%3A%0A%0A%20%20%20%20%24%24%5Csigma_%5Ctext%7Bspread%7D(t)%20%3D%20%5Csqrt%7B%5Cfrac%7B1%7D%7BN%7D%5Csum_%7Bi%3D1%7D%5E%7BN%7D%5Cleft%7CX_i(t)%20-%20%5Cbar%20X(t)%5Cright%7C%5E2%7D%24%24%0A%0A%20%20%20%20Three%20predictability%20regimes%3A%0A%0A%20%20%20%20%7C%20Regime%20%7C%20Spread%20%2F%20attractor%20size%20%7C%20Interpretation%20%7C%0A%20%20%20%20%7C--------%7C------------------------%7C---------------%7C%0A%20%20%20%20%7C%20%F0%9F%9F%A2%20**Predictable**%20%7C%20%3C%2010%20%25%20%7C%20Members%20closely%20clustered%3B%20deterministic%20forecast%20reliable%20%7C%0A%20%20%20%20%7C%20%F0%9F%9F%A0%20**Semi-predictable**%20%7C%2010%20%E2%80%93%2090%20%25%20%7C%20Spread%20growing%20fast%3B%20probabilistic%20guidance%20still%20useful%20%7C%0A%20%20%20%20%7C%20%F0%9F%94%B4%20**Unpredictable**%20%7C%20%3E%2090%20%25%20%7C%20Spread%20saturated%3B%20forecast%20no%20better%20than%20climatology%20%7C%0A%0A%20%20%20%20%23%23%23%20What%20the%20two%20panels%20show%0A%0A%20%20%20%20**Left%20(phase%20space)%3A**%20The%20green%20cloud%20is%20the%20ensemble%20at%20%24t%20%3D%200%24.%0A%20%20%20%20The%20red%20cloud%20is%20the%20ensemble%20at%20%24t%20%3D%20T%24.%20%20A%20compact%20red%20cloud%20%3D%20reliable%20forecast.%0A%20%20%20%20A%20red%20cloud%20spanning%20the%20whole%20attractor%20%3D%20no%20forecast%20skill.%0A%0A%20%20%20%20**Right%20(spread%20plot)%3A**%20The%20blue%20curve%20is%20%24%5Csigma_%5Ctext%7Bspread%7D(t)%24%20on%20a%20log%20scale.%0A%20%20%20%20The%20x-position%20of%20the%20%F0%9F%9F%A2%E2%86%92%F0%9F%9F%A0%20transition%20is%20the%20**predictability%20horizon**.%0A%0A%20%20%20%20%23%23%23%20Why%20starting%20location%20matters%0A%0A%20%20%20%20The%20attractor%20is%20not%20uniformly%20chaotic.%20%20Near%20**lobe%20centres**%2C%20trajectories%20loop%0A%20%20%20%20coherently%20before%20switching%20%E2%80%94%20relatively%20predictable.%20%20Near%20the%20**saddle%20point**%20at%0A%20%20%20%20the%20origin%2C%20perturbations%20grow%20much%20faster.%20%20Near%20**lobe%20transitions**%2C%20which%20lobe%0A%20%20%20%20a%20trajectory%20switches%20to%20becomes%20sensitive%20to%20tiny%20perturbations.%0A%20%20%20%20This%20*flow-dependent%20predictability*%20is%20why%20modern%20NWP%20generates%20a%20fresh%20ensemble%20every%206%20hours.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20display_section3_experiment(mo)%3A%0A%20%20%20%20mo.callout(%0A%20%20%20%20%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20**%F0%9F%94%AC%20Experiment%20%E2%80%94%20find%20the%20predictability%20horizon%3A**%0A%0A%20%20%20%201.%20Start%20with%20defaults%20(predictable%20region%2C%20%CE%B4%E2%82%80%20%3D%2010%E2%81%BB%E2%81%B4%2C%20N%20%3D%2020).%0A%20%20%20%20%20%20%20Drag%20**lead%20time**%20slowly%20from%201%20%E2%86%92%2030%20MTU.%20%20Note%20when%20the%20green%20cloud%20fills%20the%20attractor.%0A%0A%20%20%20%202.%20Change%20**starting%20location**%20to%20*Near%20saddle%20point*.%20%20Is%20the%20horizon%20earlier%20or%20later%3F%0A%20%20%20%20%20%20%20Why%20might%20the%20position%20on%20the%20attractor%20matter%3F%0A%0A%20%20%20%203.%20Fix%20lead%20time%20%3D%2015.%20%20Slide%20**perturbation%20size**%20from%2010%E2%81%BB%E2%81%B6%20%E2%86%92%2010%E2%81%BB%C2%B9.%0A%20%20%20%20%20%20%20Does%20reducing%20%CE%B4%E2%82%80%20by%20one%20decade%20give%20a%20proportionally%20longer%20horizon%3F%0A%0A%20%20%20%204.%20Fix%20lead%20time%20%3D%2015%20and%20%CE%B4%E2%82%80%20%3D%2010%E2%81%BB%E2%81%B4.%20%20Compare%20**N%20%3D%205**%20vs%20**N%20%3D%2050**.%0A%20%20%20%20%20%20%20Which%20gives%20a%20smoother%2C%20more%20reliable%20spread%20estimate%3F%0A%0A%20%20%20%205.%20*Bonus%3A*%20Set%20N%20%3D%2050%2C%20%CE%B4%E2%82%80%20%3D%2010%E2%81%BB%E2%81%B4%2C%20location%20%3D%20*Chaotic%20lobe%20transition*.%0A%20%20%20%20%20%20%20Is%20the%20horizon%20shorter%20or%20longer%20than%20the%20predictable%20region%3F%0A%20%20%20%20%22%22%22)%2C%0A%20%20%20%20%20%20%20%20kind%3D%22neutral%22%2C%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20display_section3_interactive(%0A%20%20%20%20attractor_ref%2C%0A%20%20%20%20attractor_size%2C%0A%20%20%20%20go%2C%0A%20%20%20%20ic_choice%2C%0A%20%20%20%20lead_time%2C%0A%20%20%20%20lorenz%2C%0A%20%20%20%20mo%2C%0A%20%20%20%20n_members%2C%0A%20%20%20%20np%2C%0A%20%20%20%20perturb_exp%2C%0A%20%20%20%20solve_ivp%2C%0A)%3A%0A%20%20%20%20%23%20----%20ensemble%20integration%20----%0A%20%20%20%20_ic_map%20%3D%20%7B%0A%20%20%20%20%20%20%20%20%22predictable%22%3A%20np.array(%5B8.5%2C%20%208.5%2C%2027.0%5D)%2C%0A%20%20%20%20%20%20%20%20%22saddle%22%3A%20%20%20%20%20%20np.array(%5B0.1%2C%20%200.1%2C%20%200.1%5D)%2C%0A%20%20%20%20%20%20%20%20%22chaotic%22%3A%20%20%20%20%20np.array(%5B-5.0%2C%20-7.0%2C%2022.0%5D)%2C%0A%20%20%20%20%7D%0A%20%20%20%20_ic_labels%20%3D%20%7B%0A%20%20%20%20%20%20%20%20%22predictable%22%3A%20%22near%20lobe%20centre%20%E2%80%94%20relatively%20stable%20region%22%2C%0A%20%20%20%20%20%20%20%20%22saddle%22%3A%20%20%20%20%20%20%22near%20origin%20%E2%80%94%20highly%20unstable%20saddle%20point%22%2C%0A%20%20%20%20%20%20%20%20%22chaotic%22%3A%20%20%20%20%20%22lobe-transition%20zone%20%E2%80%94%20rapid%20lobe%20switching%22%2C%0A%20%20%20%20%7D%0A%20%20%20%20_x0%20%3D%20_ic_map%5Bic_choice.value%5D%0A%20%20%20%20_N%20%3D%20n_members.value%0A%20%20%20%20_T%20%3D%20lead_time.value%0A%20%20%20%20_pert%20%3D%2010.0%20**%20perturb_exp.value%0A%20%20%20%20_t_eval%20%3D%20np.linspace(0%2C%20_T%2C%20600)%0A%0A%20%20%20%20np.random.seed(42)%0A%20%20%20%20_perturbs%20%3D%20np.random.randn(_N%2C%203)%20*%20_pert%0A%20%20%20%20_trajs%20%3D%20np.zeros((_N%2C%203%2C%20len(_t_eval)))%0A%20%20%20%20for%20_i%20in%20range(_N)%3A%0A%20%20%20%20%20%20%20%20_sol%20%3D%20solve_ivp(%0A%20%20%20%20%20%20%20%20%20%20%20%20lorenz%2C%20(0%2C%20_T)%2C%20_x0%20%2B%20_perturbs%5B_i%5D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20t_eval%3D_t_eval%2C%20method%3D%22RK45%22%2C%20rtol%3D1e-9%2C%20atol%3D1e-12%2C%0A%20%20%20%20%20%20%20%20)%0A%20%20%20%20%20%20%20%20_trajs%5B_i%5D%20%3D%20_sol.y%0A%0A%20%20%20%20_std%20%3D%20np.std(_trajs%2C%20axis%3D0)%0A%20%20%20%20_rms_spread%20%3D%20np.sqrt(np.mean(_std%20**%202%2C%20axis%3D0))%0A%20%20%20%20_t_max%20%3D%20float(_t_eval%5B-1%5D)%0A%0A%20%20%20%20_idx_10%20%3D%20np.where(_rms_spread%20%3E%3D%200.1%20*%20attractor_size)%5B0%5D%0A%20%20%20%20_idx_90%20%3D%20np.where(_rms_spread%20%3E%3D%200.9%20*%20attractor_size)%5B0%5D%0A%20%20%20%20_t10%20%3D%20float(_t_eval%5B_idx_10%5B0%5D%5D)%20if%20len(_idx_10)%20else%20_t_max%0A%20%20%20%20_t90%20%3D%20float(_t_eval%5B_idx_90%5B0%5D%5D)%20if%20len(_idx_90)%20else%20_t_max%0A%0A%20%20%20%20_final_sat%20%3D%20float(_rms_spread%5B-1%5D%20%2F%20attractor_size)%0A%20%20%20%20if%20_final_sat%20%3C%200.3%3A%0A%20%20%20%20%20%20%20%20_regime%20%3D%20%22%F0%9F%9F%A2%20Ensemble%20well-clustered%20%E2%80%94%20forecast%20trustworthy%22%0A%20%20%20%20%20%20%20%20_ck%20%3D%20%22success%22%0A%20%20%20%20elif%20_final_sat%20%3C%200.8%3A%0A%20%20%20%20%20%20%20%20_regime%20%3D%20%22%F0%9F%9F%A0%20Spread%20growing%20rapidly%20%E2%80%94%20probabilistic%20guidance%20only%22%0A%20%20%20%20%20%20%20%20_ck%20%3D%20%22warn%22%0A%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20_regime%20%3D%20%22%F0%9F%94%B4%20Spread%20saturated%20%E2%80%94%20forecast%20is%20climatology%22%0A%20%20%20%20%20%20%20%20_ck%20%3D%20%22danger%22%0A%0A%20%20%20%20%23%20----%20phase-space%20figure%20----%0A%20%20%20%20_fig3d%20%3D%20go.Figure()%0A%20%20%20%20_fig3d.add_trace(go.Scatter3d(%0A%20%20%20%20%20%20%20%20x%3Dattractor_ref%5B0%5D%2C%20y%3Dattractor_ref%5B1%5D%2C%20z%3Dattractor_ref%5B2%5D%2C%0A%20%20%20%20%20%20%20%20mode%3D%22lines%22%2C%0A%20%20%20%20%20%20%20%20line%3Ddict(color%3D%22rgba(160%2C160%2C160%2C0.18)%22%2C%20width%3D1)%2C%0A%20%20%20%20%20%20%20%20showlegend%3DFalse%2C%20hoverinfo%3D%22skip%22%2C%0A%20%20%20%20))%0A%20%20%20%20for%20_i%20in%20range(_N)%3A%0A%20%20%20%20%20%20%20%20_hue%20%3D%20int(200%20%2B%20130%20*%20_i%20%2F%20max(_N%20-%201%2C%201))%0A%20%20%20%20%20%20%20%20_show%20%3D%20_i%20%3C%205%0A%20%20%20%20%20%20%20%20_fig3d.add_trace(go.Scatter3d(%0A%20%20%20%20%20%20%20%20%20%20%20%20x%3D_trajs%5B_i%2C%200%5D%2C%20y%3D_trajs%5B_i%2C%201%5D%2C%20z%3D_trajs%5B_i%2C%202%5D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mode%3D%22lines%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20line%3Ddict(color%3Df%22hsla(%7B_hue%7D%2C65%25%2C50%25%2C0.65)%22%2C%20width%3D1.8)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20name%3Df%22Member%20%7B_i%2B1%7D%22%20if%20_show%20else%20%22%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20showlegend%3D_show%2C%20hoverinfo%3D%22skip%22%2C%0A%20%20%20%20%20%20%20%20))%0A%20%20%20%20_fig3d.add_trace(go.Scatter3d(%0A%20%20%20%20%20%20%20%20x%3D_trajs%5B%3A%2C%200%2C%200%5D%2C%20y%3D_trajs%5B%3A%2C%201%2C%200%5D%2C%20z%3D_trajs%5B%3A%2C%202%2C%200%5D%2C%0A%20%20%20%20%20%20%20%20mode%3D%22markers%22%2C%0A%20%20%20%20%20%20%20%20marker%3Ddict(size%3D5%2C%20color%3D%22limegreen%22%2C%20opacity%3D0.9)%2C%0A%20%20%20%20%20%20%20%20name%3D%22t%20%3D%200%20%20(initial%20cloud)%22%2C%0A%20%20%20%20))%0A%20%20%20%20_fig3d.add_trace(go.Scatter3d(%0A%20%20%20%20%20%20%20%20x%3D_trajs%5B%3A%2C%200%2C%20-1%5D%2C%20y%3D_trajs%5B%3A%2C%201%2C%20-1%5D%2C%20z%3D_trajs%5B%3A%2C%202%2C%20-1%5D%2C%0A%20%20%20%20%20%20%20%20mode%3D%22markers%22%2C%0A%20%20%20%20%20%20%20%20marker%3Ddict(size%3D5%2C%20color%3D%22crimson%22%2C%20opacity%3D0.9)%2C%0A%20%20%20%20%20%20%20%20name%3Df%22t%20%3D%20%7B_T%7D%20MTU%20%20(final%20cloud)%22%2C%0A%20%20%20%20))%0A%20%20%20%20_fig3d.update_layout(%0A%20%20%20%20%20%20%20%20height%3D520%2C%0A%20%20%20%20%20%20%20%20title%3Ddict(text%3Df%22Ensemble%20in%20phase%20space%20%20%7C%20%20IC%3A%20%7B_ic_labels%5Bic_choice.value%5D%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20x%3D0.5%2C%20font_size%3D12)%2C%0A%20%20%20%20%20%20%20%20scene%3Ddict(xaxis_title%3D%22X%22%2C%20yaxis_title%3D%22Y%22%2C%20zaxis_title%3D%22Z%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20camera%3Ddict(eye%3Ddict(x%3D1.5%2C%20y%3D1.2%2C%20z%3D0.9))%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20bgcolor%3D%22rgba(245%2C248%2C255%2C0.6)%22)%2C%0A%20%20%20%20%20%20%20%20margin%3Ddict(l%3D0%2C%20r%3D0%2C%20t%3D55%2C%20b%3D0)%2C%0A%20%20%20%20%20%20%20%20legend%3Ddict(x%3D0.01%2C%20y%3D0.99%2C%20font_size%3D10%2C%20bgcolor%3D%22rgba(255%2C255%2C255%2C0.85)%22)%2C%0A%20%20%20%20%20%20%20%20paper_bgcolor%3D%22white%22%2C%0A%20%20%20%20)%0A%0A%20%20%20%20%23%20----%20spread%20time-series%20figure%20----%0A%20%20%20%20_fig2d%20%3D%20go.Figure()%0A%20%20%20%20_fig2d.add_trace(go.Scatter(%0A%20%20%20%20%20%20%20%20x%3D_t_eval%2C%20y%3D_rms_spread%2C%0A%20%20%20%20%20%20%20%20mode%3D%22lines%22%2C%0A%20%20%20%20%20%20%20%20line%3Ddict(color%3D%22%231a3a6e%22%2C%20width%3D2.5)%2C%0A%20%20%20%20%20%20%20%20name%3D%22RMS%20spread%22%2C%0A%20%20%20%20%20%20%20%20fill%3D%22tozeroy%22%2C%0A%20%20%20%20%20%20%20%20fillcolor%3D%22rgba(26%2C58%2C110%2C0.08)%22%2C%0A%20%20%20%20))%0A%20%20%20%20_fig2d.add_hline(%0A%20%20%20%20%20%20%20%20y%3Dattractor_size%2C%0A%20%20%20%20%20%20%20%20line%3Ddict(color%3D%22firebrick%22%2C%20dash%3D%22dash%22%2C%20width%3D1.5)%2C%0A%20%20%20%20%20%20%20%20annotation_text%3D%22Attractor%20size%20%E2%80%94%20fully%20unpredictable%22%2C%0A%20%20%20%20%20%20%20%20annotation_position%3D%22top%20left%22%2C%0A%20%20%20%20%20%20%20%20annotation_font_size%3D11%2C%0A%20%20%20%20)%0A%20%20%20%20_fig2d.add_hline(%0A%20%20%20%20%20%20%20%20y%3D0.1%20*%20attractor_size%2C%0A%20%20%20%20%20%20%20%20line%3Ddict(color%3D%22darkorange%22%2C%20dash%3D%22dot%22%2C%20width%3D1.5)%2C%0A%20%20%20%20%20%20%20%20annotation_text%3D%2210%20%25%20saturation%20threshold%22%2C%0A%20%20%20%20%20%20%20%20annotation_position%3D%22bottom%20right%22%2C%0A%20%20%20%20%20%20%20%20annotation_font_size%3D11%2C%0A%20%20%20%20)%0A%20%20%20%20for%20_shade%20in%20%5B%0A%20%20%20%20%20%20%20%20dict(x0%3D0%2C%20%20%20%20x1%3D_t10%2C%20%20color%3D%22rgba(0%2C180%2C0%2C0.08)%22%2C%20%20%20label%3D%22%F0%9F%9F%A2%20Predictable%22)%2C%0A%20%20%20%20%20%20%20%20dict(x0%3D_t10%2C%20x1%3D_t90%2C%20%20color%3D%22rgba(255%2C165%2C0%2C0.08)%22%2C%20label%3D%22%F0%9F%9F%A0%20Semi-predictable%22)%2C%0A%20%20%20%20%20%20%20%20dict(x0%3D_t90%2C%20x1%3D_t_max%2C%20color%3D%22rgba(220%2C0%2C0%2C0.08)%22%2C%20%20label%3D%22%F0%9F%94%B4%20Unpredictable%22)%2C%0A%20%20%20%20%5D%3A%0A%20%20%20%20%20%20%20%20if%20_shade%5B%22x0%22%5D%20%3C%20_shade%5B%22x1%22%5D%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_fig2d.add_vrect(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20x0%3D_shade%5B%22x0%22%5D%2C%20x1%3D_shade%5B%22x1%22%5D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20fillcolor%3D_shade%5B%22color%22%5D%2C%20line_width%3D0%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20annotation_text%3D_shade%5B%22label%22%5D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20annotation_position%3D%22top%20left%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20annotation_font_size%3D10%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20)%0A%20%20%20%20_fig2d.update_layout(%0A%20%20%20%20%20%20%20%20height%3D520%2C%0A%20%20%20%20%20%20%20%20title%3Ddict(%0A%20%20%20%20%20%20%20%20%20%20%20%20text%3Df%22Ensemble%20spread%20%20%7C%20%20N%20%3D%20%7B_N%7D%20%20%C2%B7%20%20%CE%B4%E2%82%80%20%3D%2010%5E%7Bperturb_exp.value%3A.1f%7D%20%20%C2%B7%20%20T%20%3D%20%7B_T%7D%20MTU%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20font_size%3D12%2C%20x%3D0.5%2C%20xanchor%3D%22center%22%2C%0A%20%20%20%20%20%20%20%20)%2C%0A%20%20%20%20%20%20%20%20margin%3Ddict(l%3D5%2C%20r%3D5%2C%20t%3D55%2C%20b%3D5)%2C%0A%20%20%20%20%20%20%20%20paper_bgcolor%3D%22white%22%2C%0A%20%20%20%20)%0A%20%20%20%20_fig2d.update_xaxes(title_text%3D%22Lead%20time%20(MTU)%22%2C%20gridcolor%3D%22%23e8e8e8%22)%0A%20%20%20%20_fig2d.update_yaxes(title_text%3D%22RMS%20ensemble%20spread%22%2C%20type%3D%22log%22%2C%20gridcolor%3D%22%23e8e8e8%22)%0A%0A%20%20%20%20mo.vstack(%5B%0A%20%20%20%20%20%20%20%20mo.md(%22%23%23%23%20%E2%9A%99%EF%B8%8F%20Controls%22)%2C%0A%20%20%20%20%20%20%20%20mo.hstack(%5Bic_choice%2C%20n_members%5D%2C%20gap%3D%223rem%22)%2C%0A%20%20%20%20%20%20%20%20mo.hstack(%5Bperturb_exp%2C%20lead_time%5D%2C%20gap%3D%223rem%22)%2C%0A%20%20%20%20%20%20%20%20mo.hstack(%5B_fig3d%2C%20_fig2d%5D%2C%20widths%3D%5B1%2C%201%5D)%2C%0A%20%20%20%20%20%20%20%20mo.callout(%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.md(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22**%F0%9F%92%A1%20Live%20readout**%20%26nbsp%3B%7C%26nbsp%3B%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22N%20%3D%20%7B_N%7D%20members%20%26nbsp%3B%C2%B7%26nbsp%3B%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22%CE%B4%E2%82%80%20%3D%2010%5E%7Bperturb_exp.value%3A.1f%7D%20%26nbsp%3B%C2%B7%26nbsp%3B%20T%20%3D%20%7B_T%7D%20MTU%20%20%5Cn%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22Predictability%20horizon%20(spread%20%3E%2010%20%25)%3A%20**t%20%E2%89%88%20%7B_t10%3A.1f%7D%20MTU**%20%20%5Cn%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22Full%20saturation%20(spread%20%3E%2090%20%25)%3A%20**t%20%E2%89%88%20%7B_t90%3A.1f%7D%20MTU**%20%20%5Cn%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22Final%20saturation%3A%20**%7B_final_sat%3A.0%25%7D**%20of%20attractor%20size%20%20%5Cn%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_regime%7D%22%0A%20%20%20%20%20%20%20%20%20%20%20%20)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20kind%3D_ck%2C%0A%20%20%20%20%20%20%20%20)%2C%0A%20%20%20%20%5D)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20display_section3_calibration(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Ensemble%20spread%20vs.%20ensemble%20mean%20error%0A%0A%20%20%20%20A%20perfectly%20calibrated%20ensemble%20satisfies%3A%0A%20%20%20%20%24%24%5Clangle%20%5Csigma%5E2_%5Ctext%7Bspread%7D%20%5Crangle%20%3D%20%5Clangle%20%5Cepsilon%5E2_%5Ctext%7Bmean%7D%20%5Crangle%24%24%0A%0A%20%20%20%20where%20%24%5Cepsilon_%5Ctext%7Bmean%7D%20%3D%20%7C%5Cbar%20X%20-%20X_%5Ctext%7Btruth%7D%7C%24%20is%20the%20ensemble-mean%20error.%0A%20%20%20%20In%20practice%2C%20most%20NWP%20ensembles%20are%20**underdispersive**%20(spread%20%3C%20error)%20because%3A%0A%0A%20%20%20%201.%20Initial%20perturbations%20do%20not%20fully%20sample%20the%20true%20analysis%20error%0A%20%20%20%202.%20Model%20error%20is%20not%20fully%20represented%0A%20%20%20%203.%20Ensemble%20size%20%24N%24%20is%20finite%0A%0A%20%20%20%20Underdispersion%20means%20the%20ensemble%20is%20**overconfident**.%0A%20%20%20%20Calibration%20techniques%20(inflation%2C%20rank%20histogram%20adjustment)%20correct%20for%20this%20in%20post-processing.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20display_section4_text(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20---%0A%20%20%20%20%23%23%204%20%C2%B7%20Connection%20to%20the%20Real%20Atmosphere%0A%0A%20%20%20%20The%20Lorenz%20model%20is%20a%20toy%2C%20but%20its%20key%20numbers%20map%20onto%20the%20real%20atmosphere%0A%20%20%20%20with%20surprising%20fidelity.%0A%0A%20%20%20%20%23%23%23%20Lyapunov%20numbers%3A%20model%20vs.%20atmosphere%0A%0A%20%20%20%20%7C%20Quantity%20%7C%20Lorenz%2063%20%7C%20Real%20atmosphere%20%7C%0A%20%20%20%20%7C----------%7C-----------%7C----------------%7C%0A%20%20%20%20%7C%20Leading%20Lyapunov%20exponent%20%24%5Clambda%24%20%7C%20%E2%89%88%200.9%20MTU%E2%81%BB%C2%B9%20%7C%20%E2%89%88%200.35%20day%E2%81%BB%C2%B9%20%7C%0A%20%20%20%20%7C%20Error%20doubling%20time%20%24%5Cln%202%20%2F%20%5Clambda%24%20%7C%20%E2%89%88%200.8%20MTU%20%7C%20%E2%89%88%202%20days%20%7C%0A%20%20%20%20%7C%20Predictability%20horizon%20(spread%20%3E%2010%20%25)%20%7C%20%E2%89%88%203%E2%80%935%20MTU%20%7C%20%E2%89%88%201%E2%80%932%20weeks%20%7C%0A%20%20%20%20%7C%20Full%20saturation%20%7C%20%E2%89%88%206%E2%80%939%20MTU%20%7C%20%E2%89%88%203%E2%80%934%20weeks%20%7C%0A%0A%20%20%20%20With%201%20MTU%20%E2%89%88%205%20days%2C%20ECMWF%20achieves%20useful%20deterministic%20skill%20to%20about%2010%20days%20%E2%80%94%0A%20%20%20%20roughly%202%20MTU%2C%20or%20about%202.5%20e-folding%20times.%0A%0A%20%20%20%20%23%23%23%20The%20diminishing%20return%20of%20better%20observations%0A%0A%20%20%20%20Suppose%20you%20improve%20your%20analysis%20error%20from%20%24%5Cdelta_0%24%20to%20%24%5Cdelta_0%20%2F%2010%24.%0A%20%20%20%20The%20extra%20predictable%20time%20gained%20is%0A%0A%20%20%20%20%24%24%5CDelta%20t%20%3D%20%5Cfrac%7B%5Cln%2010%7D%7B%5Clambda%7D%20%5Capprox%20%5Cfrac%7B2.3%7D%7B0.35%5C%3B%5Ctext%7Bday%7D%5E%7B-1%7D%7D%20%5Capprox%206.5%5C%3B%5Ctext%7Bdays%7D%24%24%0A%0A%20%20%20%20A%20factor-of-10%20improvement%20buys%20only%20**6.5%20extra%20days**.%0A%20%20%20%20A%20factor-of-100%20improvement%20buys%20only%20**13%20extra%20days**.%0A%20%20%20%20This%20logarithmic%20ceiling%20means%20the%20%E2%89%88%202%E2%80%933%20week%20predictability%20limit%20is%0A%20%20%20%20**fundamental%2C%20not%20a%20consequence%20of%20inadequate%20technology**.%0A%0A%20%20%20%20%23%23%23%20Historical%20skill%20improvement%20at%20ECMWF%0A%0A%20%20%20%20ECMWF%20tracks%20forecast%20skill%20continuously%20since%201980.%0A%20%20%20%20The%20500%20hPa%20geopotential%20anomaly%20correlation%20(AC)%20score%3A%20a%20score%20of%200.6%20is%0A%20%20%20%20the%20conventional%20threshold%20for%20%22useful%22%20forecasting.%0A%0A%20%20%20%20%7C%20Era%20%7C%20500%20hPa%20AC%20%3D%200.6%20reached%20at...%20%7C%0A%20%20%20%20%7C-----%7C-------------------------------%7C%0A%20%20%20%20%7C%201980%20%7C%20%E2%89%88%205%20days%20(Northern%20Hemisphere)%20%7C%0A%20%20%20%20%7C%201990%20%7C%20%E2%89%88%207%20days%20%7C%0A%20%20%20%20%7C%202000%20%7C%20%E2%89%88%208%20days%20%7C%0A%20%20%20%20%7C%202010%20%7C%20%E2%89%88%209%20days%20%7C%0A%20%20%20%20%7C%202020%20%7C%20%E2%89%88%209%E2%80%9310%20days%20%7C%0A%0A%20%20%20%20The%20slowing%20rate%20of%20improvement%20is%20consistent%20with%20the%20**logarithmic%20limit**%20imposed%20by%20SDIC.%0A%0A%20%20%20%20%23%23%23%20Predictability%20of%20the%20second%20kind%0A%0A%20%20%20%20Everything%20above%20is%20**predictability%20of%20the%20first%20kind**%3A%20initial-value%20prediction%0A%20%20%20%20of%20a%20specific%20trajectory.%20%20There%20is%20also%20a%20**second%20kind**%3A%20predicting%20the%20*response%0A%20%20%20%20of%20the%20attractor%20to%20a%20sustained%20external%20forcing*.%0A%0A%20%20%20%20In%20the%20Lorenz%20system%2C%20individual%20trajectories%20become%20unpredictable%20after%20%E2%89%88%205%E2%80%938%20MTU%2C%0A%20%20%20%20but%20if%20you%20change%20%24%5Crho%24%20(the%20forcing%20parameter)%2C%20the%20*time-mean*%20of%20%24X%24%20shifts%0A%20%20%20%20systematically%20%E2%80%94%20and%20that%20shift%20can%20be%20predicted%20even%20when%20individual%20trajectories%20cannot.%0A%20%20%20%20This%20is%20the%20mathematical%20analogue%20of%20the%20climate-vs-weather%20distinction.%0A%0A%20%20%20%20%7C%20Phenomenon%20%7C%20Typical%20lead%20time%20%7C%20Mechanism%20%7C%0A%20%20%20%20%7C------------%7C------------------%7C-----------%7C%0A%20%20%20%20%7C%20El%20Ni%C3%B1o%20%2F%20La%20Ni%C3%B1a%20(ENSO)%20%7C%206%E2%80%9318%20months%20%7C%20Slow%20ocean-atmosphere%20coupling%20%7C%0A%20%20%20%20%7C%20Monsoon%20onset%20%7C%202%E2%80%934%20weeks%20%7C%20Land%E2%80%93sea%20thermal%20contrast%20%7C%0A%20%20%20%20%7C%20Stratospheric%20sudden%20warmings%20%7C%202%E2%80%933%20weeks%20%7C%20Wave-mean-flow%20interaction%20%7C%0A%20%20%20%20%7C%20Long-term%20climate%20change%20%7C%20Decades%E2%80%93centuries%20%7C%20Radiative%20forcing%20from%20GHGs%20%7C%0A%0A%20%20%20%20%7C%20Predictability%20type%20%7C%20Question%20asked%20%7C%20Chaotic%20limit%20applies%3F%20%7C%0A%20%20%20%20%7C---------------------%7C----------------%7C----------------------%7C%0A%20%20%20%20%7C%20**1st%20kind**%20%7C%20Where%20will%20this%20air%20mass%20be%20in%2010%20days%3F%20%7C%20Yes%20%E2%80%94%20hard%20ceiling%20%7C%0A%20%20%20%20%7C%20**2nd%20kind**%20%7C%20How%20will%20the%20*average*%20temperature%20change%20if%20CO%E2%82%82%20doubles%3F%20%7C%20No%20%E2%80%94%20signal%20persists%20%7C%0A%0A%20%20%20%20Climate%20projections%20are%20a%20predictability-of-the-second-kind%20problem.%0A%20%20%20%20Their%20uncertainty%20comes%20from%20*model%20structural%20error*%20and%20*scenario%20uncertainty*%2C%0A%20%20%20%20not%20from%20the%20butterfly%20effect.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20display_section4_callout(mo)%3A%0A%20%20%20%20mo.callout(%0A%20%20%20%20%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20**Key%20take-aways%20from%20this%20tutorial**%0A%0A%20%20%20%201.%20**Chaos%20is%20irreducible%3A**%20SDIC%20means%20that%20no%20finite%20improvement%20in%20initial%0A%20%20%20%20%20%20%20conditions%20can%20extend%20deterministic%20forecast%20skill%20indefinitely.%0A%20%20%20%20%20%20%20The%20atmosphere%20has%20a%20hard%20predictability%20ceiling%20near%202%E2%80%933%20weeks.%0A%0A%20%20%20%202.%20**Ensembles%20are%20the%20correct%20response%3A**%20A%20probabilistic%20forecast%20communicates%0A%20%20%20%20%20%20%20the%20*distribution*%20of%20possible%20futures%20honestly.%20%20A%20deterministic%20forecast%0A%20%20%20%20%20%20%20beyond%20the%20predictability%20horizon%20is%20overconfident%20by%20construction.%0A%0A%20%20%20%203.%20**The%20two%20kinds%20of%20predictability%20are%20different%20problems%3A**%0A%20%20%20%20%20%20%20Weather%20forecasting%20(1st%20kind)%20is%20limited%20by%20chaos.%0A%20%20%20%20%20%20%20Climate%20projection%20(2nd%20kind)%20is%20not%20%E2%80%94%20but%20faces%20other%20sources%20of%20uncertainty.%0A%0A%20%20%20%204.%20**Improving%20observations%20has%20diminishing%20returns%3A**%0A%20%20%20%20%20%20%20Each%20decade%20of%20improvement%20in%20%24%5Cdelta_0%24%20buys%20only%20%24%5Cln(10)%2F%5Clambda%24%20extra%20days.%0A%20%20%20%20%20%20%20For%20the%20atmosphere%20that%20is%20%E2%89%88%206.5%20days%20per%20decade.%0A%0A%20%20%20%205.%20**Flow-dependent%20predictability%20matters%3A**%0A%20%20%20%20%20%20%20Not%20all%20weather%20patterns%20are%20equally%20predictable.%0A%20%20%20%20%20%20%20Ensemble%20spread%20is%20the%20operational%20estimate%20of%20this%20situation-dependent%20uncertainty.%0A%20%20%20%20%22%22%22)%2C%0A%20%20%20%20%20%20%20%20kind%3D%22info%22%2C%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20display_questions(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20---%0A%20%20%20%20%23%23%20%F0%9F%93%9D%20Guided%20Questions%0A%0A%20%20%20%20Work%20through%20these%20with%20a%20neighbour%20(~15%20min).%20%20We%20will%20discuss%20as%20a%20group.%0A%0A%20%20%20%20---%0A%0A%20%20%20%20**Q1%20%E2%80%94%20Predictability%20horizon**%20*(Section%203)*%0A%0A%20%20%20%20Set%20%CE%B4%E2%82%80%20%3D%2010%E2%81%BB%E2%81%B4%2C%20N%20%3D%2020%2C%20starting%20location%20%3D%20*Predictable%20region*.%0A%20%20%20%20Drag%20lead%20time%20slowly%20from%201%20%E2%86%92%2030%20MTU.%0A%0A%20%20%20%20-%20At%20what%20lead%20time%20does%20the%20green%20start-cloud%20scatter%20across%20the%20entire%20attractor%3F%0A%20%20%20%20-%20Which%20colour%20zone%20does%20the%20spread%20plot%20enter%20at%20that%20point%3F%0A%20%20%20%20-%20Switch%20to%20*Chaotic%20lobe%20transition*.%20%20Is%20the%20horizon%20earlier%20or%20later%3F%0A%20%20%20%20%20%20Why%20might%20some%20regions%20of%20the%20attractor%20be%20more%20predictable%20than%20others%3F%0A%0A%20%20%20%20---%0A%0A%20%20%20%20**Q2%20%E2%80%94%20Sensitivity%20to%20perturbation%20size**%20*(Section%203)*%0A%0A%20%20%20%20Fix%20lead%20time%20%3D%2015%20MTU.%20%20Slide%20%CE%B4%E2%82%80%20from%2010%E2%81%BB%E2%81%B6%20%E2%86%92%2010%E2%81%BB%C2%B9.%0A%0A%20%20%20%20-%20Does%20reducing%20%CE%B4%E2%82%80%20by%20**one%20decade**%20give%20you%20a%20proportionally%20longer%20horizon%3F%0A%20%20%20%20-%20Using%20%24%5Clambda%20%5Capprox%200.9%5C%3B%5Ctext%7BMTU%7D%5E%7B-1%7D%24%2C%20calculate%20the%20expected%20extra%0A%20%20%20%20%20%20predictable%20time%3A%20%24%5CDelta%20t%20%3D%20%5Cln(10)%2F%5Clambda%20%3D%20%3F%24%20%20Does%20your%20experiment%20agree%3F%0A%20%20%20%20-%20What%20does%20this%20imply%20for%20the%20practical%20benefit%20of%20improving%20atmospheric%0A%20%20%20%20%20%20observations%20by%20an%20order%20of%20magnitude%3F%0A%0A%20%20%20%20---%0A%0A%20%20%20%20**Q3%20%E2%80%94%20Ensemble%20size**%20*(Section%203)*%0A%0A%20%20%20%20Fix%20lead%20time%20%3D%2015%20MTU%20and%20%CE%B4%E2%82%80%20%3D%2010%E2%81%BB%E2%81%B4.%20%20Compare%20N%20%3D%205%20vs%20N%20%3D%2050.%0A%0A%20%20%20%20-%20How%20noisy%20is%20the%20spread%20estimate%20with%20N%20%3D%205%3F%0A%20%20%20%20%20%20Could%20you%20reliably%20identify%20the%20predictability%20horizon%20from%20it%3F%0A%20%20%20%20-%20At%20what%20N%20does%20the%20spread%20curve%20look%20smooth%20enough%20to%20trust%3F%0A%20%20%20%20-%20ECMWF%20uses%2051%20members.%20%20Based%20on%20your%20experiments%2C%20does%20that%20seem%20justified%3F%0A%0A%20%20%20%20---%0A%0A%20%20%20%20**Q4%20%E2%80%94%20Quantitative%20connection%20to%20the%20real%20atmosphere**%20*(Sections%202%20%26%204)*%0A%0A%20%20%20%20The%20error%20e-folding%20time%20in%20L63%20is%20%E2%89%88%200.8%20MTU%20%E2%89%88%204%20days.%0A%20%20%20%20ECMWF%20achieves%20useful%20skill%20to%20%E2%89%88%2010%20days.%0A%0A%20%20%20%20-%20How%20many%20e-folding%20times%20is%20a%2010-day%20forecast%3F%0A%20%20%20%20-%20If%20ECMWF%20could%20reduce%20analysis%20error%20by%20a%20factor%20of%20100%2C%20how%20many%20extra%20days%0A%20%20%20%20%20%20of%20deterministic%20predictability%20would%20that%20buy%3F%20%20Use%20%24%5CDelta%20t%20%3D%20%5Cln(100)%20%2F%200.35%5C%3B%5Ctext%7Bday%7D%5E%7B-1%7D%24.%0A%20%20%20%20-%20Is%20this%20gain%20worth%20the%20cost%20of%20a%20factor-100%20improvement%20in%20observations%3F%0A%0A%20%20%20%20---%0A%0A%20%20%20%20**Q5%20%E2%80%94%20Predictability%20of%20the%20second%20kind**%20*(Section%204%2C%20bonus)*%0A%0A%20%20%20%20Set%20starting%20location%20%3D%20*Near%20saddle%20point*%2C%20%CE%B4%E2%82%80%20%3D%2010%E2%81%BB%E2%81%B6%2C%20N%20%3D%2020.%0A%20%20%20%20Watch%20the%20ensemble%20saturate%20%E2%80%94%20individual%20trajectories%20become%20completely%20uncorrelated.%0A%0A%20%20%20%20-%20Suppose%20you%20care%20not%20about%20any%20specific%20trajectory%20but%20about%20the%0A%20%20%20%20%20%20**long-run%20time-average**%20of%20%24X%24.%20%20Would%20that%20remain%20predictable%20after%20the%20Lorenz%20time%3F%20%20Why%3F%0A%20%20%20%20-%20If%20someone%20changed%20%24%5Crho%24%20from%2028%20to%2030%2C%20could%20you%20predict%20the%20*new*%20time-mean%20of%20%24X%24%0A%20%20%20%20%20%20even%20though%20individual%20trajectories%20are%20still%20chaotic%3F%0A%20%20%20%20-%20How%20does%20this%20connect%20to%20the%20distinction%20between%20weather%20forecasting%0A%20%20%20%20%20%20(**predictability%20of%20the%201st%20kind**)%20and%20climate%20projection%20(**predictability%20of%20the%202nd%20kind**)%3F%0A%0A%20%20%20%20---%0A%0A%20%20%20%20*System%3A%20Lorenz%20(1963)%2C%20%CF%83%20%3D%2010%2C%20%CF%81%20%3D%2028%2C%20%CE%B2%20%3D%208%2F3.*%0A%20%20%20%20*Integration%3A%20RK45%20(scipy)%2C%20rtol%20%3D%2010%E2%81%BB%E2%81%B9.*%0A%20%20%20%20*Ensemble%20perturbations%3A%20iid%20Gaussian%20with%20seed%20%3D%2042.*%0A%20%20%20%20*1%20MTU%20%E2%89%88%205%20days%20in%20the%20real%20atmosphere.*%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20cell_further_reading(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20---%0A%20%20%20%20%23%23%20%F0%9F%93%9A%20Further%20Reading%0A%0A%20%20%20%20%23%23%23%20Original%20papers%0A%0A%20%20%20%20-%20**Lorenz%2C%20E.%20N.%20(1963)**.%20*Deterministic%20nonperiodic%20flow.*%0A%20%20%20%20%20%20Journal%20of%20the%20Atmospheric%20Sciences%2C%2020(2)%2C%20130%E2%80%93141.%0A%20%20%20%20%20%20The%20founding%20paper.%20%20Remarkably%20readable%20for%20a%20mathematical%20landmark.%0A%0A%20%20%20%20-%20**Lorenz%2C%20E.%20N.%20(1965)**.%20*A%20study%20of%20the%20predictability%20of%20a%2028-variable%20atmospheric%20model.*%0A%20%20%20%20%20%20Tellus%2C%2017(3)%2C%20321%E2%80%93333.%20%20First%20estimate%20of%20the%20atmospheric%20predictability%20limit.%0A%0A%20%20%20%20-%20**Lorenz%2C%20E.%20N.%20(1975)**.%20*Climatic%20predictability.*%0A%20%20%20%20%20%20GARP%20Publication%20Series%20No.%2016%2C%20132%E2%80%93136.%0A%20%20%20%20%20%20Introduces%20the%20first%2Fsecond-kind%20predictability%20distinction.%0A%0A%20%20%20%20-%20**Epstein%2C%20E.%20S.%20(1969)**.%20*Stochastic%20dynamic%20prediction.*%0A%20%20%20%20%20%20Tellus%2C%2021(6)%2C%20739%E2%80%93759.%20%20The%20first%20formal%20ensemble%20forecasting%20proposal.%0A%0A%20%20%20%20-%20**Palmer%2C%20T.%20N.%20(2000)**.%20*Predicting%20uncertainty%20in%20forecasts%20of%20weather%20and%20climate.*%0A%20%20%20%20%20%20Reports%20on%20Progress%20in%20Physics%2C%2063(2)%2C%2071.%0A%20%20%20%20%20%20Excellent%20review%20connecting%20chaos%20theory%20to%20operational%20NWP.%0A%0A%20%20%20%20%23%23%23%20Books%0A%0A%20%20%20%20-%20**Lorenz%2C%20E.%20N.%20(1993)**.%20*The%20Essence%20of%20Chaos.*%20University%20of%20Washington%20Press.%0A%20%20%20%20%20%20Lorenz's%20own%20account%2C%20written%20for%20a%20general%20audience.%20%20Highly%20recommended.%0A%0A%20%20%20%20-%20**Gleick%2C%20J.%20(1987)**.%20*Chaos%3A%20Making%20a%20New%20Science.*%20Viking%20Penguin.%0A%20%20%20%20%20%20Popular%20science%20account%20of%20the%20chaos%20revolution%3B%20contains%20the%20Lorenz%20story.%0A%0A%20%20%20%20-%20**Palmer%2C%20T.%20N.%20%26%20Hagedorn%2C%20R.%20(Eds.)%20(2006)**.%20*Predictability%20of%20Weather%20and%20Climate.*%0A%20%20%20%20%20%20Cambridge%20University%20Press.%20%20Comprehensive%20graduate-level%20treatment.%0A%0A%20%20%20%20-%20**Kalnay%2C%20E.%20(2003)**.%20*Atmospheric%20Modelling%2C%20Data%20Assimilation%20and%20Predictability.*%0A%20%20%20%20%20%20Cambridge%20University%20Press.%20%20Standard%20NWP%20textbook%3B%20Chapter%206%20covers%20ensembles.%0A%0A%20%20%20%20---%0A%20%20%20%20*Notebook%20by%20Aneesh%20C.%20Subramanian%20%E2%80%94%20FERS%20Summer%20School%202026.*%0A%20%20%20%20*Built%20with%20%5Bmarimo%5D(https%3A%2F%2Fmarimo.io)%2C%20%5BNumPy%5D(https%3A%2F%2Fnumpy.org)%2C%20%5BSciPy%5D(https%3A%2F%2Fscipy.org)%2C%20%5BPlotly%5D(https%3A%2F%2Fplotly.com).*%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0Aif%20__name__%20%3D%3D%20%22__main__%22%3A%0A%20%20%20%20app.run()%0A