Compute4PUNCH 同 Storage4PUNCH：粒子、天體同核子物理學嘅聯邦式基礎設施

1. 簡介

PUNCH4NFDI（國家研究數據基礎設施嘅粒子、宇宙、原子核同強子）聯盟，由德國研究基金會（DFG）資助，代表咗德國粒子物理、天體物理、天體粒子物理、強子物理同核子物理界別大約 9,000 名科學家。作為國家 NFDI 倡議嘅一部分，其主要目標係建立一個聯邦式同符合 FAIR（可查找、可存取、可互通、可重用）原則嘅科學數據平台。呢個平台旨在無縫存取其成員機構貢獻嘅多元化同異構嘅運算同儲存資源，以應對用複雜算法分析指數級增長數據量嘅共同挑戰。本文檔詳細介紹為咗聯邦化呢啲資源而開發嘅 Compute4PUNCH 同 Storage4PUNCH 概念。

2. 聯邦式異構運算基礎設施 – Compute4PUNCH

Compute4PUNCH 旨在解決有效利用分佈喺德國各地、由各方貢獻嘅大量高通量運算（HTC）、高效能運算（HPC）同雲端資源嘅挑戰。呢啲資源喺架構、操作系統、軟件同身份驗證方面都唔同，而且已經用於其他用途，限制咗修改嘅空間。

3. 聯邦式儲存基礎設施 – Storage4PUNCH

Storage4PUNCH 專注於聯邦化由社群提供嘅儲存系統，主要基於高能物理（HEP）領域已廣泛使用嘅 dCache 同 XRootD 技術。聯邦化創建咗一個通用嘅命名空間同存取層。該概念亦評估咗現有技術用於：

• 快取： 改善數據存取延遲並減少廣域網流量，類似全球數據網格（例如大型強子對撞機計算網格 WLCG）中使用嘅概念。
• 元數據處理： 旨在實現更深層次嘅整合，以基於元數據屬性進行數據發現，超越簡單嘅檔案定位。

結合嘅 Compute4PUNCH 同 Storage4PUNCH 環境使研究人員能夠執行需要協調存取運算能力同大型數據集嘅資源密集型分析任務。

4. 技術細節同數學框架

COBalD/TARDIS 嘅資源調度可以建模為一個優化問題。設 $J = \{j_1, j_2, ..., j_n\}$ 為 HTCondor 隊列中嘅一組工作，$P = \{p_1, p_2, ..., p_m\}$ 為可用資源（本地同外部）嘅資源池。每個工作 $j_i$ 有需求 $R_i$（CPU 核心、記憶體、GPU、軟件）。每個資源 $p_k$ 有性能 $C_k$ 同一個成本函數 $\text{Cost}(p_k, t)$，成本可能係金錢上或基於優先級/積分。

元調度器嘅目標係找到一個映射 $M: J \rightarrow P$，喺滿足約束條件嘅同時最小化總成本或完成時間： $$\text{minimize } \sum_{j_i \in J} \text{Cost}(M(j_i), t)$$ $$\text{subject to } R_i \subseteq C_{M(j_i)} \text{ for all } j_i \in J.$$ COBalD 採用啟發式或機器學習策略來解決呢個隨工作同資源可用性變化而動態變化嘅線上優化問題。

5. 實驗結果同原型性能

本文報告咗喺可用原型上運行科學應用程式嘅初步經驗。雖然提供嘅摘要中冇詳細說明具體基準測試數字，但唔同社群應用程式嘅成功執行驗證咗架構。對於呢類聯邦系統，關鍵績效指標（KPI）通常包括：

• 工作吞吐量： 聯邦系統每日完成嘅工作數量。
• 資源利用率： 貢獻資源（特別係外部、可突發嘅資源）被積極使用嘅時間百分比，展示 COBalD 動態配置嘅效率。
• 數據傳輸效率： 工作從 Storage4PUNCH 聯邦存取數據嘅延遲同頻寬，對於 I/O 密集型分析至關重要。
• 用戶滿意度： 透過用戶調查衡量，工作提交複雜度同等待時間嘅減少。

原型階段對於壓力測試 AAI 整合、HTCondor 覆蓋層嘅穩健性，以及 CVMFS 向數千個並行工作分發軟件嘅可擴展性至關重要。

6. 分析框架：一個用例場景

場景： 一位核子物理研究人員需要使用複雜嘅蒙特卡羅模擬鏈處理 1 PB 嘅探測器數據。

1. 存取： 研究人員使用其機構憑證（透過基於令牌嘅 AAI）登入 PUNCH JupyterHub。
2. 軟件： 佢嘅筆記本自動從 CVMFS 掛載所需嘅軟件堆疊，並實例化一個包含特定模擬庫嘅容器。
3. 數據： 筆記本代碼使用聯邦式 Storage4PUNCH 命名空間引用數據（例如 `root://punch-federation.de/path/to/data`）。XRootD 協議處理位置同傳輸。
4. 運算： 研究人員透過一個與 HTCondor REST API 對接嘅 Python 封裝程式提交 10,000 個並行工作。COBalD/TARDIS 動態配置本地 HTCondor 工作節點同突發 HPC 雲端節點嘅混合資源來處理峰值負載。
5. 協調： HTCondor 管理工作生命週期。輸出寫返入聯邦式儲存。研究人員透過 JupyterHub 儀表板監控進度。

呢個場景展示咗框架旨在實現嘅無縫整合，隱藏咗基礎設施嘅複雜性。

7. 未來應用同發展路線圖

PUNCH4NFDI 基礎設施係國家級研究聯邦嘅藍圖。

• 跨聯盟聯邦： 該模型可以擴展到其他 NFDI 聯盟（例如生命科學、工程領域），創建真正嘅國家研究數據基礎設施骨幹。聯盟間嘅 AAI 同資源共享協議將係關鍵。
• 邊緣同量子資源整合： 隨著邊緣運算（用於儀器數據預處理）同量子運算嘅成熟，元調度器架構可以擴展以將呢啲納入作為專門嘅資源類型。
• AI/ML 工作負載優化： 調度算法可以整合 AI/ML 工作運行時間預測器（類似於 `Optuna` 或 `Ray Tune` 等項目中嘅方法），以進一步優化放置，特別係對於 GPU 資源。
• 增強元數據同數據湖： 元數據目錄嘅更深層次整合可以將 Storage4PUNCH 演變成一個活躍嘅數據湖，實現以數據為中心嘅調度，將運算工作派送到數據所在位置。
• 可持續發展重點： 未來版本可以優化碳足跡，優先將工作調度到可再生能源比例較高嘅數據中心，與 `歐洲綠色協議` 等項目中見到嘅綠色運算倡議保持一致。

8. 參考文獻

1. PUNCH4NFDI Consortium. (2024). "PUNCH4NFDI White Paper." NFDI.
2. Thain, D., Tannenbaum, T., & Livny, M. (2005). "Distributed computing in practice: the Condor experience." Concurrency and Computation: Practice and Experience, 17(2-4), 323-356. https://doi.org/10.1002/cpe.938
3. Giffels, M., et al. (2022). "COBalD/TARDIS – Agile resource provisioning for HTCondor pools." Journal of Physics: Conference Series, 2438(1), 012077.
4. Blomer, J., et al. (2011). "The CERN Virtual Machine File System: A scalable, reliable, and efficient software distribution system." Journal of Physics: Conference Series, 331(5), 052004.
5. Worldwide LHC Computing Grid (WLCG). "Storage Federation with XRootD and dCache." https://wlcg.web.cern.ch/
6. Wilkinson, M., et al. (2016). "The FAIR Guiding Principles for scientific data management and stewardship." Scientific Data, 3, 160018. https://doi.org/10.1038/sdata.2016.18

9. 分析師觀點：核心見解、邏輯流程、優點同缺點、可行建議

核心見解： PUNCH4NFDI 唔係喺度建造一部新嘅超級電腦；佢係喺度建造一個 聯邦式操作系統。其真正創新之處在於實用主義、基於覆蓋層嘅方法，將現有、官僚化同異構嘅機構資源包裝成一個單一、用戶友好嘅平台。呢個唔係追求原始技術突破，而更多係國家規模嘅社會技術協調。佢直接面對研究運算中嘅「公地悲劇」——資源被孤立同未充分利用——透過創建一個管理式嘅運算週期同儲存位元組市場。

邏輯流程： 邏輯極其務實。1) 將異構性視為一等公民： 唔係強制標準化（政治上唔可行），而係用 HTCondor 同容器將其抽象化。2) 最小化供應商摩擦： COBalD/TARDIS 模型好聰明——佢係一個寄生式調度器，唔需要 HPC 中心改變其本地政策，令採用變得可行。3) 最大化用戶簡便性： JupyterHub 同令牌-AAI 係促進採用嘅殺手級功能，將巨大嘅後端複雜性隱藏喺瀏覽器分頁後面。4) 利用社群信任： 基於久經考驗嘅 HEP 工具（dCache、XRootD、CVMFS）唔單止技術上穩健；佢提供即時可信度並降低運營風險。