Contents 1 Preface 2 Introduction of Machine Lear ing Alg gorithms in HEp 6667 3 Machine Learning Applications and R&D Analysis and trigge 3.3Object Reconstruction.Identification.and Calibration 7788990 6 Matrix Element Machine Learning Method source Optimization and 4 Aca ademic Outreach and Engagement 4 13314455 5.2 I/O and Programming Languag traeteT ion Hardware 5.5.2D able HEP-NL a Formats Data Format Attributes 5.5.3 Interfaces and Middleware g 6 Computing and Hardware Resources 202 High Performance C omputing 66 Opportunistic resources 222 6.7 Data Storage and Availability 6 Machine Leamni 222222 7 Training the community 22 223 9 Conclusions 10 Acknowledgements 4Contents 1 Preface 6 2 Introduction 6 2.1 Motivation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 2.2 Brief Overview of Machine Learning Algorithms in HEP . . . . . . . . . . . . . . . . . . . . . . . 6 2.3 Structure of the Document . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 3 Machine Learning Applications and R&D 7 3.1 Simulation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 3.2 Real Time Analysis and Triggering . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 3.3 Object Reconstruction, Identification, and Calibration . . . . . . . . . . . . . . . . . . . . . . . . 8 3.4 End-To-End Deep Learning . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9 3.5 Sustainable Matrix Element Method . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9 3.6 Matrix Element Machine Learning Method . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10 3.7 Learning the Standard Model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11 3.8 Theory Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 3.9 Uncertainty Assignment . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 3.10 Monitoring of Detectors, Hardware Anomalies and Preemptive Maintenance . . . . . . . . . . . . 13 3.11 Computing Resource Optimization and Control of Networks and Production Workflows . . . . . 13 4 Collaborating with other communities 13 4.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13 4.2 Academic Outreach and Engagement . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14 4.3 Machine Learning Challenges . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14 4.4 Collaborative Benchmark Datasets . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14 4.5 Industry Engagement . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15 4.6 Machine Learning Community-at-large Outreach . . . . . . . . . . . . . . . . . . . . . . . . . . . 15 5 Machine Learning Software and Tools 16 5.1 Software Methodology . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16 5.2 I/O and Programming Languages . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16 5.3 Software Interfaces to Acceleration Hardware . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17 5.4 Parallelization and Interactivity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17 5.5 Internal and External ML tools . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17 5.5.1 Machine Learning Data Formats . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17 5.5.2 Desirable HEP-ML Software and Data Format Attributes . . . . . . . . . . . . . . . . . . 19 5.5.3 Interfaces and Middleware . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19 6 Computing and Hardware Resources 19 6.1 Resource Requirements . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20 6.2 Graphical Processing Units . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21 6.3 Cloud TPUs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21 6.4 High Performance Computing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21 6.5 Field Programmable Gate Arrays . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21 6.6 Opportunistic Resources . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21 6.7 Data Storage and Availability . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22 6.8 Software Distribution and Deployment . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22 6.9 Machine Learning As a Service . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22 7 Training the community 22 8 Roadmap 22 8.1 Timeline . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22 8.2 Steps to Deployment . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23 9 Conclusions 23 10 Acknowledgements 23 4