Optimal Computing Budget Allocation (OCBA)

Source: http://seor.vse.gmu.edu/~cchen9/ocba.html

Máme nejmodernější přístup k inteligentnímu přidělování výpočetního rozpočtu pro efektivní optimalizaci simulace. Cílem je najít nejlepší návrh pomocí minimální doby simulace. K obohacení této oblasti přispívá řada našich spoluautorů a přátel.

Simulace je oblíbeným nástrojem pro navrhování velkých, složitých, stochastických systémů, protože analytická řešení v uzavřené formě obecně pro takové problémy neexistují. I když pokrok nových technologií dramaticky zvýšil výpočetní výkon, účinnost je stále velkým problémem při použití simulace pro návrh velkých systémů, v takovém případě musí být simulováno mnoho alternativních návrhů. Aby to bylo ještě horší, pro každý návrh je nutné provést několik simulačních běhů, aby bylo možné zachytit stochastické chování v systémech. Klíčovou otázkou v tomto tématu je, jak dramaticky zkrátit celkovou dobu výpočtu.

Klíčovou součástí našich metodologií je naše nová kontrolní teoretická simulační technika nazvaná Optimal Computing Budget Allocation (OCBA). Přístup OCBA dokáže inteligentně určit nejúčinnější počty replikací simulace nebo délky simulace pro všechny simulované alternativy. Cílem je získat nejvyšší kvalitu rozhodnutí o simulaci pomocí pevného výpočetního rozpočtu nebo dosáhnout požadované kvality rozhodnutí o simulaci při použití minimálního výpočetního rozpočtu. Numerické testování ukazuje, že náš přístup může dosáhnout stejné kvality simulace s pouhou desetinou simulačního úsilí.

OCBA je také ideální pro optimalizaci stochastické simulace. Primárním důvodem, proč je optimalizace simulace obtížná, je stochastická povaha vyhodnocení účelové funkce, což znamená, že existuje základní kompromis mezi věnováním výpočetního úsilí na hledání prostoru pro nová kandidátská řešení (průzkum) oproti získání přesnějších odhadů účelové funkce. při aktuálně slibných řešeních (vykořisťování). Jinými slovy, kolik z rozpočtu simulace by mělo být přiděleno na dodatečné replikace v již navštívených bodech a kolik na replikace v nově vygenerovaných vyhledávacích bodech je hlavním hlediskem z hlediska výpočetní efektivity. V postupu OCBA postupně určuje, které alternativy návrhu potřebují více simulací a kolik dalších replikací je potřeba.

Intuitivně, aby bylo zajištěno, že nejlepší alternativa je správně vybrána, by měla být větší část výpočetního rozpočtu přidělena těm alternativám, které jsou kritické v procesu identifikace nejlepší alternativy. Jinými slovy, musí být proveden větší počet simulací s těmito kritickými alternativami, aby se snížily rozptyly těchto kritických odhadů. Celková efektivita simulace je zlepšena, protože je vynaloženo méně výpočetního úsilí na simulaci nekritických alternativ a více se vynakládá na kritické alternativy. Myšlenky jsou vysvětleny na následujícím jednoduchém příkladu. Předpokládejme, že provádíme simulace pro 5 alternativ, abychom určili alternativu s minimálním středním zpožděním. Nejprve provedeme předběžnou simulaci pro všech 5 alternativ. Obrázek 1-(a) uvádí příklad jejich 99% intervalů spolehlivosti získaných z předběžné simulace. Všimněte si, že nejistota odhadu je způsobena stochastickými vlastnostmi systému a použitím simulace Monte Carlo.

Jak je vidět na obrázku 1-(a), i když existuje nejistota v odhadu výkonu pro každou alternativu, je zřejmé, že alternativy 2 a 3 jsou mnohem lepší než ostatní alternativy, pokud máme v úmyslu najít alternativu s minimálním průměrem. zpoždění. A tak pouze alternativy 2 a 3 je třeba dále simulovat, aby se snížila nejistota odhadu, aby bylo možné správně identifikovat nejlepší alternativu. Zastavením simulací pro alternativy 1, 4 a 5 dříve můžeme ušetřit spoustu nákladů na výpočet.

Avšak to, co se ve většině případů skutečně stane, není tak triviální, jak je znázorněno na obrázku 1-(a). Je běžnější vidět případy, jako je jiný příklad znázorněný na obrázku 1-(b), kde se některé alternativy zdají lepší, ale nejsou jasně lepší než ostatní. V takových případech není jednoduché určit, které alternativy lze ze simulačního experimentu odstranit a kdy by měly být zastaveny. OCBA poskytuje systematický přístup k řešení tohoto problému a přiděluje simulační běhy alternativám způsobem, který maximalizuje efektivitu simulace.

Chcete-li se dozvědět více o OCBA, dobrým výchozím bodem jsou následující dva dokumenty:

Představení nápadů OCBA

Chen, CH a LH Lee, optimalizace stochastické simulace: alokace optimálního výpočetního rozpočtu . World Scientific Publishing Co., 2011.

Xu, J., E. Huang, L. Hsieh, LH Lee, QS Jia a CH Chen, „Simulační optimalizace v éře průmyslového 4.0 a průmyslového internetu“, 10(4), 310-320, Journal of Simulation , 2016.

Xu, J., E. Huang, CH Chen a LH Lee, „Simulační optimalizace: Recenze a průzkum v nové éře cloud computingu a velkých dat“, Asia-Pacific Journal of Operational Research , 32 (3), červen 2015

Chen, CH, M. Fu a L. Shi, "Simulation and Optimization," Tutorials in Operations Research , str. 247-260, Informs, Hanover, MD, 2008.

Fu, M, CH Chen a L. Shi, „Některá témata pro optimalizaci simulace“, sborník z konference Winter Simulation 2008 , str. 27–38, Miami, FL, prosinec 2008.

Zde jsou některé další reprezentativní publikace o technikách OCBA.

Jeden z nejoblíbenějších OCBA dokumentů

Chen, CH, J. Lin, E. Yucesan a SE Chick, "Simulační alokace rozpočtu pro další zvýšení účinnosti ordinální optimalizace," Journal of Discrete Event Dynamic Systems: Theory and Applications , sv. 10, str. 251-270, červenec 2000.

Dřívější vývoj OCBA

Chen, CH "Efektivní přístup k chytrému přidělení výpočetního rozpočtu pro simulaci diskrétních událostí," Sborník z 34. konference IEEE o rozhodování a řízení , str. 2598-2605, prosinec 1995.

Chen, CH "A Lower Bound for the Correct Subset-Select-Probability and its Application to Discrete Event System Simulations," IEEE Transactions on Automatic Control , Vol. 41, č. 8, str. 1227-1231, srpen 1996.

Chen, CH, E. Yucesan, L. Dai a HC Chen, "Efficient Computation of Optimal Budget Allocation for Discrete Event Simulation Experiment," IIE Transactions , Vol. 42, č. 1, s. 60-70, leden 2010.

OCBA pro problémy s více cíli

Lee, LH, EP Chew, SY Teng a D. Goldsman, "Optimální přidělení rozpočtu na výpočetní techniku ​​pro vícecílové simulační modely," Proceedings of 2004 Winter Simulation Conference , str. 586-594, 2004.

EJ Chen a LH Lee, "Multi-cílový výběrový postup stanovení Paretovy množiny", Computers and Operations Research, 36(6) , : 1872-1879, 2009.

S. Teng, LH Lee a EP Chew, „Integrace lhostejné zóny s alokací rozpočtu na více cílů“, Evropský věstník operačního výzkumu, 203(2): 419-429, 2010.

LH Lee, EP Chew, SY Teng a D. Goldsman (2010). Nalezení Paretovy sady pro multi-objektivní simulační modely, které se objeví v IIE Transactions .

OCBA pro výběr optimální podmnožiny nejlepších návrhů (řekněme top 5)

Chen, CH, D. He, M. Fu a LH Lee, "Efficient Simulation Budget Allocation for Selecting an Optimal Subset," informuje Journal on Computing , sv. 20, č. 4, s. 579-595, 2008.

Zhang, S., LH Lee, EP Chew, J. Xu, a CH Chen, „Procedura přidělování simulačního rozpočtu pro zvýšení efektivity výběru optimální podmnožiny“, IEEE Transactions on Automatic Control , 61(1), 62-75, ledna 2016.

OCBA pro výběr nejlepší alternativy, když jsou vzorky korelovány

Fu, MC, JQ Hu, CH Chen a X. Xiong, "Alokace simulace pro stanovení nejlepšího návrhu v přítomnosti korelovaného vzorkování," informuje Journal on Computing , sv. 19, č. 1, s. 101-111, 2007.

OCBA pro simulaci a optimalizaci

Zhang, S., J. Xu, LH Lee, EP Chew, WP Wong a CH Chen, "Optimal Computing Budget Allocation for Particle Swarm Optimization in Stochastic Optimization," IEEE Transactions on Evolutionary Computation , 21(2), 206-219 , 2017.

Nicholas, P., „Algoritmus dělení obdélníků pro optimalizaci stochastické simulace“, sborník ze 14. konference INFORMS Computing Society , Richmond, Virginie, leden 2015.

He, D., LH Lee, CH Chen, M. Fu a S. Wasserkrug , „Optimalizace simulace pomocí metody křížové entropie s alokací rozpočtu na optimální výpočet“, ACM Transactions on Modeling and Computer Simulation , 2009.

Chew, EP, LH Lee, SY Teng a CH Koh, "Optimalizace inventáře diferencovaných služeb pomocí vnořených oddílů a MOCBA", Computers and Operations Research , 36(5), : 1703-1710, 2009.

Lee, LH, EP Chew, SY Teng a YK Chen, „Evoluční algoritmus založený na multiobjektivní simulaci pro problém přidělování náhradních dílů letadel“, European Journal of Operational Research , 189 (2): 476-491, 2008.

Chen, CH, D. He, M. Fu a LH Lee, "Efficient Simulation Budget Allocation for Selecting an Optimal Subset," informuje Journal on Computing , sv. 20, č. 4, s. 579-595, 2008.

Shi, L. a CH Chen, "Nový algoritmus pro stochastickou optimalizaci alokace diskrétních zdrojů," Journal of Discrete Event Dynamic Systems: Theory and Applications , sv. 10, str. 271-294, červenec 2000.

Aplikace OCBA

Hsieh, L., E. Huang a CH Chen, „Vylepšení využití zařízení v oblasti fotolitografie prostřednictvím dynamického řízení systému pomocí multi-věrné simulační optimalizace s technikou velkých dat“, IEEE Transactions on Semiconductor Manufacturing Decision , 30(2), 166 -175, 2017.

Aristotelis, T., M. Bastani, N. Celik a CH Chen, "Dynamic Data Driven Adaptive Simulation Framework for Automated Control in Microgrids," IEEE Transactions on Smart Grid , 8(1), 209-218, 2017 .

Hsieh, L., E. Huang, S. Zhang, KH Chang, CH Chen, "Application of Multi-Fidelity Simulation Modeling to Integrated Circuit Packaging," International Journal of Simulation and Process Modeling , 28(2), 195-208, jaro 2016.

Hsieh, BW, CH Chen, SC Chang, "Efektivní kompozice dispečerských politik na základě simulace integrací ordinální optimalizace s návrhem experimentu," IEEE Transactions on Automation Science and Engineering , sv. 4, č. 4, s. 553-568, říjen 2007.

Romero, VJ, DV Ayon, CH Chen, "Demonstration of Probabilistic Ordinal Optimization Concepts to Continuous-Variable Optimization under Uncertainty," Optimization and Engineering , Vol. 7, č. 3, s. 343-365, září 2006.

Chen, CH a D. He, "Inteligentní simulace pro srovnání alternativ a aplikace na řízení letového provozu," Journal of Systems Science and Systems Engineering , sv. 14, č. 1, s. 37-51, březen 2005.

Chen, CH, K. Donohue, E. Yucesan a J. Lin, "Optimal Computing Budget Allocation for Monte Carlo Simulation with Application to Product Design," Journal of Simulation Practice and Theory , Vol. 11, č. 1, s. 57-74, březen 2003.

Hsieh, BW, CH Chen a SC Chang, „Scheduling Semiconductor Wafer Fabrication by Using Ordinal Optimization-Based Simulation“, IEEE Transactions on Robotics and Automation , Vol. 17, č. 5, str. 599-608, říjen 2001.

Chen, CH, SD Wu a L. Dai, "Ordinal Comparison of Heuristic Algorithms Using Stochastic Optimization," IEEE Transactions on Robotics and Automation , Vol. 15, č. 1, str. 44-56, únor 1999.

Asociace s Ordinal Optimization

Dai, L., CH Chen a JR Birge, "Vlastnosti velké konvergence dvoufázového stochastického programování," Journal of Optimization Theory and Applications , sv. 106, č. 3, str. 489-510, září 2000.

Ho, YC, CG Cassandras, CH Chen a L. Dai, "Ordinal Optimization and Simulation," Journal of Operational Research Society , sv. 51, č. 4, str. 490-500, duben 2000.

Dai, L. a CH Chen, "Rychlost konvergence pro ordinální srovnání závislých simulací v dynamických systémech diskrétních událostí," Journal of Optimization Theory and Applications , sv. 94, č. 1, str. 29-54, červenec 1997.

Některá další zobecnění a související práce

Blanchet, J., J. Liu a B. Zwart, "Perspektiva velkých odchylek na ordinální optimalizaci systémů s těžkým chvostem," Sborník ze Zimní simulační konference 2007 , str. 489-494, 2007.

Branke, J., SE Chick a C. Schmidt. Výběr výběrového řízení. Management Science 53 1916-1932, 2007.

Chick, S. a K. Inoue. Nové dvoustupňové a sekvenční postupy pro výběr nejlépe simulovaného systému. Operační výzkum 49 1609-1624, 2001.

Chick, S. a K. Inoue. Nové postupy pro výběr nejlépe simulovaného systému pomocí běžných náhodných čísel. Management Science 47 1133-1149, 2001.

Glynn, P., S. Juneja. Pohled velkých odchylek na ordinální optimalizaci. Proceedings of the 2004 Winter Simulation Conference , 577-585, 2004.

Pujowidianto, NA, LH Lee, CH Chen, CM Ano, „Optimální alokace rozpočtu na výpočetní techniku ​​pro omezenou optimalizaci“, která se objeví ve sborníku Zimní simulační konference 2009 , str. 584-589, Austin, TX, prosinec 2009.

Trailovic , L. a LY Pao. 2004. Výpočet alokace rozpočtu pro efektivní klasifikaci a výběr odchylek s aplikací na cílové sledovací algoritmy. IEEE Transactions on Automatic Control 49 58-67, 2004.

Knihy OCBA

1.V roce 2011 byla vydána nová kniha o OCBA. Název knihy je „Stochastic Simulation Optimization: An Optimal Computing Budget Allocation“. Tato kniha poskytuje komplexní a rozsáhlé pokrytí této efektivní metodologie optimalizace simulace, od základní myšlenky, formálního vývoje až po nejmodernější. Můžete si ho objednat z Amazon.com .

2.Další novou knihou, která se rozšiřuje o mnohem širší perspektivu ordinální optimalizace, je „ Stochastic Simulation Optimization for Discrete Event Systems – Perturbation Analysis, Ordinal Optimization, and Beyond “ , vydaná v roce 2013.

Počítačové zdrojové kódy pro OCBA

-OCBA C Code , který se také objevuje na stranách 214-218 knihy OCBA .

-OCBA C++ Code , s laskavým svolením Prof. Nurcin Celik z University of Miami

-OCBA JAVA Code , s laskavým svolením Prof. Nurcin Celik z University of Miami

OCBA Demo (a kód JAVA)

OCBA Demo pomocí vašeho webového prohlížeče . Tuto ukázku OCBA implementují A. Johnson, Cheol Y. Park a Ning Lin. V ukázce uvidíte, jak OCBA dynamicky vybírá vhodné návrhy pro další simulaci.