GPU-кластерите обезбедуваат пресметковна моќ за вештачка интелигенција и научни истражувања, но високата цена и растечката побарувачка можат да создадат долги редици за пристап. Едно можно прашање е дали постојната опрема се користи целосно додека задачите чекаат. Во претпечаток, односно труд чиј статус на стручна рецензија не е потврден, истражувачите ја анализирале употребата на ресурси во еден универзитетски истражувачки GPU-кластер.
Мониторинг-алатката бележела податоци во интервали од 100 ms, користејќи библиотека од Nvidia за мерење на пресметковната употреба во GPU. Била поставена на кластер со 89 јазли и 319 GPU, а податоците се собирале неколку месеци. Главната анализа, сепак, опфатила само 10 дена: 7.399 задачи поднесени од 150 корисници од 12 оддели. Авторите велат дека претходните системи за следење обично мереле во интервали од секунди или минути и не давале доволно детали за искористеноста на поединечните GPU.
Во анализираниот период, повеќе од 70% од задачите користеле помалку од 20% од меморијата на GPU. Меморијата е ресурсот што GPU го користи за податоците и инструкциите потребни при пресметување. Кај 50% од задачите, просечната употреба на Streaming Multiprocessor (SM) била под 5%. SM е мерка за употребата на пресметковните единици во GPU; овие бројки опишуваат неискористен капацитет во набљудуваниот кластер, а не нужно во секој кластер.
Кај 80% од задачите имало големо несовпаѓање меѓу побараното и реалното времетраење. Тоа, според трудот, ја ограничува ефикасноста на распоредувачот — системот што одлучува кога задачите ќе добијат пристап до ресурсите. Испитаните задачи што користеле повеќе GPU покажале и периодични обрасци на комуникација меѓу нив.
Авторите сметаат дека попрецизно распоредување и истовремено користење на GPU од повеќе задачи би можеле да ја зголемат искористеноста без промена на хардверот или апликациите. Тоа е предлог заснован на наодите, а трудот не ги мери добивките по спроведување на такви промени. Бидејќи анализата се потпира на еден кластер и десетдневен период, не утврдува дали истата неискористеност постои и на други места. Мониторинг-решението е достапно како софтвер со отворен код.
Научна основа и ограничувања
Набљудувачка анализа на употребата на ресурси во универзитетски GPU-кластер со мониторинг во интервали од 100 ms
Примерок: 7.399 задачи; 150 корисници; 12 оддели; еден кластер со 89 јазли и 319 GPU.
- Истражувањето опфаќа еден универзитетски истражувачки кластер; собраните податоци не утврдуваат дали истиот степен на неискористеност важи за други кластери.
- Главната анализа се однесува на 10 дена и 7.399 задачи, иако алатката собирала податоци неколку месеци.
- Трудот е означен како претпечаток, па наодите треба да се читаат како резултати што сè уште не се потврдени преку стручна рецензија.
- Предложените добивки од подобро распоредување и истовремено користење се заклучок на авторите; извадокот не наведува мерење на тие добивки по нивно спроведување.
Извори
За љубопитноста што нè поврзува.
Вашата донација помага науката да стигне до повеќе читатели.
Ви благодариме што ја поддржувате науката на македонски.
