Kako smanjiti potrošnju energije i troškove u LLM klasterima, a zadržati vrhunske performanse?

Odgovor ćete čuti od dr Jovana Stojkovića, koji je nedavno doktorirao na prestižnom University of Illinois Urbana-Champaign. Jovan se bavi  aktuelnim temama na preseku arhitekture računara i mašinskog učenja, a na predavanju će predstaviti dva inovativna sistema:

DunamoLLM– okvir za upravljanje energijom u LLM okruženjima koji optimizuje potrošnju, smanjuje emisije i troškove, a čuva performanse.

TAPAS – inteligentni sistem za raspoređivanje zadataka u GPU klasterima, koji smanjuje opterećenje napajanja i hlađenja uz minimalan uticaj na rad.

Pridružite se i saznajte kako ove tehnologije menjaju način na koji razmišljamo o energetskoj efikasnosti i performansama data-centara!