You are here: Home
Fri, 16/May/2025

Zobrazenie žiadosti o grant

Akcelerácia výpočtov na hrane siete

Evidenčné číslo FEI-2021-81
Dátum podania 2020-11-30 23:34:43
01. Názov grantu Akcelerácia výpočtov na hrane siete
02. Title in English Accelerating computations on the network’s edge
03. Akronym ACNE
04. Odbor Informatika
05. Začiatok riešenia 2021-01-01
06. Koniec riešenia 2021-12-31
07. Anotácia Predkladaný projekt sa zameriava na analýzu a porovnanie tzv. Edge AI akcelerátorov. Tieto zariadenia sa používajú prevažne na odbremenenie existujúcej výpočtovej infraštruktúry tým, že sú špeciálne prispôsobené na spúšťanie, a niekedy aj trénovanie, algoritmov strojového a hlbokého učenia. NVIDIA Jetson Nano, Google Coral USB Accelerator či Intel Neural Compute Stick v2, patria medzi zariadenia, ktorých schopnosti sa chystáme analyzovať a porovnať. Použitie týchto zariadení je časté v oblasti spracovania obrazov. My vidíme potenciál aj pri riešení úloh s dátami iných typov a na tie by sme sa radi zamerali. Medzi kritéria porovnania budú patriť napríklad výkon, cena či spotreba elektrickej energie. Z hľadiska dlhodobého je projekt kontinuálnym pokračovaním výskumnej činnosti výskumnej skupiny a skupine pomôže pri progrese do oblastí ako distribúcia modelov strojového učenia na hrane siete či federatívne učenie.
08. Annotation The proposed project is focused on analyzing and comparing the capabilities of so-called Edge AI accelerators. These accelerators are mostly used to offload some of the computations from the existing computational infrastructure, as they can execute and train some of the machine learning and deep learning algorithms. NVIDIA Jetson Nano, Google Coral USB Accelerator, or Intel Neural Compute Stick v2 are among the devices we would like to test, analyze, and compare. While those are popular in the area of image processing, we see immense potential for those devices in dealing with non-image data and would like to focus on such. Performance, price, and power draw should be among the criteria of comparison. In the big picture, this project is a continuation of the research group's long term interests and should allow the group to progress towards more complicated areas such as distributing the machine learning models on the edge of the network or federated learning.
09. Požadované prostriedky 2000 EUR
10. Bežné priame náklady 2000 EUR
11. Cestovné náklady 0 EUR
12. Materiál 2000 EUR
13. Služby 0 EUR
14. Bežné nepriame náklady 0 EUR
15. Katedra Katedra kybernetiky a umelej inteligencie
16. Vedúci katedry prof. Ing. Peter Sinčák, CSc.
17. Meno a priezvisko zodpovedného riešiteľa Ing. Ladislav Pomšár
18. Telefón +421 55 602 2508
19. Email ladislav.pomsar@tuke.sk
20. CC publikácie za posledných 5 rokov s uvedením počtu citácií (max. 20 publikácií) s uvedením bibliografických údajov a odkazmi na publikácie
21. Celkový počet - CC publikácie za posledných 5 rokov 0
22. Impaktované (s uvedením impakt faktoru) publikácie za posledných 5 rokov s uvedením počtu citácií (max. 20 publikácií) s uvedením bibliografických údajov a odkazmi na publikácie
23. Celkový počet - impaktované publikácie za posledných 5 rokov 0
24. Publikácie v zahraničných a domácich periodikách nepokrytých CC za posledných 5 rokov (max. 20 publikácií) ADF - Raspberry Pi and Windows 10 Powered Intelligent Modular Gateway for Decentralized IoT Environments / Matej Kvetko ... [et al.] - 2020. In: Acta Electrotechnica et Informatica. - Košice (Slovensko) : Fakulta elektrotechniky a informatiky Roč. 20, č. 2 (2020), s. 44-50 [print, online]. - ISSN 1335-8243 Spôsob prístupu: http://www.aei.tuke.sk/papers/2020/2/06_Kvetko.pdf...
[KVETKO, Matej - MOCNEJ, Jozef - POMŠÁR, Ladislav - ZOLOTOVÁ, Iveta]

AED - Deep learning based segmentation of volumetric ultrasound images / Ladislav Pomšár - 2020. In: SCYR 2020 : Nonconference Proceedings of Young Researchers. - Košice (Slovensko) : Technická univerzita v Košiciach s. 38-42 [CD-ROM, online]. - ISBN 978-80-553-3538-4
[POMŠÁR, Ladislav]

AFD - Using surface electromyography for gesture detection / Ladislav Pomšár ... [et al.] - 2019. In: SAMI 2019 : IEEE 17th World Symposium on Applied Machine Intelligence and Informatics. - Danvers (USA) : Institute of Electrical and Electronics Engineers s. 95-101 [print]. - ISBN 978-1-7281-0249-8
[POMŠÁR, Ladislav - FERENČÍK, Norbert - JAŠČUR, Miroslav - BUNDZEL, Marek]

AFD - Exposing students to AI and industry related skills via OpenLab / L. Pomsar ... [et al.] - 2019. In: ICETA 2019 : 17th IEEE International conference on emerging elearning technologies and applications : Information and communication technologies in learning. Starý Smokovec, Slovakia. November 21-22, 2019 : proceedings. - Denver (USA) : Institute of Electrical and Electronics Engineers s. 649-654 [online]. - ISBN 978-1-7281-4967-7 Spôsob prístupu: https://ieeexplore.ieee.org/xpl/conhome/9032268/proceeding...
[POMŠÁR, Ladislav - ZORKOVSKÝ, Marián - RUSIŇÁKOVÁ, Barbora - ZOLOTOVÁ, Iveta]

AFD - Deep Learning Powered Class Attendance System Based on Edge Computing / L. Pomsar ... [et al.] - 2020. In: ICETA 2020 : 18th IEEE International conference on emerging elearning technologies and applications : Information and communication technologies in learning. Košice, Slovakia. November 12-13, 2020 : proceedings. - Denver (USA) : Institute of Electrical and Electronics Engineers
[POMŠÁR, Ladislav – KAJATI, Erik - ZOLOTOVÁ, Iveta] – v tlači
25. Celkový počet - Publikácie v zahraničných a domácich periodikách nepokrytých CC za posledných 5 rokov 5
26. Monografie a kapitoly dlhšie ako 3 autorské hárky za posledných 5 rokov
27. Počet - Monografie a kapitoly dlhšie ako 3 autorské hárky za posledných 5 rokov 0
28. Učebnice a skriptá za posledných 5 rokov
29. Počet - Učebnice a skriptá za posledných 5 rokov 0
30. Zoznam 5 najcitovanejších publikácií s uvedením počtu citácií a uveďte max. 10 citácií ku každej publikácii
31. Celkový počet publikácií citovaných za posledných 5 rokov (10-50 krát) 0
32. Prehľad projektov zodpovedného riešiteľa realizovaných v priebehu posledných 5 rokov v štruktúre: názov projektu, grantová schéma, roky realizácie, rozpočet, pozícia zodpovedného riešiteľa KEGA 033TUKE-4/2018 – Smart Industry/Architectures of intelligent information and cybernetic systems - člen riešiteľského kolektívu

VEGA 1/0663/17 2017-2020 - Intelligent cyber-physical systems in a heterogeneous environment with the support of IoE and cloud services  - člen riešiteľského kolektívu

ArtiPark - AI powered Parkinson diagnosis - Tatrabanka - zodpovedný za projekt
33. Počet - Projekty zodpovedného riešiteľa realizované v priebehu posledných 5 rokov 3
34. Expertízy, konzultácie a ostatné výsledky s priamym využitím v hospodárskej a spoločenskej praxi za posledných 5 rokov Stáže v  Huawei (Čína) a  Siemens Healthineers (USA)
35. Počet - Expertízy, konzultácie a ostatné výsledky s priamym využitím v hospodárskej a spoločenskej praxi za posledných 5 rokov 2
36. Aplikačné výstupy - chránené (patent, vynález)
37. Počet - Aplikačné výstupy - chránené (patent, vynález) 0
38. Aplikačné výstupy - ostatné CheckUP v Startup centre TUKE
3. miesto na AT&T Hackathon 2018
39. Počet - Aplikačné výstupy - ostatné 2
40. Zoznam riešiteľov
Meno a priezvisko Dátum narodenia Katedra
Ladislav Pomšár 1996-04-15 KKUI
František Margita 1998-06-27 KKUI
Erik Kajati 1991-03-21 KKUI
Peter Papcun 1987-03-20 KKUI
Robert Krajňák 1998-04-29 KKUI
Počet riešiteľov: 5
41. Súhrnná kapacita riešiteľov v hodinách 1800
42. Kľúčové slová Intelligentné systémy, edge AI akcelerátory, výpočty na hrane siete, priemysel 4.0, internet vecí
43. Keywords intelligent systems, edge AI accelerators, edge computing, industry 4.0, internet of things
44. Vedecké ciele projektu Cieľom je vytvorenie analýzy, porovnania a usmernení v oblasti používania Edge AI akcelerátorov na hrane siete. Táto štúdia by mala slúžiť ako pre rekvizita k hlbšiemu štúdiu aplikácie týchto akcelerátorov pri výzvach, ktoré sú aktuálne v oblasti strojového učenia riešené na hrane siete, napríklad distribúcia výpočtov či federated learning).
45. Forma popularizácie výsledkov riešenia projektu s cieľom informovať verejnosť o prínosoch výsledkov projektu Výsledky práce budú publikované vo vedeckých časopisoch a na konferenciách. Keďže z obsahu projektu vyplýva niekoľko čiastkových vedeckých výstupov, je plánovaných viacero publikácií s medzinárodným charakterom.

Navrhnuté riešenie sa naviac implementuje do praxe v rámci nášho StartUpu, prípadne spolupráce s firmou Siemens Healthineers, či laboratórií výskumnej skupiny nachádzajúcich sa v priestoroch TUKE. V každom z uvedených prípadov sa s aplikačnými výsledkami budú môcť zoznámiť študenti ako aj verejnosť, napr. počas dňa otvorených dverí TUKE, výučby, či práce na záverečných prácach.
46. Očakávané výstupy riešenia
Kategória Počet
Počet CC publikácií 0
Počet impaktovaných publikácií 0
Počet publikácií nepokrytých CC a impaktovaných 2
Počet patentových prihláok v SR 0
Počet vyvolaných projektov VaV, nadv. na riešený projekt 1
47. Harmonogram
Začiatok etapy Koniec etapy Názov etapy Popis etapy
2021-01-01 2021-03-31 Prieskum trhu Hľadanie vhodných Edge AI zariadení a úloh na porovnanie
2021-04-01 2021-08-31 Tvorba modelov, metodík a konfigurácia zariadení Výber relevantných modelov, trénovanie modelov a konfigurácia Edge zariadení
2021-09-01 2021-10-31 Experimenty Experimenty a ich vyhodnocovanie
2021-11-01 2021-12-31 Príprava vedeckých publikácii z výsledkov Počas tejto fázy budú zozbierané informácie aplikované do vedeckých výsledkov vo forme publikácií
Počet etáp: 4
Vecný zámer projektu
48. Aktuálnosť a vedeckosť cieľov, vedecká úroveň a kvalita projektu
  • Definujte mieru aktuálnosti riešeného problému v danej oblasti vedy a techniky, z celosvetového pohľadu vrátane relevantných odkazov na odbornú literatúru
  • Definujte vedeckú úroveň projektu a vedeckosť metód využívaných v riešení projektu
  • Definujte ciele projektu a reálnosť ich dosiahnutia
  • Opíšte navrhovanú metodiku riešenia projektu, opodstatnenosť jej výberu a efektívnosť jej pouţitia z hľadiska splnenia deklarovaných cieľov

Edge AI akcelerátory zažívajú v poslednej dobe veľký boom. Tieto akcelerátory slúžia na exekúciu a akceleráciu algoritmov strojového učenia na hrane siete – edge. Za posledné roky bolo publikovaných niekoľko tisíc článkov zaoberajúcich sa pojmami ako “edge computing” [1], “edge AI” [2] či “Edge AI device” [3] a je viditeľný rastúci trend publikácií v týchto oblastiach. Aj to vypovedá o aktuálnosti týchto tém a potrebnosťou sa im venovať. Často majú tieto publikácie ale charakter len jednoduchej aplikácie jedného/viacerých edge zariadení na problém (napr. [4] či [5]) a chýbajú zložitejšie praktické aj teoretické analýzy. Práve tu by sme sa chceli našim projektom odlíšiť a vytvoriť publikáciu, ktorá môže do budúcna slúžiť ako návod a referencia pre aplikáciu Edge AI akcelerátorov v tejto oblasti.

Z hľadiska použitého hardware-u, sa vo väčšine prípadov jedná o špeciálne upravené procesory, resp. grafické karty, ktoré podporujú rôzne štandardne framework-y z oblasti strojového či hlbokého učenia. Na nasadenie tychto algoritmov je potrebné ich optimalizovať pomocou špeciálnych optimalizačných rámcov, jedinečných pre každé zariadenie/výrobcu. Takisto sa zariadenia líšia podporou komunikačných protokolov či rôznou spotrebou elektrickej energie. Niektoré existujú vo forme pripojiteľných zariadení, kým iné sú realizované ako vývojové dosky s vlastným operačným systémom. Vďaka tomu môžu niektoré zlepšovať funkcionalitu už existujúcich senzorov/akčných členov. Z týchto dôvodov je dôležité analyzovať vhodnosť použitia jednotlivých zariadení v rôznych prípadoch.

Význam týchto akcelerátorov rastie s aktuálnym trendom presunu výpočtov z centralizovaných serverov/cloud-u práve na hranu siete [6][7]. Takýto presun umožňuje posielať na servery/do cloud-u už aspoň čiastočne spracované dáta. Tento trend súvisí so snahou zabezpečiť čo najnižšiu odozvu systémov (napríklad pri priemyselných riešeniach), zlepšiť zabezpečenie dát (absencia prenosu surových dát do cloud-u) či znížiť zaťaženie internetových liniek.

Analýza by sa mala konkrétnejšie zaoberať použiteľnosťou týchto akcelerátorov v rámci konceptu Operator 4.0 a následne by mala byť aplikovateľná do širokej škály oblastí, ako priemysel, zdravotníctvo, doprava či domácnosť.

[1] https://app.dimensions.ai/discover/publication?search_mode=content&search_text=edge%20computing&search_type=kws&search_field=full_search
[2] https://app.dimensions.ai/discover/publication?search_mode=content&search_text=edge%20AI&search_type=kws&search_field=full_search
[3] https://app.dimensions.ai/discover/publication?search_mode=content&search_text=edge%20AI%20device&search_type=kws&search_field=full_search

[4] Atmaja, Prajogo, Dalta Imam Maulana, and Trio Adiono. "AI-based Customer Behavior Analytics System using Edge Computing Device." 2020 International Conference on Electronics, Information, and Communication (ICEIC). IEEE, 2020.
[5] Hou, Dennis, et al. "AI on edge device for laser chip defect detection." 2019 IEEE 9th Annual Computing and Communication Workshop and Conference (CCWC). IEEE, 2019.

[6] Greco, Luca, et al. "Trends in IoT based solutions for health care: moving AI to the Edge." Pattern Recognition Letters (2020).\
[7] Véstias, Mário P., et al. "Moving Deep Learning to the Edge." Algorithms 13.5 (2020): 125.
49. Originálnosť projektu a koncepcie riešenia
  • Definujte mieru originálnosti projektu
  • Opíšte navrhovaný koncept riešenia a formulujte vedeckú hypotézu
  • Definujte význam predbežných výsledkov, nadväznosť navrhovaného riešenia na vlastné publikované výsledky

Koncepčný rámec navrhovaného pracoviska je uplatniteľný v širokej škále oblastí ako napríklad Industry 4.0 či Healthcare. A teda naše riešenie je možné využiť pre overenie konceptov vhodných do domácej ako aj komerčnej sféry. 

Navrhovanú analýzu a porovnanie hodnotíme ako originálnu a prínosnú. Aj keď existujú práce, ktoré sa zaoberajú porovnaním Edge AI akcelerátorov pre konkrétny problém (ako napr. [1] a [2]), neexistujú porovnania, ktoré by poskytovali komplexné hodnotenie akcelerátorov pre širokú škálu akcelerátorov a odporúčania, ako a kedy ich používať.

[1] Rancaño, Xalo, et al. "Performance Evaluation of State-of-the-Art Edge Computing Devices for DNN Inference." IECON 2020 The 46th Annual Conference of the IEEE Industrial Electronics Society. IEEE, 2020.

[2] Mazzia, Vittorio, et al. "Real-Time Apple Detection System Using Embedded Systems With Hardware Accelerators: An Edge AI Application." IEEE Access 8 (2020): 9102-9114.

50. Štruktúra projektu, kvalita spracovania, logická nadväznosť postupov riešenia
  • Definujte harmonogram riešenia projektu s ohľadom na logickú nadväznosť postupov a na napĺňanie deklarovaných cieľov
  • Vysvetlite adekvátnosť použitej metodiky
  • Vysvetlite adekvátnosť navrhnutého rozpočtu projektu v kontexte finančnej náročnosti dosiahnutia cieľov
  • Stanovte časový plán realizácie a naplnenia stanovených vedeckých cieľov

Na začiatku riešenia bude vytvorená analýza aktuálneho stavu v oblasti Edge AI akcelerátorov. Napriek tomu, že aktuálne disponujeme 3 zariadeniami, tento trh sa veľmi rýchlo vyvíja a taktiež by sme radi oslovili firmy, ktoré ešte neponúkajú svoje zariadenia komerčne. Paralelne s týmto prieskumom trhu bude prebiehať výber relevantných úloh zo zvolených oblastí. Následne prebehne trénovanie modelov, ktoré nie sú voľne dostupné spolu s váhami, na HW skupiny. Nakoniec budú tieto modely aplikované do reálnych situácií a experimenty vyhodnotené podľa zvolených kritérií.

Poskytnutie finančnej podpory je nutné na zadováženie väčšieho počtu Edge AI zariadení, tak aby porovnanie a analýza boli čo najširšie a najobjektívnejšie. 

Vedecké ciele sú dosiahnuteľné v období jedného roku, keďže celý proces realizácie a experimentov sa skladá zo sekvencie krokov, ktoré majú priebežné výsledky. Výsledky projektu by sa mali kontinuálne preniesť do ďalších aktivít skupiny a vytvoriť synergiu s inými projektmi a výskumom skupiny.

51. Odborné predpoklady riešiteľského kolektívu
  • Odôvodnite kompetentnosť zúčastnených riešiteľských organizácií na riešenie predkladaného projektu v kontexte hlavných úloh, ktoré budú jednotlivé organizácie v projekte zabezpečovať
  • Opíšte kompetentnosť jednotlivých riešiteľov na riešenie predkladaného projektu a základné úlohy, ktoré budú v rámci implementácie projektu realizovať (netýka sa zodpovedného riešiteľa)
  • Opíšte spôsob kooperácie riešiteľov, ich vzájomnú komplementaritu a zastupiteľnosť pri riešení projektu
  • Opíšte existujúcu prístrojovú a personálnu infraštruktúru pracovísk podieľajúcich sa na implementácii projektu
  • Opíšte mieru zapojenia mladých pracovníkov výskumu a vývoja do 35 rokov vrátane študentov doktorandského štúdia do riešenia projektu

Ing. Ladislav Pomšár – študent 2. ročníka doktorandského štúdia. V rámci svojho štúdia sa venuje práve využitiu algoritmov strojového a hlbokého učenia na hrane siete.

Ing. Erik Kajáti, PhD. – odborný asistent - zameranie na inteligentný priestor ako celok a analýzu rôznych senzorických sietí vhodných pre použitie v inteligentnom priestore (BLE a prostriedky počítačového videnia). Vo svojej dizertačnej práci sa venoval aj možnostiam aplikácie algoritmov strojového a hlbokého učenia na hranu siete.

Ing. Peter Papcun, PhD. - odborný asistent - so zameraním na koncept Operátora 4.0 a podporu moderného operátora v inteligentnom prostredí.

Bc. Robert Krajňák - študent 4. ročníka odboru inteligentné systémy. V rámci bakalárskej práce sa zaoberal oblasťou klasifikácie obrazov, konkrétne detekciou parkinsonovej choroby z DaT-SPECT obrazov.

František Margita - študent 3. ročníka inteligentných systémov. Vo svojej bakalárskej práci sa zaoberá oblasťami senzoriky a internetu vecí.
V súčasnosti naša pracovná skupina už disponuje časťou zamýšľaných Edge AI akcelerátorov a výpočtovými prostriedkami potrebnými na tvorbu modelov strojového učenia, ktoré by mali byť na nich spúšťané.

Späť na zoznam projektov
Login