Škálovatelný výpočet umělé inteligence pro základní desky Edge Medical: Od vestavěného zpracování po externí akceleraci

Asistovaná diagnostika-AI se stala hlavním požadavkem moderních endoskopických systémů. Detekce polypů, klasifikace různých lézí a identifikace anatomických orientačních bodů již nejsou příjemné-mít-funkce. Základní desky, které napájejí takové aplikace počítačového vidění, jsou zároveň omezeny prostorovými, tepelnými a energetickými omezeními. I když modul Medical Endoscope Camera může poskytnout ohromující vizuální efekty, nemusí být dostačující, pokud základní deska není schopna provádět inferenci AI při požadované snímkové frekvenci.

Situace se začne měnit v roce 2026, protože nové přístupy k vestavěným počítačům umožňují jednodeskovým počítačům využívat externí GPU a akcelerační karty AI. Koncepce „embedded plus externí akcelerace“ je nastavena tak, aby narušila trh s designem základních desek endoskopů a umožnila zcela nový přístup k řízení životního cyklu vestavěných výpočetních systémů.

 

Dilema Embedded Compute

Dedikované grafické karty se specializovanými softwarovými sadami jsou nutností pro urychlení vývoje a iterací AI. Zároveň takové karty obvykle vyžadují k provozu slušnou-základní desku s rozšiřujícími sloty PCIe. Čím menší je tvarový faktor endoskopu, tím menší je šance, že bude hostovat kartu GPU plné{3}}velikosti s požadovaným řešením chlazení. Toto dilema vytváří řadu omezení pro výrobce zdravotnických prostředků. Za prvé, systémy musí provádět různé úkoly, včetně snímání obrazu, zpracování, analýzy, vyvozování AI a výstupu zobrazení. Za druhé, složitost a počet kabelů zapojených do připojení výše uvedených funkcí může ovlivnit celkovou spolehlivost systému.

 

Je důležité poznamenat, že ne všechna video rozhraní jsou vytvořena stejně, pokud jde o lékařské vybavení. Příchod specifikace USB4 vytvořil přesvědčivou nabídku pro návrháře vestavěných počítačů. USB4 může přenášet provoz USB, DisplayPort a PCIe Gen.3 x4 současně pomocí jediného kabelu. Zejména šířka pásma 40 Gbps umožňuje externí akceleraci GPU a AI při zachování kompaktních rozměrů lékařského endoskopu.

 

Vestavěný jednodeskový počítač Advantech MIO-5379 je vynikajícím příkladem takového přístupu. S využitím rozšiřujícího modulu MIOe{4}}UMXM může vestavěná deska Advantech MIO-5379 hostovat externí akcelerační karty GPU/AI, což by u stolního počítače plné velikosti nebylo možné. Flexibilní přístup k rozšíření je zvláště přesvědčivý pro kompaktní lékařské endoskopy s umělou inteligencí díky své schopnosti snížit celkovou stopu systému.

 

Za pozornost stojí i technické detaily. Modul lékařské endoskopické kamery může odesílat video signál do vestavěného procesoru pro počáteční zpracování obrazu. Jakmile videostream vyžaduje další analýzu pomocí AI-, mohou být příslušná data odeslána do externího akcelerátoru GPU/AI pomocí jediného kabelu USB4 pro následné výsledky odvození.

 

Klinické výpočty s jedním kabelem

Pokud jde o klinická nastavení, video rozhraní musí sloužit několika účelům najednou. V první řadě DisplayPort Alternate Mode zajišťuje, že video signál odeslaný z počítače lze zobrazit na externích monitorech. Za druhé, pro ovládání dotykové obrazovky je vyžadováno připojení USB. A konečně, nejnovější standardy USB umožňují přenášet až 100 W energie přes stejný kabel. Takový multifunkční přístup je kritický pro lékařská zařízení, zejména pokud jde o kompaktní endoskopy.

 

Výhody takového standardu se projeví při pohledu na MIOe-rozšiřující modul TCPD od společnosti Advantech. Modul využívá konektor USB Type{2}}C pro současný přenos video signálů, ovládání dotykových obrazovek a napájení monitoru. Tento přístup výrazně zjednodušuje návrh systému a zároveň snižuje množství potřebné kabeláže.

 

Výhody řešení zobrazení s jedním kabelem jsou četné a působivé. Za prvé, snižují množství vybavení potřebného k nastavení lékařského endoskopu. Za druhé, snížený počet připojení znamená méně bodů selhání. A konečně, jediné-řešení kabelu často umožní rychlejší nastavení a servis zařízení.

 

Správa životního cyklu a aktualizace modelu AI

Jedním z nejpřesvědčivějších aspektů modulárního přístupu k návrhu lékařských endoskopů je schopnost aktualizovat modely umělé inteligence podle potřeby. Lékařská zařízení mají často dlouhou životnost a je zásadní zajistit, aby jejich funkce umělé inteligence držela krok s nejnovějšími objevy. Podle National Library of Medicine zvýšení míry detekce adenomu o 1 % snižuje riziko intervalového kolorektálního karcinomu o 3 %. Tato statistika zdůrazňuje důležitost schopnosti aktualizovat modely umělé inteligence používané v lékařských zobrazovacích zařízeních.

Samotný proces aktualizace může být relativně přímočarý v závislosti na návrhu systému. Pokud je použit modul MIOe-UMXM, je možné k aktualizaci výkonu systému AI použít různé verze externích akceleračních karet GPU/AI. Tento přístup umožňuje oddělit odpovědnosti vestavěných a externích výpočetních uzlů, přičemž první z nich se zabývá zachycováním obrazu a počátečním zpracováním a druhý zpracovává intenzivní vyvozování modelu umělé inteligence.

Další věcí, kterou je třeba zvážit, je dlouhodobá-dostupnost důležitých součástí. Závazek společnosti AdvanTech k deseti-dlouhé podpoře produktů pomáhá udržet důvěru výrobců zdravotnických prostředků, kteří si mohou být jisti, že komponenty, které dnes používají, zůstanou dostupné po dalších deset let.

 

Úvahy o designu

Výběr externího akceleračního modulu zahrnuje řadu kompromisů-. Nejprve je nutné pochopit, jak velkou šířku pásma bude mít funkce PCIe tunelování k dispozici. Při rychlosti 40 Gb/s poskytuje USB4 dostatečnou šířku pásma pro přenos video signálu, ale musí být sdílen mezi videem a provozem PCIe. Množství šířky pásma PCIe přidělené downstream zařízením určí výkon externího GPU/AI akcelerátoru. S tímto omezením musí projektant počítat při výběru vhodného hardwaru.

 

Dalším důležitým aspektem je tepelný rozpočet. Externí GPU/AI moduly sice poskytují potřebný výkon, ale zároveň produkují značné odpadní teplo, které se musí někam odvádět. Toto omezení lze zmírnit výběrem bezventilátorových průmyslových akcelerátorů, jako je GPU modul MIC-78MG30 od společnosti Advantech.

 

Volba akcelerační platformy je také omezena na možnosti, které poskytují rozhraní MXM 3.1, jako je řada NVIDIA Quadro a Intel Arc embedded GPU. Další možností je využít zařízení NPU založená na USB-, jako je UGen300 od společnosti ASUS, která poskytují 40 TOP výkonu při typické spotřebě energie 2,5 W.

 

Výhled na rok 2026

Trend směrem k modulárnímu designu nabírá na síle a nedávné verze produktů od AdvanTech to zdůrazňují v kontextu trhu s lékařskými endoskopy. Nedávno oznámená průmyslová základní deska AIMB{7}}234 využívá platformu Intel Core Ultra Series 3 k poskytování až 180 TOP výkonu AI prostřednictvím integrovaného GPU a NPU Xe3. Deska poskytuje rozhraní USB4 Type{8}}C pro napájení a video připojení jedním kabelem, což dále snižuje složitost konstrukce lékařského endoskopu.

Modul Medical Endoscope Camera může těžit z tohoto přístupu tím, že přenese intenzivní výpočty související s AI-na externí akcelerátor GPU/AI. Základní deska pak bude fungovat jako centrální rozbočovač pro ovládání toku videa a zároveň bude schopna provádět některé základní úlohy zpracování.

 

Systémoví architekti mohou také využít příležitosti využít modulární přístup k urychlení vývoje svých lékařských endoskopů. Je možné využít kombinaci vestavěných a externích akceleračních zdrojů, přičemž nejsofistikovanější funkce umělé inteligence jsou vyhrazeny pro pozdější fáze vývoje, až bude zajištěno regulační schválení. Tento přístup pomáhá snížit riziko počátečních rozhodnutí o návrhu a zároveň umožňuje postupné vylepšování produktu.

 

Závěr: Modular Expansion umožňuje Embedded Plus External AI pro lékařské endoskopy

Při navrhování základních desek pro lékařské endoskopy musí inženýři učinit několik zásadních kompromisů-. Za prvé, výkonnostní charakteristiky vestavěných procesorů musí být adekvátní, aby zvládly simultánní snímání a zpracování videa, stejně jako odvození modelu AI. Za druhé, systém musí být schopen využívat externí akcelerační moduly, pokud a když je to potřeba. Nakonec je třeba optimalizovat celkový návrh systému, aby se co nejlépe využil omezený prostor uvnitř lékařského endoskopu.

 

Modulární přístup popsaný v tomto článku umožňuje splnit každý z uvedených požadavků bez významných kompromisů. Vestavěný systém musí poskytovat pouze základní úroveň výkonu, poté může být dodatečný výkonový prostor zajištěn externími akceleračními moduly. Takový přístup umožňuje systému škálovat výkon AI v souladu s potřebami zdravotnického zařízení.

 

Pro modul Medical Endoscope Camera a jeho přidruženou základní desku je popsaný přístup přínosný i z hlediska menší složitosti. Využití externích modulů GPU/AI snižuje množství zpracování, které musí zvládnout vestavěný procesor. Video rozhraní s jedním-kabelem umožňuje snížit počet připojení potřebných k nastavení systému.

 

Popsaný modulární přístup může sloužit jako vynikající základ pro systémy endoskopů, které budou muset v budoucnu zahrnovat aktualizace modelu AI. Použití rozhraní USB4 s šířkou pásma 40 Gbps umožní maximalizovat výkon externích modulů GPU/AI. Jedno-kabelové video rozhraní dále zjednoduší servis a každodenní--provoz zařízení. A konečně, využití externích akceleračních modulů otevírá dveře k neustálému zlepšování schopností lékařských endoskopů po celou dobu jejich deseti-leté životnosti.