Dell zpřístupňuje firmám v České republice rychlé nasazení on-premise AI
Společnost Dell Technologie v České republice nabízí připravené řešení Dell AI Starter Kit, které umožňuje firmám v řádu týdnů rozjet vlastní on-premise infrastrukturu pro běh umělé inteligence. Základem řešení je dvojice serverů PowerEdge a veřejně dostupné AI modely. Jde o řešení, na kterých lze spustit například jazykový model a trénovat ho na vlastních datech v bezpečném prostředí. Dell AI Starter Kit je také připraven na další rozšíření, což zákazníkům umožňuje škálovat výkon a postupně AI infrastrukturu přizpůsobovat měnícím se potřebám.
„AI Starter Kit vychází z jedné z klíčových myšlenek platformy Dell AI Factory, tedy přivést umělou inteligenci ke svým datům. Vidíme, že stále více našich zákazníků začíná nasazovat AI on-premise, tedy v bezpečí vlastního datového centra. Zároveň se řada z nich ptá, jak vlastně, a řeší řadu otázek, například jaký vybrat hardware nebo softwarové vybavení. Náš AI Starter Kit je odpověď na tyto otázky a nabízí firmám jednoduchý vstup do světa umělé inteligence. Ve zkratce ho lze popsat jako AI krabici, kterou jen stačí zapojit a lze ji téměř okamžitě začít používat například pro trénování jazykového modelu na vlastních datech,“ říká Jaroslav Vašek, expert na umělou inteligenci ze společnosti Dell Technologies.
 v1.jpg)
AI Starter Kit je navržen tak, aby podporoval první kroky v oblasti AI i další růst. Co si společnosti pořídí na začátku, neztratí hodnotu – řešení se přizpůsobí rostoucím potřebám firmy. Je vhodné pro větší společnosti jako platforma pro PoC (Proof of Concept), zatímco menší firmy jej mohou využít pro základní ostré nasazení. Rozsah použití je široký: od práce s jazykovými modely, přes predikce až po computer vision.
Základem řešení jsou dva servery PowerEdge, které lze využít s procesorovou platformou Intel i AMD. „Pro snadnou rozšiřitelnost jsme oddělili řídicí a výpočetní vrstvu tak, jak je běžné v produkčním prostředí. Řídicí server zajišťuje správu prostředí, monitoring a orchestraci, což umožňuje efektivní správu a automatizaci celého AI prostředí. Druhý, podstatně větší a výkonnější server slouží ke zpracování AI úloh a je vybavený dvěma grafickými akcelerátory,“ vysvětluje Jaroslav Vašek.
Dell AI Starter Kit na platformě Intel využívá jako řídicí server, kde běží Kubernetes Control Plane, model PowerEdge R670. Jako takzvaný GPU Work Node, tedy server pro samotné AI úlohy, slouží PowerEdge R770.
Varianta s procesory AMD je postavena na řídicím serveru model PowerEdge R6725 a pro AI úlohy PowerEdge R7725. Obě procesorové varianty serverů využívají GPU NVIDIA RTX 6000 PRO.
 v2.jpg)