Rozwiązania NTT dla AI łączą serwery GPU, szybki storage, sieć o wysokiej przepustowości oraz ekosystem NVIDIA: od akceleratorów Data Center, przez platformy DGX, HGX i MGX, po oprogramowanie NVIDIA AI Enterprise, NIM i NeMo.
Infrastruktura przygotowana pod trenowanie, dostrajanie i produkcyjne uruchamianie modeli AI
Serwery NTT można konfigurować pod obciążenia AI z wykorzystaniem akceleratorów NVIDIA Data Center, w tym architektur Blackwell i Hopper.
NVIDIA AI Enterprise, NIM, NeMo, CUDA-X i NGC skracają drogę od prototypu do środowiska produkcyjnego.
Lokalna infrastruktura pozwala pracować na wrażliwych danych, modelach i repozytoriach wiedzy bez przenoszenia ich poza organizację.
Architektura może zaczynać się od pojedynczego serwera GPU i rosnąć do środowisk opartych o platformy DGX, HGX lub MGX.
Szybki storage NVMe, warstwy danych i sieci NVIDIA pomagają utrzymać ciągłe zasilanie GPU danymi treningowymi oraz inferencyjnymi.
Dobór sprzętu, wdrożenie, integracja z siecią i storage oraz wsparcie NTT ułatwiają utrzymanie środowisk AI w firmowym centrum danych.
Najczęstsze scenariusze wdrożeń dla serwerów GPU i platform NVIDIA w przedsiębiorstwach
Tworzenie asystentów, systemów RAG, generatorów treści i aplikacji agentowych opartych o modele językowe oraz narzędzia NVIDIA NeMo. Zobacz NVIDIA NeMo.
Uruchamianie modeli jako usług dla aplikacji biznesowych, chatbotów, wyszukiwania semantycznego i automatyzacji procesów z wykorzystaniem NVIDIA NIM. Zobacz NVIDIA NIM.
Analiza obrazu, detekcja zdarzeń, kontrola jakości i monitoring procesów z wykorzystaniem platformy NVIDIA Metropolis. Zobacz NVIDIA Metropolis.
Akcelerowane obliczenia dla badań, projektowania, symulacji i środowisk cyfrowych bliźniaków z wykorzystaniem NVIDIA Omniverse i GPU Data Center. Zobacz NVIDIA Omniverse.
Warstwa sprzętu, oprogramowania i narzędzi, którą można uruchamiać na infrastrukturze NTT AI Enterprise, NIM, NeMo, Metropolis, Omniverse, Run:ai, Mission Control.
Środowisko AI wymaga dobrania GPU, CPU, pamięci, sieci, storage i chłodzenia jako jednego systemu. NTT projektuje konfiguracje pod profil pracy: trenowanie modeli, inferencję, analizę danych, symulacje lub przetwarzanie obrazu.
Dobór akceleratorów pod trenowanie, inferencję, generative AI, HPC i analizę wideo
Architektury dla firmowych fabryk AI, klastrów GPU i modułowych serwerów akcelerowanych
NVMe, Ethernet lub InfiniBand i szybkie ścieżki danych, aby GPU nie czekały na zasilenie danymi
Projektowanie pod stabilną pracę GPU przy wysokim poborze mocy i długotrwałym obciążeniu