| Головна > Новини вимірювальної техніки |
Keysight запускає платформу емуляції інференсу ШІ для валідації та оптимізації інфраструктури штучного інтелекту |
|
Нова платформа забезпечує валідацію та оптимізацію масштабованої інфраструктури інференсу ШІ з використанням емуляції реальних робочих навантажень; жива демонстрація представлена на конференції NVIDIA GTC у середовищі цифрових двійників NVIDIA DSX Air САНТА-РОЗА, Каліфорнія, 17 березня 2026 р. Компанія Keysight Technologies, Inc. (NYSE: KEYS) сьогодні представила Keysight AI Inference Builder (KAI Inference Builder) — платформу для емуляції та аналітики, розроблену для валідації оптимізованої під інференс ШІ-інфраструктури у великих масштабах. Keysight продемонструє це рішення на конференції NVIDIA GTC, показавши його роботу в середовищах симуляції «фабрик ШІ» NVIDIA DSX Air для моделювання та оптимізації інфраструктури, архітектур та продуктивності дата-центрів ШІ. Оскільки індустрія ШІ переходить від навчання великих мовних моделей (LLM) до їх розгортання, оптимізація інференсу стає вирішальним фактором для забезпечення окупності інвестицій (ROI). Проте поведінка систем під час інференсу є вкрай динамічною і складно піддається емуляції. Традиційні методи тестування, такі як генерація синтетичного трафіку або еталонні тести (бенчмарки) GPU, не можуть точно відтворити чутливу до затримок поведінку робочих навантажень під час інференсу ШІ на рівнях обчислень, мережевої взаємодії, пам'яті, зберігання даних та безпеки. KAI Inference Builder усуває цей розрив, відтворюючи реалістичні патерни навантажень інференсу та моделюючи специфічні для різних галузей сценарії використання для валідації інфраструктури ШІ, додатків та розгортань у дата-центрах. Платформа надає хмарним провайдерам ШІ-послуг, постачальникам обладнання та розробникам додатків масштабоване рішення для вимірювання, валідації та оптимізації продуктивності інференсу в умовах, наближених до реальних. Ключові переваги KAI Inference Builder включають:
Рам Періакаруппан, віцепрезидент та генеральний менеджер підрозділу рішень для тестування мереж та безпеки компанії Keysight, зазначив: «Інференс є ключем до забезпечення окупності інвестицій у ШІ, проте цього важко досягти, коли системні ресурси не оптимізовані під необхідну ємність та продуктивність. KAI Inference Builder забезпечує видимість реальних показників роботи інференсу у всьому стеку технологій, дозволяючи клієнтам проводити валідацію та оптимізацію розгортань ще до того, як обладнання потрапить у стійку. Демонстрація цієї можливості на NVIDIA GTC з використанням платформи NVIDIA Air показує, як організації можуть прискорити шлях до промислової експлуатації, водночас знижуючи ризики та витрати». Аміт Кац, віцепрезидент із мережевих технологій у NVIDIA, заявив: «Оскільки дата-центри ШІ масштабуються до безпрецедентних рівнів, валідація перед розгортанням перейшла з розряду передового досвіду до розряду критично важливих вимог. Інтеграція KAI Inference Builder з NVIDIA DSX Air створює необхідне середовище для усунення нестабільності продуктивності та дозволяє партнерам і клієнтам NVIDIA AI Factory емулювати реальні навантаження інференсу та превентивно усувати затори, забезпечуючи швидкий вихід на ринок оптимізованих ШІ-сервісів». Keysight продемонструє KAI Inference Builder, включаючи симуляцію «фабрики ШІ» у середовищі NVIDIA Air, у секції C101 на стенді NVIDIA, а також на власному стенді Keysight (3217) у межах NVIDIA GTC San Jose з 16 по 19 березня. Ресурси
Джерело: Keysight Press Releases |


