فناوری (MIG) انویدیا NVIDIA Multi-Instance GPU
فناوری (MIG) انویدیا NVIDIA Multi-Instance GPU
Nvidia Multi-Instance GPU (MIG) یک فناوری پیشرفته است که امکان ایجاد تا هفت نمونه یا واحد مستقل در یک کارت گرافیک را فراهم می‌کند. این تکنولوژی که برای کارت‌های گرافیک نسل Blackwell و Hopper™ شرکت انویدیا طراحی شده است، قابلیت‌ها و ارزش کارت‌های گرافیک را گسترش می‌دهد. MIG قادر است GPU را به هفت نمونه کاملاً مجزا تقسیم کند، که هر کدام دارای حافظه با پهنای باند بالا، کش، و هسته‌های محاسباتی خود هستند. این امکان به مدیران IT اجازه می‌دهد تا هر نوع بار کاری، از کوچکترین تا بزرگ‌ترین‌ها، را با کیفیت خدمات تضمین‌شده (QoS) پشتیبانی کنند و دسترسی به منابع محاسباتی پیشرفته را برای همه کاربران گسترش دهند.
مزایای کلی
- گسترش دسترسی به GPU: با استفاده از MIG، می‌توان تا ۷ برابر منابع GPU بیشتری را بر روی یک GPU فراهم آورد. این امر به پژوهشگران و توسعه‌دهندگان امکان دسترسی به منابع و انعطاف‌پذیری بیشتری را می‌دهد.
- بهینه‌سازی استفاده از GPU: فناوری MIG امکان انتخاب اندازه‌های مختلفی از نمونه‌های GPU را می‌دهد، که امکان تخصیص نمونه GPU مناسب برای هر بار کاری را فراهم می‌آورد و در نهایت منجر به بهینه‌سازی استفاده و حداکثرسازی سرمایه‌گذاری در مرکز داده می‌شود.
- اجرای همزمان وظایف: MIG امکان اجرای وظایف استنباط، آموزش و محاسبات با کارایی بالا (HPC) را به طور همزمان بر روی یک GPU با زمان بندی و توان مشخص فراهم می‌کند. در مقایسه با تکنیک تقسیم زمان، هر کار در موازات اجرا می‌شود که عملکرد بالاتری را تحویل می‌دهد.
مزایای کلی
- گسترش دسترسی به GPU: با استفاده از MIG، می‌توان تا ۷ برابر منابع GPU بیشتری را بر روی یک GPU فراهم آورد. این امر به پژوهشگران و توسعه‌دهندگان امکان دسترسی به منابع و انعطاف‌پذیری بیشتری را می‌دهد.
- بهینه‌سازی استفاده از GPU: فناوری MIG امکان انتخاب اندازه‌های مختلفی از نمونه‌های GPU را می‌دهد، که امکان تخصیص نمونه GPU مناسب برای هر بار کاری را فراهم می‌آورد و در نهایت منجر به بهینه‌سازی استفاده و حداکثرسازی سرمایه‌گذاری در مرکز داده می‌شود.
- اجرای همزمان وظایف: MIG امکان اجرای وظایف استنباط، آموزش و محاسبات با کارایی بالا (HPC) را به طور همزمان بر روی یک GPU با زمان بندی و توان مشخص فراهم می‌کند. در مقایسه با تکنیک تقسیم زمان، هر کار در موازات اجرا می‌شود که عملکرد بالاتری را تحویل می‌دهد.
مزایای کلی
- گسترش دسترسی به GPU: با استفاده از MIG، می‌توان تا ۷ برابر منابع GPU بیشتری را بر روی یک GPU فراهم آورد. این امر به پژوهشگران و توسعه‌دهندگان امکان دسترسی به منابع و انعطاف‌پذیری بیشتری را می‌دهد.
- بهینه‌سازی استفاده از GPU: فناوری MIG امکان انتخاب اندازه‌های مختلفی از نمونه‌های GPU را می‌دهد، که امکان تخصیص نمونه GPU مناسب برای هر بار کاری را فراهم می‌آورد و در نهایت منجر به بهینه‌سازی استفاده و حداکثرسازی سرمایه‌گذاری در مرکز داده می‌شود.
- اجرای همزمان وظایف: MIG امکان اجرای وظایف استنباط، آموزش و محاسبات با کارایی بالا (HPC) را به طور همزمان بر روی یک GPU با زمان بندی و توان مشخص فراهم می‌کند. در مقایسه با تکنیک تقسیم زمان، هر کار در موازات اجرا می‌شود که عملکرد بالاتری را تحویل می‌دهد.
چگونگی کارکرد فناوری
بدون MIG، کارهای مختلف که بر روی یک GPU اجرا می‌شوند، مانند درخواست‌های مختلف استنتاج AI، برای منابع مشترک رقابت می‌کنند. یک کار که پهنای باند حافظه بیشتری مصرف می‌کند، سایر کارها را از دسترسی به منابع محروم می‌کند که منجر به از دست دادن اهداف زمانی می‌شود. با MIG، کارها به صورت همزمان بر روی نمونه‌های مختلف اجرا می‌شوند، هر کدام با منابع اختصاصی برای محاسبه، حافظه و پهنای باند حافظه، که عملکرد پیش‌بینی‌شده با QoS و استفاده حداکثری از GPU را به همراه دارد.
پیکربندی و تنظیم نمونه‌ها بر اساس نیاز
یک GPU می‌تواند به نمونه‌های MIG با اندازه‌های مختلف تقسیم شود. به عنوان مثال، در یک NVIDIA GB200، یک مدیر می‌تواند دو نمونه با ۹۵ گیگابایت حافظه یا چهار نمونه با ۴۵ گیگابایت حافظه ایجاد کند.
نمونه‌های MIG همچنین می‌توانند به صورت پویا بازپیکربندی شوند، که به مدیران امکان می‌دهد منابع GPU را در پاسخ به تغییرات در تقاضاهای کاربر و کسب‌وکار تغییر دهند. به عنوان مثال، هفت نمونه MIG ممکن است در طول روز برای استنتاج با توان پایین استفاده شوند و در شب به یک نمونه بزرگ MIG برای آموزش یادگیری عمیق تغییر کند.
MIG در GPUهای Blackwell
GPUهای Blackwell و Hopper از MIG با پیکربندی‌های چندین کاربر در محیط‌های مجازی‌سازی شده پشتیبانی می‌کنند و هر نمونه را با محاسبه محرمانه در سطح سخت‌افزار و هایپروایزر به طور امن جدا می‌کنند. کدک‌های ویدیویی اختصاصی برای هر نمونه MIG، تجزیه و تحلیل ویدیوی هوشمند با کارایی بالا را در زیرساخت‌های مشترک تأمین می‌کنند. با پروفایلینگ همزمان MIG، مدیران می‌توانند شتاب‌دهی GPU را برای کاربران متعدد نظارت کنند و منابع را تخصیص دهند.
برای پژوهشگران با بار کاری کمتر، به جای اجاره یک نمونه کامل ابری، می‌توانند از MIG استفاده کنند تا بخشی از GPU را به طور امن جدا کنند، در حالی که از امنیت داده‌های خود در حالت استراحت، در حال انتقال و در حال استفاده اطمینان حاصل کنند. این امر انعطاف‌پذیری بیشتری برای ارائه‌دهندگان خدمات ابری را فراهم می‌کند تا بتوانند موقعیت‌های مشتری کوچکتر را قیمت‌گذاری و پاسخ دهند.
ساخته شده برای IT و DevOps (Built for IT and DevOps)
MIG امکان تخصیص دقیق و ریزدانه GPU را توسط تیم‌های IT و DevOps فراهم می‌آورد. هر نمونه MIG مانند یک GPU مستقل به نرم‌افزارها عمل می‌کند، بنابراین هیچ تغییری در پلتفرم CUDA® ایجاد نمی‌شود. MIG در تمام محیط‌های محاسباتی بزرگ شرکتی قابل استفاده است.
به کارگیری از مرکز داده تا لبه (Deploy from Data Center to Edge)
MIG را می‌توان در محل (on premises)، در ابر (in the cloud)، و در محیط‌های لبه (at the edge) به کار برد. این انعطاف‌پذیری اجازه می‌دهد که MIG در طیف وسیعی از زیرساخت‌ها و موقعیت‌های جغرافیایی استفاده شود.
بهره‌گیری از کانتینرها (Leverage Containers)
برنامه‌های کانتینری را بر روی نمونه‌های MIG اجرا کنید. این امکان فراهم می‌آورد که برنامه‌هایی که در کانتینرها بسته‌بندی شده‌اند، بتوانند از منابع محاسباتی مجزا و مدیریت شده توسط MIG بهره‌مند شوند.
پشتیبانی از Kubernetes (Support Kubernetes)
زمان‌بندی پادهای Kubernetes را بر روی نمونه‌های MIG انجام دهید. این امکان اجازه می‌دهد که وظایف مبتنی بر کانتینر به صورت موثر در محیط‌های مدیریت شده توسط Kubernetes توزیع و مدیریت شوند.
مجازی‌سازی برنامه‌ها (Virtualize Applications)
برنامه‌ها را درون نمونه‌های MIG بر روی ماشین‌های مجازی اجرا کنید. استفاده از MIG در ماشین‌های مجازی امکان اجرای برنامه‌های جداگانه و مجزا را در یک سخت‌افزار فیزیکی فراهم می‌آورد و این برنامه‌ها می‌توانند به طور همزمان بدون تداخل در منابع، عملکرد خود را ارائه دهند.
