Kaynak sitesine göre, Amazon Elastic Container Service artık NVIDIA Multi-Process Service ile GPU paylaşımını destekliyor. Bu özellik sayesinde tek bir NVIDIA GPU üzerinde birden fazla görev aynı anda çalıştırılabilir. Küçük model çıkarımı, video simülasyonları ve çoklu model sunumu gibi sadece GPU kapasitesinin bir kısmını kullanan yükler için GPU kullanım oranını artırarak altyapı maliyetlerini düşürmeye yardımcı olur.
Kaynak notu: Bu kısa haber tek bir yayıncının aktarımına dayanır; bağımsız kaynaklarla doğrulanmamıştır.
Kaynak: AWS What's New · Haberi kaynağında oku ↗