سیستم جدید علی‌بابا بهره‌وری GPU مراکز ابری را افزایش می‌دهد
محققان علی‌بابا با رونمایی از سیستم نوآورانه Aegaeon توانستند مصرف پردازنده‌های گرافیکی (GPU) در اجرای مدل‌های هوش مصنوعی ابری را تا ۸۲ درصد کاهش دهند.
برای مشاهده جدیدترین اخبار کسب و کار کاماپرس را در اینستاگرام دنبال کنید.
به گزارش کاماپرس، این فناوری، که اکنون در بازار مدل‌های Bailian به کار گرفته شده، با تجمیع توان محاسباتی، تعداد GPUهای مورد نیاز برای اجرای ده‌ها مدل زبانی با ۷۲ میلیارد پارامتر را از ۱۱۹۲ عدد به تنها ۲۱۳ عدد کاهش می‌دهد.
Aegaeonمشکل اختصاص نامتوازن GPUها به مدل‌های کمتر فراخوانی‌شده را حل کرده و بهره‌وری مراکز داده را افزایش می‌دهد. این فناوری هم‌زمان با توسعه تراشه‌های گرافیکی بومی در چین، به افزایش استقلال سخت‌افزاری و تقویت جایگاه علی‌بابا در زیرساخت‌های هوش مصنوعی کمک می‌کند.
علی‌بابا کلود ارائه‌دهنده خدمات ابری پیشرفته است و Aegaeon راهکار بهینه‌سازی اجرای مدل‌های هوش مصنوعی و کاهش مصرف GPU را برای افزایش بهره‌وری و استقلال سخت‌افزاری ارائه می‌کند.
انتهای پیام
مرتبط با:
