نظرات (۱)اینتل در کنار شرکت Habana دادههای جدیدی از بنچمارک MLPerf مربوط به تمرین دادن هوش مصنوعی منتشر کرده است. بر اساس این بنچمارک، تراشه Gaudi2 اینتل را میتوان تنها جایگزین برای پردازندههای گرافیکی انویدیا در ساخت مدلهای زبانی بزرگ دانست. با ادامه خبر در شهر سخت افزار همراه باشید.
ارزش انویدیا بعد از رونق گرفتن هوش مصنوعی و مدلهای زبانی بزرگ (LLM) افزایشی بیسابقه داشته است. پردازندههای گرافیکی این شرکت در تمرین تعداد زیادی از این مدلها و در صدر آنها ChatGPT مورد استفاده قرار گرفتهاند.
در همین رابطه بخوانید:
- معرفی رسمی تراشه هوش مصنوعی اینتل Gaudi2 ؛ دو برابر قویتر از انویدیا A100
- بنچمارک پردازنده گرافیکی H100 انویدیا؛ تا 4.5 برابر سریعتر از A100
با این وجود، اینتل بنچمارک تازهای منتشر کرده که بر اساس آن، تراشه Gaudi2 را باید تنها جایگزین با عملکردی نزدیک یا بهتر از پردازندههای گرافیکی انویدیا دانست. اینتل گفته تراشه Gaudi2 نسبت قیمت به عملکرد مشابهی با A100 انویدیا دارد و تا انتهای سال میلادی در کاربردهای FP8 از H100 انویدیا نیز بهتر خواهد بود.
بنچمارک تراشه Gaudi2
با توجه به بنچمارک منتشر شده، انویدیا قادر است GPT-3 را در 45 دقیقه تمرین دهد و این زمان برای Gaudi2 تا 311 دقیقه طول میکشد. با این وجود، برای تمرین GPT-3 با انویدیا به پردازنده های گرافیکی بیشتری نیاز است.
برای مقایسه دقیق عملکرد میبایست همه موارد گرمایی و محدودیتهای توان را نیز در نظر گرفت ولی در چنین بازاری که تقاضا در آن از عرضه پیشی گرفته است، اینتل نیز میتواند با تراشه Gaudi 2 به عنوان یکی از جایگزینهای محصولات انویدیا به عملکرد خوبی دست پیدا نماید.
باید به این نکته اشاره کنیم که اینتل پشتیبانی و سازگاری نرم افزاری تراشه Gaudi2 را نیز بهبود بخشیده تا بتواند تا انتهای سال میلادی در بخشی از عملکرد تراشه H100 انویدیا را نیز از پیش رو بردارد.
پردازنده های Xeon Platinum نیز در میان دیگر پردازندهها رتبه نخست را در اختیار دارند و با توجه به بنچمارک MLPerf، میتوانند تست مربوط به GPT-3 را در 10 ساعت به انجام رسانند. این پردازنده برای تمرین دو مدل BERT و ResNet-50 به ترتیب 48 و 88 دقیقه زمان صرف کرده است.
