نیوڈیا کے سی ای او جینسن ہوانگ نے سان ہوزے، کیلیفورنیا میں کمپنی کی ڈویلپر کانفرنس میں موجودہ “ہوپر” H100 چپ کے مقابلے نئی “بلیک ویل” چپ کے سائز کا موازنہ کیا۔
نیوڈیا
نیوڈیا پیر کو مصنوعی ذہانت کے ماڈل چلانے کے لیے مصنوعی ذہانت کے چپس اور سافٹ ویئر کی ایک نئی نسل کا اعلان کیا۔ سان ہوزے میں Nvidia کی ڈویلپرز کانفرنس کے دوران یہ اعلان اس وقت کیا گیا جب چپ میکر AI کمپنیوں کے لیے جانے والے سپلائر کے طور پر اپنی پوزیشن کو مستحکم کرنے کی کوشش کر رہا ہے۔
Nvidia کے حصص کی قیمت پانچ گنا بڑھ گئی ہے اور 2022 کے آخر میں OpenAI کے ChatGPT نے AI بوم شروع کرنے کے بعد سے کل فروخت تین گنا سے زیادہ ہو گئی ہے۔ Nvidia کے اعلی درجے کے سرور GPUs بڑے AI ماڈلز کی تربیت اور تعیناتی کے لیے ضروری ہیں۔ کمپنیاں پسند کرتی ہیں۔ مائیکروسافٹ اور میٹا چپس خریدنے میں اربوں ڈالر خرچ کر چکے ہیں۔
AI گرافکس پروسیسرز کی نئی نسل کو بلیک ویل کا نام دیا گیا ہے۔ پہلی بلیک ویل چپ کو GB200 کہا جاتا ہے اور اس سال کے آخر میں بھیج دیا جائے گا۔ Nvidia نئے آرڈرز کی حوصلہ افزائی کے لیے اپنے صارفین کو زیادہ طاقتور چپس کے ساتھ آمادہ کر رہی ہے۔ مثال کے طور پر کمپنیاں اور سافٹ ویئر بنانے والی کمپنیاں اب بھی “Hopper” H100s اور اسی طرح کی چپس کی موجودہ نسل پر ہاتھ اٹھانے کے لیے ہچکولے کھا رہی ہیں۔
“ہوپر لاجواب ہے، لیکن ہمیں بڑے GPUs کی ضرورت ہے،” Nvidia کے سی ای او جینسن ہوانگ نے پیر کو کیلیفورنیا کے سان ہوزے میں کمپنی کی ڈویلپر کانفرنس میں کہا۔
کمپنی نے NIM نامی آمدنی پیدا کرنے والا سافٹ ویئر بھی متعارف کرایا جو AI کو تعینات کرنا آسان بنائے گا، جس سے صارفین کو حریفوں کے بڑھتے ہوئے میدان پر Nvidia چپس کے ساتھ قائم رہنے کی ایک اور وجہ ملے گی۔
Nvidia کے ایگزیکٹوز کا کہنا ہے کہ کمپنی ایک کرائے کے چپ فراہم کرنے والے سے کم اور مائیکروسافٹ یا ایپل کی طرح پلیٹ فارم فراہم کرنے والی زیادہ بنتی جا رہی ہے، جس پر دوسری کمپنیاں سافٹ ویئر بنا سکتی ہیں۔
“بلیک ویل کوئی چپ نہیں ہے، یہ ایک پلیٹ فارم کا نام ہے،” ہوانگ نے کہا۔
Nvidia انٹرپرائز کے VP منویر داس نے ایک انٹرویو میں کہا کہ “بیچنے کے قابل تجارتی پروڈکٹ GPU تھا اور یہ سافٹ ویئر لوگوں کو GPU کو مختلف طریقوں سے استعمال کرنے میں مدد کرنے کے لیے تھا۔” “یقیناً، ہم اب بھی ایسا کرتے ہیں۔ لیکن حقیقت میں جو تبدیلی آئی ہے، وہ یہ ہے کہ اب ہمارے پاس واقعی ایک تجارتی سافٹ ویئر کا کاروبار ہے۔”
داس نے کہا کہ Nvidia کا نیا سافٹ ویئر Nvidia کے GPUs میں سے کسی پر بھی پروگرام چلانا آسان بنا دے گا، یہاں تک کہ پرانے والے جو کہ تعیناتی کے لیے بہتر ہو سکتے ہیں لیکن AI بنانے کے لیے نہیں۔
“اگر آپ ایک ڈویلپر ہیں، تو آپ کے پاس ایک دلچسپ ماڈل ہے جو آپ چاہتے ہیں کہ لوگ اپنائیں، اگر آپ اسے NIM میں ڈالتے ہیں، تو ہم اس بات کو یقینی بنائیں گے کہ یہ ہمارے تمام GPUs پر چلنے کے قابل ہے، تاکہ آپ بہت سارے لوگوں تک پہنچیں، “داس نے کہا۔
بلیک ویل سے ملو، ہوپر کے جانشین
Nvidia کی GB200 Grace Blackwell Superchip، جس میں دو B200 گرافکس پروسیسر اور ایک آرم بیسڈ سنٹرل پروسیسر ہے۔
ہر دو سال بعد Nvidia اپنے GPU فن تعمیر کو اپ ڈیٹ کرتا ہے، جس سے کارکردگی میں ایک بڑی چھلانگ ہوتی ہے۔ پچھلے سال کے دوران جاری کیے گئے بہت سے AI ماڈلز کو کمپنی کے ہوپر فن تعمیر پر تربیت دی گئی تھی – جو H100 جیسی چپس کے ذریعے استعمال ہوتی ہے – جس کا اعلان 2022 میں کیا گیا تھا۔
Nvidia کا کہنا ہے کہ بلیک ویل پر مبنی پروسیسرز، GB200 کی طرح، AI کمپنیوں کے لیے ایک بہت بڑا پرفارمنس اپ گریڈ پیش کرتے ہیں، جس میں AI کارکردگی میں 20 petaflops بمقابلہ H100 کے لیے 4 petaflops ہیں۔ Nvidia نے کہا کہ اضافی پروسیسنگ پاور AI کمپنیوں کو بڑے اور زیادہ پیچیدہ ماڈلز کی تربیت دینے کے قابل بنائے گی۔
اس چپ میں وہ شامل ہے جسے Nvidia “ٹرانسفارمر انجن خاص طور پر ٹرانسفارمرز پر مبنی AI کو چلانے کے لیے بنایا گیا ہے، جو ChatGPT کی بنیادی ٹیکنالوجیز میں سے ایک ہے۔
بلیک ویل جی پی یو بڑا ہے اور دو الگ الگ تیار کردہ ڈیز کو ایک چپ میں جوڑتا ہے۔ ٹی ایس ایم سی. یہ GB200 NVLink 2 کے نام سے ایک پورے سرور کے طور پر بھی دستیاب ہوگا، جس میں 72 بلیک ویل GPUs اور AI ماڈلز کو تربیت دینے کے لیے بنائے گئے Nvidia کے دیگر حصوں کو ملایا گیا ہے۔
ایمیزون، گوگل، مائیکروسافٹ، اور اوریکل کلاؤڈ سروسز کے ذریعے GB200 تک رسائی فروخت کرے گا۔ GB200 دو B200 Blackwell GPUs کو ایک بازو پر مبنی Grace CPU کے ساتھ جوڑتا ہے۔ Nvidia نے کہا کہ Amazon Web Services 20,000 GB200 چپس کے ساتھ ایک سرور کلسٹر بنائے گی۔
Nvidia نے کہا کہ یہ نظام 27-ٹریلین پیرامیٹر ماڈل کو تعینات کر سکتا ہے۔ یہ سب سے بڑے ماڈلز سے بھی بہت بڑا ہے، جیسے GPT-4، جس کے مبینہ طور پر 1.7 ٹریلین پیرامیٹرز ہیں۔ بہت سے مصنوعی ذہانت کے محققین کا خیال ہے کہ زیادہ پیرامیٹرز اور ڈیٹا والے بڑے ماڈل نئی صلاحیتوں کو کھول سکتے ہیں۔
Nvidia نے نئے GB200 یا اس میں استعمال ہونے والے سسٹمز کے لیے کوئی قیمت فراہم نہیں کی۔ Nvidia کے Hopper پر مبنی H100 کی قیمت فی چپ $25,000 اور $40,000 کے درمیان ہے، تجزیہ کاروں کے اندازوں کے مطابق، پورے سسٹم کی قیمت $200,000 تک ہے۔
Nvidia ایک مکمل سسٹم کے حصے کے طور پر B200 گرافکس پروسیسرز بھی فروخت کرے گا جو پورے سرور ریک کو لے لیتا ہے۔
NIM
Nvidia نے یہ بھی اعلان کیا کہ وہ اپنے Nvidia انٹرپرائز سافٹ ویئر سبسکرپشن میں NIM کے نام سے ایک نیا پروڈکٹ شامل کر رہا ہے۔
NIM تخمینہ کے لیے پرانے Nvidia GPUs کا استعمال آسان بناتا ہے، یا AI سافٹ ویئر چلانے کے عمل کو، اور کمپنیوں کو ان لاکھوں Nvidia GPUs کا استعمال جاری رکھنے کی اجازت دیتا ہے جو ان کے پاس پہلے سے ہیں۔ نئے AI ماڈل کی ابتدائی تربیت کے مقابلے میں انفرنس کو کم کمپیوٹیشنل پاور کی ضرورت ہوتی ہے۔ NIM ان کمپنیوں کو قابل بناتا ہے جو OpenAI جیسی کمپنیوں سے بطور سروس AI نتائج تک رسائی خریدنے کے بجائے اپنے AI ماڈل چلانا چاہتی ہیں۔
حکمت عملی یہ ہے کہ Nvidia پر مبنی سرور خریدنے والے صارفین کو Nvidia انٹرپرائز کے لیے سائن اپ کرنے کے لیے حاصل کیا جائے، جس کی لاگت $4,500 فی GPU فی سال لائسنس کے لیے ہے۔
Nvidia مائیکروسافٹ یا Hugging Face جیسی AI کمپنیوں کے ساتھ کام کرے گی تاکہ یہ یقینی بنایا جا سکے کہ ان کے AI ماڈلز تمام مطابقت پذیر Nvidia چپس پر چلنے کے لیے بنائے گئے ہیں۔ پھر، ایک NIM کا استعمال کرتے ہوئے، ڈویلپرز مؤثر طریقے سے ماڈل کو اپنے سرورز یا کلاؤڈ بیسڈ Nvidia سرورز پر بغیر کسی لمبے کنفیگریشن کے عمل کے چلا سکتے ہیں۔
داس نے کہا، “میرے کوڈ میں، جہاں میں OpenAI میں کال کر رہا تھا، میں اس NIM کی طرف اشارہ کرنے کے لیے کوڈ کی ایک لائن کو بدل دوں گا جو مجھے Nvidia سے ملا ہے،” داس نے کہا۔
Nvidia کا کہنا ہے کہ یہ سافٹ ویئر AI کو کلاؤڈ میں سرورز کے بجائے GPU سے لیس لیپ ٹاپ پر چلانے میں بھی مدد دے گا۔