لحظه لحظه آیفون Nvidia AI اینجاست

در کنفرانس GTC در ماه مارس، Huang Renxun، مدیر عامل Nvidia گفت: "لحظه آیفون هوش مصنوعی فرا رسیده است."

پس از گذشت 5 ماه، ممکن است کلمات Huang Renxun به عنوان "زمان آیفون Nvidia AI فرا رسیده است" بازنویسی شود.

امروز انویدیا گزارش مالی خود را برای سه ماهه دوم سال مالی 2024 اعلام کرد. درآمد سه ماهه دوم 13.51 میلیارد دلار بود که 101 درصد نسبت به مدت مشابه سال قبل و 88 درصد نسبت به مدت مشابه سال قبل افزایش داشت. علاوه بر این، سود خالص 6.188 میلیارد دلار آمریکا بود که افزایش شدید 843 درصدی نسبت به سال قبل را نشان می‌دهد.

شایان ذکر است که این اولین باری است که انویدیا از نظر درآمد سه ماهه از اینتل پیشی می گیرد و لحظه ای تاریخی را رقم می زند.

رکوردشکنی انویدیا، دوره طوفانی جدید محاسبات

پس از اعلام گزارش مالی، قیمت سهام انویدیا در معاملات پس از ساعت کاری 9.6 درصد افزایش یافت و قیمت سهام به بالاترین حد خود رسید و از مرز 500 دلار عبور کرد و به "زیباترین پسر" در بازار سهام ایالات متحده تبدیل شد.

انویدیا همچنین چشم‌انداز بلندپروازانه‌ای برای سه ماهه مالی آینده داشت و انتظار می‌رود درآمد به 16 میلیارد دلار به اضافه یا منفی 2 درصد برسد. این رقم تقریباً سه برابر سطح سال گذشته است و 3.7 میلیارد دلار بیشتر از میانگین تخمین 12.3 میلیارد دلاری تحلیلگران است.

در گزارش مالی، هوانگ رنکسون گفت: « عصر جدیدی از محاسبات آغاز شده است و شرکت‌ها در سراسر جهان در حال تبدیل شدن از محاسبات همه‌منظوره به محاسبات شتاب‌دار و هوش مصنوعی مولد هستند

تراشه‌ها همچنان پایه اصلی درآمد انویدیا هستند. بخش تامین کننده تراشه‌ها برای مراکز داده، بزرگترین منبع درآمد شرکت است. درآمد این بخش در سه ماهه دوم به 10.32 میلیارد دلار رسید که افزایشی 171 درصدی، بسیار بالاتر از انتظارات بازار 7.98 دلار آمریکا بود. میلیارد.

در میان آنها، H100 پرطرفدارترین تراشه در بازار است و زمانی به بیش از 40000 دلار آمریکا (حدود 290000 RMB) شلیک شد.

منابع قبلی به ریموند جیمز از شرکت بانکداری سرمایه گذاری فاش کردند که هزینه پردازنده گرافیکی H100 3320 دلار (حدود 24181 یوان) بود و انویدیا تصمیم گرفت آنها را با قیمتی بین 25000 تا 30000 دلار بفروشد (در حال حاضر حدود 182.19000 تا 02 GPU).

اگرچه این بیانیه ممکن است هزینه های دیگری مانند حمل و نقل و تدارکات را در نظر نگیرد، اما فقط از نسبت هزینه تولید / قیمت فروش، پردازنده گرافیکی NVIDIA H100 به سادگی یک "گاو فوق نقد" است.

به گفته Tomshardware، انویدیا قصد دارد در سال جاری بیش از 550000 پردازنده گرافیکی H100 به فروش برساند. اگر درست باشد، این بدان معناست که درآمد Nvidia از پردازنده گرافیکی H100 به تنهایی در حال حاضر نجومی است.

با این حال، از آنجایی که تراشه H100 به فناوری تولید پیشرفته و همان فناوری بسته بندی پیچیده نیاز دارد، تامین آن ارتباط مستقیمی با ظرفیت بسته بندی کارخانه ریخته گری TSMC خواهد داشت که این نیز دلیل مهمی برای کمبود H100 است.مدیران صنعت پیش بینی می کنند که کمبود H100 تا سال 2024 ادامه خواهد داشت.

هوانگ جنسن گفت که انویدیا به دنبال همکاری با شرکای تولیدی خود برای عرضه تراشه‌های بیشتر به بازار است، از جمله با همکاری با شرکت‌های دیگر برای تکمیل قابلیت‌های بسته‌بندی TSMC، و گفت: «تامین برای باقی‌مانده سال جاری و سال آینده افزایش قابل‌توجهی خواهد داشت. "

با انفجار هوش مصنوعی مولد، غول‌های فناوری بی‌شماری برای ورود به مسیر هوش مصنوعی مولد تلاش می‌کنند تا درهای این فناوری پر از فرصت را باز کنند. انویدیا، مردی که از "بیل" بیرون دروازه معدن طلا محافظت می کرد، ابتدا برنده شد.

اگرچه غول هایی مانند مایکروسافت و گوگل ده ها میلیارد دلار روی هوش مصنوعی سرمایه گذاری کرده اند، اما هنوز به سود تبدیل نشده اند. در مورد OpenAI که در کانون توجه قرار دارد، مجله Analytics India گزارش داد که هزینه نگهداری از سرویس ChatGPT هر روز 700000 است. اگرچه تلاش برای دستیابی به سودآوری از طریق GPT-3.5 و GPT-4 بوده است، اما مزایای فعلی هنوز به دست نیامده است. متوجه شد. تعادل پشتیبانی

▲ مدیر عامل OpenAI سام آلتمن تصویر از: CNN

با این حال، اگر OpenAI نتواند شرایط را تغییر دهد، با هزینه‌های روزانه بالا و ناتوانی در دستیابی سریع به سودآوری، مجله Analytics هند معتقد است که OpenAI ممکن است حتی در آینده نزدیک اعلام ورشکستگی کند.

برای انویدیا، در حال حاضر هیچ شرکت فناوری وجود ندارد که بتواند خود را در مسیر تراشه هوش مصنوعی نگه دارد.

بر اساس داده‌های شرکت تحقیقاتی Omdia، اگرچه گوگل، آمازون، متا، IBM و سایر شرکت‌ها نیز تراشه‌های هوش مصنوعی تولید می‌کنند، انویدیا بیش از ۷۰ درصد از فروش تراشه‌های هوش مصنوعی را به خود اختصاص داده است و مزیت قابل توجهی در آموزش مدل‌های هوش مصنوعی مولد دارد.

به گفته دانیل نیومن، تحلیلگر گروه Futurum، بسیاری از مشتریان ترجیح می دهند 18 ماه منتظر بمانند تا تراشه های خود را از انویدیا خریداری کنند تا اینکه تراشه های عرضه شده را از استارت آپ ها یا سایر رقبا خریداری کنند. حتی گوگل که بیش از یک دهه پیش شروع به ساخت تراشه های هوش مصنوعی کرد، مجبور است برای برخی کارها به GPU انویدیا تکیه کند.

با وجود قیمت بالا و کمبود تراشه ها، تراشه های انویدیا ممکن است کم هزینه ترین راه حل در جهان در حال حاضر باشد. Huang Renxun گفت که تراشه های با کارایی بالا در واقع باعث صرفه جویی بیشتر مشتریان می شوند.

اگر بتوانید زمان آموزش را در یک مرکز داده 5 میلیارد دلاری به نصف کاهش دهید، پس انداز بیشتر از هزینه تمام تراشه ها خواهد بود.

قدرت محاسباتی، مدل‌ها و داده‌ها همیشه سه عنصر اصلی توسعه هوش مصنوعی بوده‌اند. قدرت محاسباتی نشان‌داده‌شده توسط تراشه‌های هوش مصنوعی نه تنها سنگ بنای زیربنایی هوش مصنوعی است، بلکه کلید باز کردن دری به روی این فناوری است.

این کلید آینده در دستان انویدیا است و خندق خود را تشکیل داده است.

خندق تراشه انویدیا

پنجاه و هشت سال پیش، گوردون مور، یکی از بنیانگذاران اینتل، قانون معروف مور را پیشنهاد کرد.

تعداد ترانزیستورهایی که می توان در مدار مجتمع قرار داد تقریباً هر دو سال یکبار دو برابر می شود.

سپس برون یابی های جدید ظاهر شد و فاصله دو ساله به 18 ماه کوتاه شد.

تحت تأثیر قانون مور، عملکرد پردازشی CPU و GPU به رشد تصاعدی دست یافته است.پس از سال 2000، CPU از تک هسته ای به چند هسته ای منتقل شد و تعداد هسته ها بسیار افزایش یافت.

آموزش و استدلال یادگیری عمیق هوش مصنوعی به شدت بر محاسبات ماتریس و محاسبات ممیز شناور متکی است، که نیازمندی های بسیار بالایی را برای قدرت محاسباتی ایجاد می کند. GPU ها قادر به محاسبات موازی در مقیاس بزرگ هستند و در محاسبات ماتریسی و برداری از CPU ها بسیار پیشی می گیرند و تبدیل به این شده اند. "پلتفرم محاسباتی با کارایی بالا". عزیزم".

علاوه بر این، مزایای پهنای باند حافظه با سرعت بالا، مخزن توان محاسباتی مقیاس پذیر، چارچوب یادگیری عمیق بهینه سازی شده ویژه، و پشتیبانی از استقرار ابری نیز جایگاه اصلی قدرت محاسباتی GPU را در عصر هوش مصنوعی تثبیت کرده است.

انویدیا که در آوریل 1993 تأسیس شد، کار خود را با پردازنده‌های گرافیکی آغاز کرد و از طریق نوآوری و توسعه مستمر، به تدریج به یک رهبر در زمینه محاسبات با کارایی بالا تبدیل شد.

بر اساس گزارش آمار بازار GPU که توسط Jon Peddie Research منتشر شده است، انویدیا با سهم بازار 84 درصد در رتبه اول قرار دارد و پس از آن AMD با 12 درصد و اینتل با 4 درصد قرار دارند.

هر دو A100 و H100 پردازنده‌های گرافیکی سطح بالای مرکز داده انویدیا هستند که مخصوص محاسبات هوش مصنوعی طراحی شده‌اند. از نظر آموزش و استدلال شبکه‌های عصبی در مقیاس بزرگ، عملکرد آنها بسیار بیشتر از سایر رقبا است. دو تراشه ace در دستان انویدیا.

از ابتدای سال جاری، انویدیا روی «هرچه بیشتر بخرید، بیشتر پس انداز می‌کنید» تمرکز کرده است و پردازنده‌های گرافیکی مختلف به‌روزرسانی‌شده را بسیار ماهرانه و «محرمانه» راه‌اندازی کرده است.

در ماه مارس، انویدیا چهار تراشه استنتاج هوش مصنوعی، GPU H100 NVL، GPU L4 Tensor Core، GPU L40 و NVIDIA Grace Hopper را منتشر کرد.

دو ماه بعد، در نمایشگاه کامپیوتر تایپه در ماه می، Huang Renxun ابررایانه DGX GH200 متشکل از 256 سوپرتراشه NVIDIA GH200 Grace Hopper را منتشر کرد.

همین دو هفته پیش، Huang Renxun نسخه جدیدی از GH200 Grace Hopper مجهز به حافظه HBM3e را منتشر کرد که همچنین اولین تراشه GPU مجهز به حافظه HBM3e در جهان است.

حافظه HBM3e نوع جدیدی از فناوری حافظه با پهنای باند بالا است.از نظر سرعت محاسباتی، HBM3e می تواند 50 درصد سریعتر از سرعت محاسباتی HBM3 باشد و حداکثر سرعت انتقال 5 ترابایت بر ثانیه را ارائه دهد.

آموزش و استدلال دو مرحله بسیار مهم در مدل های بزرگ هوش مصنوعی هستند و GH200 دقیقاً در این کار خوب است. از نظر هوانگ رنکسون، سناریوی کاربردی معمول GH200 در آینده، مدل زبان بزرگ است و «محاسبات تسریع شده» و «محاسبات هوش مصنوعی» به تدریج جایگزین «محاسبات عمومی» پردازنده‌های گرافیکی x86 سنتی خواهند شد.

موارد متعددی در گذشته ثابت کرده‌اند که هنگامی که یک اکوسیستم عالی در یک خندق ساخته شود، افراد خارجی دست برتر را در رقابت به دست خواهند آورد.

اکوسیستم قوی انویدیا به طور طبیعی نیاز به گواهینامه مهر و موم رقبا دارد.ناوین رائو، دانشمند شبکه عصبی، زمانی به عنوان معاون و مدیر کل بخش پلت فرم هوش مصنوعی در اینتل خدمت می کرد.

او متوجه شد که بزرگ‌ترین مزیت انویدیا تنها خود تراشه نیست، بلکه انویدیا دارای یک انجمن بزرگ و مرکز توزیع با تعداد زیادی برنامه‌نویس هوش مصنوعی عالی است.

همه اولویت دارند که مبتنی بر انویدیا باشند، و زمانی که شما با یک قطعه سخت افزار جدید وارد بازار می شوید، همه چیز به دنبال آن است.

در گزارش مالی سه ماهه دوم، Huang Renxun همچنین گفت: "GPU های Nvidia که از طریق شبکه Mellanox و فناوری سوئیچ ما متصل شده اند و پشته نرم افزار CUDA AI ما را اجرا می کنند، زیرساخت محاسباتی برای هوش مصنوعی مولد را تشکیل می دهند."

CUDA یک پلت فرم محاسباتی موازی و مدل برنامه نویسی مبتنی بر GPUهای تولید شده توسط انویدیا است که هدف آن تسهیل بیشتر پرسنل فنی برای مشارکت در توسعه است.

توسعه دهندگان می توانند از طریق زبان های سطح بالا مانند C/C++ و Fortan API های CUDA را فراخوانی کنند تا برنامه نویسی موازی انجام دهند و محاسبات با کارایی بالا را انجام دهند. ایجاد این اکوسیستم باعث می شود بسیاری از توسعه دهندگان به CUDA تکیه کنند.

پیش از این Huang Renxun به دنیای خارج فاش کرد که CUDA بیش از 4 میلیون توسعه دهنده و بیش از 3000 برنامه در سراسر جهان دارد و تعداد دانلودهای CUDA به 40 میلیون بار رسیده است. 40000 شرکت بزرگ در جهان وجود دارد که از محصولات NVIDIA برای رایانش تسریع شده 15000 استارت آپ بر روی پلتفرم NVIDIA ساخته شده اند.

این تعداد زیاد نشان‌دهنده برتری قابل توجه اولین حرکت انویدیا است.اگر مخالفان دیگر می‌خواهند سخت‌افزار جدیدی راه‌اندازی کنند، باید به فکر رسیدن به این اکوسیستم نوآوری هوش مصنوعی در حال حاضر نیز باشند.

دو سر معامله، یک سر آن به فروشنده و سر دیگر آن به خریدار متصل است.

در ماه آوریل، «استاندارد دوگانه» ماسک به طور مشترک ممنوعیت آموزش هوش مصنوعی را امضا کرد، در حالی که مخفیانه 10000 پردازنده گرافیکی را برای توسعه مدل‌های بزرگ جمع‌آوری کرد و حتی علناً در X شکایت کرد: «به نظر می‌رسد که همه و هر سگی در حال خرید یک GPU هستند. ".

ماه گذشته، رئیس اوراکل علناً اعلام کرد که اوراکل میلیاردها دلار برای خرید پردازنده‌های گرافیکی انویدیا هزینه خواهد کرد تا خدمات رایانش ابری را برای موج جدیدی از شرکت‌های هوش مصنوعی گسترش دهد.

کسانی که قدرت محاسباتی را به دست می‌آورند، دنیا را برنده می‌شوند. در مسیر مولد هوش مصنوعی که در آن دنبال یکدیگر می‌روید، اضطراب جستجوی «تراشه» در کشور نیز وجود دارد.

کولت کرس، مدیر ارشد مالی انویدیا در این تماس گفت: ما انتظار داریم رشد متوالی عمدتاً توسط مراکز داده انجام شود، به طوری که فروش به مشتریان چینی تقریباً 20 تا 25 درصد از درآمد سه ماهه اخیر مرکز داده انویدیا را تشکیل می دهد.

پیش از این، طبق گزارش بریتانیایی "فایننشال تایمز"، غول‌های اینترنتی چینی در تلاش هستند تا تراشه‌های هوش مصنوعی انویدیا را با کارایی بالا با سفارش‌هایی به ارزش 5 میلیارد دلار در سال جاری و سال آینده به دست آورند.

در این میان، بایدو، تنسنت، علی‌بابا و بایت‌دنس در سال جاری به انویدیا در مجموع 1 میلیارد دلار سفارش پرداخت کرده‌اند و در مجموع 100000 دستگاه A800 خریداری کرده‌اند که معادل قیمتی معادل 10000 دلار آمریکا برای هر تراشه A800 است. تحویل 400000 تراشه باقی مانده در سال آینده. صد میلیون دلار آمریکا.

A800 در اصل "نسخه اخته شده" A100 است. با توجه به تاثیر این سیاست در آگوست سال گذشته، انویدیا تنها می تواند یک نسخه جایگزین نامحدود برای بازار سرزمین اصلی چین عرضه کند.

بسیاری از افراد در این صنعت بر این باورند که GPU به یک کالای کمیاب شناخته شده در بازار تبدیل شده است و وضعیت تراشه های سخت یافتن در یکی دو سال آینده همچنان دشوار خواهد بود.

بنابراین، تحت تعقیب مداوم پردازنده‌های گرافیکی با کمبود، پردازنده‌های گرافیکی انویدیا حتی برای برخی از استارت‌آپ‌های هوش مصنوعی تبدیل به ارز سختی شده‌اند.

به عنوان یک استارتاپ رایانش ابری، دریافت وام راه اندازی برای CoreWeave آسان نبود. به لطف وضعیت سرمایه گذار انویدیا، CoreWeave حتی می تواند از پردازنده گرافیکی H100 به عنوان وثیقه استفاده کند و به راحتی وام 2.3 میلیارد دلاری دریافت کند.

از دیدگاه وام دهنده، طبیعتاً این یک تجارت زیان ده نخواهد بود.

از یک سو، این وام به CoreWeave اجازه می دهد تا مقیاس محاسباتی و قدرت خود را به سرعت گسترش دهد و توانایی خود را برای بازپرداخت وام افزایش دهد. از سوی دیگر، انویدیا پردازنده های گرافیکی تکراری بیشتری را در سال آینده راه اندازی خواهد کرد. با این وام، CoreWeave همچنین می تواند از این وام استفاده کند. فرصتی برای گرفتن پردازنده گرافیکی GH200 که سال آینده در دسترس خواهد بود.

همانطور که قبلا ذکر شد، از آنجایی که تولیدکنندگان برتر نمی‌توانند پردازنده‌های گرافیکی را در بازار بگیرند، وضعیت استارت‌آپ‌های هوش مصنوعی که قوی نیستند، بدیهی است که نگران‌کننده‌تر است.

برخی از استارت‌آپ‌های هوشمند هوش مصنوعی فقط می‌توانند راه دیگری بیابند، در کنار هم قرار بگیرند و در آغوش انویدیا سرمایه‌گذاری کنند.

در ژوئن سال جاری استارت آپ هوش مصنوعی Inflection AI رسما اعلام کرد که دور جدید تامین مالی 1.3 میلیارد دلاری را تکمیل کرده است.شایان ذکر است که انویدیا برای اولین بار در لیست سرمایه گذاری جدید ظاهر شد.

پس از تامین منابع مالی، Inflection 22000 پردازنده گرافیکی H100 را از انویدیا خریداری خواهد کرد تا یک ابر کامپیوتر پیشرفته، از جمله یک سرور رک چهار گره با نزدیک به 700 پردازنده Intel Xeon بسازد.

هوش مصنوعی Inflection گفت که بزرگترین خوشه هوش مصنوعی جهان را با شرکای CoreWeave و NVIDIA خواهد ساخت.

اتحاد به ظاهر خوشحال بیشتر شبیه یک انتخاب درمانده است.مصطفی سلیمان، مدیر عامل هوش مصنوعی Inflection در مصاحبه ای با نیویورک تایمز گفت: "شرکت موظف به استفاده از محصولات انویدیا نیست، اما رقبا جایگزین های مناسبی ارائه نکرده اند."

امسال "سی سال" انویدیا است. در آخرین روز ماه می، انویدیا اولین شرکت تولید تراشه در جهان با ارزش بازار بیش از 1 تریلیون دلار شد و همچنین نهمین شرکت فناوری در تاریخ است که وارد ارزش بازار تریلیون دلاری شده است. باشگاه.

در ژوئن امسال، هوانگ رنکسون که لباس فارغ التحصیلی به تن داشت، برای شرکت در سخنرانی فارغ التحصیلی دانشگاه تایوان چین دعوت شد و از تجربیات زندگی گذشته خود برای ارسال پیام به فارغ التحصیلان استفاده کرد.

هر چه هست، با تمام وجود برو دنبالش، بدو! آهسته راه نرو
خواه دنبال غذا می دوید، یا دیگران با آن به عنوان غذا برخورد نمی کنند.
شما اغلب نمی دانید در چه موقعیتی قرار دارید، بنابراین بدون توجه به هر چیزی به دویدن ادامه دهید.

فرصت تاریخ زودگذر است، و مسیر GPU ممکن است مسیر دیگری باشد که برنده همه چیز را در اختیار دارد.

هوانگ رنکسون که به طرز وحشیانه ای در حال دویدن است، از فرصت هوش مصنوعی استفاده کرد و انویدیا را که در یک رستوران زنجیره ای کنار جاده ای متولد شده بود، با موفقیت به باشگاه تریلیون دلاری وارد کرد و تبدیل به بزرگترین برنده این موج هوش مصنوعی شد و شاید ادامه دهد. دوران بعدی را رهبری کند

#به دنبال کردن حساب عمومی رسمی وی چت Aifaner خوش آمدید: Aifaner (شناسه WeChat: ifanr)، در اسرع وقت محتوای هیجان انگیزتری برای شما ارائه خواهد شد.

Ai Faner | لینک اصلی · مشاهده نظرات · Sina Weibo