چگونه گوگل با استفاده از تراشههای TPU برای آموزش هوش مصنوعی اپل و جمینای میسازد؟, در داخل آزمایشگاههای گوگل در مانتین ویو، کالیفرنیا، صدها سرور در راهروها فعال هستند و وظایفی را انجام میدهند که خیلی کمتر از کاری است که موتور جستجوی گوگل انجام میدهد. بهجای پردازش جستجو، این سرورها در حال اجرای آزمایشهای دقیق روی تراشههای هوش مصنوعی اختصاصی گوگل هستند که به اسم واحد پردازش تنسور (TPU) شناخته میشوند.
واحدهای پردازش تنسور گوگل ابتدا برای مدیریت بار کاری داخلی شده و از سال ۲۰۱۸ برای مشترکان سرویس ابری در دسترس قرار گرفتهاند. اپل در ماه یولیو اعلام کرد که از این تراشهها برای آموزش مدلهای هوش مصنوعی خود که پایه و مبنای پلتفرم Apple هستند، استفاده میکند. همینطور گوگل برای آموزش و اجرای چتبات جمینای خود بهطور قوی به TPUها متکی است.
جایگاه گوگل در ساخت تراشه هوش مصنوعی سفارشی ابری گوگل اولین ارائهدهنده خدمات ابری بود که تراشههای هوش مصنوعی سفارشی ساخت. سه سال بعد، آمازون وب سرویس اولین تراشه هوش مصنوعی ابری خود به نام را معرفی کرد. اولین تراشه هوش مصنوعی سفارشی مایکروسافت یعنی تا پایان سال ۲۰۲۳ شناخته نشد. با این حال، اولین بودن در این حوزه به معنای دستیابی به جایگاه برتر در رقابت هوش مصمول مولد نیست.
گوگل به دلیل ất محصولات ناموفق، با انتقادها روبرو شد و جمینای از یک سال بعد از ChatGPT ارائه شد. با این حال، ابری گوگل به دلیل پیشرفت در محصولات AI شتاب پیدا کرده. شرکت مادر گوگل، آلفابت، گزارش داد که درآمد قسمت ابری در سه ماه گذشته ۲۹ درصد افزایش یافته و برای اولین بار از ۱۰ میلیارد دلار فراتر رفته است.
عصر ابر هوش مصنوعی بهطور کامل نحوه دیده شدن شرکتها را تغییر داده و این تفکیک سیلیکونی (نزدیک بودن در ساخت تراشهها) یا به- دیگر قابلیت واحد پردازشی، یکی از بزرگترین دلایلی است که به گوگل اجازه میدهد توانمندیهای هوش مصنوعی خود را به جایگاه سومین ارائهدهنده خدمات ابری به سطح دو شرکت ابری دیگر و حتی فراتر برساند. همکاری گوگل با برادکام و TSMC در ماه، CNBC اولین تور ضبطشده با دوربین از آزمایشگاه تراشه گوگل را برگزار کرد و با رئیس بخش تراشههای ابری سفارشی، امین وحدت، مصاحبه کرد.
او گفت که وقتی گوگل برای اولین بار در سال ۲۰۱۴ به ایده ساخت تراشهها مشغول شد، او در این شرکت حضور داشت. وحدت در مصاحبه خود گفت همه چیز با یک آزمایش فکری ساده اما قوی شروع شد. تعدادی از مدیران این سوال را پرسیدند اگر کاربران گوگل بخواهند فقط ۳۰ ثانیه در روز از طریق صدا با سیستم تعامل کنند، چه اتفاقی میافتد؟
چه مقدار قدرت محاسبی نیاز داریم تا این کار را انجام دهیم؟ وحدت افزود ما متوجه شدیم که میتوانیم سختافزار سفارشی بسازیم نه سختافزار عمومی؛ بلکه سختافزار سفارشی (در این مورد واحدهای پردازش تنسور) تا از کاربران بهتر حمایت کنیم؛ در واقع ۱۰۰ برابر کارآمدتر از دعم در شرایط دیگر است. مراکز داده گوگل تا به امروز به واحدهای پردازش مرکزی عمومی (CPU) و واحدهای پردازش گرافیکی انویدیا (GPU) متکی بودهاند.
واحدهای پردازش تنسور گوگل نوع خاصی از به نام مدار مجتمع خاص برنامه (ASIC) هستند که برای اهداف خاص سفارشیسازی شدهاند. TPU تمرکز ویژهای بر هوش مصنوعی دارد. گوگل یک ASIC دیگر هم متمرکز بر ویدیو به نام واحد کدگذاری ویدئو (VCU) ساخته است. این رویکرد دقیقاً مانند استراتژی سیلیکون سفارشی اپل است؛ گوگل تراشههای سفارشی برای دستگاههای خود میسازد، مانند تراشه که پیکسل ۹ است و تراشه که نیرو ۲ را بر عهده دارد.
براساس گزارش گروه فیوچروم، واحدهای پردازش تنسور گوگل با ۵۸ درصد سهم بازار، تا به امروز در میان شتابدهندههای ابری سفارشی هوش مصنوعی، بیشترین سهم را به خود اختصاص دادهاند. اسم TPU از کلمهٔ جبری تنسور گرفته شده که به ضرب ماتریسهای بزرگمقیاس اشاره دارد که در اپلیکیشنهای هوش مصنوعی پیشرفته محاسبه میشود. با ارائه دومین TPU در سال ۲۰۱۸، گوگل تمرکز خود را از استنتاج به سمت آموزش مدلهای هوش مصنوعی سوق داد.
پردازندههای گرافیکی برنامهپذیرتر و انعطافپذیرتر هستند؛ اما ارائه آنها محدود بوده است. شکوفایی هوش مصنوعی قیمت سهام انویدیا را به شدت افزایش داده و قیمت بازار این شرکت در ماه ژوئن به ۳ تریلیون دلار رسیده است؛ این رقم از قیمت بازار آلفابت هم بیشتر است. اما گوگل برای تبدیل به ارزشمندترین شرکت جهان با اپل و مایکروسافت رقابت میکند.
اگر بخواهیم صادق باشیم، باید بگوییم این شتابدهندههای تخصصی هوش مصنوعی بهاندازه پلتفرم انویدیا انعطافپذیر یا قوی نیستند و این همان چیزی است که بازار نیز به دنبال آن است آیا فردی میتواند در این فضا رقابت کند؟ اکنون که میدانیم اپل از واحدهای پردازش تنسور گوگل برای آموزش مدلهای هوش مصنوعی خود استفاده میکند، آزمون واقعی وقتی خواهد بود که ویژگیهای هوش مصنوعی این مدلها در سال آینده بهطور کامل روی دستگاههای آیفون و مک ارائه شوند.
همکاری گوگل با برادکام و TSMC گسترش جانشینهای مناسب برای موتورهای هوش مصنوعی انویدیا کار آسانی نیست. نسل ششم TPU گوگل به نام تریلیوم قرار است اواخر این سال ارائه شود.
گسترش جانشینهای مناسب برای موتورهای AI هزینهبر و دشوار است؛ این کاری نیست که همه بتوانند انجام دهند؛ اما این مراکز داده بزرگ، توانمندیها، پول و منابع لازم برای رفتن به این مسیر را دارند. این فرآیند آنقدر پیچیده و پرهزینه است که حتی مراکز داده بزرگ نمیتوانند به تنهایی این کار را انجام دهند. گوگل از زمان ارائه اولین TPU، با برادکام، یک گسترشدهنده تراشه که در طراحی تراشههای AI برای متا نیز همکاری دارد، همکاری کرده است.
برادکام ادعا میکند برای انجام این همکاریها بیش از ۳ میلیارد دلار هزینه کرده است. برادکام تمام کارهای جانبی را انجام میدهد دریافت ورودیها، ارائه خروجیها، مدارهای فرستنده-گیرنده که دادههای موازی را به سریال و برعکس تبدیل میکنند، و دیگر فعالیتهای محاسباتی.
برادکام هم محافظت از مدارها را بر عهده دارد. در مرحله بعدی، طراحی نهایی برایخانهها ارسال میشود؛ این کارخانهها متعلق به بزرگترین شرکت تولیدکننده تراشههای جهان، TSMC، هستند که ۹۲ درصد از گسترش یافتهترین قطعات نیمههاسی جهان را تولید میکنند.
هنگام پرسش از وحدت درباره تدابیری برای محافظت در برابر تهدیدات ژئوپلیتیک بین چین و تایوان، او گفت قطعاً برای این اتفاقات آماده شدهایم و به آن فکر میکنیم، اما امیدواریم نیازی به عمل در این راستا نباشد. حفاظت در برابر این، دلیل تخصیص ۵۲ میلیارد دلار از بودجه قانون CHIPS به شرکتهای سازنده کارخانه در ایالات متحده توسط کاخ سفید است. تا به امروز اینتل، TSMC و سامسونگ بیشترین بودجهها را دریافت کردهاند.
آیا گوگل در کارش موفق خواهد شد؟ او رغم همهٔ ریسکها، حرکت بزرگی در زمینه تراشهها انجام داده و اعلام کرد که اولین پردازنده عمومی این شرکت به نام آکسیون تا پایان سال در دسترس قرار خواهد گرفت. گوگل دیر با CPU _; آمازون پردازنده گراویتون خود را در ۲۰۱۸، علیبابا تراشه سرور خود را در ۲۰۲۱ و مایکروسافت در نوامبر CPU خود را منتشر کرد.
تمرکز ما بر حوزهای بوده که میتوانیم بیشترین قدرتمندی را برای مشتریان خود ارائه دهیم و کارمان را با TPU، واحدهای کدگذاری ویدیو و شبکهها شروع کردیم.
پس از ارائه این سختافزارها، گفتگوی زمان ارائه پردازنده شد. ساخت این پردازندهها توسط شرکتهای غیرتراشهساز، از جمله گوگل، با بهرهگیری از معماری ARM امکانپذیر شده است؛ این معماری جایگزینی با امکان سفارشیسازی بالاتر و کارایی بهتر از نظر انرژی است که نسبت به مورد استفاده توسط اینتل و AMD موفقتر بوده است.
صرفهجویی در انرژی بسیار مهم است؛ چون پیشبینی میشود تا ۲۰۲۷ سرورهای هوش مصنوعی هر ساله مصرف کرده معادل کشوری مثل آرژانتین باشد. گزارش محیطزیستی تازه گوگل نشان داد که انتشار گازهای گلخانهای از ۲۰۱۹ تا ۲۰۲۳ تقریباً ۵۰ درصد افزایش یافته که بخشی از آن به دلیل رشد مراکز داده برای تأمین انرژی AI است.
وحدت در مورد این موضوع گفت ما شبانهروز برای کاهش انتشار کربن ناشی از زیرساختهای خود تلاش میکنیم و به دنبال رسیدن به انتشار صفر هستیم. خنک کردن سرورهای آموزش و اجرای AI نیاز به آب دارد؛ به همین دلیل، نسل سوم TPU گوگل از سیستم خنککننده مستقیم به تراشه استفاده میکند که آب کمتری مصرف میکند.
این روش که در آن مایع خنککننده مستقیماً اطراف پیغتراشه حرکت میکند، همان روشی است که انویدیا برای خنک کردن پردازندههای گرافیکی استفاده میکند. گوگل با وجود چالشهای زیاد، از ژئوپلیتیک گرفته تا برق و آب، به ارائه ابزارهای هوش مصنوعی مولد و ساخت تراشههای خود متعهد است.
من هیچگاه عزم راسخ و استواثبتی نظیر گوگل را ندیدم و شدت حرکت این شرکت هرگز کاهش نیافته و قرار است سختافزار نقش بسیار مهمی در این زمین داشته باشد., در داخل آزمایشگاههای گوگل در مانتین ویو، کالیفرنیا، صدها سرور در راهروها فعال هستند و وظایفی را انجام میدهند که خیلی کمتر از کاری است که موتور جستجوی گوگل انجام میدهد.
بهجای پردازش جستجو، این سرورها در حال اجرای آزمایشهای دقیق روی تراشههای هوش مصنوعی اختصاصی گوگل هستند که به اسم واحد پردازش تنسور (TPU) شناخته میشوند. واحدهای پردازش تنسور گوگل ابتدا برای مدیریت بار کاری داخلی شده و از سال ۲۰۱۸ برای مشترکان سرویس ابری در دسترس قرار گرفتهاند. اپل در ماه اعلام کرد که از این تراشهها برای آموزش مدلهای هوش مصنوعی خود که پایه و مبنای پلتفرم Apple هستند، استفاده میکند.
همینطور گوگل برای آموزش و اجرای چتبات جمینای خود بهطور قوی به TPUها متکی است. جایگاه گوگل در ساخت تراشه هوش مصنوعی سفارشی ابری گوگل اولین ارائهدهنده خدمات ابری بود که تراشههای هوش مصنوعی سفارشی ساخت. سه سال بعد، آمازون وب سرویس اولین تراشه هوش مصنوعی ابری خود به نام را معرفی کرد. اولین تراشه هوش مصنوعی سفارشی مایکروسافت یعنی تا پایان سال ۲۰۲۳ شناخته نشد.
با این حال، اولین بودن در این حوزه به معنای دستیابی به جایگاه برتر در رقابت هوش مصمول مولد نیست. گوگل به دلیل ất محصولات ناموفق، با انتقادها روبرو شد و جمینای از یک سال بعد از ChatGPT ارائه شد. با این حال، ابری گوگل به دلیل پیشرفت در محصولات AI شتاب پیدا کرده. شرکت مادر گوگل، آلفابت، گزارش داد که درآمد قسمت ابری در سه ماه گذشته ۲۹ درصد افزایش یافته و برای اولین بار از ۱۰ میلیارد دلار فراتر رفته است.
عصر ابر هوش مصنوعی بهطور کامل نحوه دیده شدن شرکتها را تغییر داده و این تفکیک سیلیکونی (نزدیک بودن در ساخت تراشهها) یا به- دیگر قابلیت واحد پردازشی، یکی از بزرگترین دلایلی است که به گوگل اجازه میدهد توانمندیهای هوش مصنوعی خود را به جایگاه سومین ارائهدهنده خدمات ابری به سطح دو شرکت ابری دیگر و حتی فراتر برساند. همکاری گوگل با برادکام و TSMC در ماه، CNBC اولین تور ضبطشده با دوربین از آزمایشگاه تراشه گوگل را برگزار کرد و با رئیس بخش تراشههای ابری سفارشی، امین وحدت، مصاحبه کرد.
او گفت که وقتی گوگل برای اولین بار در سال ۲۰۱۴ به ایده ساخت تراشهها مشغول شد، او در این شرکت حضور داشت. وحدت در مصاحبه خود گفت همه چیز با یک آزمایش فکری ساده اما قوی شروع شد. تعدادی از مدیران این سوال را پرسیدند اگر کاربران گوگل بخواهند فقط ۳۰ ثانیه در روز از طریق صدا با سیستم تعامل کنند، چه اتفاقی میافتد؟
چه مقدار قدرت محاسبی نیاز داریم تا این کار را انجام دهیم؟ وحدت افزود ما متوجه شدیم که میتوانیم سختافزار سفارشی بسازیم نه سختافزار عمومی؛ بلکه سختافزار سفارشی (در این مورد واحدهای پردازش تنسور) تا از کاربران بهتر حمایت کنیم؛ در واقع ۱۰۰ برابر کارآمدتر از دعم در شرایط دیگر است. مراکز داده گوگل تا به امروز به واحدهای پردازش مرکزی عمومی (CPU) و واحدهای پردازش گرافیکی انویدیا (GPU) متکی بودهاند.
واحدهای پردازش تنسور گوگل نوع خاصی از به نام مدار مجتمع خاص برنامه (ASIC) هستند که برای اهداف خاص سفارشیسازی شدهاند. TPU تمرکز ویژهای بر هوش مصنوعی دارد. گوگل یک ASIC دیگر هم متمرکز بر ویدیو به نام واحد کدگذاری ویدئو (VCU) ساخته است. این رویکرد دقیقاً مانند استراتژی سیلیکون سفارشی اپل است؛ گوگل تراشههای سفارشی برای دستگاههای خود میسازد، مانند تراشه که پیکسل ۹ است و تراشه که نیرو ۲ را بر عهده دارد.
براساس گزارش گروه فیوچروم، واحدهای پردازش تنسور گوگل با ۵۸ درصد سهم بازار، تا به امروز در میان شتابدهندههای ابری سفارشی هوش مصنوعی، بیشترین سهم را به خود اختصاص دادهاند. اسم TPU از کلمهٔ جبری تنسور گرفته شده که به ضرب ماتریسهای بزرگمقیاس اشاره دارد که در اپلیکیشنهای هوش مصنوعی پیشرفته h محاسبه میشود. با ارائه دومین TPU در سال ۲۰۱۸، گوگل تمرکز خود را از استنتاج به سمت آموزش مدلهای هوش مصنوعی سوق داد.
پردازندههای گرافیکی برنامهپذیرتر و انعطافپذیرتر هستند؛ اما ارائه آنها محدود بوده است. شکوفایی هوش مصنوعی قیمت سهام انویدیا را به شدت افزایش داده و قیمت بازار این شرکت در ماه به ۳ تریلیون دلار رسیده است؛ این رقم از قیمت بازار آلفابت هم بیشتر است. اما گوگل برای تبدیل به ارزشمندترین شرکت جهان با اپل و مایکروسافت رقابت میکند.
اگر بخواهیم صادق باشیم، باید بگوییم این شتابدهندههای تخصصی هوش مصنوعی بهاندازه پلتفرم انویدیا انعطافپذیر یا قوی نیستند و این همان چیزی است که بازار نیز به دنبال آن است آیا فردی میتواند در این فضا رقابت کند؟ اکنون که میدانیم اپل از واحدهای پردازش تنسور گوگل برای آموزش مدلهای هوش مصنوعی خود استفاده میکند، آزمون واقعی وقتی خواهد بود که ویژگیهای هوش مصنوعی این مدلها در سال آینده بهطور کامل روی دستگاههای آیفون و مک ارائه شوند.
همکاری گوگل با برادکام و TSMC گسترش جانشینهای مناسب برای موتورهای هوش مصنوعی انویدیا کار آسانی نیست. نسل ششم TPU گوگل به نام تریلیوم قرار است اواخر این سال ارائه شود.
گسترش جانشینهای مناسب برای موتورهای AI هزینهبر و دشوار است؛ این کاری نیست که همه بتوانند انجام دهند؛ اما این مراکز داده بزرگ، توانمندیها، پول و منابع لازم برای رفتن به این مسیر را دارند. این فرآیند آنقدر پیچیده و پرهزینه است که حتی مراکز داده بزرگ نمیتوانند به تنهایی این کار را انجام دهند. گوگل از زمان ارائه اولین TPU، با برادکام، یک گسترشدهنده تراشه که در طراحی تراشههای AI برای متا نیز همکاری دارد، همکاری کرده است.
برادکام ادعا میکند برای انجام این همکاریها بیش از ۳ میلیارد دلار هزینه کرده است. برادکام تمام کارهای جانبی را انجام میدهد دریافت ورودیها، ارائه خروجیها، مدارهای فرستنده-گیرنده که دادههای موازی را به سریال و برعکس تبدیل میکنند، و دیگر فعالیتهای محاسباتی.
برادکام هم محافظت از مدارها را بر عهده دارد. در مرحله بعدی، طراحی نهایی برایخانهها ارسال میشود؛ این کارخانهها متعلق به بزرگترین شرکت تولیدکننده تراشههای جهان، TSMC، هستند که ۹۲ درصد از گسترش یافتهترین قطعات نیمههاسی جهان را تولید میکنند.
هنگام پرسش از وحدت درباره تدابیری برای محافظت در برابر تهدیدات ژئوپلیتیک بین چین و تایوان، او گفت قطعاً برای این اتفاقات آماده شدهایم و به آن فکر میکنیم، اما امیدواریم نیازی به عمل در این راستا نباشد. حفاظت در برابر این، دلیل تخصیص ۵۲ میلیارد دلار از بودجه قانون CHIPS به شرکتهای سازنده کارخانه در ایالات متحده توسط کاخ سفید است. تا به امروز اینتل، TSMC و سامسونگ بیشترین بودجهها را دریافت کردهاند.
آیا گوگل در کارش موفق خواهد شد؟ او رغم همهٔ ریسکها، حرکت بزرگی در زمینه تراشهها انجام داده و اعلام کرد که اولین پردازنده عمومی این شرکت به نام آکسیون تا پایان سال در دسترس قرار خواهد گرفت. گوگل دیر با CPU _; آمازون پردازنده گراویتون خود را در ۲۰۱۸، علیبابا تراشه سرور خود را در ۲۰۲۱ و مایکروسافت در نوامبر CPU خود را منتشر کرد.
تمرکز ما بر حوزهای بوده که میتوانیم بیشترین قدرتمندی را برای مشتریان خود ارائه دهیم و کارمان را با TPU، واحدهای کدگذاری ویدیو و شبکهها شروع کردیم.
پس از ارائه این سختافزارها، گفتگوی زمان ارائه پردازنده شد. ساخت این پردازندهها توسط شرکتهای غیرتراشهساز، از جمله گوگل، با بهرهگیری از معماری ARM امکانپذیر شده است؛ این معماری جایگزینی با امکان سفارشیسازی بالاتر و کارایی بهتر از نظر انرژی است که نسبت به مورد استفاده توسط اینتل و AMD موفقتر بوده است.
صرفهجویی در انرژی بسیار مهم است؛ چون پیشبینی میشود تا ۲۰۲۷ سرورهای هوش مصنوعی هر ساله مصرف کرده معادل کشوری مثل آرژانتین باشد. گزارش محیطزیستی تازه گوگل نشان داد که انتشار گازهای گلخانهای از ۲۰۱۹ تا ۲۰۲۳ تقریباً ۵۰ درصد افزایش یافته که بخشی از آن به دلیل رشد مراکز داده برای تأمین انرژی AI است.
وحدت در مورد این موضوع گفت ما شبانهروز برای کاهش انتشار کربن ناشی از زیرساختهای خود تلاش میکنیم و به دنبال رسیدن به انتشار صفر هستیم. خنک کردن سرورهای آموزش و اجرای AI نیاز به آب دارد؛ به همین دلیل، نسل سوم TPU گوگل از سیستم خنککننده مستقیم به تراشه استفاده میکند که آب کمتری مصرف میکند.
این روش که در آن مایع خنککننده مستقیماً اطراف پیغتراشه حرکت میکند، همان روشی است که انویدیا برای خنک کردن پردازندههای گرافیکی استفاده میکند. گوگل با وجود چالشهای زیاد، از ژئوپلیتیک گرفته تا برق و آب، به ارائه ابزارهای هوش مصنوعی مولد و ساخت تراشههای خود متعهد است. من هیچگاه عزم راسخ و استواثبتی نظیر گوگل را ندیدم و شدت حرکت این شرکت هرگز کاهش نیافته و قرار است سختافزار نقش بسیار مهمی در این زمین داشته باشد.