פאַל באַנער

אינדוסטריע נייעס: דזשים קעלער האט ארויסגעגעבן א נייעם RISC-V טשיפּ

אינדוסטריע נייעס: דזשים קעלער האט ארויסגעגעבן א נייעם RISC-V טשיפּ

די דזשים קעלער-געפירטע טשיפּ פירמע טענסטאָרענט האט ארויסגעגעבן איר נעקסטע דור וואָרמהאָלע פּראַסעסאָר פֿאַר קינסטלעכע אינטעליגענץ וואָרקלאָודז, וואָס זי ערוואַרטעט צו פאָרשלאָגן גוטע פאָרשטעלונג צו אַן אַפאָרדאַבאַל פּרייַז.די פירמע אָפפערט איצט צוויי נאָך PCIe קאַרטלעך וואָס קענען אַקאַמאַדירן איין אָדער צוויי וואָרמהאָל פּראַסעסערז, ווי אויך TT-LoudBox און TT-QuietBox וואָרקסטיישאַנז פֿאַר ווייכווארג דעוועלאָפּערס. אַלע היינטיקע מעלדונגען זענען געצילט צו דעוועלאָפּערס, נישט די וואָס נוצן וואָרמהאָל ברעטער פֿאַר קאמערציעלע וואָרקלאָודז.

"עס איז שטענדיק באַפרידיקנד צו באַקומען מער פון אונדזערע פּראָדוקטן אין די הענט פון דעוועלאָפּערס. מעלדונג אַנטוויקלונג סיסטעמען ניצן אונדזערע וואָרמהאָל™ קאַרדס קענען העלפֿן דעוועלאָפּערס סקאַלירן און אַנטוויקלען מולטי-טשיפּ קינסטלעכע אינטעליגענץ ווייכווארג," האט געזאגט דזשים קעלער, סעאָ פון טענסטאָרענט.אין צוגאב צו דעם לאָנטש, זענען מיר אויפֿגעברויזט צו זען דעם פּראָגרעס וואָס מיר מאַכן מיטן אויסלאָזן דעם טייפּ און אויפֿשטעלן אונדזער צווייטער-דור פּראָדוקט, Blackhole.

1

יעדער וואָרמהאָל פּראַסעסער כּולל 72 טענסיקס קערנס (פינף פון וועלכע שטיצן RISC-V קערנס אין פֿאַרשידענע דאַטן פֿאָרמאַטן) און 108 מעגאבייט פון SRAM, וואָס גיט 262 FP8 TFLOPS ביי 1 GHz מיט אַ טערמישער פּלאַן מאַכט פון 160W. די איין-טשיפּ וואָרמהאָל n150 קאַרטל איז יקוויפּט מיט 12 GB GDDR6 ווידעא זכּרון און האט אַ באַנדווידט פון 288 GB/s.

וואָרמהאָל פּראַסעסאָרן צושטעלן פלעקסיבלע סקאַלאַביליטי צו טרעפן די פֿאַרשיידענע באדערפענישן פון וואָרקלאָודז. אין אַ נאָרמאַל וואָרמהאָל n300 קאַרדס, קענען די פּראַסעסאָרן ווערן קאַמביינד אין אַ איין אַפּאַראַט וואָס דערשיינט אין די ווייכווארג ווי אַ פאַראייניקטע, ברייט טענסיקס קאָר נעץ. די קאָנפיגוראַציע אַלאַוז די אַקסעלעראַטאָר צו שעפּן די זעלבע וואָרקלאָוד, צעטיילט צווישן פיר דעוועלאָפּערס אָדער לויפן ביז אַכט פאַרשידענע AI מאָדעלס סיימאַלטייניאַסלי. א שליסל שטריך פון דעם סקאַלאַביליטי איז אַז עס קען לויפן לאָוקאַלי אָן די נויט פֿאַר ווירטואַליזאַטיאָן. אין אַ דאַטן צענטער סוויווע, וועלן וואָרמהאָל פּראַסעסאָרן נוצן PCIe פֿאַר יקספּאַנשאַן ין די מאַשין, אָדער עטהערנעט פֿאַר פונדרויסנדיק יקספּאַנשאַן.

אין טערמינען פון פאָרשטעלונג, טענסטאָרענט'ס איין-טשיפּ וואָרמהאָלע n150 קאַרטל (72 טענסיקס קערנס, 1 GHz אָפטקייט, 108 MB SRAM, 12 GB GDDR6, 288 GB/s באַנדווידט) האט דערגרייכט 262 FP8 TFLOPS ביי 160W, בשעת די צוויי-טשיפּ וואָרמהאָלע n300 ברעט (128 טענסיקס קערנס, 1 GHz אָפטקייט, 192 MB SRAM, צוזאַמענגעבראַכט 24 GB GDDR6, 576 GB/s באַנדווידט) גיט ביז 466 FP8 TFLOPS ביי 300W.

כדי צו שטעלן 300W פון 466 FP8 TFLOPS אין קאנטעקסט, וועלן מיר עס פארגלייכן צו וואס די AI מארקעט פירערין Nvidia אָפערט ביי דעם טערמישן דיזיין קראַפט. Nvidia'ס A100 שטיצט נישט FP8, אבער עס שטיצט יא INT8, מיט א שפּיץ פאָרשטעלונג פון 624 TOPS (1,248 TOPS ווען שפּאָרעוודיק). אין פארגלייך, Nvidia'ס H100 שטיצט FP8 און דערגרייכט א שפּיץ פאָרשטעלונג פון 1,670 TFLOPS ביי 300W (3,341 TFLOPS ביי שפּאָרעוודיק), וואָס איז באַדייטנד אַנדערש פון Tenstorrent'ס Wormhole n300.

אבער, עס איז דא איין גרויס פראבלעם. טענסטאָרענט'ס וואָרמהאָל n150 ווערט פארקויפט פאר $999, בשעת די n300 ווערט פארקויפט פאר $1,399. אין פארגלייך, איין Nvidia H100 גראַפיקס קאַרטל ווערט פארקויפט פאר $30,000, דיפּענדינג אויף די קוואַנטיטעט. זיכער, מיר ווייסן נישט צי פיר אדער אכט וואָרמהאָל פּראַסעסאָרן קענען טאַקע צושטעלן די פאָרשטעלונג פון איין H300, אָבער זייערע TDPs זענען 600W און 1200W בהתאמה.

אין צוגאב צו די קארטלעך, אָפפערט טענסטאָרענט פאַר-געבויטע וואָרקסטיישאַנז פֿאַר דעוועלאָפּערס, אַרייַנגערעכנט 4 n300 קארטלעך אין די מער אַפאָרדאַבאַל Xeon-באַזירט TT-LoudBox מיט אַקטיוו קאָאָלינג, און די אַוואַנסירטע TT-QuietBox מיט EPYC-באַזירט Xiaolong) פליסיק קאָאָלינג פונקציע.


פּאָסט צייט: 29סטן יולי 2024