¿£ºñµð¾Æ ¡®½´ÆÛ AIĨ¡¯ ³»³ù´Ù¡¦ ¡°Ã³¸®¼Óµµ 2¹è¡± Çõ½ÅÀÇ ³¡ÆÇ¿Õ

  • ¹®È­ÀϺ¸
  • ÀÔ·Â 2023-11-14 11:42
ÇÁ¸°Æ®
º»¹® ÆùÆ® Å©±â ¼³Á¤
Æ˾÷ ´Ý±â

photoŬ¸¯ÇÏ½Ã¸é ´õ Å«À̹ÌÁö¸¦ º¸½Ç ¼ö ÀÖ½À´Ï´Ù



H100 ¾÷±×·¹ÀÌµå ¡®H200¡¯ Ãâ½Ã
°Å´ë ¾ð¾î ¸ðµ¨¿¡ ÃÖÀûÈ­ ¼³°è
À̹ÌÁö »ý¼º¡¤Ãß·Ð ´É·Âµµ Çâ»ó


ÀΰøÁö´É(AI)¿ë ¹ÝµµÃ¼ ½ÃÀåÀÇ ¼±µÎ ÁÖÀÚÀÎ ¿£ºñµð¾Æ°¡ ¼º´ÉÀ» Çõ½ÅÀûÀ¸·Î ²ø¾î¿Ã¸° Â÷¼¼´ë AI ¹ÝµµÃ¼¸¦ °ø°³Çß´Ù. ¾÷°è¿¡¼­´Â ¼¼°è ÃÖÃÊ·Î °í´ë¿ªÆø ¸Þ¸ð¸®(HBM3e)°¡ žÀçµÈ Á¦Ç° Ãâ½Ã·Î ¸Þ¸ð¸® ¹ÝµµÃ¼ ¼ö¿ä Áõ°¡µµ °¡Á®¿Ã °ÍÀ¸·Î Àü¸ÁÇß´Ù.

¿£ºñµð¾Æ´Â 13ÀÏ(ÇöÁö½Ã°£) »ý¼ºÇü AI ¸ðµ¨ÀÇ ±â¹ÝÀÌ µÇ´Â ´ë±Ô¸ð ¾ð¾î ¸ðµ¨(LLM)¿¡ Àû¿ëÇØ À̸¦ ÈÆ·ÃÇϵµ·Ï ¼³°èµÈ ±×·¡ÇÈó¸®ÀåÄ¡(GPU) ¡®H200¡¯(»çÁø)À» °ø°³Çß´Ù. H200Àº ¿ÀÇÂAIÀÇ ÃªGPT-4¸¦ ÈÆ·ÃÇÏ´Â µ¥ »ç¿ëµÈ H100ÀÇ ¾÷±×·¹ÀÌµå ¹öÀüÀÌ´Ù.

H200¿¡´Â 141±â°¡¹ÙÀÌÆ®(GB)ÀÇ Â÷¼¼´ë ¸Þ¸ð¸® ¡®HBM3e¡¯°¡ žÀçµÆ´Ù. °í´ë¿ªÆø ¸Þ¸ð¸®¸¦ ¶æÇÏ´Â HBMÀº ¿©·¯ °³ÀÇ D·¥À» ¼öÁ÷À¸·Î ¿¬°áÇØ µ¥ÀÌÅÍ Ã³¸® ¼Óµµ¸¦ Çõ½ÅÀûÀ¸·Î ²ø¾î¿Ã¸° °í¼º´É Á¦Ç°ÀÌ´Ù. ¿£ºñµð¾Æ´Â ¡°ÃÊ´ç 4.8Å׶ó¹ÙÀÌÆ®(TB)ÀÇ ¼Óµµ·Î 141GBÀÇ ¸Þ¸ð¸®¸¦ Á¦°øÇÑ´Ù. ÀÌ´Â ÀÌÀü Á¦Ç°ÀÎ A100¿¡ ºñÇØ ¿ë·®Àº °ÅÀÇ µÎ ¹è, ´ë¿ªÆøÀº 2.4¹è ´õ Ä¿Á³´Ù¡±°í ¼³¸íÇß´Ù. ±×·¯¸é¼­ H200ÀÌ ±âÁ¸ÀÇ H100¿¡ ºñÇØ Ã³¸® ¼Óµµ°¡ µÎ ¹è°¡·® ºü¸¥ °ÍÀ¸·Î È®ÀÎµÆ´Ù°í ¹àÇû´Ù. ¶Ç ÅؽºÆ®, À̹ÌÁö µîÀÇ »ý¼º ´É·Â°ú Ãß·Ð ´É·Âµµ Çâ»óµÆ´Ù°í µ¡ºÙ¿´´Ù.

H200Àº ³»³â 2ºÐ±â º»°ÝÀûÀ¸·Î Ãâ½ÃµÉ ¿¹Á¤ÀÌ´Ù. ÀÌ¿¡ µû¶ó Ãâ½Ã¸¦ ¾ÕµÐ ¹Ì ¹ÝµµÃ¼ ±â¾÷ AMDÀÇ MI300X Ĩ°ú °æÀïÀÌ ¿¹»óµÈ´Ù. H200ÀÇ °¡°ÝÀº 1°³´ç °¡°ÝÀÌ 2¸¸5000¡­4¸¸ ´Þ·¯(¾à 3300¸¸¡­5280¸¸ ¿ø)·Î ÃßÁ¤µÇ´Â H100º¸´Ù´Â ºñ½Ò °ÍÀ¸·Î °üÃøµÈ´Ù.

±¹³» ¹ÝµµÃ¼ ¾÷°è´Â AI ¼º´ÉÀÌ °íµµÈ­ÇÒ¼ö·Ï ³ôÀº ¼º´ÉÀ» ¹ßÈÖÇϴ ĨÀÌ °è¼Ó °³¹ßµÇ°í ÀÖÀ¸¸ç, ÀÌ¿¡ ¸ÂÃç ¸Þ¸ð¸® ¹ÝµµÃ¼ ¼º´ÉÀÌ °³¼±µÇ´Â °ÍÀº ¹°·Ð ¼ö¿äµµ ´Ã¾î³¯ °ÍÀ¸·Î ±â´ëÇÏ°í ÀÖ´Ù. ¾È±âÇö Çѱ¹¹ÝµµÃ¼»ê¾÷Çùȸ Àü¹«´Â ¡°AI ¹ÝµµÃ¼ ¼º´ÉÀÌ °³¼±µÇ¸é ¸Þ¸ð¸® ¹ÝµµÃ¼ÀÇ ¼º´Éµµ ³ô¾ÆÁ®¾ß ÇϹǷΠ¿ì¸®¿¡°Ô´Â ÁÁÀº ±âȸ°¡ µÉ °Í¡±À̶ó°í ºÐ¼®Çß´Ù.

ȲÇýÁø¡¤À̽ÂÁÖ ±âÀÚ
ȲÇýÁø
ÁÖ¿ä´º½º
±â»ç´ñ±Û
AD
count
AD
AD
AD
ADVERTISEMENT