»ý¼ºÇü AI ¸ðµ¨À» Àڻ缺ñ½º¿¡ ÅëÇÕÇÏ¿© ÅؽºÆ® »ý¼º, À̹ÌÁö »ý¼º µî È°¿ë °¡´É
¶ó¸¶2(Llama 2), ½ºÅ×ÀÌºí µðÇ»Àü(Stable Diffusion), ÄÚµå ¶ó¸¶(CodeLlama), ¹Ì½ºÆ®¶ö(Mistral) µî Àαâ ÀÖ´Â »ý¼ºÇü AI ¸ðµ¨ Áö¿ø »ý¼ºÇü AI Ãß·Ð ¼ºù ºÐ¾ß¸¦ ¼±µµÇÏ°í ÀÖ´Â ½ºÅ¸Æ®¾÷ ¡®ÇÁ·»µé¸®AI(FriendliAI)¡¯(´ëÇ¥ÀÌ»ç Àüº´°ï)°¡ »ý¼ºÇü AI ¸ðµ¨À» ½±°Ô È°¿ëÇÒ ¼ö ÀÖ´Â ¡®ÇÁ·»µé¸®AI ¼¹ö¸®½º ¿£µåÆ÷ÀÎÆ®(Friendli Serverless Endpoints)¡¯ ¼ºñ½º¸¦ Ãâ½ÃÇß´Ù°í 4ÀÏ ¹àÇû´Ù. ÇÁ·»µé¸®AI ¼¹ö¸®½º ¿£µåÆ÷ÀÎÆ®´Â ¡â¿¬±¸ÀÚ ¡â°³¹ßÀÚ ¡â¸Ó½Å·¯´× ¿£Áö´Ï¾î ¡âµ¥ÀÌÅÍ °úÇÐÀÚ°¡ ¼ºù ÀÎÇÁ¶ó °ü¸®¸¦ ½Å°æ ¾µ ÇÊ¿ä ¾øÀÌ ÃֽŠ»ý¼ºÇü AI ¸ðµ¨µéÀ» ½±°Ô »ç¿ëÇÒ ¼ö ÀÖµµ·Ï µ½´Â ¼ºñ½º´Ù. ±âÁ¸ »ý¼ºÇü AI È°¿ë¿¡ ÀÖ¾î ¸¹Àº ¼öÀÇ Àη°ú ½Ã°£À» ÅõÀÔÇÏ¿© ÁøÇàÇØ¾ß Çß´ø º¹ÀâÇÑ ÀÎÇÁ¶ó ¼³Ä¡ ¹× ¿î¿µ °úÁ¤°ú ¸ðµ¨ ¼ºùÀÇ GPU ÃÖÀûÈ µîÀÇ ¹®Á¦¸¦ ÇØ°áÇß´Ù. À̸¦ ÅëÇØ ´©±¸³ª ½±°Ô ³·Àº ºñ¿ë°ú ºü¸¥ ¼Óµµ·Î ¶ó¸¶2(Llama 2), ½ºÅ×ÀÌºí µðÇ»Àü(Stable Diffusion), ÄÚµå ¶ó¸¶(CodeLlama), ¹Ì½ºÆ®¶ö(Mistral) µîÀÇ Àαâ ÀÖ´Â »ý¼ºÇü AI ¸ðµ¨À» ÀÚ»ç ¼ºñ½º¿¡ ÅëÇÕÇÏ¿© ÅؽºÆ® »ý¼º, À̹ÌÁö »ý¼º µîÀ» È°¿ëÇÒ ¼ö ÀÖ´Ù. À̴ êº¿, ÄÚµå Ãßõ, ¹®¼ ¿ä¾à, ½æ³×ÀÏ »ý¼º µîÀÇ ´Ù¾çÇÑ ºÐ¾ß¿¡¼ È°¿ëÀÌ °¡´ÉÇÏ´Ù. ¶ÇÇÑ ÇÁ·»µé¸®AI ¼¹ö¸®½º ¿£µåÆ÷ÀÎÆ®´Â ¿ÀǼҽº ÇÁ·¹ÀÓ¿öÅ©¸¦ ¾²´Â ´Ù¸¥ ¼Ö·ç¼Ç ´ëºñ ÃÖ´ë 4¹è ºü¸¥ ½Ã°£ ³»¿¡ ÀÀ´äÀ» »ý¼ºÇÏ°í ÀÖ¾î ¿øÈ°ÇÏ°í ºü¸¥ »ý¼ºÇü AI °æÇèÀ» Á¦°øÇÑ´Ù. ³·Àº ºñ¿ë°ú ºü¸¥ ¼Óµµ´Â ÇÁ·»µé¸®AI¸¸ÀÇ ÃÖÀûÈµÈ ¼ºù ¿£Áø ¡®ÇÁ·»µé¸®AI ¿£Áø(Friendli Engine)¡¯À¸·Î °¡´ÉÇÏ´Ù. ÇØ´ç ¿£ÁøÀº ±âÁ¸ ¼Ö·ç¼Ç¿¡ ºñÇØ ¼ºù¿¡ ÇÊ¿äÇÑ GPU ¼ö¸¦ ÃÖ´ë 7ºÐÀÇ 1 ¼öÁØÀ¸·Î ÁÙÀδÙ. ÇÁ·»µé¸®AI¿¡¼´Â »ç¿ëÀÚµéÀÌ Á÷Á¢ ¸¸µé°Å³ª Æ©´×ÇÑ »ý¼º AI ¸ðµ¨À̳ª °øÀ¯°¡ ÇÊ¿ä ¾ø´Â Àü¿ë GPU ÀÚ¿øÀ» ¾²°í ½ÍÀº »ç¿ëÀÚµéÀ» À§ÇØ Å¬¶ó¿ìµå GPU¸¦ ¼±ÅÃÇØ Á÷Á¢ ÀνºÅϽº¸¦ È°¿ëÇÒ ¼ö ÀÖ´Â ¡®ÇÁ·»µé¸®AI Àü¿ë ¿£µåÆ÷ÀÎÆ®(Friendli Dedicated Endpoints)¡¯¿Í »ç¼³ ÀÚ¿ø¿¡¼ Á÷Á¢ ¼öÇàÇÏ´Â µµÄ¿(Docker) À̹ÌÁö ÇüÅ·ΠÁ¦°øµÇ´Â ¡®ÇÁ·»µé¸®AI ÄÁÅ×ÀÌ³Ê (Friendli Container)¡¯µµ Á¦°øÇÏ°í ÀÖ´Ù. ÇÁ·»µé¸®AI Àüº´°ï ´ëÇ¥´Â ¡°»ý¼ºÇü AIÀÇ ¹Ì·¡´Â ÇØ´ç ±â¼ú¿¡ ´©±¸³ª ½±°Ô Á¢±ÙÇؼ »ç¿ëÇÒ ¼ö ÀÖµµ·Ï ÇÏ´Â °Í¿¡ ÀÖ´Ù°í »ý°¢ÇÏ¸ç ¿ÀÇ ¼Ò½º »ý¼ºÇü AI ¸ðµ¨À» ´õ ºü¸£°í Àú·ÅÇÏ°Ô Á¦°øÇϱâ À§ÇØ »õ·Î¿î ¼ºñ½º¸¦ °³¹ßÇß´Ù¡±¸ç, ¡°ÇÁ·»µé¸®AI ¿£ÁøÀÌ ÀåÂøµÈ ÇÁ·»µé¸®AI ¼¹ö¸®½º ¿£µåÆ÷ÀÎÆ®´Â AI ¾÷°è¿¡ °ÔÀÓ Ã¼ÀÎó°¡ µÉ °ÍÀ¸·Î ±â´ëÇÏ°í ÀÖ´Ù. ÇØ´ç ¼ºñ½º¸¦ ÅëÇØ »ý¼º AI¸¦ ´©±¸³ª ½±°Ô ¾µ ¼ö ÀÖµµ·Ï Áö¼ÓÀûÀ¸·Î ³ë·ÂÇØ ³ª°¥ °Í¡±À̶ó°í ¹àÇû´Ù. ¢º ¼¼°è 3À§, ¸ö°ª 3Á¶, ½ÅÀÔ¿¬ºÀ 6200¸¸¿ø¡¦¡®ÀÌ ±â¾÷¡¯ ÄÚ½ºÇÇ »óÀåÇÑ´Ù ¢º ¡°Çѱ¹¸» À¯Ã¢Çѵ¥ ÀϸӸ®µµ ÁÁ¾Æ¡±¡¦Áß±¹µ¿Æ÷º¸´Ù ¿ì´ë¹Þ´Â ¡®ÀÌ »ç¶÷µé¡¯ ¢º ¡°ºÎÀãÁýÀÌ¶ó ¹®ÆкÎÅÍ ´Ù¸£³×¡±¡¦»ï¼º À̺´Ã¶ ȸÀå »ý°¡ °¡º¸´Ï [¹æ¿µ´öÀÇ µðÅ×ÀÏ] ¢º ÁÖÂ÷Àå ÀÔ±¸ Â÷·Î ¸·°í Çص¸ÀÌ º¸·¯ °£ ¹ÎÆóåü¡¦»©´Þ¶ó ÀüÈÇÏ´Ï ¡°±×·±µ¥¿ä?¡± ¢º ¡°´ë¸¸À» ±¹°¡·Î ÀÎÁ¤ÇÏÁö ¾Ê´Â´Ù¸ç ¿©±Ç »©¾Ñ¾Æ¡±¡¦ñé ¸·¹«°¡³» ÀÔ±¹°ÅºÎ [¨Ï ¸ÅÀÏ°æÁ¦ & mk.co.kr, ¹«´Ü ÀüÀç, Àç¹èÆ÷ ¹× AIÇнÀ ÀÌ¿ë ±ÝÁö] |