Home > Àüü±â»ç

[Çѱ¹Á¤º¸°øÇбâ¼ú»ç º¸¾ÈÀ» ÒÕÇÏ´Ù-2] LLM À§Çù°ú ´ëÀÀ¹æ¾È

ÀÔ·Â : 2024-07-16 17:24
ÆäÀ̽ººÏ º¸³»±â Æ®À§ÅÍ º¸³»±â ³×À̹ö ¹êµå º¸³»±â Ä«Ä«¿À ½ºÅ丮 º¸³»±â ³×À̹ö ºí·Î±× º¸³»±â
´ë±Ô¸ð ¾ð¾î¸ðµ¨(LLM) ÁøÈ­´Â Àΰ£ÀÇ Å𺸸¦ ºÎ¸¥´Ù
´çÀåÀº ¾Õ¿¡ ³õÀÎ AI °ü·Ã º¸¾È Ãë¾àÁ¡°ú À§Çù, ±×¸®°í À§ÇèÀ» Èû ¸ð¾Æ ÇØ°áÇؾß


<º¸¾È´º½º>¿¡¼­´Â Çѱ¹Á¤º¸°øÇбâ¼ú»çȸ ¼Ò¼Ó ±â¼ú»çµéÀÌ ´Ù¾çÇÑ °üÁ¡¿¡¼­ °í¹ÎÇØ¿Â ÁÖ¿ä º¸¾È À̽´¿¡ ´ëÇÑ ÀÇ°ßµéÀ» µé¾îº¸°íÀÚ ÇÕ´Ï´Ù. 10ȸ ¿¬Àç·Î ÁøÇàµÇ´Â [Çѱ¹Á¤º¸°øÇбâ¼ú»ç º¸¾ÈÀ» ÖåÇÏ´Ù] ½Ã¸®Áî¿¡ ¸¹Àº °ü½É ºÎŹµå¸³´Ï´Ù. [ÆíÁýÀÚÁÖ]

[¿¬Àç ¸ñÂ÷]
1. Ŭ¶ó¿ìµå º¸¾ÈÀÇ Çã¿Í ½Ç
2. LLM À§Çù°ú ´ëÀÀ¹æ¾È
3. °³ÀÎÁ¤º¸ º¸È£ÀÇ Á߽ɿ¡¼­ È°¿ëÀ» ¿ÜÄ¡´Ù
4. ºí·ÏüÀÎÀÇ ¾µ¸ð¿Í º¸¾È
5. °ø°ø½Ã½ºÅÛÀÇ º¸¾ÈÀ̽´
6. ½Å·ÚÇÒ ¼ö ÀÖ´Â ¼ÒÇÁÆ®¿þ¾î¸¦ À§ÇÏ¿©
7. µ¥ÀÌÅÍ °Å·¡¿Í º¸¾È
8. ºñ´ë¸é °³ÅëÀÇ Æí¸®¼º°ú º¸¾È ¹®Á¦Á¡
9. ±â¼úÀû º¸¾È È¿°ú¸¦ ±Ø´ëÈ­ÇÏ·Á¸é
10. ¸ð¹ÙÀÏ ½ÅºÐÁõÀÇ º¸¾ÈÀ§Çù°ú ´ëÀÀ¹æ¾È

[À̹ÌÁö=gettyimagesbank]


[º¸¾È´º½º= ÀÌ»ó¿ë ±â¼ú»ç/§ÄÄÆÛ´Ï] ´ë±Ô¸ð ¾ð¾î¸ðµ¨(LLM : Large Language Model)Àº ÀΰøÁö´É¿¡¼­ ¾ø¾î¼­´Â ¾È µÉ ±â¼úÀÌ µÇ¾ú´Ù. ±× ´É·ÂÀº ½ñ¾ÆÁö´Â ºòµ¥ÀÌÅÍ¿Í Å¬¶ó¿ìµå, ±×¸®°í ¸ð¹ÙÀÏ ¿§Áö¿Í AI ¹ÝµµÃ¼ ±â¹Ý À§¿¡ ÁøÈ­¸¦ °ÅµìÇÏ°í ÀÖ´Ù. º¸Åë ¾Æ±â´Â 10°³¿ù ÁîÀ½ ºÙÀâ°í ¼³ ¼ö ÀÖ°í, 15°³¿ù °æ¿¡ °ÉÀ½¸¶¸¦ ½ÃÀÛÇÑ´Ù. ÇöÀçÀÇ ÁøÈ­ ¼Óµµ¶ó¸é ȯ°æÀ» ÀÎÁöÇϸç Ãß·ÐÇÏ°í ½º½º·Î »ý°¢ÇÒ ¼ö ÀÖ´Â ¾ð¾î¸ðµ¨ÀÌ ³ªÅ¸³ªÁö ¾ÊÀ»±î ¿°·ÁµÈ´Ù.

LLMÀº ÁٰŸ®¸¦ ¿ä¾àÇÏ°í, ´Ù¸¥ ³ª¶óÀÇ ¾ð¾î·Î ¹ø¿ªÇϸç, »õ·Î¿î ±ÛÀ̳ª À̹ÌÁö ȤÀº ¿µ»ó ±îÁöµµ »ý¼ºÀÌ °¡´ÉÇÏ´Ù. LLMÀº ±¸±Û¿¡¼­ ÃÖÃÊ ¹ßÇ¥ÇÑ ¾îÅټǰú Æ®·£½ºÆ÷¸Ó¿¡ ÀÇÇØ ¹ßÀüµÈ ÀηùÀÇ »ê¹°ÀÌ´Ù. ¾îÅÙ¼Ç ¸ÞÄ¿´ÏÁòÀ» È°¿ëÇÏ´Â µö·¯´× ¸ðµ¨ÀÎ Æ®·£½ºÆ÷¸ÓÀÇ µîÀå ÀÌÈÄ »ý¼ºÇü AIÀÇ ±â¹Ý ±â¼ú·Î¼­ ±× ¿ªÇÒÀÌ Ä¿Á³´Ù.

»ý¼ºÇü ÀΰøÁö´É AGI ºÐ¾ß¿¡¼­´Â ÇÏ·ç°¡ ¸Ö´Ù ÇÏ°í »õ·Î¿î ÀΰøÁö´É ¼­ºñ½º°¡ µîÀåÇÏ°í ÀÖ´Ù. ÇöÀç ´ë±Ô¸ð ¾ð¾î¸ðµ¨(LLM) »ó¿ë ¸ðµ¨°ú ¿ÀǼҽº ¸ðµ¨·Î ³ª´­ ¼ö ÀÖ´Ù. »ó¿ë ¸ðµ¨·Î´Â ¡â ¿ÀÇÂAIÀÇ GPT-4 ¡â±¸±Û µö¸¶ÀεåÀÇ Gemini ¡âµ¥ÀÌÅͺ긯½ºÀÇ DBRX µîÀÌ ÀÖÀ¸¸ç ¿ÀǼҽº ¸ðµ¨·Î´Â ¡â¸ÞŸÀÇ LLaMA ¡â±¸±ÛÀÇ Gemma ¡â¹Ì½ºÆ®¶ö AIÀÇ Mistral-7B ¡âMoaicMLÀÇ MPT-7B ¡â¾ØÆ®·ÎÇÈÀÇ Claude 3.0 µîÀÌ ÀÖ´Ù. ÃÖ±Ù 2024³â 3¿ù ¾ØÆ®·ÎÇÈ(Anthropic)¿¡¼­ Ŭ·Îµå 3(Claude 3.0) ¸ðµ¨À» °ø°³Çϸ鼭 °Å´ë¾ð¾î¸ðµ¨(LLM)ÀÇ Áö°¢º¯µ¿À» ¿¹°íÇß´Ù.

ÇöÀç ÀÌ ºÐ¾ßÀÇ ´ëÇ¥ÀûÀÎ ±â¾÷À» ²ÅÀ¸¶ó°í ÇÏ¸é ¸ðµÎ°¡ ¿ÀÇÂAI¸¦ ¶°¿Ã¸± °ÍÀÌ´Ù. ¹Ì±¹ÀÇ ´ëÇ¥ ÀΰøÁö´É ¿¬±¸¼Ò ¿ÀÇÂAI¿¡¼­ 2024³â 3¿ù 29ÀÏ ¡®ÇÕ¼ºÀ½¼ºÀÇ µµÀü°ú ±âȸ ŽÇ衯À̶ó´Â ±ÛÀ» ÀÚ»ç ºí·Î±×¿¡ °Ô½ÃÇß°í ¸¹Àº ¸Åü¿¡¼­ ¾Õ´ÙÅõ¾î ¼Ò°³Çß´Ù. 15ÃÊ ºÐ·®ÀÇ »ç¶÷ÀÇ À½¼ºÀ» ÇнÀÇϸé È­ÀÚ¿Í À¯»çÇÑ ¸ñ¼Ò¸®¸¦ »ý¼ºÇÒ ¼ö ÀÖ´Ù°í ÇÑ´Ù. 2022³âºÎÅÍ °³¹ßÇØ ¿Â ¡®Voice Engine¡¯Àº ÇöÀç ªÀº ºÐ·®ÀÇ ¸ñ¼Ò¸® ÇнÀ¸¸À¸·Î È­ÀÚÀÇ ¸ñ¼Ò¸®¿¡ °¡±î¿î Èä³»¸¦ ³¾ ¼ö ÀÖ´Ù°í ÇÏ¿© ¿À³²¿ëÀ» ¿ì·ÁÇØ ÇÕ¼ºÀ½¼ºÀÇ ±â¼úÀ» ÀϹÝÀο¡°Ô °ø°³ÇÏ´Â °ÍÀº ½Ã±â»óÁ¶¶ó »ý°¢ÇÏ¿© °ø°³¸¦ ÇÏÁö ¾Ê¾Ò´Ù. ÇÏÁö¸¸ Áö³­ ChatGPT »ç·Ê¸¦ º¸´õ¶óµµ ¸ÓÁö¾Ê¾Æ ÀÌ ±â¼úÀº ÀϹÝÀο¡°Ô °ø°³°¡ µÉ °ÍÀÌ´Ù.

¿ÀÇÂAIÀÇ Çຸ´Â ¿©±â¼­ ¸ØÃßÁö ¾Ê¾Ò´Ù. ÅؽºÆ®·Î ¸í·É¾î¸¦ ÀÔ·ÂÇϸé(¼³¸í ÇÁ·ÒÇÁÆ®) °íÈ­Áú µ¿¿µ»óÀ» ¸¸µé¾î³»´Â ¡®¼Ò¶ó(SORA)¡¯¸¦ 2024³â 2¿ù Áß¼ø ȨÆäÀÌÁö¸¦ ÅëÇØ °ø°³ÇÑ ÀÌÈÄ ³î¶ó¿î Çຸ¸¦ ÀÌ¾î °¡°í ÀÖ´Ù. ¼¼°èÀûÀÎ ¾Ö´Ï¸ÞÀÌ¼Ç Á¦ÀÛ¼ÒÀÎ ÇȻ翡¼­µµ ¼ö°³¿ùÀÌ °É·Á¾ß ÇÏ´Â Á¤±³ÇÑ µ¿¿µ»óÀ» ¼Ò¶ó´Â ´« ±ô¦ÇÒ »çÀÌ¿¡ ó¸®Çß´Ù. ¶Ç ÇϳªÀÇ ³î¶ó¿î ¼­ºñ½º°¡ µîÀåÇϸç AGI ±¸Çö ±â°£À» ´ÜÃàÇß´Ù´Â Æò°¡¸¦ ¹Þ°í ÀÖ´Ù. ÀΰøÁö´ÉÀÇ Æ¯ÀÌÁ¡ ÀÌÀÚ Àΰ£ÀÇ °íÀ¯ ¿µ¿ªÀ̾ú´ø ¾ð¾î »ç°í ´É·ÂÀ» ±â°è°¡ °®Ãâ ³¯ÀÌ ¸ÓÁö¾Ê¾Ò´Ù.

¾ð¾î¸¦ ±íÀÌ ÀÌÇØÇÒ¼ö·Ï Àΰ£ÀÇ ¿ä±¸»çÇ×À» Á¤È®ÇÏ°Ô Çؼ®ÇÒ ¼ö ÀÖ´Ù. ´ë±Ô¸ð ¾ð¾î¸ðµ¨(LLM)ÀÇ ´É·ÂÀº ÀÌÁ¦ ¹«ÇÑÇÑ Ã¢ÀǼºÀ» °¡Áø ¾î¸°¾ÆÀÌÀÇ ¸ð½À°ú Èí»ç ºñ½ÁÇÏ´Ù. µû¶ó¼­ ÀΰøÁö´ÉÀÇ ¹ÎÁÖÈ­¿Í Àü¹®È­´Â ¾ÇÀÇÀûÀÎ »ç¿ëÀÚÀÇ ¿À¡¤³²¿ë¿¡ ÀÇÇØ »çȸÀû¡¤±¹°¡ÀûÀ¸·Î Å« À§ÇùÀÌ µÉ ¼ö ÀÖ´Ù. ÃÖ±Ù ¿¬±¸¿¡ µû¸£¸é LLMÀÇ º¸¾È Ãë¾à¼º¿¡ ´ëÇÑ ¿ì·Á ¶ÇÇÑ Ä¿Áö°í ÀÖ´Ù. º¸¾È Ãë¾à¼ºÀ¸·Î ÀÎÇØ ÀÚ»êÀÇ À§ÇùÀ¸·Î À̾îÁö¸ç °á±¹ À§Ç輺ÀÌ Ä¿Á® ÀÚ»êÀ̳ª ÀθíÇÇÇØ·Î À̾îÁú ¼ö ÀÖ´Ù. ¡â°³ÀÎÁ¤º¸ º¸È£ ¹× ±â¹Ð¼º ħÇØ(¾Ç¼º ÄÜÅÙÃ÷ »ðÀÔ ¶Ç´Â LLM¿¡ Áß¿äÇÑ Á¤º¸¸¦ ÀÔ·ÂÀ¸·Î °³ÀÎ Á¤º¸º¸È£ ¹× ±â¹Ð¼º ¼Õ»ó) ¡âÀúÀÛ±Ç Ãæµ¹(¸ðµ¨ ÈÆ·Ã µ¥ÀÌÅÍ ¹ýÀû, À±¸®Àû À̽´) ¡âÀ߸øµÈ Á¤º¸ ¹× ÇãÀ§ Á¤º¸(¿ÀÇØ, Çø¿À, ¼ºÀû ¼öÄ¡½É, ÇãÀ§ Á¤º¸ µî »çȸ Àüü ¾Ç¿µÇâ) ¡â´ëÁßÀÇ ½Å·Ú »ó½Ç( ÀÇ·á, ±ÝÀ¶, ±³À° µî LLM ÀÇÁ¸¼ºÀÌ Å« ºÐ¾ß´Â ±× »ê¾÷¿¡ ½É°¢ÇÑ °á°ú ÃÊ·¡) ¡â°æÁ¦Àû ¿µÇâ(°³Àΰú Á¶Á÷ÀÇ °æÁ¦Àû ÀÌÀÍ ¼Õ»ó, °¡Â¥ ´º½º ±â»ç¸¦ »ý¼ºÇϰųª À繫 º¸°í¼­ Á¶ÀÛ, ÀçÁ¤Àû ¼Õ½Ç°ú ¸í¿¹ ÈѼÕ) µîÀÌ´Ù.

ÀΰøÁö´ÉÀÇ Àû´ëÀû °ø°ÝÀ¸·Î´Â ±â¹Ð¼º°ú ¹«°á¼º Ãø¸éÀ¸·Î ³ª´­ ¼ö ÀÖ´Ù. ±â¹Ð¼º Ãø¸éÀ¸·Î´Â ¡â¸ðµ¨ ¹ÝÀü °ø°Ý(ÇнÀ¿¡ »ç¿ëµÈ µ¥ÀÌÅ͸¦ ÃßÃâ) ¡â¸ðµ¨ ÃßÃâ °ø°Ý(¸Ó½Å·¯´× ¸ðµ¨ ÃßÃâ) ¹«°á¼º Ãø¸éÀ¸·Î´Â ¡âÁßµ¶ °ø°Ý (ÈÆ·Ã µ¥ÀÌÅͼÂÀ» ¼Õ»ó½ÃÅ´) ¡âȸÇÇ°ø°Ý(Àû´ëÀû ¿¹Á¦¸¦ »ç¿ëÇÏ¿© ¸ðµ¨ÀÇ ¿¹Ãø Á¶ÀÛ)À¸·Î ±¸ºÐÇÒ ¼ö ÀÖ´Ù.

LLMÀÇ º¸¾È Ãë¾à¼º Áß ´ëÇ¥ÀûÀÎ À̽´°¡ ȯ°¢(ÇÒ·ç½Ã³×À̼Ç)À̶ó´Â Çö»óÀÌ´Ù. ¸ðµ¨ÀÌ À߸øµÈ ´äº¯À» »ç½ÇÀÎ °Íó·³ °¡ÀåÇÏ´Â Çö»óÀÌ´Ù. ÇѶ§ ÀÎÅͳÝÀ» ¶ß°Ì°Ô ´Þ±¸¾ú´ø ¼¼Á¾´ë¿Õ ¸ÆºÏ ´øÁü »ç°ÇÀº ¿ôÁö ¸øÇÒ LLMÀÇ ÇÑ°èÀÌÀÚ ÁøÁöÇÏ°Ô µ¹¾ÆºÁ¾ß ÇÒ À±¸®ÀûÀÎ ¹®Á¦À̱⵵ ÇÏ´Ù. È«Äá °úÇбâ¼ú´ëÇб³ ÀΰøÁö´É¿¬±¸¼¾ÅÍ ¿¬±¸Áø¿¡ µû¸£¸é ȯ°¢¿¡´Â µÎ °¡Áö À¯ÇüÀ¸·Î ³ª´¶´Ù. ³»ÀçÀû(Intrinsic) ȯ°¢°ú ¿ÜÀçÀû(Extrinsic) ȯ°¢ÀÌ ±×°ÍÀÌ´Ù. ³»ÀçÀû ȯ°¢Àº ¼Ò½º ÄÜÅÙÃ÷¿Í ¸ð¼øµÇ´Â Ãâ·ÂÀ» »ý¼ºÇÏ´Â À¯ÇüÀÌ´Ù. ÀÌ´Â ÀÔ·ÂµÈ Á¤º¸¿Í °ü·ÃÀº ÀÖÀ¸³ª Ʋ¸° ³»¿ëÀ» Ãâ·ÂÇÏ´Â ¿À·ùÀÌ´Ù. ¿ÜÀçÀû ȯ°¢Àº ¼Ò½º ÄÜÅÙÃ÷¿¡¼­ È®ÀÎÇÒ ¼ö ¾ø´Â Ãâ·ÂÀ» »ý¼ºÇÏ´Â À¯ÇüÀÌ´Ù. ÀÌ´Â ÀÔ·ÂµÈ Á¤º¸¿Í´Â ÀüÇô ¹«°üÇÑ ³»¿ëÀ» Ãâ·ÂÇÏ´Â ¿À·ùÀÌ´Ù.

LLMÀÌ È¯°¢ Çö»óÀ» ÀÏÀ¸Å°´Â ¿øÀÎÀº ¹«¾ùÀϱî? ù ¹ø°·Î ÈÞ¸®½ºÆ½ µ¥ÀÌÅÍ ¼öÁýÀÌ´Ù. ¸ðµ¨ ÇнÀÀ» ½ÃÅ°±â À§Çؼ­´Â Áú¹®°ú Á¤´ä µ¥ÀÌÅÍ°¡ ÇÊ¿äÇÏ´Ù. ¼öÁýµÈ Á¤´ä µ¥ÀÌÅÍ°¡ ¿À¿°µÉ °¡´É¼ºÀÌ ÀÖ´Ù. µÎ ¹ø°·Î ºÒ¿ÏÀüÇÑ Ç¥Çö ÇнÀ°ú À߸øµÈ µðÄÚµùÀÌ´Ù. Æ®·£½ºÆ÷¸Ó´Â ÀÎÄÚ´õ¿Í µðÄÚ´õÀÇ ±¸Á¶¸¦ °¡Áö°í ÀÖ´Ù. ÀÎÄÚ´õ´Â ÇнÀ¿¡ ÇÊ¿äÇÑ µ¥ÀÌÅÍ¿¡¼­ Åë°èÀûÀÎ ¹æ¹ýÀ¸·Î µ¥ÀÌÅ͸¦ ¾ÐÃàÇÏ¿© Ư¡À» ¿ä¾àÇϴµ¥ À̶§ µ¥ÀÌÅÍ °£ÀÇ À߸øµÈ »ó°ü°ü°è¸¦ ÇнÀÇÒ °¡´É¼ºÀÌ ÀÖÀ¸¸ç ±× °á°ú À߸øµÈ »ý¼ºÀ» ¾ß±âÇÒ ¼ö ÀÖ´Ù. ¼¼ ¹ø°·Î ÆĶó¸Þƽ Áö½Ä ÆíÇâÀÌ´Ù. »çÀü ÇнÀµÈ ¸ðµ¨À» ÆÄÀÎ Æ©´×Çصµ, ÀÌ¹Ì ÇнÀµÈ ¸ðµ¨ ÆĶó¹ÌÅÍÀÇ Áö½ÄÀ» ±â¾ïÇϱ⠶§¹®¿¡ ȯ°¢À» ÃÊ·¡ÇÒ ¼ö ÀÖ´Ù. ³× ¹ø°·Î Ãֽżº ¹®Á¦ÀÌ´Ù. LLMÀÇ ÇнÀ¿¡ ÇÊ¿äÇÑ µ¥ÀÌÅÍ´Â °ú°ÅÀÇ ±â·ÏµéÀÌ´Ù. ½Ç½Ã°£¼º¿¡ ´ëÀÀÇϱ⿡ ÇãÁ¡ÀÌ ÀÖ´Â °ÍÀÌ´Ù.

ȯ°¢À» ¿ÏÈ­Çϱâ À§Çؼ­ µ¥ÀÌÅÍ Ãø¸é¿¡¼­´Â ¹ÏÀ» ¸¸ÇÑ µ¥ÀÌÅͼÂÀ» ±¸ÃàÇØ¾ß ÇÑ´Ù. Annotator¸¦ °í¿ëÇÏ¿© ±ú²ýÇÏ°í ¹ÏÀ» ¸¸ÇÑ Á¤´ä µ¥ÀÌÅ͸¦ ±¸ÃàÇÑ´Ù. ±âÁ¸ µ¥ÀÌÅÍ¿¡¼­ ¸ð¼øµÈ Á¤º¸¸¦ ã¾Æ ³ëÀÌÁî°¡ Æ÷ÇÔµÈ µ¥ÀÌÅ͸¦ ÇÊÅ͸µÇϰųª ¼öÁ¤ÇÏ´Â °ÍÀÌ´Ù. ¾ÆÅ°ÅØó Ãø¸éÀ¸·Î´Â ÀÎÄÚ´õ¿Í µðÄÚ´õÀÇ ±¸Á¶¸¦ °³¼±ÇÏ´Â ¿©·¯ ¹æ¹ýµéÀ» »ç¿ëÇÑ´Ù. µðÄÚ´õÀÇ °æ¿ì¿¡´Â Uncertainty-aware decoder, Dual decoder, Constrained decoderÀÇ ¿©·¯ °¡Áö µðÄÚ´õ ±¸Á¶°¡ Á¦¾ÈµÆ´Ù. ÇнÀ Ãø¸éÀ¸·Î´Â RLHF·Î ¼³°èÇØ È¯°¢ °¨¼Ò ¸ñÇ¥¸¦ ´Þ¼ºÇϵµ·Ï ÇÑ´Ù. Multi-task LearningÀ¸·Î ´Ù¾çÇÑ NLG ÀÛ¾÷¿¡¼­ ȯ°¢À» Á¦°ÅÇϵµ·Ï ÇÑ´Ù. »çÈÄ Ã³¸® Ãø¸éÀ¸·Î´Â ȯ°¢À» Á¤Á¤ÇÒ ¼ö ÀÖµµ·Ï Çǵå¹é ½Ã½ºÅÛÀ» ±¸ÃàÇÏ´Â °ÍÀÌ´Ù.

OWASP(The Open Web Application Security Project)°¡ ´ë±Ô¸ð ¾ð¾î ¸ðµ¨(LLM) ¾ÖÇø®ÄÉÀ̼ǿ¡¼­ Ä¡¸íÀûÀÎ Ãë¾àÁ¡ »óÀ§ 10°¡Áö¸¦ ¹ßÇ¥Çß´Ù. »óÀ§ 10°¡Áö´Â ¡âLLM01 : Prompt Injection ¡âLLM02 : Insecure Output Handling ¡âLLM03 : Training Data Poisoning ¡âLLM04 : Model Denial of Service ¡âLLM05 : Supply Chain Vulnerabilities ¡âLLM06 : Sensitive Information Disclosure ¡âLLM 07 : Insecure Plugin Design ¡âLLM08 : Excessive Agency ¡âLLM 09 : Overreliance ¡âLLM10 : Model TheftÀÌ´Ù.

ÀÌ Áß ¸î °¡Áö Ãë¾àÁ¡À» »ìÆ캸¸é ´ÙÀ½°ú °°´Ù. LLM01. ÇÁ·ÒÇÁÆ® ÁÖÀÔÀÌ´Ù. Áú¹®À» ´øÁú ¶§ ÀǵµÄ¡ ¾Ê´Â µ¿ÀÛÀ» ¼öÇàÇÏ°Ô²û À¯µµÇÑ´Ù. LLM ¸ðµ¨ÀÇ ÇÊÅ͸¦ ¿ìȸÇÏ´Â °ÍÀÌ´Ù. µ¥ÀÌÅÍ À¯Ãâ, ¹«´Ü Á¢±Ù ¶Ç´Â ±âŸ º¸¾È ħÇظ¦ ºñ·ÔÇÑ ÀǵµÄ¡ ¾ÊÀº °á°ú·Î À̾îÁú ¼ö ÀÖ´Ù. ´ëÀÀ¹æ¾ÈÀ¸·Î´Â »ç¿ëÀÚ°¡ Á¦°øÇÑ ÇÁ·ÒÇÁÆ®¿¡ ´ëÇØ ¾ö°ÝÇÏ°Ô ÀԷ°ª °ËÁõ ¹× Á¤Á¦ ½ÃÇà ¾Ç¼º »ç·Ê¿¡ ´ëÇØ LLMÀ» Á¤±âÀûÀ¸·Î ¾÷µ¥ÀÌÆ®¿Í ¹Ì¼¼Á¶Á¤À» ½Ç½ÃÇÏ´Â °ÍÀÌ´Ù.

LLM02. ¾ÈÀüÇÏÁö ¾ÊÀº °á°ú ó¸®ÀÌ´Ù. ¶æÇÏÁö ¾Ê°Ô ¹Î°¨ Á¤º¸, µ¶Á¡ ¾Ë°í¸®Áò ¶Ç´Â ±âŸ ±â¹Ð ¼¼ºÎ Á¤º¸°¡ µå·¯³ª¸ç, ÀÌ¿¡ ÁöÀûÀç»ê ¹«´Ü Á¢±Ù°ú °³ÀÎÁ¤º¸ ħÇØ·Î È®´ëµÈ´Ù. ´ëÀÀ¹æ¾ÈÀ¸·Î´Â ¾ö°ÝÇÑ Ãâ·Â ÇÊÅ͸µ ¹× ¸Æ¶ô ÀÎ½Ä ¸ÞÄ¿´ÏÁòÀ» ½ÃÇàÇÏ°í, Â÷µîÈ­µÈ °³ÀÎÁ¤º¸ º¸È£±â¹ý ¹× À͸íÈ­ ¸ðµ¨À» »ç¿ëÇÏ´Â °ÍÀÌ´Ù.

LLM03. ÇнÀµ¥ÀÌÅÍ Áßµ¶ÀÌ´Ù. °ø°ÝÀÚ°¡ LLMÀÇ º¸¾È, À±¸®Àû ÇൿÀ» ¼Õ»ó½ÃÅ°´Â °ÍÀ¸·Î ¹éµµ¾î ¶Ç´Â ÆíÇâÀ» µµÀÔÇϱâ À§ÇØ LLMÀÇ ÇнÀ µ¥ÀÌÅͳª ¹Ì¼¼Á¶Á¤ ÀýÂ÷¸¦ Á¶ÀÛÇÏ´Â °ÍÀ¸·Î, ´ëÀÀ¹æ¾ÈÀ¸·Î´Â ¹ÏÀ» ¼ö ÀÖ´Â ÃâóÀÇ µ¥ÀÌÅÍ »ç¿ë ¹× »çÀü Ç°Áú °ËÁõÀ¸·Î ¹«°á¼ºÀ» º¸ÀåÇÏ°í µ¥ÀÌÅÍ Ãë¾àÁ¡°ú ÆíÇâÀ» Á¦°ÅÇϵµ·Ï Á¤Á¦ ¹× »çÀü ó¸® ±â¹ýÀ» ½ÃÇàÇÏ´Â °ÍÀÌ´Ù.

LLM09. LLM »ý¼º ÄÜÅÙÃ÷¿¡ ´ëÇÑ °úµµÇÑ ÀÇÁ¸ÀÌ´Ù. ºÎÁ¤È®ÇÑ Á¤º¸ÀÇ È®»ê°ú ÀÇ»ç°áÁ¤ °úÁ¤¿¡¼­ »ç¶÷ÀÌ Á¦½ÃÇÏ´Â ÀÇ°ßÀÌ °¨¼ÒµÇ°í ºñÆÇÀû »ç°íÀÇ Ãà¼Ò µîÀÇ ºÎÀÛ¿ë ¿ì·Á°¡ ÀÖ´Ù. ´ëÀÀ¹æ¾ÈÀ¸·Î´Â »ç¶÷ÀÌ Á÷Á¢ °¨µ¶ÇÏ°í °ËÅäÇÏ´Â ÇÁ·Î¼¼½º¸¦ ±¸ÇöÇÏ¿© LLM¿¡¼­ »ý¼ºµÈ ÄÜÅÙÃ÷°¡ Á¤È®ÇÏ°í ÀûÀýÇϸç Æí°ßÀÌ ¾ø´ÂÁö È®ÀÎÇÏ´Â °ÍÀÌ´Ù.

¾ó¸¶ Àü ±¸±ÛÀº ¿¬·Ê ±¤°í ¾ÈÀü º¸°í¼­¸¦ ¹ßÇ¥Çß´Ù. LLMÀ» È°¿ëÇØ ±¤°í ¾ÈÀü Á¶Ä¡¸¦ ÁøÇàÇÑ °ÍÀ¸·Î ¾Ë·ÁÁ³´Ù. LLMÀº ´ë·®ÀÇ ÄÜÅÙÃ÷¸¦ ½Å¼ÓÇÏ°Ô °ËÅäÇÏ°í Çؼ®ÇÏ´Â µ¿½Ã¿¡ ÇØ´ç ÄÜÅÙÃ÷¸¦ Á¤È®È÷ ÆÇ´ÜÇÑ´Ù. ±âÁ¸ ÀüÅëÀûÀÎ ÀΰøÁö´É ¸ðµ¨¿¡ ºñÇØ Á¤È®µµ°¡ ³ô´Ù. ¿ÀÇÂAIÀÇ ÇåÀå¿¡´Â ¡®Long-term safety: make AGI safe¡¯ Ç׸ñÀÌ ÀÖÀ¸¸ç, ÃÖ±Ù ±â¼úµéÀ» À§Çè±â¼ú(·¹µåÆÀ)·Î ºÐ·ùÇØ ¿À¿ë °¡´É¼ºÀ» Áö¼Ó ¿¬±¸ÇÏ°í ¿¬±¸ÀÚ, ¾ÆƼ½ºÆ® ±×·ì¿¡°Ô ±â¼úÀ» °øÀ¯ÇÏ°í ÀÖ´Ù°í ¼³¸íÇÑ ¹Ù ÀÖÀ¸¸ç, SORA¿¡ ¿öÅ͸¶Å©¸¦ »ðÀÔÇÏ°Ú´Ù°í ¹àÇû´Ù.

¡ãÀÌ»ó¿ë ±â¼ú»ç[»çÁø=Çѱ¹Á¤º¸°øÇбâ¼ú»çȸ]

ÀÌ·¯ÇÑ ±â¼úÀº ¾ðÁ¦µç ¾ÇÀÇÀûÀÎ »ç¿ëÀÚ¿¡ ÀÇÇØ ¹«·ÂÈ­µÉ ¼ö ÀÖ´Ù. LLMÀÇ ±àÁ¤ÀûÀÎ È¿°ú¿Í ¿µÇâ·Â ´ëºñ ÀÏÀÚ¸®ÀÇ À§Çù, ¼±°Å Á¶ÀÛ, »çȸÀÇ ºÐ¿­ µîÀ» ²ÒÇÏ´Â ÇãÀ§ Á¤º¸(ÆäÀÌÅ©)°¡ Á¶ÀåÇÏ°í ÀÖ¾î »çȸÀû À̽´¸¦ ±âÇϱ޼öÀûÀ¸·Î »ý¼ºÇÏ°í ¾ÇÈ­½ÃŲ´Ù°í ºñÆÇ ¸Â¾Æ ¸¶¶¥ÇÏ´Ù. Àΰ£Àº LLM°ú »ý¼ºÇü AI¿¡ ÀÇÇØ ÅðÇàÀû ÁøÈ­ÀÇ ½ÃÀÛÁ¡¿¡ ¼­ ÀÖ´Â °ÍÀº ¾Æ´Ò±î ½Í´Ù. ¿ªÁøÈ­¸¦ ÅëÇØ ¶§·Î´Â ÀÌ¹Ì ¹ß´ÞµÈ ÇüÁúÀÇ ÅðÇàÀÌ Á¾ÀÇ ÀûÇÕµµ¸¦ Áõ°¡½ÃŲ´Ù´Â ¿¬±¸ °á°ú°¡ ÀÖ´Ù. °ú¿¬ ¿ì¸®°¡ ÀÒÀº °ÍÀº ¹«¾ùÀÌ°í ÅðÇàÀû ÁøÈ­·Î ¾ò´Â °ÍÀº ¹«¾ùÀϱî? µæ°ú ½ÇÀ» ³íÀÇÇϱâ Çϱ⿡´Â ½Ã±â »óÁ¶Àϱî?

´çÀå º¸¾È Ãë¾à¼º¿¡ ´ëÇÑ ¿ì·Á¿Í »ç»ýÈ° ħÇØ ¹× ±â¹Ð À¯Áö, À߸øµÈ Á¤º¸¿Í ÇãÀ§ Á¤º¸ À¯Æ÷ µî ´ëÁßÀÇ ½Å·Ú¿Í °æÁ¦Àû ¿µÇâ·ÂµéÀÌ Å« °ü½ÉÀ» ¹Þ°í ÀÖ´Ù. ¿¬±¸ÀÚ¿Í ¾÷°è Àü¹®°¡µéÀÌ Çù·ÂÇØ ÀÌ·¯ÇÑ º¸¾È Ãë¾àÁ¡À» ÇØ°áÇÏ°í, ´Ù¾çÇÑ ÀÀ¿ë ÇÁ·Î±×·¥¿¡¼­ LLMÀÇ ¾ÈÀüÇÑ ¼³°è ¹× °³¹ß°ú ¹èÆ÷¸¦ º¸ÀåÇØ¾ß ÇÑ´Ù. µ¥ÀÌÅÍ º¸¾È, °³ÀÎÁ¤º¸ º¸È£, ÀúÀÛ±Ç º¸È£, »ç»ýÈ° º¸È£, Á÷¾÷ º¸È£¸¦ À§ÇØ °³¹ßÀÚ, º¸¾È ¸®´õ, º¸¾ÈÆÀ, ¼Ò¼Ó ±â¾÷ÀÇ ÀÚ¹ßÀûÀÎ ³ë·ÂÀÌ µ¿¹ÝµÇ¾î¾ß ÇÑ´Ù. ´çÀåÀº ¾Õ¿¡ ³õÀÎ Ãë¾àÁ¡°ú À§Çù°ú À§ÇèÀ» ÇØ°áÇØ º¸ÀÚ.

¡°²÷ÀÓ¾ø´Â ³ë·Â°ú ½ÇÇàÀ̾߸»·Î ÅðÇàÀû ÁøÈ­ÀÇ ½ÃÀÛÀÌ´Ù.¡±
[±Û_ ÀÌ»ó¿ë ±â¼ú»ç/§ÄÄÆÛ´Ï]

ÇÊÀÚ¼Ò°³_
°ÔÀÓȸ»çÀÇ °³¹ßÀÚ·Î ½ÃÀÛÇÏ¿© 15³â µ¿¾È ¸ö´ã°í ÀÖ´ø ±ÝÀ¶Àü»ê½ÇÀ» ¹ÚÂ÷°í ³ª¿Í ÇöÀç ½ºÅ¸Æ®¾÷ §ÄÄÆÛ´Ï¿¡¼­ ¼±ÁÖ´ÔÀ» µµ¿Í 3³â° Å×Å©¸®µå·Î Á¦2ÀÇ ÀλýÀ» ¿­½ÉÈ÷ »ì¾Æ°¡°í ÀÖ´Ù. ±×·ì È­»ó äÆà ±â¹Ý ±Û·Î¹ú ½ºÅ¸-ÆÒ Ä¿¹Â´ÏƼ ¶óÀ̺ê Ç÷§Æû ¡®Â§(JJAANN)¡¯ÀÇ Ç®½ºÅà °³¹ßÀÚ·Î Á¤½Å¾øÀÌ ½Å±Ô ÇÇó °³¹ß ÁßÀÌ´Ù.

<ÀúÀÛ±ÇÀÚ: º¸¾È´º½º(www.boannews.com) ¹«´ÜÀüÀç-Àç¹èÆ÷±ÝÁö>

  •  
  • 0
  • ÆäÀ̽ººÏ º¸³»±â Æ®À§ÅÍ º¸³»±â ³×À̹ö ¹êµå º¸³»±â Ä«Ä«¿À ½ºÅ丮 º¸³»±â ³×À̹ö ºí·Î±× º¸³»±â

  • ¡°
  •  SNS¿¡¼­µµ º¸¾È´º½º¸¦ ¹Þ¾Æº¸¼¼¿ä!! 
  • ¡±
¾Æ½ºÆ®·Ð½ÃÅ¥¸®Æ¼ ÆÄ¿öºñÁî 2023³â2¿ù23ÀÏ ½ÃÀÛ À§Áîµð¿£¿¡½º 2018
¼³¹®Á¶»ç
³»³â ȸ»ç¿¡ ²À µµÀÔÇÏ°í ½ÍÀº º¸¾È ¼Ö·ç¼Ç ¶Ç´Â Ç÷§ÆûÀº ¹«¾ùÀΰ¡¿ä?
XDR
EDR
AI º¸¾È
Á¦·ÎÆ®·¯½ºÆ®
°ø±Þ¸Á º¸¾È ü°è(SBOM)
Ŭ¶ó¿ìµå º¸¾È ¼Ö·ç¼Ç
±âŸ(´ñ±Û·Î)