๐ 2026๋ 03์ 11์ผ ๋ ผ๋ฌธ Daily Digest (6ํธ)
๐ค ๋ฆฌ๋ทฐ ๋ฐฉ์: ๊ธฐ์ ์ฌ์ธต ๋ถ์
๐ ์์ง ๊ธฐ์ค: ์ต๊ทผ 7์ผ ์ด๋ด ์ต์ ๋ ผ๋ฌธ
๐ ์ด 6ํธ (๐ค Robotics 4ํธ / ๐ง AI / LLM 0ํธ / ๐ฌ NLP 2ํธ)
๐ ๋ชฉ์ฐจ
๐ค Robotics
- TiPToP: A Modular Open-Vocabulary Planning System for Rโฆ
- BEACON: Language-Conditioned Navigation Affordance Predโฆ
- NanoBench: A Multi-Task Benchmark Dataset for Nano-Quadโฆ
- Robust Cooperative Localization in Featureless Environmโฆ
๐ฌ NLP
- CREATE: Testing LLMs for Associative Creativity
- Model Merging in the Era of Large Language Models: Methโฆ
๐ค Robotics
1. TiPToP: A Modular Open-Vocabulary Planning System for Robotic Manipulation
๐ฅ ์ ์: William Shen, Nishanth Kumar, Sahit Chintalapudi ์ธ
๐ท๏ธ ๋ถ๋ฅ: cs.RO
๐ ์๋ฌธ: https://arxiv.org/abs/2603.09971v1 ยท PDF
ํต์ฌ ๊ธฐ์ฌ
์ฌ์ ํ์ต๋ ๋น์ ํ์ด๋ฐ์ด์ ๋ชจ๋ธ๊ณผ ๊ธฐ์กด Task and Motion Planner(TAMP)๋ฅผ ๊ฒฐํฉํ ๋ชจ๋ํ ์์คํ TiPToP์ ์ ์ํจ. ๋ก๋ด ๋ฐ์ดํฐ ์์ด(zero robot data) RGB ์ด๋ฏธ์ง์ ์์ฐ์ด ๋ช ๋ น๋ง์ผ๋ก ๋ค๋จ๊ณ ์กฐ์ ํ์คํฌ๋ฅผ ์ํํ๋ฉฐ, 350์๊ฐ์ ๋ฐ๋ชจ๋ก ํ์ธํ๋๋ VLA ๋ชจ๋ธ(ฯโ.โ -DROID)๊ณผ ๋๋ฑํ๊ฑฐ๋ ์ฐ์ํ ์ฑ๋ฅ์ ๋ฌ์ฑ. 1์๊ฐ ๋ด DROID ์ ์ ์ ์ค์น ๊ฐ๋ฅํ ์ค์ฉ์ฑ๊ณผ ์คํ์์ค ๊ณต๊ฐ๊ฐ ํต์ฌ.
๋ฐฉ๋ฒ๋ก
์์ฐ์ด ๋ช ๋ น โ LLM์ด ๋ชฉํ ์ํ๋ก ํ์ฑ โ ๋น์ ํ์ด๋ฐ์ด์ ๋ชจ๋ธ(์: Grounding DINO, SAM)๋ก ๊ฐ์ฒด ์ธ์/์์น ์ถ์ โ TAMP๊ฐ ์ฌ๋ณผ๋ฆญ ํ๋๋ ๋ฐ ๋ชจ์ ๊ณํ ์๋ฆฝ โ ๋ก๋ด ์คํ์ ํ์ดํ๋ผ์ธ ๊ตฌ์กฐ. ๊ฐ ๋ชจ๋์ด ๋ ๋ฆฝ์ ์ผ๋ก ์๋ํ์ฌ ์คํจ ์์ธ ๋ถ์์ด ์ฉ์ดํ๊ณ , ์๋ก์ด ๋ก๋ด/ํ๊ฒฝ์ ์ต์ํ์ ์์ ์ผ๋ก ์ ์ ๊ฐ๋ฅ.
์คํ ๊ฒฐ๊ณผ
์๋ฎฌ๋ ์ด์ ๊ณผ ์ค์ ํ๊ฒฝ์์ 28๊ฐ ํ ์ด๋ธํ ์กฐ์ ํ์คํฌ ํ๊ฐ. 173ํ ์ํ์์ ฯโ.โ -DROID ๋๋น ๋๋ฑ ๋๋ ์ฐ์ํ ์ฑ๊ณต๋ฅ ๊ธฐ๋ก. ๋ก๋ด ํนํ ๋ฐ์ดํฐ ์์ด๋ ๊ฒฝ์๋ ฅ ์๋ ์ฑ๋ฅ์ ๋ณด์ฌ, ๋ฐ์ดํฐ ํจ์จ์ฑ ์ธก๋ฉด์์ ์๋ฏธ ์๋ ๊ฒฐ๊ณผ. ๋ชจ๋๋ณ ์คํจ ๋ถ์์ ํตํด ๊ฐ์ ๋ฐฉํฅ ๋์ถ.
ํ๊ณ ๋ฐ ํฅํ ์ฐ๊ตฌ
๋น์ ๋ชจ๋์ ๊ฐ์ฒด ์ธ์ ์ค๋ฅ, TAMP์ ๊ณํ ์คํจ ๋ฑ ์ปดํฌ๋ํธ ์์ค ์คํจ ๋ชจ๋๊ฐ ์กด์ฌ. ๋์ ํ๊ฒฝ์ด๋ ๋ณต์กํ ์ ์ด ์กฐ์์๋ ํ๊ณ ์์. ํฅํ ํ์ต ๊ธฐ๋ฐ ๋ฐฉ๋ฒ๊ณผ ๊ณํ ๊ธฐ๋ฐ ๋ฐฉ๋ฒ์ ๊ธด๋ฐํ ํตํฉ, ์คํจ ๋ณต๊ตฌ ๋ฉ์ปค๋์ฆ ๊ฐํ๊ฐ ํ์.
์ข ํฉ ํ๊ฐ: โญโญโญโญ (4/5) โ ๋ก๋ด ๋ฐ์ดํฐ ์์ด VLA ๋ชจ๋ธ๊ณผ ๊ฒฝ์ํ๋ ์ค์ฉ์ ๋ชจ๋ํ ์์คํ ์ผ๋ก, ์ฌํ์ฑ๊ณผ ๋ถ์ ๊ฐ๋ฅ์ฑ ์ธก๋ฉด์์ ์ฐ๊ตฌ ์ปค๋ฎค๋ํฐ์ ๊ธฐ์ฌ๋๊ฐ ๋์.
2. BEACON: Language-Conditioned Navigation Affordance Prediction under Occlusion
๐ฅ ์ ์: Xinyu Gao, Gang Chen, Javier Alonso-Mora
๐ท๏ธ ๋ถ๋ฅ: cs.RO ยท cs.AI
๐ ์๋ฌธ: https://arxiv.org/abs/2603.09961v1 ยท PDF
ํต์ฌ ๊ธฐ์ฌ
๊ธฐ์กด VLM ๊ธฐ๋ฐ ๊ณต๊ฐ ๊ทธ๋ผ์ด๋ฉ ๋ฐฉ๋ฒ๋ค์ ๊ฐ์์ ์ธ 2D ์ด๋ฏธ์ง ํฝ์ ์๋ง ์์กดํ์ฌ ๊ฐ๊ตฌ๋ ์ฌ๋์ ์ํด ๊ฐ๋ ค์ง(occluded) ์์ญ์ ๋ชฉํ ์์น๋ฅผ ์ถ๋ก ํ์ง ๋ชปํ๋ ํ๊ณ๊ฐ ์์๋ค. BEACON์ ๊ฐ๋ ค์ง ์์ญ์ ํฌํจํ Birdโs-Eye View (BEV) affordance heatmap์ ์์ธกํจ์ผ๋ก์จ ์ด ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋ค. ์ธ์ด ์กฐ๊ฑด๋ถ ๋ก์ปฌ ๋ด๋น๊ฒ์ด์ ์์ occlusion ๋ฌธ์ ๋ฅผ ๋ช ์์ ์ผ๋ก ๋ค๋ฃฌ ์ฒซ ์ฐ๊ตฌ๋ผ๋ ์ ์์ ์๋ฏธ๊ฐ ์๋ค.
๋ฐฉ๋ฒ๋ก
๋ก๋ด ์ฃผ๋ณ 4๋ฐฉํฅ์ RGB-D ์ด๋ฏธ์ง์ ์์ฐ์ด ์ง์๋ฌธ์ ์ ๋ ฅ์ผ๋ก ๋ฐ์, VLM์ ๊ณต๊ฐ์ ๋จ์(spatial cues)๋ฅผ ์ฃผ์ ํ๊ณ ๊ทธ ์ถ๋ ฅ์ depth ๊ธฐ๋ฐ BEV ํน์ง๊ณผ ์ตํฉํ๋ค. ์ด๋ฅผ ํตํด ego-centric BEV ๊ณต๊ฐ์์ ์ด๋ ๊ฐ๋ฅํ ๋ชฉํ ์์น์ ํ๋ฅ ๋ถํฌ(heatmap)๋ฅผ ์์ธกํ๋ค. ํต์ฌ์ 2D ์ด๋ฏธ์ง ๊ณต๊ฐ์ด ์๋ 3D๋ฅผ ๊ณ ๋ คํ BEV ๊ณต๊ฐ์์ ์ถ๋ก ํจ์ผ๋ก์จ ๊ฐ๋ ค์ง ์์ญ๊น์ง ์ปค๋ฒํ๋ ๊ฒ์ด๋ค.
์คํ ๊ฒฐ๊ณผ
Habitat ์๋ฎฌ๋ ์ดํฐ์์ occlusion-aware ๋ฐ์ดํฐ์ ์ ๊ตฌ์ถํ์ฌ ์คํํ์ผ๋ฉฐ, ๊ฐ๋ ค์ง ๋ชฉํ ์์น๊ฐ ์๋ validation subset์์ ๊ธฐ์กด SOTA ๋๋น geodesic threshold ํ๊ท ์ ํ๋๊ฐ 22.74 percentage points ํฅ์๋์๋ค. ์ด๋ BEV ๊ณต๊ฐ formulation๊ณผ ๊ฐ ๋ชจ๋ ์ค๊ณ์ ํจ๊ณผ๋ฅผ ์ ์ฆํ๋ค.
ํ๊ณ ๋ฐ ํฅํ ์ฐ๊ตฌ
์ด๋ก์์ ๋ช ์์ ํ๊ณ๋ ์ธ๊ธ๋์ง ์์์ผ๋, ์๋ฎฌ๋ ์ดํฐ ๊ธฐ๋ฐ ์คํ์ ํ์ ๋์ด ์ค์ ๋ก๋ด ํ๊ฒฝ์์์ ๊ฒ์ฆ์ด ํ์ํ๋ค. ๋ํ 4๋ฐฉํฅ RGB-D ์นด๋ฉ๋ผ ์๊ตฌ์ฌํญ์ ํ๋์จ์ด ์ ์ฝ์ด ๋ ์ ์๋ค. ๋์ ํ๊ฒฝ(์์ง์ด๋ ์ฌ๋)์์์ ์ค์๊ฐ ์ฑ๋ฅ๊ณผ ์ผ๋ฐํ ๋ฅ๋ ฅ ๊ฒ์ฆ์ด ํฅํ ์ฐ๊ตฌ ๋ฐฉํฅ์ด ๋ ๊ฒ์ด๋ค.
์ข ํฉ ํ๊ฐ: โญโญโญโญ (4/5) โ Occlusion ์ํฉ์์์ ์ธ์ด ์กฐ๊ฑด๋ถ ๋ด๋น๊ฒ์ด์ ์ด๋ผ๋ ์ค์ง์ ๋ฌธ์ ๋ฅผ BEV affordance ์์ธก์ผ๋ก ์ฐ์ํ๊ฒ ํด๊ฒฐํ ์ค์ฉ์ ์ฐ๊ตฌ.
3. NanoBench: A Multi-Task Benchmark Dataset for Nano-Quadrotor System Identification, Control, and State Estimation
๐ฅ ์ ์: Syed Izzat Ullah, Jose Baca
๐ท๏ธ ๋ถ๋ฅ: cs.RO ยท eess.SY
๐ ์๋ฌธ: https://arxiv.org/abs/2603.09908v1 ยท PDF
ํต์ฌ ๊ธฐ์ฌ
๊ธฐ์กด ํญ๊ณต ๋ก๋ด ๋ฒค์น๋งํฌ๋ ์๋ฐฑ ๊ทธ๋จ~์ ํฌ๋ก๊ทธ๋จ๊ธ ๊ธฐ์ฒด์ ์ด์ ์ ๋ง์ถ๊ณ ๊ณ ์์ค ์ํ ๋ฐ์ดํฐ๋ง ์ ๊ณตํ๋ค. NanoBench๋ 27g ๋๋ ธ๊ธ ์ฟผ๋๋กํฐ(Crazyflie 2.1)์์ ์ก์ถ์์ดํฐ PWM ๋ช ๋ น, ์ปจํธ๋กค๋ฌ ๋ด๋ถ ์ํ, EKF ์ถ์ ๊ฐ์ ๋ฐ๋ฆฌ๋ฏธํฐ ์ ํ๋์ Vicon ๊ทธ๋ผ์ด๋ ํธ๋ฃจ์ค์ ํจ๊ป ๋๊ธฐํํ์ฌ ์ ๊ณตํ๋ ์ต์ด์ ๊ณต๊ฐ ๋ฐ์ดํฐ์ ์ด๋ค.
๋ฐฉ๋ฒ๋ก
Vicon ๋ชจ์ ์บก์ฒ ํ๊ฒฝ์์ ํธ๋ฒ๋ง, ๋ค์ค ์ฃผํ์ ์ฌ๊ธฐ, ํ์ค ์ถ์ , ๊ณต๊ฒฉ์ ๊ธฐ๋ ๋ฑ 170๊ฐ ์ด์์ ๋นํ ๊ถค์ ์ ์์งํ๋ค. 100Hz๋ก Vicon GT, IMU, EKF, PID ๋ด๋ถ๊ฐ, ๋ชจํฐ PWM์ ๋๊ธฐํํ๊ณ , 10Hz ๋ฐฐํฐ๋ฆฌ ํ ๋ ๋ฉํธ๋ฆฌ๋ฅผ 0.5ms ์ดํ ์ค์ฐจ๋ก ์ ๋ ฌํ๋ค. ์ธ ๊ฐ์ง ํ์คํฌ(๋น์ ํ ์์คํ ์๋ณ, ํ๋ฃจํ ์ปจํธ๋กค๋ฌ ๋ฒค์น๋งํน, ์จ๋ณด๋ ์ํ ์ถ์ )์ ๋ํ ํ์คํ๋ ํ๊ฐ ํ๋กํ ์ฝ๊ณผ ๋ฒ ์ด์ค๋ผ์ธ์ ์ ๊ณตํ๋ค.
์คํ ๊ฒฐ๊ณผ
์ด๋ก์์ ๊ตฌ์ฒด์ ์ธ ์ฑ๋ฅ ์์น๋ ์ ์๋์ง ์์๋ค. ์ฃผ์ ๊ฐ์น๋ ๋ฐ์ดํฐ์ ์์ฒด์ ํฌ๊ด์ฑ๊ณผ ๋๊ธฐํ ํ์ง(sub-0.5ms)์ ์์ผ๋ฉฐ, ์ ๋ ์ด๋์ฆ ์ ๊ณต๊ธฐ์ญํ ๋ฐ ์ฝ์ด๋ฆฌ์ค DC ๋ชจํฐ ๋น์ ํ์ฑ ์ฐ๊ตฌ๋ฅผ ์ํ ๊ธฐ๋ฐ์ ์ ๊ณตํ๋ค.
ํ๊ณ ๋ฐ ํฅํ ์ฐ๊ตฌ
๋จ์ผ ํ๋ซํผ(Crazyflie 2.1)์ ํ์ ๋์ด ์ผ๋ฐํ ๊ฒ์ฆ์ด ํ์ํ๋ค. ์ค์ธ ํ๊ฒฝ, ๋ค๋ฅธ ๋๋ ธ๊ธ ๊ธฐ์ฒด, ๋ค์ํ ํ์ด๋ก๋ ์กฐ๊ฑด์์์ ํ์ฅ์ด ํฅํ ๊ณผ์ ๋ค. ์์คํ ์๋ณ/์ ์ด/์ถ์ ์ธ ๋ถ์ผ์ ๊ต์ฐจ ์ฐ๊ตฌ๋ฅผ ์ด์งํ ์ ์ฌ๋ ฅ์ด ์๋ค.
์ข ํฉ ํ๊ฐ: โญโญโญโญ โ ๋๋ ธ๊ธ UAV ์ฐ๊ตฌ์ ๋น ๊ณต๊ฐ์ ๋ฉ์ฐ๋ ์ค์ฉ์ ์ด๊ณ ์ฒด๊ณ์ ์ธ ๋ฒค์น๋งํฌ ๋ฐ์ดํฐ์ ์ผ๋ก, ์ปค๋ฎค๋ํฐ ๊ธฐ์ฌ๋๊ฐ ๋๋ค.
4. Robust Cooperative Localization in Featureless Environments: A Comparative Study of DCL, StCL, CCL, CI, and Standard-CL
๐ฅ ์ ์: Nivand Khosravi, Meysam Basiri, Rodrigo Ventura
๐ท๏ธ ๋ถ๋ฅ: cs.RO
๐ ์๋ฌธ: https://arxiv.org/abs/2603.09886v1 ยท PDF
ํต์ฌ ๊ธฐ์ฌ
GPS๊ฐ ์ฐจ๋จ๋ ํ๊ฒฝ์์ ๋ค์ค ๋ก๋ด ์์คํ ์ ํ๋ ฅ์ ์์น์ถ์ (CL) ์๊ณ ๋ฆฌ์ฆ 5๊ฐ์ง(CCL, DCL, StCL, CI, Standard-CL)๋ฅผ ROS ๊ธฐ๋ฐ์ผ๋ก ๊ตฌํํ๊ณ ์ฒด๊ณ์ ์ผ๋ก ๋น๊ต ๋ถ์ํจ. ๊ธฐ์กด ์ฐ๊ตฌ๋ค์ด ๊ฐ๋ณ ์๊ณ ๋ฆฌ์ฆ์ ์ง์คํ ๋ฐ๋ฉด, ๋ณธ ์ฐ๊ตฌ๋ ์ฝํ ๋ฐ์ดํฐ ์ฐ๊ด(weak data association)๊ณผ ๊ฐ๊ฑดํ ๊ฒ์ถ(robust detection) ๋ ์กฐ๊ฑด์์ Monte Carlo ์๋ฎฌ๋ ์ด์ ์ ํตํด ์ ํ๋์ ํํฐ ์ผ๊ด์ฑ(consistency) ๊ฐ์ trade-off๋ฅผ ์ค์ฆ์ ์ผ๋ก ๊ท๋ช ํจ.
๋ฐฉ๋ฒ๋ก
๋ชจ๋ ๋ฐฉ๋ฒ์ Extended Kalman Filter(EKF) ๊ธฐ๋ฐ์ด๋ฉฐ, ๋ก๋ด ๊ฐ ์๋ ๊ฑฐ๋ฆฌ/๋ฐฉ์ ์ธก์ ์ ํ์ฉํจ. CCL์ ์ค์ ์๋ฒ์์ ์ ์ฒด ์ํ๋ฅผ ์ถ์ ํ๊ณ , DCL์ ๋ถ์ฐ ๋ฐฉ์์ผ๋ก measurement stride ๋ฉ์ปค๋์ฆ์ ํตํด ์ด์์น์ ์๋ฌต์ ์ ๊ทํ๋ฅผ ์ ๊ณตํจ. CI๋ ์๊ด๊ด๊ณ๋ฅผ ๋ณด์์ ์ผ๋ก ์ฒ๋ฆฌํ์ฌ ์ผ๊ด์ฑ์ ๋ณด์ฅํ๊ณ , StCL์ ์์ฐจ์ ์ ๋ฐ์ดํธ๋ก ๊ณ์ฐ ํจ์จ์ฑ์ ์ถ๊ตฌํ๋ฉฐ, Standard-CL์ ๊ธฐ๋ณธ์ ์ธ CL ๊ตฌํ์ฒด์.
์คํ ๊ฒฐ๊ณผ
StCL๊ณผ Standard-CL์ด ๊ฐ์ฅ ๋ฎ์ ์์น ์ค์ฐจ๋ฅผ ๋ณด์์ผ๋ ์ฌ๊ฐํ ํํฐ ๋ถ์ผ๊ด์ฑ(filter inconsistency)์ ๋ํ๋ด์ด ์์ ์ค์ ์์ฉ์ ๋ถ์ ํฉํจ. DCL์ ์ด๋ ค์ด ์กฐ๊ฑด์์๋ measurement stride ๋๋ถ์ ๋ฐ์ด๋ ์์ ์ฑ์ ๋ณด์. CI๊ฐ ๊ฐ์ฅ ๊ท ํ ์กํ ์ ๊ทผ๋ฒ์ผ๋ก, ๊ฑฐ์ ์ต์ ์ ์ผ๊ด์ฑ๊ณผ ๊ฒฝ์๋ ฅ ์๋ ์ ํ๋๋ฅผ ๋ฌ์ฑํจ. CCL์ ์ด๋ก ์ ์ต์ ์ถ์ ์ ์ ๊ณตํ๋ ์ด์์น์ ๋ฏผ๊ฐํจ.
ํ๊ณ ๋ฐ ํฅํ ์ฐ๊ตฌ
์ค์ ๋ก๋ด ์คํ ์์ด ์๋ฎฌ๋ ์ด์ ๋ง ์ํ๋์ด ์คํ๊ฒฝ ๊ฒ์ฆ์ด ํ์ํจ. ํน์ง์ ์๋(featureless) ํ๊ฒฝ์ ํ์ ๋์ด SLAM๊ณผ์ ํตํฉ์ด๋ ๋์ ํ๊ฒฝ ๋์์ ๋ค๋ฃจ์ง ์์. ํฅํ ์ค์๊ฐ ์ ์ํ ์๊ณ ๋ฆฌ์ฆ ์ ํ ๋ฉ์ปค๋์ฆ, ๋๊ท๋ชจ ๋ก๋ด ๊ตฐ์ง์ผ๋ก์ ํ์ฅ์ฑ ์ฐ๊ตฌ๋ก ์ด์ด์ง ์ ์์.
์ข ํฉ ํ๊ฐ: โญโญโญ โ ์ค์ฉ์ ์ธ ์๊ณ ๋ฆฌ์ฆ ์ ํ ๊ฐ์ด๋๋ผ์ธ์ ์ ๊ณตํ๋ ์ฒด๊ณ์ ๋น๊ต ์ฐ๊ตฌ์ด๋, ์คํ์ ๊ฒ์ฆ๊ณผ ์ด๋ก ์ ๊น์ด ๋ฉด์์ ์์ฌ์์ด ์์.
๐ฌ NLP
5. CREATE: Testing LLMs for Associative Creativity
๐ฅ ์ ์: Manya Wadhwa, Tiasa Singha Roy, Harvey Lederman ์ธ
๐ท๏ธ ๋ถ๋ฅ: cs.CL
๐ ์๋ฌธ: https://arxiv.org/abs/2603.09970v1 ยท PDF
ํต์ฌ ๊ธฐ์ฌ
์ฐฝ์์ฑ์ ํต์ฌ ์์์ธ ์ฐ์์ ์ถ๋ก (associative reasoning) ๋ฅ๋ ฅ์ ํ๊ฐํ๋ ์๋ก์ด ๋ฒค์น๋งํฌ CREATE๋ฅผ ์ ์ํจ. ๊ธฐ์กด ์ฐฝ์์ฑ ํ๊ฐ๊ฐ ์ฃผ๊ด์ ์ด๊ฑฐ๋ ๋จ์ผ ์ ๋ต์ ์์กดํ ๋ฐ๋ฉด, CREATE๋ ๊ฐ๋ ๊ฐ ์ฐ๊ฒฐ ๊ฒฝ๋ก์ ํน์ด์ฑ(specificity)๊ณผ ๋ค์์ฑ(diversity)์ ๊ฐ๊ด์ ์ผ๋ก ์ธก์ ํ ์ ์๋ ํ๋ ์์ํฌ๋ฅผ ์ ๊ณตํจ. ๊ฐ์ค ์์ฑ๊ณผ ๊ฐ์ ์ค์ ์ฐฝ์์ ๊ณผ์ ์ ํน์ฑ(๋ฐฉ๋ํ ํ์ ๊ณต๊ฐ)์ ๋ฐ์ํ๋ฉด์๋ ๋๊ท๋ชจ ๊ฐ๊ด์ ํ๊ฐ๊ฐ ๊ฐ๋ฅํ๋ค๋ ์ ์ด ์ฐจ๋ณํ๋จ.
๋ฐฉ๋ฒ๋ก
๋ชจ๋ธ์๊ฒ ๋ ๊ฐ๋ ์ ์ฐ๊ฒฐํ๋ ์ฌ๋ฌ ๊ฒฝ๋ก(path)๋ฅผ ์์ฑํ๋๋ก ์์ฒญํจ. ๊ฐ ๊ฒฝ๋ก๋ ์ค๊ฐ ๊ฐ๋ ๋ค๋ก ๊ตฌ์ฑ๋๋ฉฐ, ์ข์ ๊ฒฝ๋ก๋ (1) ์ฐ๊ฒฐ์ด ๋ ํนํ๊ณ ๊ธด๋ฐํด์ผ ํ๊ณ (ํน์ด์ฑ), (2) ๋ค๋ฅธ ๊ฒฝ๋ก๋ค๊ณผ ๋ฌ๋ผ์ผ ํจ(๋ค์์ฑ). ์ต์ข ์ ์๋ ์์ฑ๋ ๊ฒฝ๋ก๋ค์ ํ์ง๊ณผ ์์ ์ข ํฉํ creative utility๋ก ์ฐ์ถ๋๋ฉฐ, ๊ฐํ๊ณ ๋ค์ํ ๊ฒฝ๋ก๋ฅผ ๋ง์ด ์์ฑํ ์๋ก ๋์ ์ ์๋ฅผ ๋ฐ์. ํ๊ฐ๋ ๋ชจ๋ธ์ ํ๋ผ๋ฉํธ๋ฆญ ์ง์ ๋ด ์ฐ๊ฒฐ์ฑ์ ๊ธฐ๋ฐ์ผ๋ก ํจ.
์คํ ๊ฒฐ๊ณผ
์ต์ ํ๋ก ํฐ์ด ๋ชจ๋ธ๋ค ์ค ๊ฐํ ๋ชจ๋ธ์ด ๋ ๋์ creative utility๋ฅผ ๋ฌ์ฑํ์ผ๋, ๋ต์ ๋์ ๋ค์ค์ฑ๊ณผ ํ์ ๋ณต์ก์ฑ์ผ๋ก ์ธํด ๋ฒค์น๋งํฌ ํฌํ๊ฐ ์ด๋ ค์. ํฅ๋ฏธ๋กญ๊ฒ๋ thinking ๋ชจ๋ธ(์ถ๋ก ํนํ ๋ชจ๋ธ)์ด ๋์ ํ ํฐ ์์ฐ์์๋ ํญ์ ๋ ํจ๊ณผ์ ์ด์ง ์์์. ์ฐฝ์์ ํ๋กฌํํ ๊ธฐ๋ฒ๋ค์ ์ ํ์ ์ธ ๊ฐ์ ๋ง ๋ณด์ฌ์ค.
ํ๊ณ ๋ฐ ํฅํ ์ฐ๊ตฌ
ํน์ด์ฑ๊ณผ ๋ค์์ฑ ์ธก์ ์ด ๋ชจ๋ธ ๊ธฐ๋ฐ ํ๊ฐ์ ์์กดํ๋ฏ๋ก ํธํฅ ๊ฐ๋ฅ์ฑ์ด ์์. ์ฐ์์ ์ฐฝ์์ฑ์ด๋ผ๋ ํน์ ์ธก๋ฉด๋ง ๋ค๋ฃจ๋ฉฐ, ์ ์ฒด์ ์ธ ์ฐฝ์์ฑ ํ๊ฐ๋ก ์ผ๋ฐํํ๊ธฐ ์ด๋ ค์. ํฅํ thinking ๋ชจ๋ธ์ ํ๊ณ ๋ถ์, ์๋ก์ด ์ฐฝ์์ ์ถ๋ก ๋ฐฉ๋ฒ๋ก ๊ฐ๋ฐ์ ์ํ ์๋๋ฐ์ค๋ก ํ์ฉ๋ ์ ์์.
์ข ํฉ ํ๊ฐ: โญโญโญโญ โ LLM ์ฐฝ์์ฑ์ ๊ฐ๊ด์ ์ผ๋ก ์ธก์ ํ ์ ์๋ ์ค์ฉ์ ๋ฒค์น๋งํฌ๋ฅผ ์ ์ํ์ผ๋ฉฐ, thinking ๋ชจ๋ธ์ ํ๊ณ๋ฅผ ๋๋ฌ๋ธ ์ ์ด ํฅ๋ฏธ๋ก์.
6. Model Merging in the Era of Large Language Models: Methods, Applications, and Future Directions
๐ฅ ์ ์: Mingyang Song, Mao Zheng
๐ท๏ธ ๋ถ๋ฅ: cs.CL
๐ ์๋ฌธ: https://arxiv.org/abs/2603.09938v1 ยท PDF
ํต์ฌ ๊ธฐ์ฌ
์ด ๋ ผ๋ฌธ์ LLM ์๋์ ๋ชจ๋ธ ๋ณํฉ(Model Merging) ๊ธฐ๋ฒ์ FUSE ๋ถ๋ฅ์ฒด๊ณ(Foundations, Unification Strategies, Scenarios, Ecosystem)๋ผ๋ 4์ฐจ์ ํ๋ ์์ํฌ๋ก ์ฒด๊ณ์ ์ผ๋ก ์ ๋ฆฌํ ์ต์ด์ ํฌ๊ด์ ์๋ฒ ์ด๋ค. ๊ธฐ์กด ์ฐ๊ตฌ๋ค์ด ๊ฐ๋ณ ๊ธฐ๋ฒ์ ์ง์คํ ๋ฐ๋ฉด, ์ด๋ก ์ ๊ธฐ๋ฐ(loss landscape, mode connectivity)๋ถํฐ ์๊ณ ๋ฆฌ์ฆ, ์์ฉ, ์ํ๊ณ๊น์ง ์์ฐ๋ฅด๋ ํตํฉ์ ๊ด์ ์ ์ ์ํ๋ค.
๋ฐฉ๋ฒ๋ก
๋ชจ๋ธ ๋ณํฉ์ ํต์ฌ ์์ด๋์ด๋ ์ถ๊ฐ ํ์ต ์์ด ์ฌ๋ฌ fine-tuned ๋ชจ๋ธ์ ๊ฐ์ค์น๋ฅผ ๊ฒฐํฉํ์ฌ ๋จ์ผ ๋ชจ๋ธ๋ก ๋ง๋๋ ๊ฒ์ด๋ค. ์ฃผ์ ์ ๊ทผ๋ฒ์ผ๋ก (1) ๊ฐ์ค์น ํ๊ท ํ, (2) Task Vector ์ฐ์ฐ(๋ง์ /๋บ์ ์ผ๋ก ๋ฅ๋ ฅ ์กฐํฉ), (3) ํฌ์ํ(sparsification) ๊ธฐ๋ฐ ๋ฐฉ๋ฒ, (4) Mixture-of-Experts ๊ตฌ์กฐ, (5) ์งํ์ ์ต์ ํ ๋ฑ์ ๋ค๋ฃฌ๋ค. Linear Mode Connectivity ๊ฐ์ค์ ๊ธฐ๋ฐํด ๊ฐ์ pre-trained ๋ชจ๋ธ์์ fine-tuning๋ ๋ชจ๋ธ๋ค์ loss landscape ์์์ ์ ํ ๊ฒฝ๋ก๋ก ์ฐ๊ฒฐ ๊ฐ๋ฅํ๋ค๋ ์ด๋ก ์ ํ ๋๋ฅผ ์ ๊ณตํ๋ค.
์คํ ๊ฒฐ๊ณผ
๋ณธ ๋ ผ๋ฌธ์ ์๋ฒ ์ด ๋ ผ๋ฌธ์ผ๋ก ์ง์ ์ ์ธ ์คํ ๊ฒฐ๊ณผ๋ ์ ์ํ์ง ์๋๋ค. ๋์ ๋ค์ํ ๊ธฐ์กด ์ฐ๊ตฌ๋ค์ ๊ฒฐ๊ณผ๋ฅผ ์ข ํฉํ์ฌ, ๋ชจ๋ธ ๋ณํฉ์ด ๋ฉํฐํ์คํฌ ํ์ต, ์์ ์ฑ ์ ๋ ฌ, ๋๋ฉ์ธ ํนํ, ๋ค๊ตญ์ด ์ ์ด, ์ฐํฉํ์ต ๋ฑ์์ ์์๋ธ์ด๋ ์ ์ฒด ์ฌํ์ต ๋๋น ๊ณ์ฐ ๋น์ฉ์ ํฌ๊ฒ ์ ๊ฐํ๋ฉด์๋ ๊ฒฝ์๋ ฅ ์๋ ์ฑ๋ฅ์ ๋ฌ์ฑํจ์ ๋ณด์ฌ์ค๋ค.
ํ๊ณ ๋ฐ ํฅํ ์ฐ๊ตฌ
์ฃผ์ ํ๊ณ๋ก (1) ๋ณํฉ์ด ์ ์๋ํ๋์ง์ ๋ํ ์ด๋ก ์ ์ดํด ๋ถ์กฑ, (2) ๋งค์ฐ ํฐ ๋ชจ๋ธ/์ด์ง์ ์ํคํ ์ฒ์ ๋ํ ํ์ฅ์ฑ ์ฅ๋ฒฝ, (3) ํ๊ฐ ๋ฒค์น๋งํฌ ๋ฐ ํ๋กํ ์ฝ์ ํ์คํ ๋ถ์ฌ๋ฅผ ์ง์ ํ๋ค. ํฅํ ์ฐ๊ตฌ ๋ฐฉํฅ์ผ๋ก ์ด๋ก ์ ๊ธฐ๋ฐ ๊ฐํ, cross-architecture ๋ณํฉ, ์๋ํ๋ ๋ณํฉ ์ ๋ต ํ์ ๋ฑ์ ์ ์ํ๋ค.
์ข ํฉ ํ๊ฐ: โญโญโญโญ โ LLM ๋ชจ๋ธ ๋ณํฉ ๋ถ์ผ์ ํํฉ์ FUSE ํ๋ ์์ํฌ๋ก ์ ์ ๋ฆฌํ ์์์ ์ ํ ์๋ฒ ์ด๋ก, ์ฐ๊ตฌ์์ ์ค๋ฌด์ ๋ชจ๋์๊ฒ ์ ์ฉํ ์ฐธ๊ณ ์๋ฃ๊ฐ ๋ ๊ฒ์ด๋ค.