Add papers

README.md

@@ -1,5 +1,11 @@
 # Paper List
 ## 2502
+#### [Multimodal Mamba: Decoder-only Multimodal State Space Model via Quadratic to Linear Distillation](summaries/2502.13145.md)
+#### [SoFar: Language-Grounded Orientation Bridges Spatial Reasoning and Object Manipulation](summaries/2502.13143.md)
+#### [Rethinking Diverse Human Preference Learning through Principal Component Analysis](summaries/2502.13131.md)
+#### [HeadInfer: Memory-Efficient LLM Inference by Head-wise Offloading](summaries/2502.12574.md)
+#### [RealSyn: An Effective and Scalable Multimodal Interleaved Document Transformation Paradigm](summaries/2502.12513.md)
+#### [Crowd Comparative Reasoning: Unlocking Comprehensive Evaluations for LLM-as-a-Judge](summaries/2502.12501.md)
 #### [Learning Getting-Up Policies for Real-World Humanoid Robots](summaries/2502.12152.md)
 #### [HermesFlow: Seamlessly Closing the Gap in Multimodal Understanding and Generation](summaries/2502.12148.md)
 #### [Diffusion-Sharpening: Fine-tuning Diffusion Models with Denoising Trajectory Sharpening](summaries/2502.12146.md)
@@ -12,6 +18,7 @@
 #### [Language Complexity Measurement as a Noisy Zero-Shot Proxy for Evaluating LLM Performance](summaries/2502.11578.md)
 #### [Large Language Models and Mathematical Reasoning Failures](summaries/2502.11574.md)
 #### [SAFE-SQL: Self-Augmented In-Context Learning with Fine-grained Example Selection for Text-to-SQL](summaries/2502.11438.md)
+#### [FLAG-Trader: Fusion LLM-Agent with Gradient-based Reinforcement Learning for Financial Trading](summaries/2502.11433.md)
 #### [System Message Generation for User Preferences using Open-Source Models](summaries/2502.11330.md)
 #### [Cuckoo: An IE Free Rider Hatched by Massive Nutrition in LLM's Nest](summaries/2502.11275.md)
 #### [How Do LLMs Acquire New Knowledge? A Knowledge Circuits Perspective on Continual Pre-Training](summaries/2502.11196.md)
@@ -22,6 +29,7 @@
 #### [Talk Structurally, Act Hierarchically: A Collaborative Framework for LLM Multi-Agent Systems](summaries/2502.11098.md)
 #### [Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention](summaries/2502.11089.md)
 #### [Towards Data-Efficient Pretraining for Atomic Property Prediction](summaries/2502.11085.md)
+#### [Phantom: Subject-consistent video generation via cross-modal alignment](summaries/2502.11079.md)
 #### [Memory, Benchmark & Robots: A Benchmark for Solving Complex Tasks with Reinforcement Learning](summaries/2502.10550.md)
 #### [I Think, Therefore I Diffuse: Enabling Multimodal In-Context Reasoning in Diffusion Models](summaries/2502.10458.md)
 #### [One Example Shown, Many Concepts Known! Counterexample-Driven Conceptual Reasoning in Mathematical LLMs](summaries/2502.10454.md)

summaries/2502.11079.md

@@ -0,0 +1,19 @@
+# Phantom: Subject-consistent video generation via cross-modal alignment
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2502.11079.pdf](https://arxiv.org/pdf/2502.11079.pdf)
+
+1. **논문 요약:**
+
+   - **서론:** 이 논문에서는 영상 생성의 향후 방향을 다루며, 주요 포커스는 '주제 일관성(subject-to-video)'이라는 개념입니다. 기존의 텍스트-영상(text-to-video, T2V)과 이미지-영상(image-to-video, I2V) 생성 모델의 한계를 개선하고자 합니다. 주제 일관성을 통해 텍스트와 이미지 두 모달리티를 균형 있게 정렬하여 더욱 자연스러운 영상 생성을 목표로 합니다.
+
+   - **Phantom 모델:** Phantom은 기존의 기초 모델들을 확장하여 텍스트-이미지-비디오 트리플릿 데이터를 활용하여 크로스 모달 정렬을 강화하는 방법을 제안합니다. 이는 상용 솔루션과 경쟁할 수 있는 성능을 보이며, 특히 얼굴 ID 일관성 유지에서 두드러진 성과를 보여주고 있습니다.
+
+   - **데이터 파이프라인 및 프레임워크:** 삼중 데이터 구조(이미지, 텍스트, 비디오)로 주제-비디오(S2V)를 실현하기 위한 다양한 데이터 세그멘테이션을 구축하였습니다. 높은 데이터 품질을 보장하기 위해 데이터 필터링 절차도 상세하게 설명하며, 인-페어와 크로스-페어 데이터를 분류해 사용합니다.
+
+   - **실험 결과:** 주제 일관성, 텍스트-비디오 일관성, 영상 품질 세 가지로 평가가 나누어졌고, Phantom 모델은 특히 주제 일관성 및 프롬프트 준수에서 높은 평가를 받았습니다. 사용자 연구에서도 다중 주제 영상 생성 시 만족할 만한 수준의 성능을 보여주었습니다.
+
+   - **결론:** Phantom은 텍스트-이미지-비디오 트리플릿 구조를 사용하여 주제-일관성 영상 생성을 구현하였고, 실험 결과 상용 솔루션보다 경쟁력 있는 성능을 제공함을 확인하였습니다. 특히, 일부 상용 솔루션보다 주제 일관성 면에서 우위를 보였습니다.
+
+2. **전체 요약:**
+   논문은 주제-영상(S2V) 개념을 중심으로, 텍스트-이미지-비디오 트리플릿 데이터를 활용한 크로스 모달 정렬을 통해 콘텐츠 생성의 품질과 일관성을 크게 향상시켰습니다. 이로써 T2V와 I2V의 한계를 넘어서, 사용자 지정 가능하고 자연스러운 영상 생성을 가능하게 합니다. Phantom 모델은 주제 일관성에서 뛰어난 성능을 보여줌으로써 상용 툴들과 견줄 수 있는 경쟁력을 입증했습니다.

summaries/2502.11433.md

@@ -0,0 +1,20 @@
+# FLAG-Trader: Fusion LLM-Agent with Gradient-based Reinforcement Learning for Financial Trading
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2502.11433.pdf](https://arxiv.org/pdf/2502.11433.pdf)
+
+1. 각 섹션 요약:
+
+- **서론**: 이 논문에서는 FLAG-TRADER라는 새로운 프레임워크를 소개하며, 이를 통해 금융 거래에서 LLM(대형 언어 모델)과 강화를 결합하여 금융 분야의 의사 결정을 개선하려고 합니다.
+
+- **관련 연구**: 기존의 연구들과의 차별성을 설명하며, 강화학습과 LLM을 금융 거래에 어떻게 응용할 수 있는지에 대한 최근의 발전 상황과 한계를 설명합니다.
+
+- **제안하는 방법론**: FLAG-TRADER 프레임워크는 LLM을 정책 네트워크로 활용하여 금융 데이터를 문자로 처리하고, 강화학습을 통해 보상 기반의 최적화를 수행합니다. 이를 통해 작은 LLM 모델이 대규모 모델 보다 더 나은 성능을 발휘할 수 있도록 합니다.
+
+- **실험 결과**: 다양한 금융 거래 시나리오에서 FLAG-TRADER가 기존의 베이스라인 방법들보다 consistently(u202f) 높은 성능을 보임을 입증하며, 특히 누적 수익률 및 샤프 비율 측면에서 우수한 성능을 나타냅니다.
+
+- **결론**: FLAG-TRADER는 LLM과 강화학습을 조합하여 금융에서의 적응성을 획득할 수 있음. 이 연구는 FLAG-TRADER가 금융에서의 의사결정을 개선할 수 있는 가능성을 보여주었습니다. 하지만, 몇 가지 한계점과 실제 적용 시 추가 연구가 필요한 부분이 명시되어 있습니다.
+
+2. 전반적인 요약:
+
+이 논문은 금융 거래를 위한 신기술인 FLAG-TRADER 프레임워크를 소개하고 있습니다. 이 기술은 LLM과 강화학습을 통합하여 금융 시장에서의 복잡한 의사결정 문제를 해결하기 위한 것입니다. FLAG-TRADER는 LLM의 대화와 추론 능력을 활용하여 금융 거래에서 정보의 해석 및 처리 능력을 향상시키며, 효율적인 보상 기반 최적화를 위한 새로운 방법론을 제시합니다. 실험 결과를 통해 FLAG-TRADER는 기존의 방법들보다 금융 거래에서 우수한 성능을 보였음을 보였습니다. 이 연구는 금융 의사결정의 적응성을 높이기 위한 LLM과 강화학습의 통합 가능성을 제시하며, 이 분야의 미래 연구에 중요한 기여를 하고 있습니다.

summaries/2502.12501.md

@@ -0,0 +1,20 @@
+# Crowd Comparative Reasoning: Unlocking Comprehensive Evaluations for LLM-as-a-Judge
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2502.12501.pdf](https://arxiv.org/pdf/2502.12501.pdf)
+
+1. 각 섹션의 중요한 내용 요약:
+
+   - **서론**: LLM-as-a-Judge라는 새로운 자동 평가 프레임워크의 필요성을 강조했습니다. 이는 인간 평가의 높은 비용과 제한된 확장성 문제를 해결하기 위한 것입니다.
+
+   - **관련 연구**: 인간 평가의 한계로 인해 자동 평가가 각광받고 있음을 언급하며, 기존 방법들이 갖고 있는 한계를 설명했습니다.
+
+   - **방법론**: Crowd-based Comparative Evaluation(CCE)의 개념을 도입하고 있습니다. 이는 관객 피드백을 이용해 평가의 심층적이고 포괄적인 이해를 가능하게 하는 방법입니다.
+
+   - **실험 설정 및 결과**: CCE가 다섯 가지 평가 기준에서 평균 6.7%의 성능 향상을 보임을 입증했으며, 이를 통해 작은 평가 모델의 훈련 효율성을 높이는 방법을 제안했습니다.
+
+   - **결론**: 이러한 접근법이 평가의 신뢰성을 높이고, 다양한 응용분야에서 적용될 수 있는 가능성을 제시했습니다.
+
+2. 전체 요약:
+
+   이 연구는 LLM-as-a-Judge의 제한적인 평가 능력을 극복하기 위해 Crowd-based Comparative Evaluation(CCE)을 제안했습니다. 인간의 평가 행위에서 영감을 받아 개발된 CCE는 관중의 피드백을 통해 평가의 세밀함과 포괄성을 높이는데 주안점을 두고 있습니다. 실험 결과는 CCE가 기존 평가 기준들보다 평균적으로 성능을 향상시키며, 평가를 위한 심층적 사고방식을 개발하는데 효과적임을 보여주었습니다. 이를 통해 다양한 기술적 과제에서 보다 효율적인 자동 평가 방법을 도출할 수 있는 가능성을 제시했습니다.

summaries/2502.12513.md

@@ -0,0 +1,20 @@
+# RealSyn: An Effective and Scalable Multimodal Interleaved Document Transformation Paradigm
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2502.12513.pdf](https://arxiv.org/pdf/2502.12513.pdf)
+
+1. 각 섹션 요약:
+
+   - **소개 (Introduction)**: 최근 모바일 네트워크와 소셜 플랫폼의 급격한 성장으로 대규모 데이터가 증가하면서 시각-언어 표현 학습에 중요한 기초가 되었습니다. 이 논문은 이러한 데이터들을 활용하여 시각-언어 표현을 어떻게 학습할 수 있는지를 탐구합니다.
+
+   - **Realsyn 데이터셋 구축 (Construction of RealSyn Dataset)**: RealSyn이라는 데이터셋을 구성하여 실제 텍스트와 합성 텍스트를 결합한 새로운 형태의 데이터셋을 제안했습니다. 이 데이터셋은 15M, 30M, 100M 사이즈로 제공되며, 시각-언어 표현 학습에 효과적임을 실험적으로 증명했습니다.
+
+   - **기술적 방법론 (Technical Methodology)**: 실제 텍스트와 관련 있는 여러 개의 텍스트를 효율적으로 연결하기 위한 계층적 검색 방법과 실질적인 텍스트에서 시멘틱 강화 생성 모듈을 제안합니다. 이를 통해 데이터셋의 다양성을 개선하고 긴 꼬리 개념 학습을 강화하는 전술을 사용합니다.
+
+   - **실험 및 결과 (Experiments and Results)**: RealSyn 데이터셋을 다양한 모델과 데이터 스케일을 기반으로 기존 데이터셋과 비교하여, RealSyn15M이 YFCC15M 및 LAION15M을 평균 성능에서 능가하며, 데이터 스케일 증가에 따라 지속적인 성능 개선을 보여주었습니다.
+
+   - **결론 (Conclusion)**: RealSyn 데이터셋이 시각-언어 표현 학습에서 효율적이고 확장 가능함을 확인했으며, 여러 다운스트림 작업에서도 뛰어난 성능을 보여줍니다. 이 연구는 향후 시각-언어 연구에 기여할 것입니다.
+
+2. 전체 요약:
+
+   본 논문은 시각-언어 표현 학습을 향상시키기 위해 실질적인 텍스트와 합성적 텍스트를 결합한 RealSyn 데이터셋을 제안합니다. 이 데이터셋은 다양한 크기로 제공되며, 시각적 의미 증강을 위한 모듈을 통해 데이터를 더욱 다양화하며 개념 학습을 강화합니다. 실험 결과, RealSyn은 기존 데이터셋보다 뛰어난 성능을 보이며 확장성이 우수하다는 것을 보여주었습니다. 이는 향후 연구 발전에 있어 중요한 기여를 할 수 있을 것입니다.

summaries/2502.12574.md

@@ -0,0 +1,16 @@
+# HeadInfer: Memory-Efficient LLM Inference by Head-wise Offloading
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2502.12574.pdf](https://arxiv.org/pdf/2502.12574.pdf)
+
+1. 각 섹션 요약:
+
+- **서론 (Introduction):** 이 논문은 HEADINFER라는 새로운 개체 캐시 관리 프레임워크를 소개합니다. 대규모 언어 모델의 중요한 성능 요소 중 하나인 메모리 문제를 해결하고자 하며, 일반적인 GPU에서는 처리하기 어려운 100만 개 이상의 토큰을 소비자 GPU로도 처리할 수 있도록 합니다.
+
+- **HEADINFER 설명 (HEADINFER Explanation):** HEADINFER의 주된 목적은 CPU 메모리로 개체 캐시를 분산시키는 데 있습니다. 이때, 정교한 '헤드 단위 오프로드' 기법을 사용하여 특정 주의 헤드만 GPU에 유지하며 나머지는 CPU로 보냅니다. 이는 GPU 메모리 사용량을 크게 줄여주며, 특히 소비자 수준의 하드웨어에서 긴 문맥 처리에 적합합니다.
+
+- **결론 (Conclusion):** HEADINFER의 적용은 AI 접근의 민주화를 의미합니다. 고급 대규모 언어 모델 기능을 저렴한 소비자 하드웨어에서도 사용할 수 있게 하여, 기술 발전이 모두에게 혜택이 돌아갈 수 있도록 합니다.
+
+2. 전체 요약:
+
+HEADINFER는 대규모 언어 모델의 장기 문맥 추론을 소비자 GPU에서도 메모리 효율적으로 수행할 수 있게 하는 구체적인 해결책을 제공합니다. 이 시스템의 주된 혁신점은 CPU 메모리를 활용하여 개체 캐시를 효율적으로 관리하고, 메모리 사용량을 줄이면서도 성능을 유지할 수 있다는 점입니다. 이러한 기술은 대규모 모델에 대한 접근성을 넓히며, AI가 산업 전반에서 더 폭넓게 활용될 수 있도록 합니다.

summaries/2502.13131.md

@@ -0,0 +1,18 @@
+# Rethinking Diverse Human Preference Learning through Principal Component Analysis
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2502.13131.pdf](https://arxiv.org/pdf/2502.13131.pdf)
+
+1. 각 섹션 요약:
+
+   - **서론**: 최근 대형 언어 모델(LLM)의 발전과 함께 이를 더 효율적으로 사용하기 위한 방법으로 인간의 피드백을 활용한 강화 학습(RLHF)이 주목받고 있습니다. 하지만 기존 스칼라 보상 모델로는 인간의 다양한 선호를 모두 포착하기 어려운 한계가 있습니다.
+
+   - **Decomposed Reward Models(DRMs) 도입**: 이 논문에서는 DRMs라는 새로운 접근 방식을 제안하여 이진 비교 데이터를 이용해 인간의 선호도를 세부적으로 분석합니다. 이 모델은 인간 선호도를 벡터로 표현하여 다양한 선호 차원을 식별하고 사용자 맞춤형으로 조정할 수 있는 확장 가능한 대안적 방법을 제공합니다.
+
+   - **실험 및 결과**: DRMs를 통해 각기 다른 선호 속성을 효과적으로 포착하여 테스트 시의 사용자 선호에 적응할 수 있음을 실험적으로 검증했습니다. 기존의 단일 및 다중 보상 모델에 비해 더 높은 성능을 보였습니다.
+
+   - **제한 사항**: DRMs는 큰 스케일의 보상 머리 수로 인해 일부 제한이 존재하며, 향후 연구에서는 더 효율적인 분석 방법 개발이 필요합니다.
+
+2. 전체 요약:
+
+   이 논문은 전통적인 보상 모델의 한계를 극복하고자 DRMs이라는 혁신적인 모델을 제안합니다. DRMs는 인간의 선호도를 다차원 벡터로 표현하여, 이를 이용해 피드백에 기반한 선호도 분석을 수행합니다. 특히, PCA 기법을 활용하여 각기 다른 선호 방향을 식별하고, 사용자 맞춤형으로 적응 가능하도록 설계되었습니다. 본 연구는 DRMs가 확장 가능하며 다양한 인간 선호를 포착할 수 있는 강력한 프레임워크임을 강조합니다.

summaries/2502.13143.md

@@ -0,0 +1,22 @@
+# SoFar: Language-Grounded Orientation Bridges Spatial Reasoning and Object Manipulation
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2502.13143.pdf](https://arxiv.org/pdf/2502.13143.pdf)
+
+1. **요약:**
+
+   - **서론:**
+     논문의 주제는 주어진 공간에서 AI를 사용하여 물체를 인식하고 조작하는 능력을 향상시키는 것입니다. 특히 자연어를 활용하여 물체의 방향성을 정의하는 방법을 제안하며, 이를 통해 로봇 조작 능력을 개선하고자 합니다.
+
+   - **개념적 방향성:**
+     이 논문은 '개념적 방향성'이라는 새로운 개념을 제안하여, 물체의 방향을 자연어로 설명하며 점유 프레임에 의존하지 않습니다. 예를 들어, USB의 삽입 방향이나 칼의 핸들 방향을 자연어로 표현합니다. 이러한 방향성은 보다 직관적으로 물체를 조작할 수 있게 합니다.
+
+   - **OrienText300K 데이터셋:**
+     논문에서는 3D 모델에 개념적 방향성을 주석한 대규모 데이터셋, OrienText300K를 소개합니다. 이를 통해 기하학적 이해와 기능적 의미를 연결하며, 이러한 방향성을 VLM 시스템에 통합하여 로봇 조작 능력을 향상시킵니다.
+
+   - **SOFAR 시스템:**
+     SOFAR는 로봇이 RGB-D 영상과 언어 질의 입력을 받아 방향성을 인지한 3D 장면 그래픽을 생성하도록 도와주는 시스템입니다. 이 시스템은 VLM 에이전트를 사용하여 장면과 질의에 대한 계획 결과를 산출합니다.
+
+2. **전체 요약:**
+
+   이 논문은 AI 및 기계학습을 통해 로봇의 공간 지능을 향상시켜 물체의 조작 능력을 개선하는 데 중점을 둡니다. 특히, 자연어 기반의 '개념적 방향성'을 도입하여, 물체의 정밀한 방향성을 이해하고 이를 통해 보다 효율적인 로봇 조작을 가능하게 합니다. OrienText300K 데이터셋과 SOFAR 시스템을 통해 실질적인 애플리케이션 구현에 기여하며, 다양한 시뮬레이션과 실제 실험을 통해 그 효과를 검증하였습니다.