Add papers

README.md

@@ -1,6 +1,15 @@
 # Paper List
 ## 2412
+#### [CARP: Visuomotor Policy Learning via Coarse-to-Fine Autoregressive Prediction](summaries/2412.06782.md)
+#### [Around the World in 80 Timesteps: A Generative Approach to Global Visual Geolocation](summaries/2412.06781.md)
+#### [Training Large Language Models to Reason in a Continuous Latent Space](summaries/2412.06769.md)
+#### [You See it, You Got it: Learning 3D Creation on Pose-Free Videos at Scale](summaries/2412.06699.md)
+#### [ProcessBench: Identifying Process Errors in Mathematical Reasoning](summaries/2412.06559.md)
+#### [Unraveling the Complexity of Memory in RL Agents: an Approach for Classification and Evaluation](summaries/2412.06531.md)
+#### [Exploring Multi-Grained Concept Annotations for Multimodal Large Language Models](summaries/2412.05939.md)
 #### [RL Zero: Zero-Shot Language to Behaviors without any Supervision](summaries/2412.05718.md)
+#### [Global and Dense Embeddings of Earth: Major TOM Floating in the Latent Space](summaries/2412.05600.md)
+#### [MotionShop: Zero-Shot Motion Transfer in Video Diffusion Models with Mixture of Score Guidance](summaries/2412.05355.md)
 #### [Expanding Performance Boundaries of Open-Source Multimodal Models with Model, Data, and Test-Time Scaling](summaries/2412.05271.md)
 #### [APOLLO: SGD-like Memory, AdamW-level Performance](summaries/2412.05270.md)
 #### [Mind the Time: Temporally-Controlled Multi-Event Video Generation](summaries/2412.05263.md)
@@ -21,6 +30,7 @@
 #### [MEMO: Memory-Guided Diffusion for Expressive Talking Video Generation](summaries/2412.04448.md)
 #### [Moto: Latent Motion Token as the Bridging Language for Robot Manipulation](summaries/2412.04445.md)
 #### [GenMAC: Compositional Text-to-Video Generation with Multi-Agent Collaboration](summaries/2412.04440.md)
+#### [Divot: Diffusion Powers Video Tokenizer for Comprehension and Generation](summaries/2412.04432.md)
 #### [Infinity: Scaling Bitwise AutoRegressive Modeling for High-Resolution Image Synthesis](summaries/2412.04431.md)
 #### [Florence-VL: Enhancing Vision-Language Models with Generative Vision Encoder and Depth-Breadth Fusion](summaries/2412.04424.md)
 #### [Establishing Task Scaling Laws via Compute-Efficient Model Ladders](summaries/2412.04403.md)
@@ -52,6 +62,7 @@
 #### [Global MMLU: Understanding and Addressing Cultural and Linguistic Biases in Multilingual Evaluation](summaries/2412.03304.md)
 #### [U-MATH: A University-Level Benchmark for Evaluating Mathematical Skills in LLMs](summaries/2412.03205.md)
 #### [Weighted-Reward Preference Optimization for Implicit Model Fusion](summaries/2412.03187.md)
+#### [Robust Multi-bit Text Watermark with LLM-based Paraphrasers](summaries/2412.03123.md)
 #### [Mimir: Improving Video Diffusion Models for Precise Text Understanding](summaries/2412.03085.md)
 #### [TokenFlow: Unified Image Tokenizer for Multimodal Understanding and Generation](summaries/2412.03069.md)
 #### [Surveying the Effects of Quality, Diversity, and Complexity in Synthetic Data From Large Language Models](summaries/2412.02980.md)

summaries/2412.03123.md

@@ -0,0 +1,33 @@
+# Robust Multi-bit Text Watermark with LLM-based Paraphrasers
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2412.03123.pdf](https://arxiv.org/pdf/2412.03123.pdf)
+
+I'm going to synthesize the given document's sections and provide detailed Korean summaries suitable for presentation creation.
+
+1. **Section Summaries:**
+
+- **서론:**
+    본 논문은 LLM(대규모 언어 모델)의 결과물에 워터마크를 삽입하기 위해 패러프레이징 기반의 방법론을 제안합니다. 이 방법론은 텍스트의 의미를 유지하면서 워터마크를 감지할 수 있도록 설계되었습니다. 이를 통해 LLM으로 생성된 허위 정보의 확산을 추적할 수 있습니다.
+
+- **2. 이론 배경:**
+    멀티비트 텍스트 워터마크를 소개하고, 텍스트의 의미를 유지하며 워터마크를 삽입하는 기술적인 접근 방식을 설명합니다. 이 과정에서 텍스트의 길이에 비례하여 다양한 형태의 워터마크 메시지를 삽입할 수 있다는 점이 특징입니다.
+
+- **3. 방법론:**
+    워터마크 삽입을 위한 패러프레이서 LLM 기반의 인코더와 메시지 코드를 디코딩하기 위한 텍스트 분류기(디코더)를 사용하는 방법을 제안합니다. 워터마크는 텍스트에 보이지 않게 삽입되며, 기존의 의미를 유지합니다.
+
+- **4. 실험:**
+    C4, Anthropic HH-RLHF, UltraFeedback 등 다양한 데이터셋에서의 모델 성능을 분석합니다. 해당 방법론은 특히 OOD(Out-Of-Distribution) 데이터에서도 높은 성능을 유지하며, 패러프레이징 공격에도 강력한 내구성을 보입니다.
+
+- **5. 관련 연구:**
+    텍스트 워터마크 기법의 발전 과정을 소개하며, 기존의 동의어 치환 및 직접적 텍스트 변경 방법론에서 최근의 패러프레이징 기반 접근 방식으로 발전해온 맥락을 설명합니다.
+
+- **6. 논의:**
+    텍스트 분할의 중요성과 워터마크 스타일 제어의 방법론 등을 포함한 다양한 활용방안을 탐구합니다. 패러프레이저의 데이터 기반 학습을 통해 워터마크 스타일 제어의 가능성을 암시합니다.
+
+- **결론:**
+    논문이 제안한 워터마크 방법론은 높은 탐지 정확도를 자랑하며, 다양한 공격에도 강력한 내구성을 보유합니다. 연구결과는 텍스트 워터마크 분야에 새로운 통찰을 제공합니다.
+
+2. **Overall Summary:**
+
+이 논문은 LLM 결과물에 워터마크를 삽입하여 검출 가능성을 높이고, 이를 통해 허위 정보 추적을 돕는 새로운 방법론을 제안합니다. 주된 기여는 멀티비트 워터마크 삽입을 위해 패러프레이징을 활용한 혁신적인 접근 방식을 제시한 점입니다. 실험을 통해 높은 탐지 정확도와 내구성을 입증하였으며, 특히 OOD 데이터셋에서도 우수한 성능을 보였습니다. 이는 디지털 텍스트의 보안 및 인증 기술 발전에 중요한 기여를 할 것으로 기대됩니다.

summaries/2412.04432.md

@@ -0,0 +1,24 @@
+# Divot: Diffusion Powers Video Tokenizer for Comprehension and Generation
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2412.04432.pdf](https://arxiv.org/pdf/2412.04432.pdf)
+
+I'm summarizing the contents of the paper in Korean as instructed:
+
+1. **세부 요약**
+
+- **도입 부분**
+  최근 다중 모달 대형 언어 모델(MLLM)의 발전은 통합 이미지 이해 및 생성에서 큰 진전을 이루었습니다. 이 연구는 이 기술을 동영상 분야로 확장하려는 시도로, 동영상 데이터를 보다 복잡한 방식으로 처리할 수 있는 새로운 방법론을 제안합니다.
+
+- **관련 연구**
+  기존의 연구들은 대체로 이미지와 텍스트 기반의 데이터에 집중되었으나, 이 논문은 동영상에서의 통합 이해 및 생성이라는 새로운 시도를 통해 다양한 조사와 해결책을 제공합니다.
+
+- **방법론**
+  Divot라는 이름의 디퓨전-기반 비디오 토크나이저를 도입하여, 자가-지도학습을 통해 비디오 표현을 학습합니다. 이는 영상의 공간적 및 시간적 정보를 효과적으로 파악하도록 설계되었습니다.
+
+- **실험 및 평가**
+  제안된 모델은 여러 비디오 이해 및 생성 벤치마크에서 경쟁력 있는 성능을 보여줍니다. 특히, 학습된 비디오 표현을 바탕으로 사람의 개입 없이 텍스트를 기반으로 한 비디오 생성이 가능합니다. 또한, Divot-LLM을 사용하여 비디오 스토리텔링을 수행할 수 있습니다.
+
+2. **전체 요약**
+
+이 논문은 이미지 중심의 기존 다중 모달 모델을 동영상에 적용하는 연구로, Divot이라는 디퓨전 기반 시스템을 통해 비디오의 복잡한 시각적 특성을 포착하고 이를 바탕으로 통합된 비디오 이해 및 생성을 가능케 하는 데 중점을 두고 있습니다. 연구의 혁신적인 점은 자가-지도 학습을 통해 보다 풍부한 비디오 표현을 학습하게 하여, 다양한 응용 분야에서 높은 성능을 나타냅니다.

summaries/2412.05355.md

@@ -0,0 +1,20 @@
+# MotionShop: Zero-Shot Motion Transfer in Video Diffusion Models with Mixture of Score Guidance
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2412.05355.pdf](https://arxiv.org/pdf/2412.05355.pdf)
+
+### 1. 요약
+
+1. **소개**: 이 논문은 diffusion 모델에서 동작 전이에 대한 새로운 접근 방식인 Mixture of Score Guidance (MSG)를 소개합니다. MSG는 사전 훈련된 비디오 diffusion 모델에 직접 적용할 수 있으며 추가 학습 없이 다양한 동작 전환 시나리오를 지원합니다.
+
+2. **관련 연구**: 변환기 구조가 비디오 생성 작업에 강력한 기반이 되었음을 설명하며, motion transfer와 관련된 최근 연구 개발 동향을 살펴봅니다.
+
+3. **배경**: diffusion 프로세스는 비디오 생성의 기반을 설정하며, 확률적 미분 방정식을 통해 데이터 분포를 변화시키는 방법을 설명합니다.
+
+4. **방법론**: MSG는 조건부 점수 재구성을 통해 동작 점수와 콘텐츠 점수를 분해합니다. 이는 Langevin dynamics와의 관계를 확립하며, 고정밀 동작 전이를 가능하게 합니다.
+
+5. **실험 및 결과**: 여러 실험을 통해 MSG가 다양한 시나리오에서 효과적으로 동작을 전이할 수 있음을 보여주며, 실질적인 동작-텍스트 정렬과 모션 보존을 강조합니다.
+
+### 2. 전체 요약
+
+이 논문은 diffusion 기반의 비디오 생성 모델에서 창의적인 장면 변환을 가능하게 하는 MSG 접근 방식을 제안합니다. MSG는 사전 훈련된 모델을 활용하여 다양한 동작 전환 시나리오를 처리하며, 추가 훈련 없이 복잡한 다중 객체 및 카메라 동작 전이도 지원합니다. 논문은 실험을 통해 MSG의 고효율성과 신뢰성을 입증하며, 비디오 생성 모델의 응용 가능성을 더욱 확장합니다.

summaries/2412.05600.md

@@ -0,0 +1,28 @@
+# Global and Dense Embeddings of Earth: Major TOM Floating in the Latent Space
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2412.05600.pdf](https://arxiv.org/pdf/2412.05600.pdf)
+
+죄송합니다. 제공된 파일에서 나온 정보를 기반으로 다음과 같은 내용을 요약합니다.
+
+### 1. 섹션별 요약
+
+**도입부**:
+지구 관측 데이터를 다루는 이 논문은 대규모 이미지 아카이브를 처리할 때 나타나는 컴퓨팅 비용과 복잡성을 줄이기 위한 효율적인 벡터 표현을 제안합니다. Major TOM이라는 기존 프로젝트를 확장하여 전 세계의 지리적 이미지 임베딩을 표준화하는 것이 목표입니다.
+
+**임베딩 방법론**:
+임베딩 방법론은 다양한 사전 학습 모델을 통해 글로벌 데이터를 분석하는 데 중점을 둡니다. 이 데이터셋은 Major TOM Core 데이터셋 위에 구축되었으며, 대량의 Copernicus 데이터를 AI가 처리할 수 있도록 하여 전 세계적인 커버리지를 제공합니다.
+
+**릴리스 표준**:
+발표된 표준은 데이터베이스의 재현성을 높여 주며, 여러 객체 간 임베딩을 비교할 수 있는 기반을 제공합니다. 이는 모델 평가를 보다 쉽게 만들어 주며, 데이터셋 생산자가 계산적인 부담을 덜 수 있게 해줍니다.
+
+**데이터 프래그먼트 및 임베딩 모델**:
+이미지는 모델에 맞게 사전 처리되고, 이후 임베딩 모델에 입력되어 출력 임베딩 데이터셋으로 구성됩니다. 특히, 최근에는 다양한 모델들을 이용하여 차별화된 데이터 분석이 강조됩니다.
+
+**소프트웨어 릴리스 및 잠재적 적용 사례**:
+Major TOM 프로젝트의 도구는 이미 존재하며, 임베딩 생성과 처리의 속도를 높이기 위한 도구가 추가될 예정입니다. 임베딩 데이터셋은 토지 사용 모니터링 같은 구체적인 응용 사례에서 유용합니다.
+
+### 2. 전체 요약
+이 논문은 인공지능을 통해 대규모 지구 관측 이미지 데이터를 처리하는 효율적인 벡터 임베딩 방법론을 제시합니다. Major TOM이라는 프로젝트의 일환으로, 자유롭게 접근 가능한 거대한 지리적 이미지 데이터셋이 구축되었습니다. 이 데이터셋은 다양한 모델을 통해 분석되어 네트워크 학습 과정을 거치며, 토지 사용 모니터링 등 다양한 실제 응용 사례에 적용될 수 있습니다. 이 외에도, 벡터 데이터베이스의 관리와 사용을 용이하게 하여, 커뮤니티 사용자들이 보다 쉽게 데이터를 다루도록 지원하는 것을 목적으로 하고 있습니다.
+
+이 문서는 지구 관측 데이터를 효율적으로 처리하고, 이를 실제 문제 해결에 유용하게 활용하기 위한 중요한 경로를 제시합니다.

summaries/2412.05939.md

@@ -0,0 +1,32 @@
+# Exploring Multi-Grained Concept Annotations for Multimodal Large Language Models
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2412.05939.pdf](https://arxiv.org/pdf/2412.05939.pdf)
+
+### 1. 각 섹션 요약 및 핵심 기여점
+
+**서론**
+이 논문에서는 다중모달 다층 개념 주석을 포함한 새로운 데이터셋 MMGIC와 일반적인 멀티모달 대규모 언어모델 프레임워크를 소개하고, 이를 활용하여 다층적 개념 주석의 잠재력을 탐구합니다.
+
+**MMGIC 데이터셋**
+- 데이터 수집 및 전처리: MMGIC 데이터셋은 대규모 사람 주석 객체 탐지 데이터셋을 활용하여 수집 및 전처리됩니다.
+- 다층 개념 주석 보완: 텍스트와 시각적인 양식의 주석을 결합하여 다층 모델링을 지원합니다.
+- 데이터셋 구축: 다중모달 데이터셋 구축과정은 자세한 데이터 레시피를 사용하여 설계되었습니다.
+
+**프레임워크**
+- 자회귀 이산 MLLM 프레임워크: 자동회귀 이산 목표를 기반으로 한 모델링 방법을 제안합니다.
+- 훈련 단계: 자율학습과 지도 미세조정을 통해 모델 성능을 개선합니다.
+
+**실험**
+- 다층 개념 주석의 데이터 레시피 연구: 각 구성 요소의 중요성을 평가합니다.
+- MMGIC와 이미지-캡션 데이터 간 협력 연구: 각 데이터 유형의 장점을 결합하여 성능을 향상시킵니다.
+
+**관련 연구**
+다중모달 이해 및 생성에 있어서 다층 개념 주석의 중요성을 강조합니다.
+
+**결론 및 향후 연구**
+MMGIC의 잠재력을 다양한 벤치마크를 통해 탐구하며, 다층 개념 주석의 중요성을 미래 연구에 제안합니다.
+
+### 2. 전체 요약
+
+이 논문은 대규모 언어 모델(MLLM)을 위한 다층 개념 주석을 포함한 MMGIC라는 새로운 데이터셋을 소개합니다. 이를 통해 다중모달 프레임워크에서 모델이 시각적 및 언어적 개념을 동시에 더 잘 학습하고 위치할 수 있게 하여 다층적인 개념 정렬을 지원합니다. 또한, MMGIC 데이터셋과 기존 이미지-캡션 데이터 사이의 구성 방법을 비교/분석하여 다층 개념 주석의 협업 그리고 적용 가능성을 강조합니다. 이 연구는 향후 연구에서 다층 개념 주석의 급속한 발전 가능성을 열었으며, 다양한 타입의 새로운 주석을 결합하여 보다 정확한 멀티모달 학습을 촉진할 것을 제안합니다.

summaries/2412.06531.md

@@ -0,0 +1,24 @@
+# Unraveling the Complexity of Memory in RL Agents: an Approach for Classification and Evaluation
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2412.06531.pdf](https://arxiv.org/pdf/2412.06531.pdf)
+
+### 1. 각 섹션 요약
+
+- **초록**
+  이 논문은 강화 학습(RL) 분야에서 에이전트의 메모리 개념을 정리하는 것을 목표로 합니다. 인지과학에서 영감을 얻은 구체적인 메모리 유형 정의를 제시하고, 다양한 에이전트 메모리를 평가할 수 있는 실험적 방법론을 제안합니다. 이를 통해 다른 메모리 강화 에이전트와의 객관적 비교를 가능하게 하고, 실험을 통해 이 방법론의 중요성을 입증합니다.
+
+- **서론**
+  RL은 문제를 해결하는 데 효과적이나, 부분적으로 가시적인 복잡한 작업에는 도전이 많습니다. 역사적 상호작용을 처리하는 것이 필수적이며, 이를 위해서는 메모리 메커니즘이 필요합니다. 그러나 기존 문헌에서는 메모리가 특정 문제에만 국한되어 정의됩니다.
+
+- **관련 작업**
+  다양한 연구가 메모리 강화 RL 에이전트를 위한 아키텍처를 제안하지만, "메모리"라는 용어는 여전히 다양한 의미를 가지고 있습니다. 실험 선택도 항상 정확하지 않습니다.
+
+- **인간과 에이전트의 메모리**
+  메모리는 에이전트가 정보를 유지, 처리, 회상하는 능력을 나타내며, 환경 요구에 따라 필요한 속성으로 간주됩니다. 정확한 평가를 위해 설정된 실험에서는 명확한 구분이 필요합니다.
+
+- **결론**
+  연구는 RL에서 에이전트 메모리를 통일된 이해로 유도하는 중요한 출발점을 제공합니다. 정의와 방법론은 실험적 설계를 일관되게 하여, 신뢰할 수 있는 결과와 유의미한 비교를 보장하고, RL 연구를 진전시킵니다.
+
+### 2. 전체 요약
+이 논문은 강화 학습에서 에이전트의 메모리 타입을 명확히 정의하고 분류하며, 이를 사용할 수 있는 실험적 방법론을 제안하여 메모리 평가의 통일성을 추구합니다. 이를 통해 연구자들이 일관된 실험을 설계하고, 메모리 강화 에이전트 간의 객관적인 비교를 할 수 있는 기반을 마련합니다. 이 접근법을 통해 RL 분야의 연구가 더욱 진전될 수 있도록 지원합니다. 전체적으로 RL 시스템의 메모리 설계에서 일관성 있는 평가와 개선을 촉진하고자 합니다.