리서치 레이더

기관 리서치

Google DeepMind

• 신규 없음. RSS(deepmind.google/blog/rss.xml) 최신 글은 여전히 09-24 "Introducing Gemini 3.8 Live with Live Avatar"(이미 다룸)이며 그 이전은 09-23 게시물 2건.

Google Research

• Diffusion Controller: 텍스트-이미지 생성을 위한 통합 제어 레이어 — 기존 가이던스 기법들이 추론 시점 기법과 파인튜닝을 서로 단절된 도구로 다뤄 "사용자 선호 대 이미지 품질" 균형을 감으로 맞춰야 했던 문제에, 베이스 모델을 건드리지 않고 디노이징 궤적만 동적으로 조정하는 경량 "steering damper" 네트워크를 붙여 정책그래디언트/PPO와 보상가중 손실 두 최적화 경로를 하나의 수학적 언어로 통합했다. 내부 가중치 접근이 없는 폐쇄형(access-restricted) 모델에도 적용 가능한 "그레이박스" 방식이 핵심이며, HPS-v2 승률 기준 업계 표준인 LoRA를 능가했고 완전 접근 가능한 "화이트박스" 버전은 베이스라인 대비 90% 승률을 기록했다. — 링크
  • 관련 주제: (이미지 생성 제어, 5대 핵심 주제 직접 해당 없음)

OpenAI

• 신규 없음(Research/Publication 카테고리 기준). RSS(openai.com/news/rss.xml) 최신 항목들(09-29 3건, 09-28 다수)은 전부 Product/Company/Safety 카테고리의 제품 출시·고객 사례이며, 이미 다룬 09-23 "Introducing MentalHealthBench" 이후 Research/Publication 카테고리에는 새 글이 없다.

Anthropic

• GLM-5.3과 고급 사이버 공격 능력의 확산 — 중국 Zhipu AI가 개발한 오픈 다운로드 모델 GLM-5.3의 보안 위험을 분석. ExploitBench에서 Claude Mythos Preview와 비슷한 수준(410회 중 50회, 12%)으로 end-to-end 익스플로잇을 완성했고, 내부 Binary Exploitation 벤치마크에서 완전한 제어 흐름 탈취(full control-flow hijack) 4%를 기록했으며, 연구자 테스트 중 실제 웹브라우저 구성요소에서 미공개 취약점을 발견해 작동하는 익스플로잇으로 연결하기도 했다. CVE-2026-11645에 대한 N-day 익스플로잇을 사람 개입 20분·모델 처리 8시간·비용 약 $20.40로 생성. 기본 거부율은 95%로 준수하지만 기만적 프롬프트(64% 우회), prefilled reasoning(92% 우회), abliteration(가중치 조작, 100% 우회)로 쉽게 뚫린다 — abliteration은 능력을 보존한 채 거부율을 3–12%로 떨어뜨린다. 다른 프런티어 모델과 달리 GLM-5.3은 안전장치나 접근 제한 없이 공개 다운로드가 가능해 위험 능력이 그대로 확산된다는 것이 핵심 경고. — 링크
• "AI에게 무엇을 원하십니까?" — Claude 사용자 인터뷰 신규 연구 착수 — 2025년 12월 81,000명 설문의 후속으로, "Anthropic Interviewer"라는 AI가 09-29~10-06 사이 Claude 사용자(가입 2주 이상)를 약 15분씩 인터뷰해 (1) AI와의 가장 의미 있었던 경험, (2) AI가 노동·교육·의료·정부 같은 주요 사회 시스템을 바꿀 수 있는지, (3) AI 기업에게 무엇을 기대하는지를 묻는다. 이번엔 참가자가 자신의 인터뷰 전문을 공개 동의하면 Anthropic뿐 아니라 누구나 읽을 수 있게 하는 점이 새롭다. 아직 결과는 발표 전. — 링크
  • 관련 주제: (보안 위험 평가·사용자 연구 방법론, 5대 핵심 주제 직접 해당 없음)

Meta FAIR / Meta AI

• 신규 없음. https://ai.meta.com/blog/ 기준 노출되는 최신 글은 여전히 2026-07-27 "Reimagining Independence..."로 두 달 넘게 정체.

Microsoft Research

• Quine — 생물학의 복잡성을 다루도록 설계된 AI 연구 시스템 — 유전체·단백질·화학·RNA·세포 상태·바이오이미징 등 여러 생물학적 모달리티에 걸쳐 별도 전문가 모델을 오케스트레이션하는 대신 하나의 공동 멀티모달 학습으로 공유 표현을 학습해, 한 도메인의 증거가 다른 도메인의 예측에 정보를 줄 수 있게 한 "생물학 세계모델"과 이를 문헌·습식실험·연구자와 연결하는 상호작용 하네스를 결합했다. Broad Institute와의 췌관선암(PDAC) 공동연구에서 치료적 세포상태 전환을 겨냥한 화합물 수천 개를 예측·우선순위화했고, 최상위 후보들이 실험 어세이 전반에서 "의도한 전환폭이 가장 큰" 결과를 냈으며 이 전체 과정이 단 한 주말 만에 끝나 수개월의 실험 시간을 절약했을 것으로 추정된다. 일부 결과는 예상 밖의 작용기전을 드러내 약물 재창출(drug repurposing) 가능성도 시사. 정량적 벤치마크 수치는 공개되지 않았다. — 링크
  • 관련 주제: AI Scientist / Automated Research (계산으로 실험 전 후보를 탐색·제안·순위화하는 폐루프)

NVIDIA Research

• 신규 없음(관련 연구 성과 기준). blogs.nvidia.com/feed의 최신 글들(09-21~09-24)은 게임/인물/파트너 행사/전력·냉각 인증 등 기업 뉴스이거나, 이미 다룬 09-24 오픈 단백질 데이터셋 그대로로 5대 핵심 주제와 무관.

Apple ML Research

• The Communication Bottleneck: 트리 구조 표현의 자연어 직렬화 왕복 연구 — 언어모델이 산술식 같은 트리 구조 표현을 자연어로 직렬화할 때 정보가 얼마나 보존되는지, "생성 모델이 절차적 산술식을 단어 문제로 바꾸고 추출 모델이 원래 식을 복원하는" 왕복(round-trip) 프로토콜과 기호적 동치 검증으로 16개 모델의 모든 쌍별 조합을 평가했다. 같은 모델을 생성·추출 양쪽에 쓰는 것보다 서로 다른 모델을 쓸 때 최적 성능(92.9%)이 나오는 비대칭적 손실 채널을 확인했고, 실패의 최소 73.6%가 생성 단계에서 기인하며 그 난이도는 모델 계열이 아니라 연산자 개수·깊이·우분기(right-branching) 같은 구조적 요인이 좌우한다. 약 3,600개 예제로 파인튜닝하면 모든 오픈 웨이트 모델이 기준선을 넘어서고, 도메인이 겹치지 않는 새 연산자·어휘로도 전이됨을 확인. — 링크
  • 관련 주제: Reasoning (계층적 구조 정보가 자연어를 거치며 얼마나 충실히 보존되는가)

arXiv 신규

AI Agents

• Shockingly Simple Self-retrospection Improves Agentic Models Without RL (2609.35741) — 외부 교사나 보상 기반 정책 갱신 없이, 에이전트가 자기 시도를 사후 설명(retrospection)한 텍스트에만 next-token loss로 파인튜닝하는 ROFT를 제안. Qwen3.5-4B로 SWE-bench Verified/Pro에서 20회 갱신만으로 GRPO의 40회 갱신 결과(48.0%/25.3%)를 근소하게 넘어서는 49.2%/26.8%를 달성했고, 64회 샘플링이 전부 실패했던 과제도 풀어내는 사례를 확인했다.
• Audit the Scaffold, Not the Checkpoint: A Stationarity Dichotomy for Recursive Self-Improvement in Agentic Coding (2609.34924) — 가중치가 고정돼 있는지가 아니라 에이전트가 도달 가능한 편집 집합이 고정돼 있는지가 재귀적 자기개선의 수렴 여부를 가른다는 "정상성 이분법"을 제시. 검증기·분해 전략 같은 스캐폴딩을 재작성하는 것만이 가중치를 안 건드리고도 도달 가능 집합을 넓히며, 동일 계열 워커 30개의 최적 조합(가중 투표)조차 다양성 부족으로 42%(23/55) 과제에서 실패함을 보였다.
• "You're Right, Let Me Fix It": How LLM Agents Damage Correct Work When Falsely Accused (2609.32616) — 이미 검증된 올바른 작업물이 근거 없는 후속 비난(사실을 확인할 방법이 로컬에 없는 상황)을 받았을 때 에이전트가 이를 받아들여("gaslight sycophancy") 멀쩡한 작업을 훼손하는 현상을 365개 과제 벤치마크(CAVE-Bench)로 정량화. 최신 모델 14종에서 근거 없는 비난이 최대 60.06%의 실행에서 올바른 작업을 손상시켰고, 하네스 게이트로 재발생 피해를 74% 줄일 수 있었다.

AI Scientist / Automated Research

• MechBench: Can AI Scientific Agents Discover Mechanisms Beyond Phenomenal Laws? (2609.35515) — 관측 가능한 현상 법칙을 복원하는 것과 그 법칙을 낳는 메커니즘 자체를 식별하는 것을 명시적으로 분리해 평가하는 벤치마크. Codex+GPT-5.6-sol 기준 현상 법칙 정확도 35.00%에 비해 메커니즘 정확도는 13.75%에 그쳤고, 법칙을 맞혔는데도 메커니즘 복원에 실패하는 경우가 64.29%에 달해 "법칙을 맞히는 것"과 "왜 그런지 아는 것" 사이의 큰 간극을 규명했다.
• LieDiscover: Adaptive Symbolic Library Construction for Explicit Open-form Symmetry Discovery (2609.33663) — 데이터에서 대칭성을 발견하되 기존 방법들이 사전 정의된 함수 라이브러리 안에서만 탐색해 고차 다항식·초월함수를 포함한 복잡한 대칭을 놓치는 문제에, 인코더-디코더로 라이브러리 자체를 강화학습으로 동적 확장하며 기호식을 생성하는 프레임워크를 제안. 기존 방법이 다루지 못하던 open-form 무한소 생성자를 발견하고 하류 PDE 풀이·발견 과제 성능도 개선.
• LLM Sequential Decision Making under Uncertainty in Biochemical Domains (2609.33061) — Paper Radar 채택. 잡음 보정된 벨리프 무브먼트·마팅게일 진단으로 LLM 실험설계 에이전트가 사전 믿음에 고착하는 게 아니라 새 데이터에 과잉반응함을 밝히고, 탐색 부족이 in-context 이력에 들러붙는 역량 격차("context-stickiness")임을 히스토리 제거라는 인과적 개입으로 실증. 상세는 §3 및 레이더 로그 참고.

Hypothesis Generation

• Reinforcing Agentic Creativity in Scientific Ideation with Night Science (2609.35706) — LLM의 저-엔트로피 편향이 개방형 과학적 아이디어 발상을 동질적으로 만든다는 문제에, 행동(무엇을 얼마나 창의적으로)·과정(언제 탐색 대 활용)·결과(참신성·유용성) 3축으로 창의성을 모델링해 GRPO로 학습시키는 AI Night-Scientist를 제안. 기본 모델 대비 연구 방향 다양성 27.8%, 기여 유형 다양성 14.9% 확대, 예측 인용 임팩트 최대 32.0%p·독창성 66.2점 개선을 보였고 디코딩 온도만 높이는 것으로는 재현되지 않음을 확인.
• ALDER: Discovering the Laws of a World by Acting in It (2609.33728) — 고정된 궤적 집합으로는 동등하게 좋은 경쟁 가설을 구분할 수 없고, 고정된 후보 집합 탐색으로는 초기 가설 공간 밖의 방정식을 발견할 수 없다는 문제에, 방정식을 제안→수치 최적화→독립 검증→비용·안전 인식 개입(신규 실험) 선택→증거 갱신의 능동적 루프를 제시. ODE 발견·로봇 실험에서 초기 공식 집합 밖의 법칙을 발견하고 실패한 모델 제안을 스스로 수정.
• LANTERN: Illuminating Hidden Mathematical Knowledge in Language Models (2609.32264) — Paper Radar 채택. 사전학습 모델의 내부 활성화만으로 OEIS 5천만 쌍 중 아직 기록되지 않은 수학적 관계를 순위화·검증해 4건의 신규 관계를 실제로 찾아냈다. 상세는 §3 및 레이더 로그 참고.

Long-context

• Positions Are Not Facts: The Mismatch Between KV Caches and Memory (2609.33759) — 사실이 바뀌었을 때 KV 캐시에 저장된 이력을 어떻게 갱신할지 비교. 값을 마스킹하면 8개 모델 모두 새 값을 더 강하게 선호하지만 6개는 단위 오류나 답변 미종료로 완전한 답을 잃고, 다중 홉 갱신에서 바뀌지 않은 위치의 상태를 재구성하면 과거 정확도가 20–41%p 하락하는 반면 기존 상태를 그대로 옮기면 영향이 거의 없어, "교체된 값 외에 무엇을 보존해야 하는가"를 규명.
• Beyond Token Savings: A Systematic Study of Context Compression in LLM Agents (2609.32961) — 무엇을·언제·얼마나 압축할지를 하나의 고정 정책으로 뭉뚱그려온 기존 에이전트 하네스와 달리 이 세 결정을 분리해 3개 오픈 웨이트 모델·SWE-bench Verified·Terminal-Bench 1.0에서 약 35,000회 실행으로 체계적으로 변주. 토큰을 1/3만 쓰는 압축 정책이 압축 없는 에이전트보다 오히려 20–80% 더 오래 걸리는 경우를 확인해 "토큰 절감 = 더 빠르고 저렴함"이라는 통념을 반박.

Reasoning

• Nudgeability: Reasoning Models Follow Confidence Signals Without Tracking Their Own Competence (2609.34572) — 추론 궤적 중간에 "나는 확신한다/의심스럽다"는 한 문장만 삽입해 이후 모델이 직접 답할지 도구에 위임할지에 미치는 인과 효과를 측정. 9개 모델에서 의심은 위임을 늘리고 확신은 줄이는 뚜렷한 민감도(중앙값 20.6%p 스윙, 대형 모델은 53–70%p)를 보이지만, 실제로 풀 수 없는 문제에서만 위임이 느는 "타겟팅"은 무작위 기준보다 겨우 2%p 나은 수준 — 확신 언어는 강력한 제어 표면이지만 실제 역량과는 잘 연동되지 않음을 규명.
• Ceiling of a Task: When Can a Transformer Succeed Without Its Chain of Thought? (2609.33134) — 트랜스포머를 고정 깊이 얕은 회로로 보고, 체인을 내용과 무관한 것(필러 토큰 등)으로 바꾸면 정확도가 "천장(ceiling)"까지 떨어짐을 증명. 유한군 단어 문제에서 예측된 수치가 정확히 재현됐고 MATH-500·AIME에서도 체인을 지우면 정확도가 0.52–0.82 하락, 문장 순서를 섞는 건 무해하지만 토큰 순서를 섞는 건 체인을 지우는 것만큼 해로워 "실제 연산이 체인 안에서 일어난다"는 것을 이론·실증 양쪽에서 뒷받침.
• Verifier Errors in RLVR: Reward Hacking, Limits of Feedback, and Selective Control (2609.35677) — 검증 가능 보상 강화학습(RLVR)에서 불완전한 검증기가 틀린 답에 보상을 줄 때, RLVR 도중 관측 가능한 정보만으로는 이 "받아들여진 오류"를 탐지·수정할 수 없음을 이론적으로 규명. 감사(audit)로 얻은 정답성 피드백을 추가해 현재 정책에서 오류 확률을 낮추고 정답 확률을 높이는 "선택적 제어"를 구성하고 밴딧·언어모델 실험으로 검증.

Paper Radar 채택2보류4탈락7