이장훈

English/한국어

참고

생성·평가 스택으로 이어지는 논문입니다. 각 항목은 초록 요약이 아니라, 이 사이트에서 그 연구가 맡은 역할입니다.

  • Attention Is All You Need2017 · Vaswani et al.Transformer를 처음 제시한 논문입니다. 지금의 LLM·생성 스택이 서 있는 attention의 출발점입니다.
  • GPT-22019 · Radford et al.다음 토큰만 크게 학습해도 여러 작업으로 옮겨 간다는 점을 보여 줍니다. “한 번 학습하고 프롬프트로 맞춘다”는 방식의 원형입니다.
  • Scaling Laws2020 · Kaplan et al.손실·연산량·데이터·파라미터가 예측 가능하게 움직입니다. 감이 아니라 예산 배분이 이기는 이유입니다.
  • DDPM2020 · Ho, Jain, Abbeel디노이징 diffusion을 쓸 만한 생성 과정으로 만들었습니다. 이미지(그리고 이후 비디오) diffusion의 바탕입니다.
  • CLIP2021 · Radford et al.이미지와 텍스트를 대비 학습으로 한 공간에 넣습니다. 텍스트 조건과 정렬 점수가 여기서 나옵니다.
  • Latent Diffusion2022 · Rombach et al.압축 latent에서 diffusion을 돌려 고해상도를 싸게 만듭니다. Stable Diffusion 계열의 조상인데, 자연어 프롬프트 해부학은 저희가 시험해 본 뒤 버린 쪽입니다.
  • Video Diffusion2022 · Ho et al.diffusion을 비디오로 확장합니다. 시간에 걸친 디노이징 틀을 세웠고, 이후 프론티어 규모로 제품화되었습니다.
  • EnCodec2022 · Défossez et al.음성을 이산 토큰으로 만드는 신경 코덱입니다. 파형에서 언어모델식 생성으로 가는 다리입니다.
  • DiT2022 · Peebles, XieU-Net 대신 latent 패치 위 transformer로 diffusion합니다. 프론티어 이미지·ACE Step DiT 계열입니다.
  • Flow Matching2023 · Lipman et al.벡터장을 회귀해 continuous normalizing flow를 학습합니다. diffusion식 생성의 더 깔끔한 대안 경로입니다.
  • FrugalGPT2023 · Chen, Zaharia, Zou프롬프트 적응·근사·캐스케이드로 API 비용을 줄입니다. Eval·Console이 받는 싼 모델 대 강한 모델 라우팅의 초기 틀입니다.
  • RouteLLM2024 · Ong et al.선호도 데이터로 라우터를 학습해 쉬운 질문은 약한 모델, 어려운 질문은 강한 모델로 보냅니다. Eval에서 라벨 일치가 약 25%에 그쳐 라우팅을 접기 전에 써 본 틀입니다.
  • LiteLLM2024 · BerriAI여러 제공사를 묶는 LLM 게이트웨이·라우팅 도구입니다. Eval 라우팅이 실패했을 때 함께 돌려 본 스택 중 하나입니다.
  • APG2024 · Sadat et al.CFG 과포화를 guidance 투영으로 고칩니다. Tune Pro가 KSampler에서 평범한 DiT CFG 대신 APG를 쓰는 이유입니다.
  • CosyVoice 22024 · Du et al.낮은 지연 스트리밍 TTS와 강한 제로샷 보이스 클로닝을 갖춥니다. Redrob Speech 쪽 음성 모델의 기준점입니다.
  • FLUX.1 Kontext2025 · Black Forest Labs et al.Black Forest Labs의 flow-matching 생성·편집입니다. 타이포 때문에 버린 FLUX.2 [klein] 4B 포토리얼 후보의 계보입니다.
  • GEPA2025 · Agrawal et al.Genetic-Pareto 반성형 프롬프트 진화입니다. Eval이 IN22-Gen·IndicGLUE·GSM8K 이중 평가 전에 싼 경로를 다듬는 방식입니다.
  • Qwen-Image2025 · Wu et al.텍스트 렌더와 네이티브 편집이 강한 이미지 파운데이션입니다. Redrob Image의 무거운 경로로, 커스텀 체크포인트와 편집 우선 제품에 씁니다.
  • Z-Image2025 · Tongyi-MAI / Z-Image Team효율적인 단일 스트림 DiT입니다. Z-Image-Turbo는 8스텝 증류판으로, Redrob Image의 빠르고 쉬운 요청용 경로입니다.
  • Sarvam2026 · Sarvam AIIndic 중심 오픈 언어 모델(30B/105B, 이전 Sarvam-1/M)입니다. Console의 라우팅 Indic 텍스트 스택이 쓰는 오픈 백엔드 계열입니다.
  • ACE-Step 1.52026 · Gong et al.오픈 음악 파운데이션입니다. LM 플래너와 DiT, 로컬 추론, LoRA를 쓰고, Tune Fast/Pro 뒤의 가중치·Comfy 그래프입니다.