Large Language Model 연구 및 개발 Internship

<팀 소개>

EXAONE Lab은 초거대 언어 모델과 관련된 기술을 선행 연구/개발하는 조직입니다.

초거대 AI 최첨단 기술을 고도화하고 이를 실제 서비스에 적용시킴으로써 세상을 더욱 이롭게 바꿔 나갈 열정적인 구성원을 찾고 있습니다.

 

<수행 업무>

초거대 언어 모델 관련 연구/개발 및 실험

  - 학습 데이터 수집 및 전처리 파이프라인 구축

  - In-context learning 및 fine-tuning 벤치마크 성능 측정

  - In-context learning을 위한 prompt engineering

- Inference 엔진 최적화

- Multi-task instruction tuning 및 성능 향상 기법 연구/개발

- Toxic classifier 연구/개발 및 초거대 모델 safety 방법론 연구/개발

  - 언어 모델 강화학습 성능 향상 방법론 연구 및 분산 학습 개발

  - 초거대 모델 경량화 (model compression) 방법론 연구/개발

 

<지원 자격>

  - 학부 졸업 예정자 및 기 졸업하신 분, 석사/박사 재학중이신 분

  - Deep learning, machine learning 알고리즘 개발 경험 필수

  - Linux, Python, PyTorch, HuggingFace 언어 모델(BERT, T5, GPT 등) 활용 능력 필수

 

<우대 사항>

언어 모델 사전 학습 개발 경험 우대

DeepSpeed, FastTransformer 개발 경험 우대

Leaderboard 상위권 달성, competition