2024년 AI 배우기 (5개 중 2개): 대규모 언어 모델 마스터하기

TL;DR:체계적인 학습 경로를 통해 대규모 언어 모델(LLM)의 세계를 깊이 탐구하세요. 기초 수학부터 실용적인 애플리케이션 개발까지, 이 가이드는 LLM을 마스터하기 위한 필수 자원, 강의 및 도구를 포함하여, 모델을 처음부터 구현하는 것, 프롬프트 엔지니어링 및 미세 조정에 대해 다룹니다.

대규모 언어 모델의 세계 탐험하기

대규모 언어 모델(LLM)의 놀라운 세계를 더 깊이 탐구하면서, 이러한 기초 프레임워크를 이해하는 것은 AI에서 뛰어나고자 하는 모든 이에게 매우 중요합니다. 특히 OpenAI의 GPT 및 유사한 모델과 관련하여. 여기에서 LLM을 마스터하기 위한 커리큘럼 로드맵을 제시하며, 비디오 튜토리얼, 실습 코딩 및 포괄적인 가이드를 결합합니다.

기본부터 시작하기: 소개 자료

통찰력 있는 발표로 여정을 시작하세요:

• Andrej의 대규모 언어 모델 소개를 시청하여 핵심 개념을 파악하세요.
• Cornell Tech의 Alexander Rush의 다섯 가지 공식으로 대규모 언어 모델에 대해 알아보세요.

신경망: 제로에서 영웅까지

Andrej Karpathy의 시리즈, 신경망: 제로에서 영웅까지,는 반드시 시청해야 할 콘텐츠입니다. 이는 백프로파게이션 코딩부터 처음부터 GPT 모델을 구축하는 것까지 모든 것을 다룹니다. 더 많은 것을 탐구하고 싶다면 그의 최신 비디오인 GPT 토크나이저 구축하기를 확인해 보세요.

무료 LLM 부트캠프

Full Stack Deep Learning은 프롬프트 엔지니어링, LLMOps 및 LLM 애플리케이션을 빠르게 시작하는 내용을 다루는 무료 LLM 부트캠프를 제공합니다.

LLM으로 구축하기: 애플리케이션 개발

LLM을 사용하여 애플리케이션을 구축할 준비가 되었다면, 이러한 자원은 매우 유용합니다:

• Andrew Ng의 대규모 언어 모델을 이용한 애플리케이션 개발을 시청하세요.
• Huyen Chip의 생산을 위한 LLM 애플리케이션 구축하기를 읽어보세요.
• Eugene Yan의 LLM 기반 시스템 및 제품 구축을 위한 패턴을 탐색하세요.
• 실용적인 레시피를 위해 OpenAI Cookbook을 활용하세요.
• 프로젝트를 Vercel AI 템플릿로 시작하세요.

해커톤에 참여하기

매주 lablab.ai에서 AI 해커톤에 참여하세요. 협업하고 싶다면 알려주세요!

이해를 심화하기: 필수 논문 읽기

Sebastian Raschka의 대규모 언어 모델 이해하기는 읽어야 할 중요한 논문을 나열한 포괄적인 기사입니다. 그의 서브스택을 팔로우하세요, AI의 선두주자..

트랜스포머를 처음부터 작성하기

• 는 트랜스포머 패밀리 버전 2.0에 대한 개요를 제공합니다.
• 주요 논문으로는 Attention Is All You Need와 The Illustrated Transformer가 포함됩니다.
• 처음부터 트랜스포머를 구현하기 위한 포괄적인 가이드와 블로그에 참여하세요.

오픈 소스 모델 실행 배우기

는 ollama를 활용하여 Llama 2와 같은 모델을 시작하세요.

프롬프트 엔지니어링 마스터하기

는 프롬프트 엔지니어링 | Lil’Log를 탐색하고 개발자를 위한 ChatGPT 프롬프트 엔지니어링과 같은 과정에 등록하세요.

LLM 미세 조정하기

• 는 Hugging Face 미세 조정 가이드를 따르세요.
• 또한 Fine-Tuning — The GenAI Guidebook도 확인해 보세요.

RAG 이해하기

는 RAG 기반 LLM 애플리케이션 구축을 위한 포괄적인 가이드와 같은 검색 증강 생성(RAG)에 대한 기사를 탐색하세요.

이 자원들을 활용함으로써 LLM에 대한 이해를 높일 뿐만 아니라 AI 분야에서 혁신하고 선도할 수 있는 실용적인 기술을 습득하게 될 것입니다. 시작해 보세요, 그리고 발견의 여정을 시작합시다!