강좌안내
GREETING강좌안내
강좌명
2024년 여름방학 자연어처리에서 LLM 튜닝까지
- 강좌기간 :
2024년 07월 29일 부터 2024년 08월 09일 까지
- 강좌일정 :
(월~금) 14:00~17:00(총 30시간)
- 강좌구분 :
정기강좌
- 강사명 :
외부 강사 강의계획서 보기
- 프로필 :
- 수강인원 :
최대 30명
- 강의실 :
N5 2269호 & 온라인
- 교재 :
강사의 강의자료
강좌신청
-
-
-
-
-
결제 예정금액510,000₩
상세정보
ㅇ 학습목표 :- 기본적인 자연어처리 방법을 이해하고 한국어에 대한 전처리를 수행할 수 있다.
- 최신 LLM 모델을 이해하고 이에 대한 커스마이징 어플리케이션을 작성한다.
ㅇ 강의내용
1. 자연어 처리의 이해
- 작업 환경 준비하기
- 텍스트 전처리
2. 언어 모델
- 점층적인 언어 모델
- 카운트 기반의 단어 표현
3. 딥러닝 기반의 언어 모델
- 벡터 기반 표현법
- 위드 임베딩
4. 순환 신경망의 이해
- keras의 이해
- 딥러닝의 이해
- RNN의 이해
5. 태깅 작업
- 개체명 인식
- BIO 표현
- BiLSTM을 이용한 개체명 인식
6. 서브워드 토크나이징
- 바이트 페어 인코딩
- 센테스피스
- 서브워드 텍스트 인코더
7. 인코더-디코더
- 번역기 모델
- 어텐션 메카니즘
8. 트랜스포머
- 트랜스포머 이해
- 한국어 챗봇
9. GPT의 이해
- GPT의 이해
- KoGPT를 이용한 챗봇
10. LLM 파인 튜닝
- Transformer 패키지의 이해
- Trainer API 활용 미세 조정
- 전체 학습
- 작업 환경 준비하기
- 텍스트 전처리
2. 언어 모델
- 점층적인 언어 모델
- 카운트 기반의 단어 표현
3. 딥러닝 기반의 언어 모델
- 벡터 기반 표현법
- 위드 임베딩
4. 순환 신경망의 이해
- keras의 이해
- 딥러닝의 이해
- RNN의 이해
5. 태깅 작업
- 개체명 인식
- BIO 표현
- BiLSTM을 이용한 개체명 인식
6. 서브워드 토크나이징
- 바이트 페어 인코딩
- 센테스피스
- 서브워드 텍스트 인코더
7. 인코더-디코더
- 번역기 모델
- 어텐션 메카니즘
8. 트랜스포머
- 트랜스포머 이해
- 한국어 챗봇
9. GPT의 이해
- GPT의 이해
- KoGPT를 이용한 챗봇
10. LLM 파인 튜닝
- Transformer 패키지의 이해
- Trainer API 활용 미세 조정
- 전체 학습