본문 바로가기
IT

llama 3.1 meta 공식 사이트 이용 다운로드 방법 (AI 생성글 아님)

by RunningPencil 2024. 7. 31.

llama 3.1 을 공식으로 다운로드 하기 전에 가이드 같은걸 따라하려고 하였으나, AI 로 생성된 글만 보여서 기록해둡니다.

Hugging Face 나 Ollama 로도 다운로드가 가능하지만, 공식 홈페이지와 깃허브만으로 다운로드를 진행하겠습니다.

(llama 3.1 은 학습 코드까지 공개된 사례라, 개인적으로 공식 깃허브, 공식 모델만으로 여러 작업을 할 수 있는 방법들을 찾아보고 싶습니다.)

 

1. Meta 의 llama 공식 사이트에 접속합니다.

https://llama.meta.com/

 

Llama 3.1

The open source AI model you can fine-tune, distill and deploy anywhere. Our latest models are available in 8B, 70B, and 405B variants.

llama.meta.com

 

2. 모델에 표시된 Download 를 클릭합니다.

 

3. 사용자 정보를 입력하고, 계약서에 동의합니다.

 

4. 입력 후 동의가 완료되면, URL 이 제공됩니다. Download Instructions 를 클릭합니다. 

 

5. 깃허브에서 왼쪽 models > llama3_1 > download.sh 를 다운로드합니다.

 

6. .sh 파일을 윈도우에서 구동하기 위해서는 WSL 우분투 환경이 필요합니다. 리눅스 환경에서 .sh 파일을 실행합니다.

실행 시 URL 을 입력하라고 나타납니다.

 

URL을 입력하면, 모델을 선택하라고 나타납니다. 저는 meta-llama-3.1-8b 를 다운로드 하겠습니다.

(*Meta-Llama-3.1-8B-Instruct 를 다운로드 할지, Meta-Llama-3.1-8B 를 다운로드 할지 물어보는데 엔터 누르시면 두개 다 다운로드됩니다.)

 

 

모델은 폴더안에 다운로드 됩니다. 폴더 안에는 .pth, params.json, tokenizer.model 등 이 있습니다.

반응형