자유게시판

메타 페이스북의 오픈소스 언어모델 라마 llama를 설치해봅니다. LLaMA3 설치를 알아봅니다.

작성자 정보

  • 삼둡 작성
  • 작성일

컨텐츠 정보

본문

 

Ollama

 

https://ollama.com/

 

f9015c8cf8b22006135413729c6002d12fa9edd1vnf2.png

 

8f3d55ced972a2bd4454eaa2cfb774c95fb596ced50m.png

 

 

다운로드 버튼 누르고 윈도우 선택해서

setup 파일을 다운로드 받아서 실행합니다.

 

975b1cce53cf9a9760b8a5180ddc1e531688fdfcb508.png

 

 

 

터미널로 실행이 됩니다.

 

 

 

 

355ea87ee4ba13ca7131178ef9527fa93f804bb98w1p.png528ca01ed5ee17b48dd5ca0220323011bb32050dpm8r.png

model > llama3 > 8b 선택

 

f4b24ab61e8451d3165268b096cef492bca7bc12lfsv.png

우측에 커맨드가 나오면 복사해서 터미널에 아래와 같이 붙여넣어요

5d11fe6ceef8892e9fde9a8193b80df18a6e52fehtek.png

 

 

 

652e0980efb0416558eb95eb0777ee77f6c26d5bj1ps.png

모듈 설치하듯이 설치를 합니다.

 

gpt3.5 수준이라고 합니다.

70b는 gpt4수준이라고 하네요.

 

ba5d5b7931d2df875f8138984315290ba7f7ece341m6.png

설치가 성공하는듯 하더니 에러가 났어요

 

llama runner process no longer running: 3221226505 CUDA error"

 

다시 알아봐야겠습니다.

 

 

관련자료

댓글 0
등록된 댓글이 없습니다.

인기검색어


최근글


새댓글