Ollama 사용법 - Windows

llama 좀 써볼랬더니 뭐가 복잡하다.. 설치할랬더니, 링크를 발급받았는데, 들어가보면 access denied ..

 

Window로 돌리는 방법좀 고민해봤는데, Ollama가 그나마 쉬워보여서 공유 해봄.

 

Ollama

Ollama

 

Ollama는 Local에서 Large Language Model 쉽게 구동시키게 해준다. 

 

여튼 사이트에서 Download하고 Setup을 실행한다.

 

설치되면 실행 파일은 생기나, 실행해봐야 의미가 없더라..난 바보

 

terminal에서 ollama run llama3.1을 하면 설치가 된다.

그리고 다시 저 명령어를 하면, 실행이 된다.

명령어는 github 봐도 될듯

ollama/ollama: Get up and running with Llama 3.1, Mistral, Gemma 2, and other large language models. (github.com)

GitHub - ollama/ollama: Get up and running with Llama 3.1, Mistral, Gemma 2, and other large language models.

 

설치가 완료되서 ollama run llama3.1을 하면 terminal에서 실행이되는데

prompt에 글짜 치고 enter하면 대답을 해준다.

 

호호호

 

이걸 이제 Python에서 실행하는걸 따로 또 올려봐야지