목록Ollama (1)

주희아빠의 헝그리 라이딩

WSL 에 Ollama 설치후 '라즈베리파이' 에서 서비스하기

2024.6.15본인은 인공지능의 ㅇ자도 모르는 데다가 llama 라는 녀석에 대해서도 전혀 모릅니다. 집에 놀고 있는 라즈베리파이에 ollama 라는 게 돌아갈까 시도하다가 일이 엉뚱한 방향으로 정리가 되었습니다.라즈베리파이 3B 는 램이 1 GB 뿐이라서 설치나 실행이 불가하고 라즈베리파이 4(Ram 8GB)에서는 설치 및 실행은 되지만 말 한번 걸면 답변하는데 5분 정도 걸리는군요.GPU 가 있으면 답변이 빨라진다길래 GPU가 있는 Windows 머신에서 다시 시도했다가 결국에는 딸래미 방의 게임용 컴퓨터에서 테스트를 마쳤습니다. 시간을 보낸 대부분은  WSL의 네트워크 환경과 Windows의 방화벽 부분이었습니다. 혹시라도 Windows 의 WSL에서 ollama 서비스를 시도하시는 분들께 시간 ..
나름 IT 이야기 2024. 6. 16. 00:53
이전 Prev 1 Next 다음