본문 바로가기

전체 글73

[sLLM 로컬 프로젝트] 1.ollama 와 OpenWebui 설정하기 (feat. 첨부 파일 리딩 기능 개선 필요) *본 글은 인공지능으로 작성하지 않았습니다. sLLM 이 지속적으로 출시되고 있습니다. GPT를 쓰다보면 생기는 생각은, 비용이 조금만 더 싸면 좋을 텐데.. 라는 부분입니다.무료로 LLM 을 쓸 수 있는 방법이 있을까? 는 국내외적으로도 계속 연구되고 있는 부분인 것 같고, 현재로서는 ollama 와 OpenWebUI를 사용한 방법이 그나마 LLM을 로컬에서 사용하는 현실적인 방법인 것 같습니다. 제 환경은 윈도우, 16GB RAM 입니다. (*그래픽카드 없는 노트북) 1. ollama 설치https://ollama.com/download/windows Download Ollama on WindowsDownload Ollama on Windowsollama.com ollama 를 설치하고, 모델을 다운.. 2024. 10. 7.
안드로이드 ADB 이용한 카메라 셔터 소리 없애기 안드로이드 스마트폰의 경우 컴퓨터에서 ADB 를 통해 연결된 스마트폰의 카메라 셔터 소리를 없앨 수 있습니다. 1. SDK 를 다운받습니다. SDK 플랫폼 도구 출시 노트  |  Android Studio  |  Android DevelopersAndroid SDK 플랫폼 도구는 Android SDK의 구성요소입니다.developer.android.com 2. 다운받은 ZIP 파일을 풀고, SDK 환경변수를 등록합니다.  adb 환경 변수 설정 방법 / 주요 명령어 정리adb(android debug bridge) adb는 기기와 통신할 수 있도록 지원하는 다목적 명령줄 도구 Android SDK Flatform 도구 패키지에 포함 adb 환경 변수 설정 adb를 사용하기 위해서는 cmd창에서 adb.e.. 2024. 9. 9.
ollama Windows 와 ollama open-webui 의 기본 인공지능 모델 저장 경로 llama 3.1 이 출시된 이후로 로컬로 llama 3.1 을 사용중입니다.윈도우 os 에서 작업을 하다보니, 그것도 윈도우 os 노트북으로 로컬 LLM 을 사용하고 싶어서 이것저것 시행착오가 많네요. ollama Windows preview 버전의 성능이 좋긴 한데.. GUI 가 예쁘지 않아서 ollama open-webui 를 설치하였으나, cpu 만 있는 노트북 환경에서는 open-webui 가 성능 부족으로 원활하게 작동하진 않습니다. ollama Windows 의 공식 다운로드 웹사이트 링크는 다음과 같습니다.https://ollama.com/download/windows Download Ollama on WindowsDownload Ollama on Windowsollama.comollama.. 2024. 8. 8.
llama 3.1 meta 공식 사이트 이용 다운로드 방법 (AI 생성글 아님) llama 3.1 을 공식으로 다운로드 하기 전에 가이드 같은걸 따라하려고 하였으나, AI 로 생성된 글만 보여서 기록해둡니다.Hugging Face 나 Ollama 로도 다운로드가 가능하지만, 공식 홈페이지와 깃허브만으로 다운로드를 진행하겠습니다.(llama 3.1 은 학습 코드까지 공개된 사례라, 개인적으로 공식 깃허브, 공식 모델만으로 여러 작업을 할 수 있는 방법들을 찾아보고 싶습니다.) 1. Meta 의 llama 공식 사이트에 접속합니다.https://llama.meta.com/ Llama 3.1The open source AI model you can fine-tune, distill and deploy anywhere. Our latest models are available in 8B, .. 2024. 7. 31.
반응형

티스토리툴바