Just do it

[4주차] LLM 모델 비교 및 선택, 시스템 메지니 및 매개변수 조정, 오프라인 LLM 장점

이 글은 CloudNet@ 팀 gasida님의 스터디 local ai on mac 내용 및 실습으로 작성된 글입니다. ♦️ LLM 모델 계열 ✔️ LLaMA(Large Language Model Meta AI) / https://dev.meta.ai/llamaLlama는 메타(Meta)가 개발한 오픈소스 대규모 언어 모델(LLM)이다.- LLaMA 1은 연구용 제한적 라이선스로 공개된 모델- Llama 2는 상업적 사용을 허용하고 안전성을 강화한 챗 모델- Llama 3은 규모를 키워 독점 모델과 직점 경쟁하는 것을 목표로한 모델- Llama 4는 전문가 혼합(Mixture-of-Experts, MoE)과 네이티브 모티모달리티를 도입한 마지막 모델 ✔️ Gemma / https://deepmind.goo..

이 글은 CloudNet@ 팀 gasida님의 스터디 local ai on mac 내용 및 실습으로 작성된 글입니다. 🔸 Streamlit 이란?Streamlit은 파이썬 코드만으로 데이터 북석 대시보드와 웹 어플리케이션을 만들 수 있는 파이썬 라이브러리이다.웹 개발 관련 지식이 부족하여도 쉽게 웹 페이지를 만들 수 있고, 별도의 API 서버 없이 파이썬 코드만으로 대시보드 구현이 가능하다.다양한 플러그인과 사용자 정의 컴포넌트를 활용하여 기능 확장을 할 수 있다. 1. Streamlit 설치 (venv 가상환경 실행 후 진행)# Install Streamlistpip install streamlit# Check Streamlistpip list 2. App 파일 생성# Create App Filet..

이 글은 CloudNet@ 팀 gasida님의 스터디 local ai on mac 내용 및 실습으로 작성된 글입니다.🐑 Ollama 실행하기 지난 주차에서 다운 받았던 Gemma 모델을 다시 실행한다. ✓ Ollama 실행ollama serve ✓ Gemma 실행ollama run gemma3:4b ‼️ LLM(Large Language Medel)의 비결정성(Nondeterminism)은 동일한 입력(프롬프트)과 설정 값을 주어도 실행할 때마다 결과가 달라지는 현상이다. LLM에서 결과를 샘플링(sampling)하는 과정이 확률 분포에 기반한 확률적 선택이기 때문이다. 아래 첫 번째 질문과 두 번째 질문은 동일하지만, 답변은 조금 다른 것을 볼 수 있다. 🔸LLM Parameter(파라미터, 매개변..

이 글은 CloudNet@ 팀 gasida님의 스터디 local ai on mac 내용 및 실습으로 작성된 글입니다.사용 중인 MacBook Air의 스펙 확인 🍀 MacBook Air M1 / 8-core CPU / 8-core GPU / 16GB RAM 🍀system_profiler SPHardwareDataType 위 명령어를 터미널에서 사용하면, Mac의 하드웨어나 소프트웨어의 기본 정보를 조회할 수 있다.system_profiler SPDisplaysDataType 위 명령어를 터미널에서 실행하면, GPU(Graphics)와 연결된 디스플레이 정보를 조회할 수 있다. Ollama 8GB 모델은 사용할 수 있겠다. ❓ AI를 로컬에서 실행하는 이유 1. 프라이버시(Privacy): 유료 AI..

Tucker의 Go 언어 프로그래밍 책과 유튜브를 통해 학습 중입니다. 대략 4개월 정도 다 같이 스터디를 쉬었다가 이제 재개하여, 웹 만들기 부분을 복습하기 시작했다. 이전에는 크롬에 Advanced REST client이 없어져서 Request 테스트 하지 못했었다.이번에 찾다보니 비슷한 app이 있어서 그걸 사용했고 그 부분만 추가로 업데이트 하려고 한다. 그 당시에는 아마 무슨 이유인지 비슷한 app을 찾을 의지도 없었고, 어영부영 하기 싫은데 그냥 막 했던 거 같다.아마 이해를 하나도 못하겠는데 해야하니까 일단 하자 이러면서 했던 거 같다.그렇다고 지금은 이해를 하냐, 그건 아니지만 그때랑 마음가짐이 다르지 않을까😅 - 이전 내용: https://world-hee.tistory.com/46 G..

설치 환경- M1 MacBook Air, UTM- OS: Rocky9버전- Prometheus: Latest 버전UTM에 Rocky Linux VM을 올려서 Prometheus를 설치하고자 한다.설치는 Prometheus 공식 Docs를 보고 설치한다. * Install: https://prometheus.io/docs/prometheus/latest/getting_started/* File Download: https://prometheus.io/download/ 1. 설치 파일 다운로드위 File Download 링크에서 설치 환경(OS)에 맞는 압축 파일을 우클릭 → 링크 주소 복사를 한다.그리고 VM에서 wget 명령어를 사용하여 파일을 다운 받는다.* 본인이 사용하는 OS와 Architectur..

[udemy] Python 부트캠프 : 100개의 프로젝트로 Python 개발 완전 정복을 통해 학습하고 있습니다. 딕셔너리(Dictionaries)- 'key: value' 형태로 중괄호로 묶어서 사용함.- 하나 이상의 요소가 이는 딕셔너리를 만들 때는 쉽게 읽을 수 있도록 만드는 것이 중요함. = 딕셔너리를 맨 위에 여는 중괄호를 사용하고 그 다음의 모든 항목은 한 번 들여쓰기를 함.    다음 항목이 있어 항목의 끝에 쉼표가 있을 때, 다음 항목이 다음 줄로 이동하도록 함.    마지막 중괄호는 딕셔너리의 시작과 일치하는 위치에 있어야 함.programming_dictionary = { "Bug": "An error in a program that prevents the program from..

[udemy] Python 부트캠프 : 100개의 프로젝트로 Python 개발 완전 정복을 통해 학습하고 있습니다. Function(함수)- 기존 함수와 달리 함수에 변수를 제공하여 변수가 코드 블록(함수 내)에서 사용될 수 있음.- 실제 변수에 값을 전달하려면 함수를 호출할 때 괄호 안에 데이터를 추가해야함.- 데이터가 추가된 코드가 실행되면, 컴퓨터는 함수가 선언된 위치를 찾고 123이라는 데이터를 something이라는 변수에 전달함.- my_function이라는 함수 내에서 변수가 123과 같아지고, 코드 블록 내에서 something 변수를 사용 할 수 있음.def my_function(something): # Do this # Then do this # Finally do th..

[udemy] Python 부트캠프 : 100개의 프로젝트로 Python 개발 완전 정복을 통해 학습하고 있습니다. 1단계: 무작위 단어 고르고 정답 확인하기 # TODO-1 - word_list에서 단어를 랜덤하게 선택하여 choose_word라는 변수에 할당 후 출력# TODO-2 - 사용자에게 문자를 추측하고 변수에 답을 쓸 수 있도록 요청 (소문자 사용)# TODO-3 - 사용자가 추측한 글자가 선택한 단어의 글자 중 하나인지 확인하고 맞다면 "Right", 틀리다면 "Wrong"을 출력 TODO-1 [Code]# TODO-1import randomword_list = ["aardvark", "baboon", "camel"]choose_word = ""for word in range(1): ..

[udemy] Python 부트캠프 : 100개의 프로젝트로 Python 개발 완전 정복을 통해 학습하고 있습니다. 파이썬 함수(Function) 생성하기- def를 통해 원하는 함수를 만들어서 사용할 수 있음.def my_function(): # Do this # Then do this # Finally do this  - 첫 번째는 실제로 해당 함수가 무엇을 해야하는지 지정(Defining)하기 위해 def 키워드를 사용하고 함수에 이름을 지정하고, 그 다음에 괄호와 콜론을 사용한 다음 함수에 포함될 코드 줄을 작성함.해당 함수가 호출될 때 실행될 함수에 들어가는 코드 줄은 들여쓰기가 되어야 함.- 두 번째는 해당 함수를 사용하는 것인데, 프로그래밍 용어로는 함수를 호출(Calling..