심심한코알라

OpenWebUi에는 MCP를 지원해준다 다만 RestfulAPI 방식을 지원해주기 때문에 MCP를 바로 연결핳수는 없다. [OpenWebUI] ←→ [MCPO] ←→ [MCP Server] 형식으로 구성을 해야한다. 중간에 결국 유형만 변경해주는 프록시만 있으면 된다. 이미 똑똑하신 분들이 가이드를 만들어 놨다.https://github.com/open-webui/mcpo?tab=readme-ov-file GitHub - open-webui/mcpo: A simple, secure MCP-to-OpenAPI proxy serverA simple, secure MCP-to-OpenAPI proxy server. Contribute to open-webui/mcpo development by creat..

코딩하는코알라/AI 2025. 4. 21. 15:59

OS : windows 환경에서 가끔 인코딩에러가 발생하게 된다.이럴때 코드들을 encoding = "utf8" , cp 949 작업을 해줘야하는데 간단한 방법중 하나가  시스템환경변수 설정에서 PYTHONUTF8 , variable value : 1 로 저장을 하면 PYTHON이 디폴트로 UTF8로 작동된다.추가적으로 다른 간단한 방법이 있으면 추가해놔야지!

코딩하는코알라/기타 2024. 10. 2. 22:11

open AI API 결제 할때 맛보기로 조금만 했더니 API 사용할때 계속 처리가 안되는 현상이 발생  알고보니 한번에 처리할수있는 token이 openAI 결제금액에 따라 Tier 가있는걸 처음 알았다... 바로 추가과금 진행쓰다가 또 token 처리가 부족하면 다음은 100달러 과금을 해야될수도...

코딩하는코알라/AI 2024. 10. 2. 09:53

기본적으로 AI 개발 환경 세팅시 Linux 기반으로 진행을 시작한다. 이번설치 기본적인 구성은 아래와 같다. Ubunru 22.04.4 lts TU102 Geforce RTX 2080 Ti X 2 시간이 지난 그래픽 카드지만 2080TI 기준으로 설치 진행 할것이다. 우선 설치하면서 몇번을 재설치했는지 모르겠다. 자신이 설치할 PyTorch or Tensorflow 먼저 확정을 해놓고 거기에 맞는 버전을 설치 해야한다. TIP : 그래픽카드 지원 드라이버를 확인해봐야 되지만 PyTorch or Tensorflow는 자신이 설치할수있는 최신버전기준으로 찾는거 추천한다. 1. PyTorch or Tensorflow 버전 확인 아래 경로에 들어가서 우선 확인만 하고 CUDA,NVIDIA 버전을 찾아야 한다...

코딩하는코알라/AI 2024. 3. 14. 10:10

수학적 모델을 바탕으로 가설을 세우고 참값과 예측값 사이에 차이를 계산하여 오차를 구하고 오차를 최소화 하기 위해 최적화 함수를 도입하고 이걸 옵티마이저라고 한다. singe layer perceptron 여러가지 input 이 한개의 layer 를 들어가 한개의 결과 같이 나온다. Multi layer perceptron (MLP) 여러가지 input 이 여러개의 layer 를 통과하는것 즉 딥러닝이라 한다. 이전에 학습 한것같이 1차 layer 에서 선형회규로 1차 방적식, 2차 layer에서는 로지스틱시그모이드 함수를 사용 하는 느낌으로 확률을 더 욱 높인다 생각한다. 대표적으로 Loss funtion 모델의 예측값과 실제값 사이의 차이를 측정하는 함수로, 모델의 성능을 평가하는 데 사용됩니다. 대..

코딩하는코알라/AI 2024. 2. 5. 18:04

로지시틱 회귀 우리가 직선으로 표현하지 못하는 경우 사용한다. 예로는 시험 점수 등이 있다. 선형 회귀와 유사한 방식으로 데이터를 모델링하지만, 주로 이진 분류 문제를 해결하는 데 사용 즉, 로지스틱 회귀는 주어진 입력 데이터가 특정 분류에 속할 확률을 예측하는 모델 기본적으로 시그모이드(sigmoid)함수를 쓸수가 있다. 시그모이드 : 로지스틱 회귀에서는 출력값을 0과 1 사이의 확률로 제한하기 위해 시그모이드 함수(또는 로지스틱 함수)를 사용 확률예즉에 사용한다 했는데 예로는 이메일이 스팸인지 아닌지를 판단하는 모델을 만들 때, 모델은 주어진 이메일이 스팸일 확률을 출력 등이있다 추후에 한번 사용해봐야겠다. import matplotlib.pyplot as plt import pandas as pd ..

코딩하는코알라/AI 2024. 2. 2. 15:40

우선 선형회귀 란 선형회귀 모델은 최적의 직선(또는 초평면)을 찾아내려고 시도하며, 이 직선은 데이터 포인트들과의 거(오차)가 최소가 되도록 설정 여러가지 방법 들중에 경사 하강법은 아래 그림과 같이 직선은 h(x)=Wx+b로 표현되며, 여기서 선형회귀 모델은 데이터의 추세를 예측하려고 시도 한다. 즉 선형 회귀에서는 h(x) = Wx+b 이라는 가설의 가중치(기울기)와 편향(y절편)을 찾아내는것이 핵심 이고 최적화 알고리즘( optimizer ) 를 찾는다. 최적의 매개변수를 찾는 과정은 말로 표현하면 아래와 같다. 선형회귀 모델이 최적의 매개변수를 찾아가는 과정은 주로 다음 단계로 이루어집니다: 1. 모델 초기화: - 선형회귀 모델 \( h(x) = Wx + b \)의 매개변수 \( W \) (기울기..

코딩하는코알라/AI 2024. 2. 1. 18:24

LLM 모델을 학습 시키기전 사전 환경세팅이 필요하다. 운영 체제 (OS) 리눅스 (Ubuntu 또는 CentOS 추천): 대부분의 딥러닝 연구 및 개발은 리눅스 환경에서 이루어집니다. 리눅스는 높은 성능, 뛰어난 호환성, 그리고 커스터마이징의 용이성 때문에 선호됩니다. Ubuntu는 사용자 친화적이며, 널리 사용되는 배포판입니다. CentOS는 안정성이 뛰어나 서버 환경에 적합합니다. 드라이버 및 도구 NVIDIA 드라이버: GPU를 사용하기 위해 최신 NVIDIA 드라이버를 설치해야 합니다. CUDA Toolkit: NVIDIA의 GPU를 사용하기 위한 필수 도구입니다. PyTorch와 TensorFlow는 모두 CUDA를 통해 GPU 가속을 사용합니다. cuDNN: CUDA Deep Neural N..

코딩하는코알라/AI 2024. 1. 29. 07:54