무료 LLM API 리소스: 비용 부담 없이 AI 모델 접근

import requests

# Groq API (무료 티어)
response = requests.post(
    "https://api.groq.com/openai/v1/chat/completions",
    headers={"Authorization": "Bearer YOUR_FREE_API_KEY"},
    json={
        "model": "llama3-70b-8192",
        "messages": [{"role": "user", "content": "안녕하세요!"}]
    }
)
print(response.json()["choices"][0]["message"]["content"])

import openai

client = openai.OpenAI(
    api_key="YOUR_TOGETHER_API_KEY",
    base_url="https://api.together.xyz/v1"
)

response = client.chat.completions.create(
    model="meta-llama/Llama-3-70b-chat-hf",
    messages=[{"role": "user", "content": "양자 컴퓨팅을 설명해줘"}]
)
print(response.choices[0].message.content)

# Ollama 설치
curl -fsSL https://ollama.com/install.sh | sh

# 모델 가져오기
ollama pull llama3

# API 서버 실행
ollama serve

# API 사용
curl http://localhost:11434/api/generate -d '{
  "model": "llama3",
  "prompt": "하늘이 왜 파란색이야?"
}'

# LM Studio 로컬 API
import openai

client = openai.OpenAI(
    base_url="http://localhost:1234/v1",
    api_key="not-needed"
)

response = client.chat.completions.create(
    model="local-model",
    messages=[{"role": "user", "content": "안녕하세요!"}]
)

API 접근 필요?
├── 예 → 고속 필요?
│   ├── 예 → Groq (가장 빠름)
│   └── 아니오 → Together AI (가장 많은 모델)
├── 아니오 → 개인정보 보호 필요?
│   ├── 예 → Ollama/LM Studio (로컬)
│   └── 아니오 → 유료 옵션 고려