2. LangGraph — 복잡한 워크플로우 오케스트레이션
최적 사용 사례: Agent 흐름과 상태 관리의 세밀한 제어가 필요한 개발자
핵심 장점:
- LangChain 기반 그래프 워크플로우 엔진
- 루프, 조건 분기, 병렬 실행 지원
- 강력한 상태 관리와 영속화
- 활발한 커뮤니티와 풍부한 생태계
코드 예시:
from langgraph.graph import StateGraph, END
from typing import TypedDict
class State(TypedDict):
messages: list
graph = StateGraph(State)
graph.add_node("agent", agent_node)
graph.add_edge("agent", END)
app = graph.compile()
GitHub: https://github.com/langchain-ai/langgraph 문서: https://langchain-ai.github.io/langgraph
3. CrewAI — 역할 기반 멀티 Agent 협업
최적 사용 사례: 팀 협업을 시뮬레이션하는 멀티 Agent 시나리오
핵심 장점:
- 역할 기반 Agent 정의 (연구원, 작가, 분석가 등)
- 작업 할당과 협업 플로우 내장
- 순차 및 병렬 실행 모드 지원
- 간단한 API와 빠른 온보딩
코드 예시:
from crewai import Agent, Task, Crew
researcher = Agent(
role="Senior Research Analyst",
goal="Discover innovative AI technologies",
backstory="Expert in AI trend analysis"
)
task = Task(
description="Research latest AI agent frameworks",
agent=researcher
)
crew = Crew(agents=[researcher], tasks=[task])
result = crew.kickoff()
GitHub: https://github.com/crewAIInc/crewAI 공식 사이트: https://crewai.com
4. AutoGen — Agent 간 대화형 협업
최적 사용 사례: Agent 자율 대화와 자기 성찰 루프가 필요한 시나리오
핵심 장점:
- Microsoft 오픈소스 멀티 Agent 대화 프레임워크
- 코드 실행과 도구 호출 지원
- 자기 성찰과 반복 최적화 기능
- 유연한 Agent 구성과 통신 모드
코드 예시:
from autogen import ConversableAgent
assistant = ConversableAgent(
name="assistant",
llm_config={"config_list": [{"model": "gpt-4o"}]}
)
user_proxy = ConversableAgent(
name="user_proxy",
human_input_mode="ALWAYS"
)
user_proxy.initiate_chat(assistant, message="Write a Python script")
GitHub: https://github.com/microsoft/autogen 문서: https://microsoft.github.io/autogen
5. Pydantic AI — 타입 세이프 Agent 개발
최적 사용 사례: 타입 세이프와 IDE 지원을 중시하는 프로젝트
핵심 장점:
- Pydantic 기반 타입 세이프 디자인
- 우수한 IDE 자동 완성 및 타입 체크
- 깔끔한 API와 명확한 에러 메시지
- 스트리밍 응답과 도구 호출 지원
코드 예시:
from pydantic_ai import Agent
agent = Agent('openai:gpt-4o')
@agent.tool
async def get_weather(location: str) -> str:
"""Get current weather for a location."""
return f"Weather in {location}: 25°C"
result = await agent.run("What's the weather in Tokyo?")
GitHub: https://github.com/pydantic/pydantic-ai 문서: https://ai.pydantic.dev
6. Mastra — TypeScript 퍼스트 Agent 프레임워크
최적 사용 사례: TypeScript/JavaScript 기술 스택 팀
핵심 장점:
- 네이티브 TypeScript 지원
- 내장 워크플로우 엔진과 Agent 오케스트레이션
- 다수 LLM 제공자 지원
- 모던한 개발자 경험
코드 예시:
import { Mastra } from '@mastra/core';
import { Agent } from '@mastra/agent';
const agent = new Agent({
name: 'assistant',
model: { provider: 'openai', id: 'gpt-4o' },
});
const result = await agent.generate('Hello, world!');
GitHub: https://github.com/mastra-ai/mastra 공식 사이트: https://mastra.ai
7. OpenAI Agents SDK — GPT 생태계 네이티브
최적 사용 사례: OpenAI 모델과 깊게 통합하는 프로젝트
핵심 장점:
- OpenAI 공식 Agent SDK
- GPT-4o 및 향후 모델을 원활히 지원
- 도구 호출과 함수 호출 내장
- 깔끔한 API 디자인
코드 예시:
from openai import agents
agent = agents.Agent(
name="assistant",
instructions="Help users with their questions",
model="gpt-4o"
)
result = await agents.run(agent, "What can you do?")
GitHub: https://github.com/openai/openai-agents-python 문서: https://openai.github.io/openai-agents-python
8. LlamaIndex — RAG 및 데이터 처리 전문가
최적 사용 사례: 강력한 RAG와 데이터 인덱싱 기능이 필요한 시나리오
핵심 장점:
- 업계 선두 RAG 프레임워크
- 풍부한 데이터 커넥터
- 다수 벡터 데이터베이스 지원
- 강력한 쿼리 엔진
코드 예시:
from llama_index.core import VectorStoreIndex, SimpleDirectoryReader
documents = SimpleDirectoryReader("./data").load_data()
index = VectorStoreIndex.from_documents(documents)
query_engine = index.as_query_engine()
response = query_engine.query("What is the main topic?")
GitHub: https://github.com/run-llama/llama_index 공식 사이트: https://llamaindex.ai
9. Semantic Kernel — Microsoft 엔터프라이즈 솔루션
최적 사용 사례: Microsoft 기술 스택의 엔터프라이즈 사용자
핵심 장점:
- Microsoft 공식 지원
- .NET 및 Python 이중 언어 지원
- Azure AI와 깊게 통합
- 엔터프라이즈급 보안 및 컴플라이언스
코드 예시:
import semantic_kernel as sk
kernel = sk.Kernel()
kernel.add_service(sk.OpenAIChatCompletion("gpt-4o"))
result = await kernel.invoke("Summarize this document...")
GitHub: https://github.com/microsoft/semantic-kernel 공식 사이트: https://learn.microsoft.com/semantic-kernel
10. Haystack — NLP 및 검색 전문가
최적 사용 사례: 복잡한 NLP 파이프라인과 검색 기능이 필요한 시나리오
핵심 장점:
- 모듈식 NLP 파이프라인 디자인
- 강력한 문서 검색 및 QA
- 다수 모델 백엔드 지원
- 활발한 커뮤니티 기여
코드 예시:
from haystack import Pipeline
from haystack.components import DocumentReader, Retriever
pipeline = Pipeline()
pipeline.add_component("reader", DocumentReader())
pipeline.add_component("retriever", Retriever())
result = pipeline.run({"query": "AI frameworks"})
GitHub: https://github.com/deepset-ai/haystack 공식 사이트: https://haystack.deepset.ai
11. DSPy — 프로그래매틱 프롬프트 최적화
최적 사용 사례: 프롬프트와 모델 동작을 체계적으로 최적화하는 시나리오
핵심 장점:
- 프로그래매틱 프롬프트 엔지니어링
- 자동 최적화 및 컴파일
- 다수 평가 지표 지원
- 학술 연구 친화적
코드 예시:
import dspy
class GenerateAnswer(dspy.Signature):
question = dspy.InputField()
answer = dspy.OutputField()
generate = dspy.Predict(GenerateAnswer)
result = generate(question="What is AI?")
GitHub: https://github.com/stanfordnlp/dspy 문서: https://dspy-docs.vercel.app
선택 권장
빠른 결정 트리
엔터프라이즈 거버넌스와 호스팅이 필요한가?
├─ 예 → Vellum 또는 Semantic Kernel
└─ 아니오 → 계속
주로 TypeScript를 사용하는가?
├─ 예 → Mastra
└─ 아니오 → 계속
복잡한 워크플로우 오케스트레이션이 필요한가?
├─ 예 → LangGraph
└─ 아니오 → 계속
멀티 Agent 협업이 필요한가?
├─ 예 → CrewAI 또는 AutoGen
└─ 아니오 → 계속
타입 세이프를 중시하는가?
├─ 예 → Pydantic AI
└─ 아니오 → OpenAI Agents SDK
시나리오별 권장
| 시나리오 | 권장 프레임워크 | 이유 |
|---|---|---|
| 엔터프라이즈 프로덕션 | Vellum | 완전한 거버넌스와 가관측성 |
| 복잡한 워크플로우 | LangGraph | 강력한 그래프 기반 오케스트레이션 |
| 멀티 Agent 협업 | CrewAI | 역할 기반 디자인 |
| TypeScript 프로젝트 | Mastra | 네이티브 TS 지원 |
| RAG 애플리케이션 | LlamaIndex | 선두 검색 능력 |
| 빠른 프로토타이핑 | OpenAI Agents SDK | 깔끔한 API |
| 타입 세이프 | Pydantic AI | 우수한 타입 시스템 |
요약
2026년 AI Agent 프레임워크 생태계는 충분히 성숙했습니다. 선택 시 다음을 고려하세요:
- 팀 기술 스택: TypeScript → Mastra, Python → 풍부한 생태계
- 배포 요구: 엔터프라이즈 컴플라이언스 → 호스팅, 유연성 → 오픈소스
- 복잡도: 단순 작업 → 경량 프레임워크, 복잡한 워크플로우 → LangGraph
- 예산: 오픈소스는 무료지만 셀프 관리, 호스팅은 편하지만 비용 발생
가장 중요한 것은 구축을 시작하는 것입니다. 대부분의 프레임워크는 무료 티어를 제공하므로, 작은 프로젝트로 검증한 후 실제 요구에 따라 업그레이드하세요.
참고 자료: