IT LAB

1. AI 스택이란?실제 업무 문제를 해결하려면 5개 계층이 필요함✅ 각 계층에서 어떤 기술을 선택하느냐에 따라 품질, 처리 속도, 운영 비용, 확장성, 보안성, 편의성 등이 달라짐 2. Infrastructure LayerAI 모델이 실행될 하드웨어와 배포 환경LLM은 보통 AI 전용 하드웨어가 필요함 (ex. GPU)모델 크기와 요청량에 따라 필요한 인프라가 달라짐 배포 방식방식설명장점단점On-Premise회사 내부에 GPU 서버를 직접 구축데이터 통제, 높은 보안성높은 초기 비용, 운영 복잡성Cloud클라우드에서 GPU 자원을 임대빠른 구축, 탄력적 확장지속적인 사용 비용, 외부 의존Local개인 PC나 노트북에서 모델 실행개인정보 보호, 인터넷 없이 사용 가능실행 가능한 모델 크기와 성능 제한 3..

1. MCPModel Context ProtocolAI 에이전트와 외부 데이터/도구를 연결하는 표준 프로토콜 필요성LLM이 특정한 상황에서 답변을 만들기 어려운 경우가 존재함학습 데이터만으로 최신 데이터 관련 답변을 하기 어려움 (ex. 실시간 날씨 등)컨텍스트 윈도우 내에서 답변을 하기 어려움 (ex. 대규모 프로젝트 코드 등)✅ 외부 시스템에 요청하여 프롬프트를 보강해야 함⚠️ 외부 시스템의 API가 제각각임➡️ 표준화된 프로토콜이 필요함 기능구분의미예시ToolsAI 에이전트가 실행할 수 있는 작업웹 검색, 이메일 전송, 일정 생성, 데이터베이스 조회ResourcesAI 에이전트가 읽을 수 있는 데이터문서, 파일, 사내 위키, DB 레코드, 코드Prompts재사용할 수 있도록 미리 정의된 프롬프트 ..