IT LAB

1. RAG 란?Retrieveal-Augmented Generation (검색 증강 생성)LLM이 답변하기 전에 외부 문서나 데이터베이스에서 관련 정보를 검색하고, 그 내용을 참고해 답변하는 방식✅ 질의에 관련된 정보를 모르거나, 프라이빗 정보를 제공해야 하거나, 답변의 출처를 제공해야 할 때 필요함➡️ 답변 시점에 외부 정보를 검색하여 프롬프트에 추가함으로써 보완함 2. 작동 과정색인화 (외부 문서를 검색하기 쉬운 형태로 미리 가공하고 저장하기)chunking: 문서를 작은 단위로 분할embedding: 각 문서를 임베딩 벡터로 변환indexing: 벡터 데이터베이스에 저장검색 (사용자의 질문과 관련성이 높은 문서 조각을 찾기)사용자 질문도 임베딩 벡터로 변환문서 벡터와 비교관련 문서 선택증강: 검색..

1. LLM이란?대규모 텍스트에서 언어의 구조와 패턴을 학습해 문장을 이해하고 생성하는 인공신경망 모델✅ 문장 패턴을 모델 내부의 파라미터에 반영함 (단어와 문장의 관계, 문맥, 문법, 표현 방식 등)➡️ 주어진 문맥에서 다음에 올 가능성이 높은 토큰을 생성함ex) 문장 생성, 요약, 번역, 질문 답변, 코드 작성 등 2. 자기지도학습사람이 모든 정답을 붙이지 않아도 데이터 자체에서 정답을 만들어 학습하는 방식 학습 과정텍스트 입력다음 토큰 예측실제 토큰과 비교틀린 정도 계산 (손실)파라미터 수정반복 ex) 대한민국의 수도는? 이란 질문하기더보기모델 예측: 부산실제 답: 서울✅ 틀렸을 경우 다음에는 서울의 확률이 높아지도록 내부 파라미터를 조정함➡️ 이 과정을 매우 많이 반복하면서 언어 패턴을 학습함 파..

1. AI란?원래 사람이 하던 판단/학습/추론/인식 같은 일을 컴퓨터가 수행하도록 만드는 기술 또는 연구 분야 2. 구현 방식구분규칙 기반 AI학습 기반 AI정의사람이 규칙과 논리를 직접 작성하는 방식컴퓨터가 데이터에서 패턴을 학습하는 방식작동 방식입력이 들어오면 미리 정한 규칙에 따라 판단함많은 데이터를 학습한 뒤 새로운 입력을 예측하거나 분류함장점판단 과정을 설명하기 쉽고 결과를 통제하기 쉬움복잡한 패턴을 처리하고 다양한 상황에 적용하기 좋음단점모든 상황과 예외 규칙을 사람이 작성하기 어려움왜 그런 결과가 나왔는지 설명하기 어렵고 데이터 품질에 영향을 받음예시전문가 시스템탐색/계획 추론머신러닝딥러닝(자연어 처리, 음성 인식, 대규모 언어 모델, 컴퓨터 비전) 3. 분류평가 관점평가 관점핵심 의미예시인..