LLM에 대해 확실한 기본기를 다지기 위해공부하고 정리한 내용입니다. 이전 포스팅에서 모델을 다운로드하고 추론하는 두가지 방식을 진행해 보았다. LLM모델의 입력값으로 텍스트가 주어질 때, 텍스트를 숫자로 변환하는 과정을 수행해야 하는데이 과정에서 '토크나이저'가 꼭 필요하다. 각 모델마다 모델이 인식하는 단어와 토큰 매핑값이 존재하며 실제 모델 파일에서 'tokenizer.json' 파일을 통해 확인할 수 있다.이 파일을 바탕으로 실제 모델에 문장을 입력으로 넣고 추론을 실행하는 경우, 내부적으로 token(정수)로 변환된 뒤 처리된다.실습1. 토크나이저 다운로드from transformers import AutoTokenizer# HugginFace에서 tokenizer.json 파일을 다운로드to..

LLM에 대해 확실한 기본기를 다지기 위해공부하고 정리한 내용입니다. AI 공부를 하면서 HuggingFace사용법은 필수적으로 익혀야 한다. 그래서 HuggingFace를 통해 모델을 다운로드 받아서 사용해보고자 한다. HuggingFace란?- LLM을 포함하여 다양한 모델을 공유하고 사용할 수 있도록 개방된 오픈소스 플랫폼이다. - HuggingFace 특징은 아래와 같다.누구나 쉽게 AI 모델을 공유하고 HuggingFace에서 만든 파이썬 라이브러리 transformers를 이용하여 쉽게 다운로드, 추론, 파인튜닝을 수행할 수 있다.최신 AI/LLM 모델과 기술을 접할 수 있다.github처럼 모델 공유가 가능하다. -> 다운로드한 모델을 파인튜닝한 후 HuggingFace 업로드다양한 Data..

LLM에 대해 확실한 기본기를 다지기 위해공부하고 정리한 내용입니다. 생성형 AI 시스템 구축과 LLM 호출 기업 내에서 AI 시스템 구축을 할 때 아래와 같은 아키텍처를 바탕으로 구축한다. 또한 LLM 호출 시 1. 외부 LLM을 호출하거나 2. 내부 LLM 모델을 활용하거나 3. 하이브리드 방식으로 구분된다. 그렇다면 내부 LLM 구축은 왜 필요할까? 로컬 LLM 구축 필요성 1. 소버린 AI -> 외부 기술에 의존하지 않는 AI 역량을 뜻한다. AI 안보와 관련하여 국방 분야의 경우 퍼블릭 API 사용이 어렵다. 2. 정보 보호 Compliance 이슈-> 금융권의 경우 폐쇄망 환경이 대부분이며 외부 LLM 호출을 위해 DMZ 설정 등 인프라 준비가 필요하고 데이터 유출, 해킹 등의 Risk가 ..

스터디의 일환으로 정리한 글 입니다. 2장의 주요 내용대규모 언어 모델 훈련을 위한 텍스트를 준비힌다.텍스트를 단어와 부분단어인 토큰으로 나눈다.고급 텍스트 토큰화 방법인 바이트 페어 인코딩을 학습한다.슬라이딩 윈도 방식으로 훈련 데이터를 샘플링한다.대규모 언어 모델에 주입하기 위해 토큰을 벡터로 변환한다. 2.1 단어 임베딩 이해하기신경망은 문자나 단어와 같은 범주형 데이터를 직접 처리하지 못한다.따라서 텍스트는 신경망이 다룰 수 있는 실수 벡터 형태로 변환해야 하며, 이 과정을 임베딩이라고 한다.임베딩은 텍스트뿐 아니라 이미지, 음성과 같은 비정형 데이터도 연속적인 벡터 공간으로 바꾸어 신경망이 처리할 수 있게 한다.초기 임베딩 기법의 대표적인 예로는 Word2Vec이 있다. Word2Vec : 타깃..

스터디의 일환으로 정리한 글 입니다. 1.1 LLM이란 무엇인가요?• LLM은 대규모 데이터에서 훈련된 많은 수의 파라미터를 가진 신경망이다. - 신경망은 많은 머신러닝 알고리즘 중 하나로 텍스트, 이미지와 같은 데이터를 처리하는데 효율적이다. - 파라미터가 많을수록 복잡한 패턴을 감지하는데 유리하다. - 신경망은 하나의 거대한 수학 함수이며 파라미터는 이런 수학 함수의 계수로 표현할 수 있다. - 신경망 == 딥러닝• 트랜스포머(transformer)라는 구조의 신경망을 사용합니다. - 트랜스포머는 기계 번역을 위해 고안된 신경망 구조이다. - 신경망에는 트랜스포머 외에도 많은 구조가 존재한다(GPT는 트랜스포머 사용). 1.2 LLM 애플리케이션 LLM은 텍스트 처리에 뛰어나다...

데이터 분석은 아래 5단계로 진행된다. 수업에서는 아래 단계에 맞추어 달 탐사 및 암석 샘플 데이터 분석을 수행했다. 데이터 분석 5단계1. 문제 정의- 현재 상황에 따른 문제점 파악- 미래 개선될 점에 대해 분석 주제 정의 2. 데이터 수집- 문제 정의에 따라서 분석에 필요한 데이터 선택- 데이터 수집 3. 데이터 가공- 확보한 데이터 관찰 및 기초 데이터 분석- 분석에 필요한 데이터 컬럼 추가 및 가공 4. 데이터 분석- 문제 정의를 반영한 데이터 분석- 연관될 수 있는 다른 데이터의 수집, 연결 및 분석 5. 시각화 및 탐색- 데이터 분석을 반영할 수 있는 시각화- 문제 정의에 맞춘 해결방안 도출데이터 조회데이터 불러오기# pandas 라이브러리를 Import하기import pandas as pd..

이 글은 Introduction_RL_1 포스팅과 이어지는 글입니다. 2025.04.05 - [Study] - [강화학습] 1.Introduction_RL_1 [강화학습] 1.Introduction_RL_1이 글은 DeepMind의 David Silver가 진행한 RL 강의 중 Lecture 1: Introduction to Reinforcement Learning의 주요 내용을 정리한 것이다.강화학습이란?기계학습(Machine Learning)은 크게 세 가지 유형으로 나뉜다.지도학dev-hyena.tistory.com강화학습의 핵심 개념보상 (Reward): 에이전트의 행동 결과에 대한 수치적 피드백이다.상태 (State): 현재 상황을 나타내는 정보로, 과거의 기록(Ht)으로부터 정의된다.정책 (P..

이 글은 DeepMind의 David Silver가 진행한 RL 강의 중 Lecture 1: Introduction to Reinforcement Learning의 주요 내용을 정리한 것이다.강화학습이란?기계학습(Machine Learning)은 크게 세 가지 유형으로 나뉜다.지도학습 (Supervised Learning): 정답(label)이 있는 데이터를 기반으로 학습하는 방식이다.비지도학습 (Unsupervised Learning): 정답 없이 데이터의 패턴을 찾는 방식이다.강화학습 (Reinforcement Learning): 정답은 없고 보상(Reward)을 통해 학습하는 방식이다.  강화학습의 특징은 다음과 같다.특징설명감독 없음정답 대신 보상만 주어진다.피드백 지연행동에 대한 결과(보상)가 ..

프로젝트를 진행하면 깃허브를 사용하게 되는데, 이때 기본적으로 알아야 할 개념에 대해 간단히 정리해보았다.  Git VS GithubGit - 버전관리 도구 : 이전 버전으로 롤백을 하고싶을 때 사용 Github - 코드 저장소 : Git은 로컬에서 작동하기 때문에 다른 개발자와 협업하기 어려움-> Github를 사용하면 클라우드 서버를 통해 코드 업로드, 공유 가능Github의 Organization  Organization을 사용하는 이유 : 일반 repository로 관리할 경우, 해당 repository 주인만 Pull Request 등의 작업 가능-> 따라서, 다수의 관리자를 설정할 수 있는 Organization이 효율적임 브랜치 전략 Git-Flow : 브랜치를 통해 프로젝트를 관리하는 전략..

애자일 방식은 학교 수업 때 처음 배운 개념이었는데,공부를 하다 보니 애자일이라는 단어가 생각보다 꽤 많이 언급되고 있어서 이 기회에 애자일(Agile) 방법론에 대해 정리해보고자 한다.  애자일(Agile) 방법론이란?소프트웨어 개발 방식의 하나로,이미지와 같이 작업 계획을 짧은 단위로 세우고 제품을 만들고 고쳐 나가는 사이클을 반복함으로써 고객의 요구에 유연하고 신속하게 대응하는 개발 방법론이다. 단어 뜻을 알면 더 기억하기 쉽다. Agile : 민첩한, 날렵한 이라는 의미를 가지고 있으며,좋은 것을 빠르게 취하고, 낭비를 최소화하는 것과 변화에 대한 민첩한 대응을 강조한다.애자일 방법론을 따르는 개발 기법을 '애자일 프레임워크'라고 하는데,  그 기법들은 아래와 같다.: Scrum, Kanban, ..