코딩 오페라

오픈클로(OpenClaw)와 텔레그램 연동 및 실습(Windows, Mac OS)

Master.M — Tue, 17 Feb 2026 17:42:07 +0900

안녕하세요! Coding your life, 코딩 오페라 입니다.
오늘은 최근 AI 업계에서 가장 뜨거운 관심을 받고 있는 OpenClaw를 Telegram과 연동하여, 언제 어디서든 스마트폰 하나로 내 컴퓨터를 제어하는 방법을 알아보겠습니다. 윈도우와 맥 OS 사용자 모두 적용 가능한 범용적인 방법이니, 차근차근 따라와 주세요! 정말 대박 AI 에이전트 입니다. 꼭 봐주세요! (맨 뒤에 연동 및 실습 가이드 영상도 있습니다!!)

0. 사전 준비 사항

연동을 시작하기 전, OpenClaw 설치와 Telegram 회원가입이 준비되어 있어야 합니다.

0-1. OpenClaw 설치

이전 포스팅(하단 링크 참조)을 참고하여 OpenClaw 설치를 완료해 주세요.

https://codingopera.tistory.com/86

Windows 에서 OpenClaw 설치 완벽 가이드

안녕하세요, coding your life, 코딩오페라입니다. 오늘은 최근 개발자와 생산성 마니아들 사이에서 '게임 체인저'로 불리는 OpenClaw를 Windows에서 설치하는 방법을 아주 자세히 알아보겠습니다. OpenaCla

codingopera.tistory.com

https://www.youtube.com/watch?v=b8yzNMaMQxU&t=906s

0-2. Telegram 계정 생성

스마트폰이나 PC에 Telegram이 설치되어 있고 회원가입이 되어 있어야 합니다.

1. Telegram 봇(Bot) 생성하기

위의 사전준비 과정이 모두 끝나셨으면, OpenClaw와 Telegram을 연동해줄, Telegram bot을 생성해줘야 합니다. 이 Telegram bot은 비서 bot으로 이후 사용자가 이를 통해 OpenClaw를 조작할 수 있습니다.

1-1. 첫 번째로 Telegram 검색창에 `BotFather`를 검색하여 공식 인증 마크가 있는 봇의 'Open'버튼을 눌러줍니다.

1-2. 그러면 BotFather 팝업창이 나오는데, 여기서 "Create a New Bot"을 클릭해줍니다.

1-3. 새로 만들 bot의 이름과 사용자 이름(user name)을 입력해주고, 하단의 creat bot 버튼을 눌러줍니다. 이때 사용자 이름의 경우 '~_bot'으로 끝나게 설정해주어야 합니다. (다른 사람과 중복또한 불가능합니다.)

1-4. 생성이 완료되면 Telegram bot의 토큰이 발급됩니다. 이 토큰은 외부 서비스 연동에 필수적이니 꼭 복사해서 메모장에 저장해 두세요!

2. OpenClaw 재설정 (Onboarding)

이제 PC의 터미널을 열어 OpenClaw가 Telegram을 인식하도록 설정해 보겠습니다.

Step 1: 게이트웨이 정지
기존에 실행 중인 게이트웨이가 있다면 충돌 방지를 위해 중지시킵니다.

openclaw gateway stop

Step 2: 온보딩 실행
보안 관련 안내 확인 후 본격적인 설정을 시작합니다.

openclaw onboard

OpenClaw 온보딩이 시작되면, 저번시간에 했던 과정을 그대로 실행하시면 됩니다. (아래 글 참조)

https://codingopera.tistory.com/86

Windows 에서 OpenClaw 설치 완벽 가이드

codingopera.tistory.com

다만 저번시간과 다른점이 있다면, Config hadling 부분인데요, 이 때 우리는 Telegram을 연동하기 위한 설정이 변경되므로, 아래 그림과 같은 Config hadling 상황에서 Update values 또는 Reset을 눌러줍니다.(저의 경우는 Reset을 눌러주었습니다. / 선택 후 Enter키)

그 다음 Reset scope에서 reset을 할 범위를 선택하게 되는데요, 여기서 Full reset을 눌어 전부 초기화를 해줍니다. 이외 다른 사항들은 OpenClaw 설치와 동일하게 실행해주시면 됩니다.

Step 3: Telegram 토큰 및 유저 정보 입력

위 ~ Step 2까지 설정들이 모두 완료 되었으면, Select channel 창이 팝업이 되는데요, 여기서 오늘 저희는 Telegram 실습을 할 것이기 때문에, Teleram을 선택해줍니다.

이후 Telegram bot의 token을 입력하는 창이 나오게 되는데요, 위 1-4에서 발급받은 Telegram bot token을 입력해줍니다. 이 때 ctrl+v를 통해 복사해주고, 이곳에서 마우스 우클릭을 통해 붙여넣으시면 됩니다.(꿀팁!!)

그 다음 username도 입력해주어야 하는데요, 여기서 username은 1-3에서 설정해준 Telegram bot의 이름으로, 저의 경우에는 Jarvis가 되겠죠! 여러분들은 여러분들에 맞는 이름을 입력해주세요.

마지막으로 Restart를 이용하여 OpenClaw 게이트웨이를 재시작 해줍니다.

3. Telegram 페어링 및 연동 확인

이제 Telegram bot과 OpenClaw를 페어링해줘야 하는데요, 우선 위에서 설정한 Telegram bot에 들어가 줍니다. 이 때 검색창에 1-3에서 설정해준 채팅 봇의 이름을 검색해주면 됩니다. 저의 경우는 codingopera2_bot이 되겠네요. 중요한 점은 _bot으로 끝나기 때문에 위의 username과 다르다는 점이죠.

Telegram bot에 들어가 "/start"를 입력해주시거나, 상단의 start 버튼을 눌러주시면, 아래과 같은 메시지가 나오게 됩니다. 이때 Pairing code가 중요한데요, 이 코드를 통해 Telegram bot과 OpenClaw를 페어링해줄 수 있습니다.

페어링을 하기 위해서, Window Powershell을 관리자 권한으로 실행하고, 아래와 같은 명령어를 통해 Telegram bot과 OpenClaw를 페어링해줍니다. 여기서 "[pairing code]" 부분에 위에서 얻은 각자의 pairing code를 입력해주시면 됩니다.

openclaw pairing approve telegram [pairing code]

그러면, 이제 최정적으로 아래와 같이, Telegram에서 LLM이 연동된 OpenClaw를 사용하실 수 있습니다. 축하드립니다!

4. 실제 활용 예시: 로컬 파일 제어하기

이제 그러면, Telegram과 연동된, OpenClaw를 통해, 실제 로컬 컴퓨터를 제어하는 실습을 진행해보도록 하겠습니다.

4-1. 폴더 내용 요약 및 이름 바꾸기

우선 로컬 컴퓨터의 파일 이름들을 통해, 해당 폴더의 역할을 요약해보도록 하겠습니다. 아래와 같이 Telegram bot에 원하는 폴더명과 이를 요약설명해달라는 프롬프트를 입력해주시면 되는데요. 그러면 아래와 같이, LLM이 알아서 로컬 컴퓨터에 접근해 명령을 이행해줍니다.

여기서 저는 폴더에, LLM, OpenClaw에 대한 내용이 많았기 때문에, "거대 언어 모델과 OpenClaw 플랫폼 관련 정보"가 있다고 요약해주는 모습을 보실 수 있습니다. 정말 놀랍지 않나요? 대박!!

그러면, 요약 뿐만 아니라, 파일 변경도 가능할까요? 아래는 해당 폴더의 내용을 통해 가장 걸맞는 폴더명을 알려주고, 이를 실제 폴더명으로 변경해달라고 해봤습니다. 그러자 실제로 OpenClaw와 연동된 LLM 에이전트가 폴더명을 'LLM OpenClaw Workspace'라고 추천했고, 이를 실제 폴더명으로 변경하였습니다. 정말 미친거 아닌가요??

4-2. 폴더 내용 정리

이번에는 폴더 내용 정리를 통해, 폴더 관리도 가능한지 실험해보겠습니다. 위 4-1에서 실습했던 폴더의 파일들을 모두 삭제하라는 프롬프트를 입력하자, 아래와 같이 폴더가 정말 말끔히 정리된 모습을 확인하실 수 있습니다.

여러분들 아직 글로 따라하니 OpenClawd와 Telegram 연동이 어렵다구요? 그래서 제가 준비했습니다. 여러분들을 위해 설치 가이드 영상을 유튜브 영상으로 올려 놓았으니, 영상과 블로그 글을 모두 보시면 이해가 빠르실 겁니다!! 이해가 안되시는 분들은 꼭 영상 참고해주세요 ㅎㅎ

https://www.youtube.com/watch?v=BabmsVuBkGU

5. 마치며

지금 까지 'OpenClaw와 Telegram 연동 및 컴퓨터 조작하기 실습'에 대해 알아보았는데, 도움이 되셨나요? 만약 되셨다면 구독 및 좋아요로 표현해 주시면 정말 감사하겠습니다. 구독과 좋아요는 제가 블로그를 운영하는 데 정말 많은 힘이 됩니다. 궁금한 사항 혹은 앞으로 다루어 주었으면 좋을 주제가 있으시면 댓글 남겨주시면 감사하겠습니다. 여러분 저는 Coding your life, '코딩 오페라'였습니다.

추가적으로 제가 AI 학습 관련 오픈 카카오톡방을 만들었습니다. AI와 코딩 학습에 목말라 있으신 분들이 라면 누구나 들어와서 즐겁게 맘껏 정보공유와 AI 공부하시면 될 것 같습니다. 링크는 다음과 같이니 꼭 한번 참석 및 홍보 부탁드리겠습니다.

https://open.kakao.com/o/ggxse9sg

인공지능/AI/코딩 공부방(코딩오페라)

인공지능/AI/코딩 공부방

open.kakao.com

https://www.youtube.com/@codingopera9945

Coding Opera Korea

www.youtube.com

Windows 에서 OpenClaw 설치 완벽 가이드

Master.M — Fri, 6 Feb 2026 23:00:45 +0900

안녕하세요, coding your life, 코딩오페라입니다. 오늘은 최근 개발자와 생산성 마니아들 사이에서 '게임 체인저'로 불리는 OpenClaw를 Windows에서 설치하는 방법을 아주 자세히 알아보겠습니다. OpenaClaw의 범용적인 설치방법을 알려드릴 테니, Windows 뿐만 아니라 Mac OS에서 설치하실 분들도 참고하시기 바랍니다. 설치 중 발생하는 에러를 사전에 차단하는 팁까지 꽉 채웠으니 끝까지 따라와 주세요! (맨 뒤에 설치 가이드 영상도 있습니다!!)

1. 들어가며: 왜 다들 'OpenClaw'에 열광할까?

OpenClaw란 무엇인가?

OpenClaw는 단순한 챗봇이 아닙니다. 사용자의 로컬 환경(파일, 터미널, 브라우저)과 AI 모델(Gemini, GPT 등)을 연결해 주는 'AI 에이전트 게이트웨이'입니다. 쉽게 말해, AI에게 "내 바탕화면의 PDF 요약해서 메일로 보내줘"라고 시키면, AI가 실제로 내 컴퓨터의 파일을 읽고 브라우저를 열어 메일을 보내는 실행력을 갖게 해주는 도구입니다. 즉 브라우저에서만 비서 역할을 했던 기존 AI 모델과 달리, 로컬에서 보다 실질적인 기능을 수행하는 비서 AI라고 생각하시면 됩니다.

원래 이름은 clawdbot이었는데, 앤트토픽의 claudebot과 이름이 유사(발음이 거의 비슷)하여 앤트로픽에서 항의를 하여 moltbot으로 이름을 변경하였고, 한번 더 변경하여 OpenClaw가 되었습니다. 아마 상표권 관련해서 둘이 논쟁이 있었던 것 같네요! 이런 서사를 알고 설치를 하니 더 재밌지 않나요?

왜 요즘 핫할까? (사용해야 하는 이유)

단순 답변을 넘어선 '행동': 기존 AI가 말만 했다면, OpenClaw는 내 컴퓨터에서 직접 코드를 실행하고 파일을 관리합니다.
로컬 제어와 보안: 클라우드에 모든 데이터를 올리지 않고, 내 컴퓨터 내에서 에이전트가 작동하도록 제어할 수 있습니다.
플랫폼 통합: 카카오톡, 텔레그램, 디스코드 등 익숙한 메신저를 통해 내 컴퓨터의 AI 에이전트에게 명령을 내릴 수 있습니다.

2. 완벽한 설치를 위한 사전 준비 (Prerequisites)

윈도우는 리눅스와 구조가 달라 아래 도구들이 반드시 필요합니다. 각각의 역할을 이해하면 설치가 훨씬 쉬워집니다.

2-1. WSL 2 (Windows Subsystem for Linux)

무엇인가요? 윈도우 안에서 리눅스(Ubuntu 등)를 직접 실행할 수 있게 해주는 마이크로소프트의 기술입니다.
역할: 대부분의 AI 도구는 리눅스 기반으로 개발됩니다. WSL을 깔아두면 윈도우에서도 리눅스 표준 도구들을 에러 없이 쓸 수 있어 호환성이 극대화됩니다.
설치방법: Windows PowerShell을 관리자 권한으로 실행한 다음 아래 코드를 수행해 주시면 됩니다.

# wsl 설치
wsl --install

# 원하는 버전의 wsl 설치	
wsl --install -d Ubuntu-24.04

# wsl 버전 확인
wsl --version

2-2. Node.js (엔진 역할)

무엇인가요? JavaScript 코드를 브라우저 밖(내 컴퓨터)에서 실행하게 해주는 환경입니다.
원래 JavaScript는 크롬이나 사파리 같은 브라우저 안에서만 움직일 수 있는 '안방 도련님' 같은 언어였습니다. 웹페이지를 반짝거리게 하거나 버튼을 누르면 알림 창을 띄우는 역할만 했죠. 하지만 2009년, 라이언 달(Ryan Dahl)이 크롬의 강력한 엔진인 V8 엔진을 떼어내어 브라우저 밖에서도 실행될 수 있게 만들었는데, 그것이 바로 Node.js입니다.
왜 필요한가요? OpenClaw 자체가 Node.js로 작성된 프로그램입니다. 이게 없으면 OpenClaw라는 엔진 자체가 돌아가지 않습니다.
설치 팁: Node.js 공식 홈페이지에서 LTS(안정화 버전)를 권장합니다.
https://nodejs.org/ko/download
마지막에 Chocolatey 패키지 선택(꼭 해주셔야 합니다! 자세한 이유는 아래 내용을 참고해 주세요!) -> 자동으로 Chocolatey 패키지가 설치됩니다.

Node.js — Node.js® 다운로드

Node.js® is a free, open-source, cross-platform JavaScript runtime environment that lets developers create servers, web apps, command line tools and scripts.

nodejs.org

2-3. Chocolatey (패키지 매니저)

무엇인가요? 윈도우용 '앱 스토어'의 명령어 버전입니다.
스마트폰에서 '앱 스토어'나 '구글 플레이 스토어'를 쓰듯이, 윈도우용 프로그램들을 클릭 몇 번 대신 타이핑한 줄로 설치, 업데이트, 관리할 수 있게 해주는 도구입니다.
역할: Git, Python 같은 개발 도구를 일일이 웹사이트에서 다운로드하지 않고 choco install git 한 줄로 설치 및 업데이트를 관리해 줍니다.

2-4. Git (버전 관리 및 소스 다운로드)

중요: OpenClaw 설치 중 발생하는 spawn git 에러는 99% Git이 없어서 생깁니다. Chocolatey를 통해 미리 설치하세요.

# 관리자 권한 PowerShell에서 입력
choco install git -y

2-5. Google Gemini API 발급

Google AI Studio 접속: 구글 계정으로 로그인합니다.
https://aistudio.google.com/u/1/api-keys
약관 동의: 처음 접속 시 생성형 AI 서비스 약관에 동의합니다.
키 생성: 좌측 사이드바에서 "Get API key" 메뉴를 클릭 > 우측 상단 "API 키 만들기"를 클릭 > 원하시는 키를 선택하시고, 마지막으로 "키 만들기" 버튼을 클릭합니다.
프로젝트 선택: "Create API key in new project"를 클릭하면 즉시 영문과 숫자로 된 키가 생성됩니다. 이 키를 복사해서 안전한 곳에 저장하세요.

https://accounts.google.com/v3/signin/identifier?continue=https%3A%2F%2Faistudio.google.com%2Fu%2F1%2Fapi-keys&dsh=S-1005206093%3A1770446337069481&followup=https%3A%2F%2Faistudio.google.com%2Fu%2F1%2Fapi-keys&ifkv=AXbMIuDMJErbtK83jyL-Did8CyKwlTWb8KPyCUNqWUVFLxbsTdUAPRPU5_Q2k-bdTd002CRnfBPZ&passive=1209600&flowName=WebLiteSignIn&flowEntry=ServiceLogin

accounts.google.com

3. OpenClaw 설치 단계

준비가 끝났다면 Windows PowerShell(관리자 권한)에서 다음 명령어를 순서대로 입력합니다.

OpenClaw 사이트의 Quick Start항목에 간단한 설치방법이 명시되어 있습니다.

OpenClaw 사이트: https://openclaw.ai/

OpenClaw — Personal AI Assistant

OpenClaw — The AI that actually does things. Your personal assistant on any platform.

openclaw.ai

3-1. 실행 정책 변경 (보안 차단 해제)

Set-ExecutionPolicy RemoteSigned -Scope CurrentUser

3-2. OpenClaw 전역 설치

# Install OpenClaw
npm i -g openclaw

3-3. 온보딩 가이드 실행

# Meet your lobster
openclaw onboard

위 코드를 실행하면, 아래 그림과 같이 openclaw가 Windows PowerShell에서 실행이 되는데요! 자세한 진행사항은 다음과 같습니다.

[OpenClaw 온보딩 과정]

- 초기 진입 및 모드 선택

I understand... (위험 고지): Yes (시스템 제어 권한 승인)
Onboarding mode: QuickStart (핵심 설정 위주의 빠른 시작)

- AI 모델 및 API 연동 (Google Gemini)

Model/auth provider: Google
Google auth method: Google Gemini API key
Enter Gemini API key: [Google AI Studio에서 발급받은 키 붙여 넣기]
Default model (중요):
- 무료 API 사용자: google/gemini-2.0-flash-lite 추천 (가장 가볍고 안정적)
- 유료 API 사용자: google/gemini-2.0-flash 이상 자유롭게 선택

- 부가 기능 및 채널 설정 (간소화)

Select channel: Skip for now (설치 후 언제든 추가 가능)
Configure skills: No (우선 설치 완료에 집중)

4. OpenClaw 실습( 3-3. 온보딩 가이드 실행 이후)

위 3-3 온보딩 과정을 거치게 되면 위 우측 그림처럼 OpenClaw gateway 터미널이 팝업 되게 됩니다. 여기서 "https://~"를 통해 UI 사이트를 확인할 수 있습니다.

원래 Windows PowerShell 터미널에서는 위와 같이 "How do you want to hatch your bot?"이라는 문구가 나오는데, 이는 "너가 어떤 방법으로 OpenClaw를 실행할거냐?" 라는 방식을 선택하는 문장입니다. 여기서 TUI를 선택하시면, 터미널에서 실행이, web UI를 선택하시면 웹에서 OpenClaw가 실행됩니다. 일단은 TUI를 선택해 보겠습니다.

TUI를 선택하시면, 위 그림과 같이 터미널에서 LLM에게 질문을 할 수 있는데요. 다음과 같이 잘 답변하는 것을 알 수 있습니다.

그럼 이번에는 web UI에서도 잘 작동하는지 확인해 볼까요? 위 선택에서 web UI를 선택, 또는 OpenClaw gateway 터미널에서 웹사이트 주소를 이용하여 웹에 접근하면, 위 그림과 같이 UI에서도 OpenClaw가 잘 작동하는 것을 확인할 수 있습니다.

https://www.youtube.com/watch?v=b8yzNMaMQxU&t=1056s

여러분들 아직 글로 따라하니 OpenClaw 설치 이해가 어렵다구요? 그래서 제가 준비했습니다. 여러분들을 위해 설치 가이드 영상을 유튜브 영상으로 올려 놓았으니, 영상과 블로그 글을 모두 보시면 이해가 빠르실 겁니다!! 이해가 안되시는 분들은 꼭 영상 참고해주세요 ㅎㅎ

또한 여러분들이 OpenClaw 설치 이후 Telegram과 연동하여, 실제 로컬 컴퓨터를 조작해보실 분들은 아래 블로그와 유튜브를 꼭 참고해주세요!
https://codingopera.tistory.com/87

OpenClaw와 Telegram 연동 및 컴퓨터 조작하기 실습(Windows, Mac OS)

안녕하세요! Coding your life, 코딩 오페라 입니다.오늘은 최근 AI 업계에서 가장 뜨거운 관심을 받고 있는 OpenClaw를 Telegram과 연동하여, 언제 어디서든 스마트폰 하나로 내 컴퓨터를 제어하는 방법을

codingopera.tistory.com

https://www.youtube.com/watch?v=BabmsVuBkGU&t=383s

5. 마치며

지금 까지 'OpenClaw'설치에 대해 알아보았는데, 도움이 되셨나요? 만약 되셨다면 구독 및 좋아요로 표현해 주시면 정말 감사하겠습니다. 구독과 좋아요는 제가 블로그를 운영하는 데 정말 많은 힘이 됩니다. 궁금한 사항 혹은 앞으로 다루어 주었으면 좋을 주제가 있으시면 댓글 남겨주시면 감사하겠습니다. 여러분 저는 Coding your life, '코딩 오페라'였습니다.

추가적으로 제가 AI 학습 관련 오픈 카카오톡방을 만들었습니다. AI와 코딩 학습에 목말라 있으신 분들이 라면 누구나 들어와서 즐겁게 맘껏 정보공유와 AI 공부하시면 될 것 같습니다. 링크는 다음과 같이니 꼭 한번 참석 및 홍보 부탁드리겠습니다.
https://open.kakao.com/o/ggxse9sg

인공지능/AI/코딩 공부방(코딩오페라)

인공지능/AI/코딩 공부방

open.kakao.com

https://www.youtube.com/@codingopera9945

Coding Opera Korea

www.youtube.com

[초등학생도 이해하는] AI Agent vs Agentic AI

Master.M — Sun, 7 Dec 2025 23:58:26 +0900

안녕하세요, Coding your life, '코딩 오페라'입니다. 오늘은 최근 많이 거론되는 'AI Agent'와 'Agentic AI'의 개념에 대해 소개해드리고자 합니다. 제목처럼 진짜 핵심 내용을 쉽게 설명하는 것을 목표로 하고 있으니 인공지능(AI)에 입문하고 싶은 분들은 많은 관심 부탁드립니다.

인공지능 기술이 빠르게 발전하면서, “AI Agent”라는 개념은 이미 널리 알려졌고, 최근에는 “Agentic AI”라는 단어가 업계와 연구계에서 점점 더 자주 등장하고 있습니다.

하지만 많은 사람들이(특히 기술 도입을 고려하는 기업 담당자나 개발자) 이 두가지 개념을 혼동하거나 같은 의미로 여기는 경우가 많습니다. 이번 글에서는 두 개념을 체계적으로 구분하고, 왜 이 구분이 중요한지, 그리고 실제 활용 시 어떤 시사점이 있는지 정리해 보겠습니다.

[용어 정리: AI Agent vs Agentic AI]

1. AI Agent란 무엇인가

AI Agent는 일반적으로 특정 작업을 수행하도록 설계되었습니다. 질문에 답하거나, 일정을 정리하거나, 이메일 받은편지함을 관리하는 등 특정 작업을 지원하도록 설계되었습니다. AI 에이전트는 간단하고 반복적인 작업을 자동화하는 데는 뛰어나지만, Agentic AI처럼 자율성이나 의사 결정 능력은 없습니다. 스스로 생각하지 않고, 사용자가 시키는 대로 정확히 수행하는 가상 도우미라고 생각하면 됩니다.

AI Agent

정해진 목표와 규칙에 따라 특정 작업을 자동으로 수행하는 인공지능 시스템임
외부 입력(명령·이벤트)에 반응하는 구조로, 주로 단일 작업 중심으로 동작함
사전에 설계된 워크플로우를 기반으로 예측 가능한 결과를 생성함
반복적이고 정형화된 업무 자동화에 특화된 실행 단위임

이처럼, AI Agent는 자동화된 ‘일꾼(worker)’ 혹은 ‘비서(assistant)’ 같은 존재라고 볼 수 있습니다.

2. Agentic AI란 무엇인가

Agentic AI

Agentic AI는 본질적으로 자율성을 중시하는 AI 유형입니다. 즉, 특정 목표를 달성하기 위해 스스로 결정을 내리고, 행동을 취하고, 심지어 학습할 수 있습니다. 마치 끊임없는 지시 없이도 생각하고, 추론하고, 변화하는 상황에 적응할 수 있는 가상 비서와 같습니다. Agentic AI는 네 가지 핵심 단계로 작동합니다.

인식 : 주변 세계에서 데이터를 수집합니다.
추론 : 이 데이터를 처리하여 무슨 일이 일어나고 있는지 이해합니다.
행동 : 이해에 따라 무엇을 할 것인지 결정합니다.
학습 : 시간이 지남에 따라 개선되고 적응하며 피드백과 경험을 통해 배웁니다.

Agentic AI

스스로 목표를 해석·설정하고 이를 달성하기 위한 계획을 수립하는 자율적 인공지능 체계임
여러 단계를 거쳐 문제를 분해하고 실행·평가·수정 과정을 반복함
장기 메모리와 문맥 이해를 바탕으로 지속적 의사결정을 수행함
복잡한 업무와 다중 도구·시스템을 통합적으로 제어할 수 있는 지능형 구조임

Agentic AI는 다음과 같은 특징을 가집니다:

- 능동성(Proactive): 사용자의 단순 요청만 기다리지 않고, 주어진 목표를 달성하기 위해 스스로 일을 찾아서 수행.
- 계획과 조율(Planning & Orchestration): 큰 목표를 작은 단위 과업(sub-goals)으로 나누고, 여러 단계를 거쳐 문제를 해결. 필요시 경로를 재조정하거나 우선순위를 바꾸기도 함.
- 메모리 & 컨텍스트 유지(Context & Memory): 과거 상호작용, 외부 환경, 내부 상태를 기억하고 활용 — 지속적이고 누적적인 판단·행동이 가능.
- 도구 및 시스템 통합(Tool / API / Multi-agent orchestration): 단순 기능이 아니라, 데이터베이스, 외부 API, 여러 agent 혹은 내부 모듈을 결합하여 복합적 서비스/프로세스를 수행.
- 적응성과 학습성(Adaptation & Learning): 실행 결과와 피드백을 바탕으로 전략을 개선하거나 행동을 조정할 수 있음.

요컨대, Agentic AI는 단순한 봇이 아니라, ‘디지털 동료(digital coworker)’ 혹은 ‘자율적 직원(autonomous worker)’ 같은 존재라고 할 수 있습니다.

3. AI Agent와 Agentic AI 비교 분석

양쪽을 아래처럼 여러 축을 놓고 비교하면, 그 차이가 더 명확해 집니다.

AI agent vs Agentic AI

비교 항목AI AgentAgentic AI

동작 방식	Trigger-based: 사용자의 명령이나 사전 정의된 트리거가 있을 때만 반응 / 실행	Goal-based: 상위 목표를 해석/정의하고, 스스로 계획을 세워 행동. 필요시 재계획도 수행
자율성(Autonomy)	낮거나 중간 수준: 주로 입력 → 출력 위주, 반응형	높음: 사용자가 직접 지시하지 않아도 스스로 행동, 판단, 결정 가능
작업 범위(Task Scope)	좁고 명확한 작업들 — 반복적이고 예측 가능한 일 (예: 간단한 고객 지원, 데이터 입력 등)	넓고 복잡한 작업들 — 멀티스텝, 의사결정 필요, 환경 변화 대응 필요, 여러 시스템 연계 가능
메모리 / 맥락(Context)	제한적 또는 없음 — 대부분 stateless에 가까움	상태 유지(stateful), 과거 기록과 맥락 기반으로 지속적 상호작용 가능
도구 / 시스템 통합	단일 도구 또는 한정된 시스템 중심	API, 내부 시스템, 외부 데이터베이스, 여러 agent 간 오케스트레이션 가능
학습 & 적응력	주기적 업데이트 또는 재학습 필요. 자체 적응은 제한적	실행 결과와 피드백 바탕으로 실시간 적응 또는 점진적 개선 가능
적합한 활용 영역	단순 반복 작업, 규칙 기반 업무, 예측 가능한 워크플로우 자동화 등	복잡한 비즈니스 프로세스, 변화 많고 조건이 자주 변하는 업무, 시스템 간 통합이 필요한 상황 등

[실제 적용: 언제 AI Agent를, 언제 Agentic AI를 써야 하는가?]

1. AI Agent가 적합한 경우

업무가 예측 가능하고 반복적이며, 명확한 룰(rule) 이 존재할 때
복잡한 판단이나 계획보다는 단순한 입력 처리 + 출력 전송이 중심인 경우
비용과 위험을 최소화하면서 안정적이고 반복 가능한 자동화가 목표일 때

예: 고객이 “비밀번호 재설정해주세요”라고 요청 → AI Agent가 절차에 따라 처리하고 응답.
또는 매일 정해진 포맷의 보고서를 생성하거나, 주문 상태 확인/응답 등을 자동화할 때

2. Agentic AI가 적합한 경우

업무가 복잡하고 다단계이며, 상태 변화나 예외 상황이 자주 발생하는 경우
목표가 단순 작업이 아니라, “프로세스의 완료”, “문제 해결”, “최적화” 등 전략적 · 종합적 과업일 때
여러 시스템 또는 도구(API, DB, 외부 서비스 등)를 통합해야 하거나, 다중 agent 간 협업이 필요할 때
변화하는 환경에 자동으로 적응하고 학습하는 것이 중요할 때

예: 고객 문의가 들어오면 단순 응답이 아니라 과거 이력/맥락을 참고하여 문제를 예측하고 해결, 관련 시스템 업데이트, 후속 조치까지 자동으로 수행하는 지원 시스템.
또는 물류 + 재고 + 주문 + 배송 시스템을 통합해서, 주문이 들어오면 재고 확인 → 배송 스케줄링 → 알림 발송 → 후속 피드백까지 자동 조율하는 전체 프로세스 자동화 시스템 등

[최근 연구와 업계 동향 — 왜 지금 Agentic AI가 주목받고 있을까]

1. 논문 & 개념적 정의

최근 발표된 연구인 “AI Agents vs. Agentic AI: A Conceptual Taxonomy, Applications and Challenge”에서는, 기존 AI Agents가 좁은 도메인(task-specific automation) 중심이었다면, Agentic AI는 멀티-agent 협업, 동적 과업 분해(task decomposition), 지속 메모리, 오케스트레이션 중심의 자율시스템 설계 패러다임이라는 점을 강조합니다.
또한 최신 리뷰 “Agentic AI: A Comprehensive Survey of Architectures, Applications, and Future Directions” (2025)에서는 Agentic AI 시스템이 크게 두 계통 — 고전적(symbolic/planning-based) 방식과, 신경망 기반(generative / LLM-based) 방식 — 으로 나뉘며, 두 방식을 적절히 조합하는 하이브리드가 향후 핵심이 될 것이라고 지적합니다.
다만, 에이전트 중심(agent-based) 접근 자체에 대한 회의론도 존재합니다. 최근 논문 “Is the 'Agent' Paradigm a Limiting Framework for Next-Generation Intelligent Systems?”에서는, 이런 ‘agent/agentic’ 은 메타포에 불과할 수 있으며, 비(非)-agentic, 시스템 수준(system-level) 지향 방식이 장기적으로는 더 유연하고 강력할 수 있다고 제안합니다.

2. 산업 적용 및 실용성

많은 기업들이 단순 챗봇이나 자동화된 고객지원 이상의 것을 원하면서, 단순 AI Agent를 넘어 Agentic AI 기반 업무 자동화 및 프로세스 재설계에 관심을 쏟고 있습니다.
특히 고객 여정(customer journey), 리스크 관리, 실시간 모니터링 + 대응, 복잡한 워크플로우 자동화 등에서는 Agentic AI가 큰 잠재력을 지닌다는 평가가 많습니다.

하지만 그만큼 구현 난이도, 데이터 및 인프라 조건, 거버넌스(책임, 투명성, 에러 handling) 요구치도 높아집니다.

[결론 — AI Agent와 Agentic AI, 어느 쪽이 ‘정답’일까?]

결국 “AI Agent vs Agentic AI”는 단순한 업그레이드 관계가 아니라, 설계 철학과 시스템 구조에서 근본적으로 다른 선택지입니다.

반복적이고 예측 가능한 작업엔 여전히 AI Agent가 강력하고 경제적인 선택입니다.
반면, 변화가 많고 복잡한 프로세스를 자동화하고 싶거나, 여러 시스템을 통합하고 싶다면 Agentic AI가 유리합니다.
다만 Agentic AI는 단순 기술 구현을 넘어서, 데이터, 인프라, 거버넌스, 책임 구조까지 포괄적으로 준비해야 제대로 실효를 볼 수 있는 “다소 무거운 시스템”입니다.

따라서 AI 도입을 고민할 때는 “무엇이 아니라 왜, 어떤 목표를 위해서” 자동화를 도입하려 하는지 — 그리고 그 목표에 맞춰 현실적인 기대치와 준비 상태를 점검하는 게 가장 중요합니다.

추가적으로 제가 AI 학습 관련 오픈 카카오톡방을 만들었습니다. AI와 사용법에 목말라 있으신 분들이 라면 누구나 들어와서 즐겁게 맘껏 정보공유와 AI 공부하시면 될 것 같습니다. 링크는 다음과 같이니 꼭 한번 참석 및 홍보 부탁드리겠습니다.
https://open.kakao.com/o/ggxse9sg https://open.kakao.com/o/ggxse9sg

인공지능/AI/코딩 공부방(코딩오페라)

인공지능/AI/코딩 공부방

open.kakao.com

지금 까지 'AI Agent'와 'Agentic AI'의 개념에 대해 알아보았는데, 도움이 되셨나요? 만약 되셨다면 구독 및 좋아요로 표현해 주시면 정말 감사하겠습니다. 구독과 좋아요는 제가 블로그를 운영하는 데 정말 많은 힘이 됩니다. 궁금한 사항 혹은 앞으로 다루어 주었으면 좋을 주제가 있으시면 댓글 남겨주시면 감사하겠습니다. 여러분 저는 Coding your life, '코딩 오페라'였습니다.

Reference

https://tutorials.botsfloor.com/ai-agents-vs-agentic-ai-whats-the-difference-and-why-does-it-matter-03159ee8c2b4

AI Agents vs Agentic AI: What’s the Difference and Why Does It Matter?

If you’ve been keeping an eye on artificial intelligence (AI) lately, you’ve probably heard the terms AI Agents and Agentic AI thrown…

tutorials.botsfloor.com

https://modulabs.co.kr/blog/ai-agent-vs-agentic-ai

AI Agent vs. Agentic AI: 2년 뒤 도래할 AI 시대의 핵심 기술?

AI Agent와 Agentic AI에 대해 정리하고, 학계・산업계에서의 연구 및 활용 동향을 살펴보고자 합니다.

modulabs.co.kr

[초등학생도 이해하는] Graph RAG

Master.M — Tue, 16 Sep 2025 15:59:22 +0900

1. Graph RAG의 등장 배경

최근 AI 업계에서 RAG(Retrieval-Augmented Generation)는 LLM의 환각(hallucination) 문제를 줄이고, 최신 정보 반영을 위해 널리 쓰이고 있습니다. 하지만 기존의 RAG는 단순히 문서 조각(chunk)을 잘라서 벡터 DB에서 검색하는 구조라, 문서 간의 관계나 복잡한 연결 정보를 잘 활용하지 못한다는 한계가 있었어요.

이 문제를 보완하기 위해 나온 것이 바로 Graph RAG입니다.
Graph RAG는 **지식을 그래프 형태(노드 + 관계)**로 표현하여, 단순한 문서 검색을 넘어서 지식 네트워크를 탐색할 수 있게 해줍니다.

2. 그래프(Graph)란 무엇일까?

그래프(Graph)

Graph RAG를 이해하려면, 먼저 그래프라는 개념을 간단히 알아야 합니다.

**그래프(Graph)**는 수학이나 컴퓨터 과학에서 **노드(node)**와 **엣지(edge)**로 구성된 구조예요.

노드(Node): 어떤 개체 (예: 사람, 도시, 회사, 개념)

엣지(Edge): 개체 간의 관계 (예: "사람 A → 회사 B에 다닌다")

예를 들어,

노드: "스티브 잡스", "애플"

엣지: "설립했다"

이렇게 연결하면, "스티브 잡스 — 설립 → 애플" 이라는 관계 그래프가 만들어지는 거예요.

즉, 그래프는 정보를 ‘점과 선’으로 연결한 지도 같은 것이라고 생각하면 쉽습니다.

3. Graph RAG의 정의

Graph RAG는 RAG에 그래프 구조를 더한 방식이에요.

일반 RAG: “질문 → 관련 문서 검색 → 답변 생성”

Graph RAG: “질문 → 그래프에서 관련 노드와 연결 관계 탐색 → 답변 생성”

즉, 단순히 비슷한 문서만 찾는 것이 아니라, 지식의 구조와 맥락을 탐색하면서 답변을 만들어요.

4. Graph RAG가 왜 필요할까?

1. 복잡한 관계 이해
“A와 B가 연결되고, B와 C가 관련 있다 → A와 C의 관계도 알 수 있다” 같은 관계형 추론 가능.

2. 도메인 지식 반영
의학, 법률, 금융 등은 개체와 관계가 복잡하게 얽혀 있어서, 그래프 구조로 정리하면 효과적.

3. 추론 능력 강화
단순히 ‘비슷한 글조각’을 찾는 게 아니라, 연결을 따라가며 숨은 관계를 추론할 수 있음.

5. Graph RAG의 동작 원리

(1) 지식 그래프 구축

문서에서 개체(entity)와 관계(relation)를 추출 → 그래프 DB에 저장.

예: “스티브 잡스는 애플을 설립했다”

노드: [스티브 잡스], [애플]

엣지: [설립]

(2) 질의 응답 과정

사용자의 질문 → 그래프 탐색으로 관련 노드·경로 검색.

탐색된 결과 + 질문을 LLM에 전달.

LLM이 이를 바탕으로 맥락 있는 답변 생성.

[일반 RAG와 Graph RAG]

6. Graph RAG 구축 방법

Graph RAG를 만들기 위해서는 **텍스트 데이터 → 그래프 구조(노드+관계)**로 변환하는 과정이 필요합니다. 이를 위한 대표적인 방법들을 소개해드릴게요.

(1). 온톨로지(Ontology) 기반

개념: 특정 도메인의 개체(엔티티)와 그 관계를 사전에 정의된 규칙과 개념 체계로 정리하는 방식.

특징: 구조적이고 체계적인 그래프 생성 가능.

장점: 도메인 전문 지식(의학, 법률 등)을 반영하기에 적합.

예시:

의료 도메인 → [질병] — 관련 → [치료제] — 부작용 → [증상]

(2). 정보 추출(NER & RE) 기반

개념: 자연어 처리(NLP)를 활용해 텍스트에서 개체 인식(NER, Named Entity Recognition) 및 **관계 추출(RE, Relation Extraction)**을 수행하여 그래프 생성.

특징: 기존 문서 데이터에서 자동으로 그래프 생성 가능.

장점: 자동화가 가능해 대규모 데이터 처리에 강점.

예시:

문장: “스티브 잡스는 애플을 설립했다”

→ 노드: [스티브 잡스], [애플]

→ 관계: [설립]

(3). 지식 그래프 DB 활용 (Neo4j 등)

개념: 전문 그래프 데이터베이스(예: Neo4j, ArangoDB, TigerGraph)를 사용해 그래프를 직접 구축.

특징: 질의 언어(Cypher, GQL 등)를 활용해 복잡한 관계 탐색 가능.

장점: 대규모 그래프 관리 및 탐색 성능 우수.

예시: Neo4j에서 “A와 B 사이의 최단 경로” 탐색 쿼리 실행.

(4). 하이브리드 방식 (벡터 + 그래프 결합)

개념: 그래프 구조에 벡터 임베딩을 결합하여, 의미적 유사성과 관계 정보를 함께 활용.

특징: RAG의 장점(빠른 검색) + Graph의 장점(관계 추론)을 동시에 활용.

장점: 복잡한 질문에도 대응 가능.

예시:

질문: “AI 분야에서 GPT와 BERT의 차이점은?”

→ 벡터 검색으로 관련 문서 찾고, 그래프 탐색으로 두 모델 간 관계 정리.

7. Graph RAG의 장점과 한계

장점

관계형 질문 처리 능력 ↑
도메인 특화 지식 활용 ↑
단순 텍스트 검색보다 풍부한 맥락 제공

한계

그래프 구축 비용 ↑ (엔티티 추출, 관계 매핑 필요)
그래프 크기가 커질수록 관리·탐색 비용 ↑
단순 질의에서는 오히려 벡터 RAG가 더 효율적

8. Graph RAG 활용 사례

의료: 논문 속 유전자·단백질·질병 관계 그래프 구축 → 치료제 연구 지원.

법률: 법령·판례·조항 간 연결을 그래프로 표현 → 복잡한 법률 질의 해결.

연구 보조: 논문·저자·연구 키워드를 그래프로 연결해 관련 논문 탐색.

기업 지식 관리: 내부 문서·부서·프로젝트를 그래프로 묶어 지식 검색.

정리

항목 핵심 요약

등장 배경 기존 RAG의 한계(문서 관계 부족) 보완
그래프 설명 노드(개체) + 엣지(관계)로 정보를 연결한 지도
정의 지식을 그래프로 표현해 RAG와 결합
필요성 관계형 질문, 도메인 지식, 추론 능력 강화
원리 (1) 그래프 구축 → (2) 그래프 탐색 + LLM 답변
장점 관계 이해, 도메인 활용, 풍부한 맥락
한계 구축 비용 및 관리 복잡성
사례 의료, 법률, 연구, 기업

일반 RAG vs Graph RAG 비교

구분 일반 RAG Graph RAG

데이터 구조 벡터 DB (문서 임베딩 기반) 그래프 DB (노드+관계 구조)
검색 방식 유사한 텍스트 조각 검색 노드 및 관계 탐색 (연결 기반 검색)
강점 빠른 검색, 간단한 구축 관계형 추론, 복잡한 지식 표현
약점 관계 정보 부족, 맥락 제한 구축·관리 비용 높음, 성능 튜닝 필요
적합한 분야 FAQ, 일반 지식 검색, 문서 요약 의학·법률·연구 등 관계 중심 도메인
예시 “챗GPT가 뭐야?” → 설명 문서 검색 “A와 B의 관계는?” → 그래프 탐색 후 답변

Reference

https://mathworld.wolfram.com/GraphEdge.html

https://arxiv.org/abs/2503.04338

In-depth Analysis of Graph-based RAG in a Unified Framework

Graph-based Retrieval-Augmented Generation (RAG) has proven effective in integrating external knowledge into large language models (LLMs), improving their factual accuracy, adaptability, interpretability, and trustworthiness. A number of graph-based RAG me

arxiv.org

[초등학생도 이해하는] RAG

Master.M — Sat, 6 Sep 2025 01:52:23 +0900

안녕하세요, Coding your life, '코딩 오페라'입니다. 오늘은 최근 많이 거론되는 ' RAG(Retrieval-Augmented Generation)'에 대해 소개해드리고자 합니다. 제목처럼 초등학생도 이해하기 쉽게 설명드렸으니, 인공지능(AI)에 입문하고 싶은 분들은 꼭 끝까지 읽어주세요

[RAG란 무엇인가?]

1. RAG의 이슈화: 최근 왜 주목받고 있을까?

RAG는 최근 들어 AI의 신뢰성과 정확성을 개선하기 위한 핵심 기술로 부상하고 있습니다. 특히, LLM(대형 언어 모델)의 환각(hallucination) 문제를 완화할 수 있는 현실적 대안으로 각광받고 있죠. 여기서 환각이란, LLM이 그럴듯하지만 사실이 아닌 정보를 생성하는 현상을 의미합니다. 즉 한마디로 거짓된 정보를 그럴듯하게 말하는 문제를 의미합니다.

예를 들어, NVIDIA의 젠슨 황 CEO는 GTC 행사에서 “환각 문제는 RAG를 통해 ‘매우 해결 가능하다’”라고 말하며, RAG를 “단순한 챗봇이 아니라 연구 조수처럼 행동하는 방법”으로 설명했습니다.
또, Wired에서는 RAG가 AI가 ‘직접 만들어내는 것이 아니라’, 사용자 입력에 맞춰 외부 데이터베이스에서 정보를 “끌어와 답변을 뒷받침”한다고 강조했습니다.

결국, 지금 이 시점에서 RAG가 각광받는 이유는 바로 AI의 응답을 더 정확하고 신뢰성 있게 만들면서, 동시에 재학습( Retraining) 없이도 최신 정보 반영이 가능하다는 점이에요.

2. RAG의 정의

RAG(Retrieval-Augmented Generation)는 이름 그대로 '검색(Retrieval)'과 '생성(Generation)'을 합친 구조입니다. 이는 “검색해서 가져온 정보를 이용해 AI가 더 똑똑하고 믿을 수 있게 대답하도록 돕는 방법”이에요.

예를들어 숙제에 관련된 질문을 ChatGPT에게 했는데, ChatGPT가 “모르지만 적당한 답을 만들어냈다”면 이건 환각입니다.
그런데 RAG는 AI(LLM)가 “먼저 도서관(데이터베이스)에 가서 정확한 내용을 찾아오고, 그 정보를 바탕으로 대답하는” 방식이에요.
그러니까, AI가 “LLM 자기 자신의 생각에 대해 대답하는 게 아니라”, 최신 책이나 정보를 검색해서 가져와서 대답한다라고 이해하면 됩니다.

RAG는 본질적으로 검색 기반 모델과 생성 모델이라는 두 가지 AI 영역의 강점을 독창적으로 결합한 하이브리드 모델입니다. 이러한 융합을 통해 AI 시스템은 방대한 데이터베이스에서 관련 정보를 추출(검색)하고, 그 후 일관되고 맥락적으로 관련성 있는 응답(생성)을 생성할 수 있습니다. 이는 기존 모델에서 크게 도약하여, 인간과 유사한 텍스트를 이해하고 생성하는 데 있어 더욱 섬세하고 정교한 접근 방식을 제시합니다.

[RAG의 동작원리]

[RAG 동작 원리]

그렇다면 RAG는 어떤 구조로 이루어져 있으며, 각 모듈이 어떤 역할을 수행할까요? 이번 글에서는 RAG의 구성 요소와 동작 흐름을 모듈별로 알아보도록 하겠습니다.

1. RAG를 구성하는 핵심 모듈

RAG는 크게 네 가지 요소로 이루어져 있습니다. 각 모듈이 맡은 역할을 정확히 이해하면 RAG 시스템이 왜 효과적인지 쉽게 이해할 수 있습니다.

1-1. User (사용자)

사용자는 RAG 시스템에 질문을 입력하는 주체로, 자연어 형태의 Query를 생성하며, 전체 RAG 동작 흐름을 시작하는 출발점이 됩니다. 예를 들어 “삼성전자 주가는 앞으로 오를까?”와 같은 질문을 하는 주체라고 생각하시면 됩니다.

1-2. Pre-trained LLM (사전학습된 대규모 언어모델)

Pre-trained LLM은 사전에 학습된 대규모 언어모델으로, 주체자로부터 질문을 받고 이 질문의 의도를 Retrieval Model에 넘겨주는 역할을 진행합니다. 이때 Retrieval Model이 찾아준 문서들을 기반으로 최종 답변을 생성합니다. 최종 답변은 검색된 문서를 참고하여 분석, 요약, reasoning 등을 수행해 가장 자연스럽고 정확한 답변을 생성하고, 주요 모델로는 GPT, Llama, Mistral 등이 있습니다.

1-3. Retrieval Model (검색·임베딩 모델)

Retrieval Model은 사용자의 질문을 받은 Pre-trained LLM과 Knowledge Base에 저장된 문서를 중간에서 연동해주는 연동단 모델이라고 생각하시면 됩니다. 즉 이 모델은 주체자의 질문 의도가 담기 질문 벡터(embedding)를 이용하여 Knowledge Base에서 검색을 하여 질문과 가장 관련성 높은 문서를 찾아내는 역할을 수행합니다. 이렇게 검색을 진행하기 때문에 이름이 Retrieval Model로 정해졌습니다. 대표적인 모델로는 Sentence-BERT, DPR, E5 등이 있습니다.

1-4. Knowledge Base (지식 저장소 / 벡터 DB)

Knowledge Base는 RAG의 핵심 데이터 저장소입니다. 여기에는 텍스트 문서가 chunk 단위로 저장되며, 각 chunk는 미리 계산된 임베딩 벡터와 함께 보관됩니다. Retrieval Model이 검색 요청을 보내면, Knowledge Base는 가장 유사한 문서들을 반환해 LLM이 참고할 수 있도록 합니다. 즉, Knowledge Base는 우리가 검색하는 검색페이지(Google, Naver 등)나 백과사전과 같이 모든 지식이 집합되어있는 모듈이라고 생각하시면 됩니다. FAISS, Pinecone, ChromaDB 등이 대표적인 벡터 DB입니다.

2. RAG는 어떻게 동작할까? (순차적 흐름)

이제 각 모듈이 어떻게 상호작용하는지 전체적인 흐름을 순서대로 살펴보겠습니다.

2-1. 인덱싱 과정 (Indexing: 데이터 준비 단계)

외부의 방대한 데이터를 검색 가능한 상태로 변환하여 벡터 데이터베이스에 저장하는 사전 작업입니다.

문서 로더 (Document Loader): 다양한 형태의 외부 데이터를 파이썬이 처리할 수 있는 Document 객체 형식으로 읽어옵니다.
- 비정형 데이터 처리: PDF, Word, TXT, Markdown 등 파일 읽기.
- 웹/앱 연동: 웹 페이지 크롤링, Notion, Slack, Google Drive API 연동.
- 데이터 추출: 텍스트뿐만 아니라 메타데이터(페이지 번호, 작성일, 출처 등)를 함께 보존하여 나중에 검색 정확도를 높입니다.
텍스트 분할 (Text Splitting): 로드된 문서를 LLM이 처리하기 적절하고 검색 효율이 높은 **작은 조각(Chunk)**으로 자릅니다.
- 필요성: * 콘텍스트 제한: LLM은 한 번에 읽을 수 있는 양이 정해져 있습니다.
- 검색 정밀도: 문서 전체보다 질문과 밀접한 특정 부분만 찾아내는 것이 훨씬 정확합니다.
- 단순히 글자 수로 자르거나, 문단·재귀적 구조(Recursive)를 고려하여 의미가 끊기지 않게 자르는 기법을 사용합니다. (이때 조각 간에 약간의 겹침(Overlap)을 두어 문맥 유실을 방지합니다.)
임베딩 (Embedding): 분할된 텍스트 조각을 고차원적인 의미를 지닌 **숫자 리스트(Vector)**로 변환합니다.
- 의미적 수치화: "사과"와 "포도"는 숫자상으로 가깝게, "사과"와 "자동차"는 멀게 배치합니다.
- 모델 사용: OpenAI의 text-embedding-3-small이나 HuggingFace의 오픈소스 모델 등을 사용하여 변환합니다.
- 이 과정을 통해 컴퓨터는 단어의 철자가 달라도 의미가 유사한지를 수학적으로 계산할 수 있게 됩니다.
벡터 DB 저장 (Vector Store): 생성된 벡터와 원본 텍스트(청크)를 함께 저장하고, 고속으로 유사도 검색을 수행할 수 있는 데이터베이스에 보관합니다.
- 인덱싱: 수만 개의 벡터 중 질문과 가장 유사한 것을 0.1초 내에 찾을 수 있도록 최적화된 색인을 생성합니다.
- 관리: 데이터의 추가, 삭제, 업데이트를 지원합니다.
- 대표적 도구: Chroma, Pinecone, FAISS, Milvus 등.

2-2. 쿼리 과정 (Querying: 사용자 응답 단계)

사용자의 질문을 기반으로 저장된 데이터를 찾아 답변을 생성하는 실시간 실행 단계입니다.

Retrieve (검색): 사용자의 질문을 인덱싱 때와 동일한 모델로 임베딩한 후, 벡터 DB에서 가장 유사한 관련 청크들을 찾아옵니다.
Augment (증강): 검색된 정보와 사용자의 질문을 하나의 프롬프트 템플릿으로 합칩니다. ("다음 정보를 바탕으로 질문에 답해줘: [검색된 내용] + [사용자 질문]")
Generate (생성): 보강된 프롬프트를 LLM에 전달하여, 모델이 외부 지식을 참고한 최종 답변을 생성하도록 합니다.

2-2-1. User → Retrieval Model : 질문 입력

사용자가 자연어로 질문을 입력하면 Retrieval Model은 이 질문을 임베딩 벡터로 변환합니다.
이 벡터는 이후 문서 검색과 유사도 비교의 기준이 됩니다.

2-2-2. Retrieval Model → Knowledge Base : 관련 문서 검색

변환된 질문 벡터는 Knowledge Base 내부의 수많은 문서 벡터들과 비교됩니다.
Nearest Neighbor Search를 통해 가장 유사한 문서 Top-k(예: 3~5개)를 찾으며, 이를 "context"라고 부릅니다.

2-2-3. Knowledge Base → Pre-trained LLM : 근거 문서 제공

Knowledge Base는 Retrieval Model이 요청한 문서 chunk들을 반환합니다.
이 문서들은 LLM이 답변을 생성할 때 참고할 정보이며, 환각(hallucination)을 줄이는 핵심 근거가 됩니다.

2-2-4. Pre-trained LLM → User : 최종 답변 생성

LLM은 사용자 질문과 검색된 문서를 하나의 입력으로 통합하여 분석합니다.
이를 통해 단순 생성이 아닌 **근거 기반 답변(grounded answer)**을 만들고, 최종적으로 사용자에게 응답을 제공합니다.

3. 전체 구조 한눈에 보기

문장을 간단히 정리하면 다음과 같은 순서입니다.

단순화된 흐름

User  
→ 질문 입력

Retrieval Model  
→ 질문 임베딩 및 유사 문서 검색

Knowledge Base  
→ Top-k 문서(context) 반환

Pre-trained LLM  
→ 검색된 문서를 바탕으로 답변 생성

User  
→ 최종 응답 수신

핵심 포인트

LLM 단독 사용 → 훈련 데이터에 한정, 환각 발생 가능
RAG 사용 → 외부 DB 참조로 최신/정확한 답변 제공

즉, RAG는 “AI가 도서관을 다녀와서 답하는 과정”이라고 보면 됩니다.

[RAG의 필요성과 종류]

1. RAG가 왜 필요한가?

정확성과 신뢰성 향상
잘못된 정보 생성을 줄이고, 사용자 신뢰를 높임.
재학습 없이 최신 정보 활용
모델 재학습 없이도 최신 데이터 반영 가능.
투명성과 검증 가능성
참조한 자료의 출처를 함께 제공할 수 있음.
도메인 특화 활용
의학, 법률, 금융 등 최신성과 정확성이 중요한 분야에서 강력한 장점 발휘.

2. RAG의 종류 (Graph RAG 등)

일반 RAG (Vector-based RAG) : 벡터 DB에서 유사한 문서를 검색해 사용하는 가장 기본적인 방식.
Graph RAG (Knowledge Graph 기반) : 문서 속 개체와 관계를 그래프 형태로 구조화해, 복잡한 연결 정보를 더 잘 이해.
Dynamic RAG & Parametric RAG : 답변 생성 중 실시간으로 검색을 반복하거나, 파라미터 수준에서 검색 결과를 통합하는 새로운 방식.
Multimodal RAG : 텍스트뿐 아니라 이미지, 그래프 등 다양한 데이터를 함께 검색해 활용.

3. 예시: 일상생활에서 어떻게 활용될까?

학교 숙제 도우미 : 최신 교과서/백과사전 검색 후 답변.
회사 내부 문서 검색 : 회의록·보고서에서 바로 답 찾아줌.
의료 상담 : 최신 의학 논문 기반 정보 제공.
법률 상담 : 실제 판례나 법령 전문을 검색 후 요약 제공.

[정리]

항목 핵심 내용 요약

이슈화	환각 문제 해결, 최신 정보 반영, 실질적 대안으로 부상
정의 (초보자)	“검색해서 가져온 정보로 AI가 더 정확하게 대답”
동작 원리	질문 → 벡터 변환 → DB 검색 → LLM + 문서 → 답변
필요성	정확성↑, 비용↓, 신뢰성 및 투명성 확보, 도메인 적용 가능
종류	Vector RAG, Graph RAG, Dynamic/Parametric RAG, Multimodal RAG 등
일상 예시	숙제, 회사 문서, 의료/법률 상담 등 다양한 분야에서 활용 가능

오늘 RAG에 대한 기본 개념에 대해 알아보았는데요, 이해가 잘 되셨나요? 다음 시간에는 RAG의 deep한 내용 및 실습을 해보는 시간을 갖겠습니다!

궁금한 사항이 있으시면, 언제든 댓글 남겨주세요!
그럼 다음에 만나요! 안녕

Reference

https://medium.com/@krtarunsingh/introduction-to-retrieval-augmented-generation-rag-and-its-transformative-role-in-ai-c07e35da7f01

노벨상을 쓸어버린 AI연구자들

Master.M — Wed, 16 Oct 2024 22:54:57 +0900

안녕하세요, coding your life, 코딩오페라입니다. 여러분 이번주에 정말 믿기 힘든 사건이 일어났습니다. 바로 노벨 물리학상과 화학상에서 모두 AI연구자들이 수상을 하게 되었는데요. 기초과학자의 공로를 수상하는 보수적인 노벨상이 어떻게 해서 AI연구자들에게 돌아갔는지 모두의 이목이 집중되는 가운데, 지금부터 코딩오페라가 이해하기 쉽게 설명 드리겠습니다.

노벨 물리학상 수상자(좌)와 화학상 수상자들(우)

이번 노벨 수상자는 물리학상 2명, 화학상 3명이 수상하게 되었습니다. 먼저 물리학상 수상자인 홉필드와 힌튼 교수는 AI NN(뉴럴네트워크)를 발전시킨 공로로 수상하였고, 화학상 수상자인 베이커 교수, 하사비스, 점퍼는 단백질 구조를 예측하는 모델인 Alphafold를 통해 단백질의 구조를 파악한 공로로 수상하였습니다. 정말 특이한점은 하사비스와 점퍼는 구글 딥마인드팀의 AI연구원으로 화학학계와는 거리가 다소 있다는 점입니다. 이 때문에 이번 노벨상에 많은 사람들이 관심을 두고 있는데요. 지금부터 하나씩 벗겨보겠습니다.

노벨 물리학상

인공지능(딥러닝) 연대기

본격적인 설명에 앞서 AI 발전 연대기를 설명 드리겠습니다. 1950년 천재 컴퓨터 공학자 튜링은 인간과 구별할 수 없는 기계의 능력을 테스트하는 ‘튜링테스트’를 개발하여 인공지능의 서막이 열리기 시작했습니다. 이후 1958년 프랭크 로젠블라트가 AI의 기초가 되는 인공신경망(ANN)을 세계 최초로 개발하며 부흥기를 얻는 AI는 1969년 민스키와 페퍼트가 XOR 문제를 인공신경망으로 풀 수 없다는 것을 증명하면서 암흑기에 접어듭니다. 당시 정부나 기업 등 많은 기관에서 불가능하다고 증명된 AI기술에 대한 투자를 전면 중단했습니다. 이후 XOR문제를 다층 퍼셉트론으로 해결하여, 두번째 호황기에 접어들지만, 곧 자금문제로 암흑기에 도달합니다. 그러나 2010년대 초반이후 컴퓨터의 컴퓨팅성능이 좋아짐에 따라 AI는 컴퓨터비전, 자연어처리, 강화학습 등 다양한 분야에서 성과를 내었고 현재 OpenAI ChatGPT, Google Gemini 등의 강력한 모델이 실생활에 활용되므로써 전례 없는 호황을 누리고 있습니다. 이렇게 AI의 역사를 보면, 호황기와 불황기가 번갈아가며 오는데요. 호황기와 불황기에 연연해하지않고 꾸준히 연구한 연구자가 있었으니 그들의 이름은 바로 홉필드와 힌튼입니다.

1. 홉필드

1982년 물리학자인 홉필드는 물리학 이론을 적용한 ‘홉필드 네트워크’를 개발합니다. 물리학에서 전자는 회전 스핀에 따라 에너지가 결정됩니다. 그림과 같이 전자가 시계방향으로 회전하면 -1/2, 반시계 방향으로 회전하면 +1/2만큼의 에너지를 가지게 되는데, 이 때 에너지는 전자의 각운동량을 의미합니다. 이를 네트워크에 착안한 홉필드는 기존 0~1값이 아닌 -1, +1값으로 네트워크의 weight값을 양극화했습니다. 그런다음 input값에 대한 weight값을 계산하고 이를 저장합니다. 이를 통해 이후 다른 input값이 들어오면 기존에 저장된 weight값들을 통해 output을 예측할 수 있습니다. 좀 저 자세히 설명하자면, 노드 A, B, C의 값을 알고 D, E는 모를 때 기존에 계산된 노드간의 상관관계 weight값들을 통해 노드 D, E값을 예측 할 수 있습니다. 뿐만 아니라 홉필드 네트워크는 에너지를 사용해서 원본과 예측본의 에너지 차이가 가장 작은 방향으로 학습하게 됩니다. 그림을 보시면 에너지를 그래프화 한 모습인데, loss function과 비슷하게 생겼습니다. 이를 통해 훼손된 J를 온전한 J로 변환하는 것을 볼 수 있는데, 이렇듯 홉필드 네트워크는 과거의 기억을 통해 연상작용 하는 것에 특화된 네트워크입니다.

2. 힌튼

힌튼이 개발한 볼츠만 머신과 방정식

1985년 힌튼은 볼프만 머신을 개발하여 이를 공로로 이번 노벨 물리학상을 수상하게되었습니다. 볼츠만 머신은 이름에서 알다시피 ‘볼츠만 방정식’에서 착안한 아이디어인데, 볼츠만 방정식은 1872년 볼츠만이 기체 내 분자들의 운동을 통계적으로 모델링하여 기체의 성질을 설명하는데 사용하기위해 만든 방정식입니다. 힌튼은 이런 통계학적 개념을 인공신경망의 뉴런에 적용하여 결정론적으로 출력값을 출력하지않고, 확률적으로 출력하는 볼츠만 머신을 개발했습니다. 볼츠만 머신은 확률과 통계기법을 사용하기 때문에 기존의 네크워크보다 더욱 많은 경우의 수를 다룰 수 있었고, 힌튼은 기존 네트워크에서 Hidden Node, Visible Node간의 연결을 끊은 Restricted Boltzmann Machine(RBM)을 개발하여 연산효율 극대화할 수 있었습니다. 이 모양은 효율이 좋아 현재도 많이 사용되고 있는 NN 구조입니다.

노벨 화학상

1. Alphafold

단백질과 아미노산 서열

단백질은 생명을 구성하는 기본 물질중의 하나로, 치료제 개발 등 의학분야에서 가장 중요한 연구분야입니다. 이러한 단백질은 아미노산으로 구성되어 있는데, 아미노산의 구성요소, 배열에 따라 단백질의 3차원 구조가 달라지게 됩니다. 때문에 단백질의 3차원 구조를 파악하는 연구가 진행되었고, 마침내 페루츠와 켄드루가 X선 결정법을 이용하여 단백질의 구조를 파악하였습니다. 이를 공로로 1962년 노벨화학상을 수상하게 되는데요. 그러나 X선 결정법은 단백질 하나를 분석하는데 평균적으로 5년의 시간과 10만달러의 비용이 발생하게 되어 연구자들의 앞길을 가로막았습니다. 이로인해 인간이 발견한 2억개의 단백질 중 구조가 파악된 것은 0.1%수준인 20만개가 채 되지 않았습니다. 그러나 이 문제를 해결한 것은 바로 인간이 아닌 AI모델 ‘Alphafold’였습니다.

X선 결정법

Alphafold는 우리에게 이세돌 9단을 꺾은 알파고 바둑 AI를 만든 것으로 유명한 구글의 자회사 딥마인드에서 개발한 단백질 구조예측 AI 모델입니다. Alphafold는 크게 유전분석 부분(Genetic)과 구조분석(Structure) 부분으로 나뉩니다. 유전분석에서는 다른 종들과 유전자의 유사점을 찾는 Multiple Sequence Alignment(MSA)를 시행합니다. 생물에서의 기능이 같더라도 종에 따라 달리 진화하면서 아미노산의 배열이 바뀌어 단백질의 구조가 달라질 수 있는데, 이들간의 공통점을 찾는 부분이라고 생각하시면 됩니다. 예를들어 사람의 미오글로빈과 말의 미오글로빈은 모두 근육에서 사용할 산소를 저장하는 기능은 같지만, 아미노산의 서열은 달라 단백질의 구조 역시 모두 다릅니다. 그 다음 구조분석에서는 Distance Map을 활용하여 단백질의 구조를 파악합니다. Distance Map에서는 단백질을 이루는 각 아미노산들의 거리를 통해 단백질의 3차원 구조를 파악합니다. 이러한 2가지 방식을 이후 Evoformer를 통해 학습시키고 최종적으로 아미노산 서열을 통해 단백질의 구조를 예측합니다.

Multiple Sequence Alignment(MSA)(좌측), Distance Map(우측)

이런 Alphafold의 성능은 정말 놀라웠습니다. 2018년 단백질 구조 예측 대회인 ‘CASP’에서 기존 정확도 40% 모델들에 비해 월등히 높은 60%를 자랑하였고, 2020년에는 무려 정확도 90%까지 성능이 향상되었습니다. 뿐만 아니라 2022년 인간이 발견한 모든 단백질 2억개의 구조를 모두 파악하는데 성공하였습니다. 이는 기존 X선 결정법으로 10억년이 걸릴문제를 단 몇일만에 해결한 놀라운 성과입니다. 이로인해 현재 200만명이 넘는 제약업계 종사자들이 이미 Alphafold를 사용중이며, 앞으로의 신약개발이 더욱 빠르고 획기적일 것으로 전망하고 있습니다.

11. 이번 노벨상이 정말 뜻깊은 이유는 해당 분야에 전공지식이 깊지 않은 AI연구자들이 수상을 했다는 점입니다. 특히 노벨 화학상을 수상한 하사비스와 점퍼는 구글 딥마인드의 직원이죠. 제 생각에는 정말 이제 AI의 시대가 열린 것이 아닌가 하는 생각이 듭니다.

알파폴드의 성능

오늘 글을 제 유튜브 채널에 영상으로도 만들어노았으니, 영상을 보고싶으신 분들은 아래 링크를 참고하세요!

https://www.youtube.com/watch?v=J72mlXbm2qU&t=242s&ab_channel=CodingOperaKorea

AI연구자 노벨상 수상이 시사하는 점

그러나 이러한 AI에 대한 우려의 목소리도 나오는데요. 이번 노벨 물리학상 수상자인 힌튼교수는 AI가 현재 무섭도록 발전하고 있는 상황에서 인류에게 위협이 될 수 있다고 경고하고 있습니다. 실제 그는 이를 이유로 작년 구글을 퇴사하였습니다. 이와 반대로 구글 딥마인드의 CEO이자 노벨 화학상 수상자인 하사비스는 AI의 발전으로 인해 수십억명의 삶을 개선할 잠재력이 있다고 언급하며, AI의 발전에 대해 긍정적인 발언을 하였습니다.

여러분의 생각은 어떠하시나요? 댓글로 의견을 주시면 감사하겠습니다. 마음에 드셨다면 좋아요와 구독을 통해 저를 응원해주세요! 현재 저는 인공지능 및 코딩관련 블로그와 오픈채팅방도 운영중인데, 링크를 아래 달아놨으니, 인공지능에 대해 서로 배우고 정보공유하고 싶으신 분들은 꼭 참여부탁드리겠습니다. 저는 여러분의 인생을 코딩해드릴 “coding your life” 코딩오페라입니다. 다음시간에 만나요 안녕!

코딩오페라 유튜브 채널

https://www.youtube.com/@codingopera9945

Coding Opera Korea

www.youtube.com

코딩오페라 인공지능, 코딩 오픈 카카오톡방

https://open.kakao.com/o/ggxse9sg

인공지능/AI/코딩 공부방(코딩오페라)

인공지능/AI/코딩 공부방

open.kakao.com

코딩오페라 카카오톡 오픈프로필

https://open.kakao.com/o/sH7qSH9d

Coding Opera님의 오픈프로필

미래 먹거리인 AI를 가르치는 강사입니다. AI 과외 및 진학(중, 고, 대학, 대학원)관련해서 궁금한 사항이 있으시면 언제든지 자유롭게 연락주세요.

open.kakao.com

ChatGPT를 사용해 주가 분석 코드 작성하기

Master.M — Sun, 18 Aug 2024 14:26:11 +0900

안녕하세요, Coding your life, '코딩 오페라'입니다. 오늘은 최근 이슈가 되고 있는 'ChatGPT(챗지피티)'를 사용해 원하는 종목의 주가를 불러와 분석하는 방법을 소개해드리고자 합니다. 현재 저는 '초등학생도 이해하는 ChatGPT'라는 주제로 ChatGPT사용법에 대해 포스팅을 하고 있습니다. 제목처럼 진짜 핵심 내용을 쉽게 설명하는 것을 목표로 하고 있으니 ChatGPT에 입문하고 싶은 분들은 많은 관심 부탁드립니다.

ChatGPT

우선 ChatGPT에 대해 간단히 설명하자면, OpenAI에서 개발한 인공지능 챗봇으로, 사람처럼 자연스럽게 대화할 수 있는 스마트한 어스시턴트에요. 이와 관련해 자세한 설명, 회원가입 및 사용법은 아래 포스팅에서 진행을 하였으니 읽어보시지 않으신 분들은 꼭 아래글을 먼저 읽고 와주세요!

https://codingopera.tistory.com/78

[초등학생도 이해하는] 챗지피티(ChatGPT) 가입부터 사용법까지

안녕하세요, Coding your life, '코딩 오페라'입니다. 오늘은 최근 이슈가 되고 있는 '챗지피티(ChatGPT)'의 가입부터 사용방법까지 소개해드리고자 합니다. 현재 저는 '초등학생도 이해하는 챗지피

codingopera.tistory.com

ChatGPT를 활용한 주가 분석

자 그럼 지금부터는 ChatGPT를 활용하여 주가를 분석하는 코드를 만들어 보겠습니다. 저는 ChatGPT에게

" 나는 주식 트레이더고, 너는 내가 고용한 개발자야. 내가 요구사항을 말하면 이에 해당하는 파이썬 코드를 제출하면 돼.

[요구사항]

오늘 2024년 7월 31일부터 지난 10년간 '마이크로소프트' 주식의 일봉을 크롤링하는 파이썬 코드를 만들어줘! "

라고 질문을 하였습니다. 여기서 ChatGPT에 대한 프롬프트 엔지니어링 기술이 들어갔는데, 다음과 같이 ChatGPT에게 역할을 부여하고, 내가 어떤 것을 ChatGPT에게 원하는지 명시해 주면 질 좋은 답변을 얻을 수 있습니다.

import yfinance as yf
import pandas as pd
from datetime import datetime, timedelta

# 오늘 날짜와 10년 전 날짜 설정
end_date = datetime(2024, 7, 31)
start_date = end_date - timedelta(days=365*10)

# '마이크로소프트' 주식 데이터 다운로드
ticker = "MSFT"
msft_data = yf.download(ticker, start=start_date, end=end_date)

# 데이터 출력 (첫 5개 행)
print(msft_data.head())

# 데이터 저장 (CSV 파일로 저장)
msft_data.to_csv('MSFT_daily_data.csv')

그러면 ChatGPT가 다음과 같은 코드를 작성해 주었습니다. 이제 이 코드가 잘 작동하는지 알아보겠습니다. 원래 파이썬 코드를 실행하려면 많은 환경설정이 필요한데, 오늘은 이러한 설정이 필요 없는 colab을 활용하도록 하겠습니다.

우선 아래 colab 사이트에 들어가 줍니다.

https://colab.google/

colab.google

Colab is a hosted Jupyter Notebook service that requires no setup to use and provides free access to computing resources, including GPUs and TPUs. Colab is especially well suited to machine learning, data science, and education.

colab.google

그러면 위와 같이 사이트가 나오게 되는데요, 여기서 Open Colab을 클릭하고, 새 노트를 클릭해 줍니다.

그런 다음 ChatGPT가 작성한 코드를 붙여 넣고 실행버튼 혹은 "Shift + Enter" 버튼을 통해 코드를 실행해 줍니다. 그러면 요구사항대로 마이크로소프트의 지난 10년간 주가가 csv파일로 저장이 되었습니다.

이제 이를 다운로드 해고 확인해 주면, 위와 같이 날짜, 시가, 고가, 저가, 종가 등 다양하게 분석되어 csv파일로 주가가 저장된 모습을 확인할 수 있습니다.

그런데 뭔가 아쉽습니다. 위 주가 결과를 csv파일이 아닌 그래프로 한눈에 알고 싶습니다. ChatGPT의 장점은 원하는 요구사항을 별도의 노력을 하지 않아도, 추가적으로 요구만 하면 자동으로 코드를 작성해 준다는 겁니다. 그래서 저는 다음과 같은 프롬프트를 추가해 주었습니다.

"잘했어 ChatGPT. 그런데 그래프로 주가를 확인하고 싶은데, 그래프를 그려주는 파이썬 코드를 만들어줘! "

import yfinance as yf
import pandas as pd
from datetime import datetime, timedelta
import matplotlib.pyplot as plt

# 오늘 날짜와 10년 전 날짜 설정
end_date = datetime(2024, 7, 31)
start_date = end_date - timedelta(days=365*10)

# '마이크로소프트' 주식 데이터 다운로드
ticker = "MSFT"
msft_data = yf.download(ticker, start=start_date, end=end_date)

# 주가 그래프 그리기
plt.figure(figsize=(14, 7))
plt.plot(msft_data['Close'], label='MSFT Close Price', color='blue')
plt.title('Microsoft (MSFT) Stock Price (2014-2024)')
plt.xlabel('Date')
plt.ylabel('Close Price (USD)')
plt.grid(True)
plt.legend()
plt.show()

그랬더니 ChatGPT가 위와 같은 코드를 작성해 주었습니다. 이 코드를 실행해 보면 아래와 같은 그래프가 출력됩니다.

여기서 20, 30, 60, 90일 이동평균선을 추가하려면 어떻게 해야 될까요? 바로 ChatGPT에게 20, 30, 60, 90일 이동평균선을 추가해 달라고 요청하면 됩니다. 참 쉽죠? 저의 경우에는 다음과 같이 요구를 하였습니다. "해당 그래프의 20, 30, 60, 90일 이동평균선도 같이 알고 싶은데, 이를 그래프에 모두 그려주는 파이썬 코드를 만들어줘! " 따라서 ChatGPT가 다음과 같은 코드를 작성해 주었습니다.

import yfinance as yf
import pandas as pd
from datetime import datetime, timedelta
import matplotlib.pyplot as plt

# 오늘 날짜와 10년 전 날짜 설정
end_date = datetime(2024, 7, 31)
start_date = end_date - timedelta(days=365*10)

# '마이크로소프트' 주식 데이터 다운로드
ticker = "MSFT"
msft_data = yf.download(ticker, start=start_date, end=end_date)

# 20일, 30일, 60일, 90일 이동평균 계산
msft_data['MA20'] = msft_data['Close'].rolling(window=20).mean()
msft_data['MA30'] = msft_data['Close'].rolling(window=30).mean()
msft_data['MA60'] = msft_data['Close'].rolling(window=60).mean()
msft_data['MA90'] = msft_data['Close'].rolling(window=90).mean()

# 주가 및 이동평균선 그래프 그리기
plt.figure(figsize=(10, 5))
plt.plot(msft_data['Close'], label='MSFT Close Price', color='blue')
plt.plot(msft_data['MA20'], label='20-Day MA', color='red', linestyle='--')
plt.plot(msft_data['MA30'], label='30-Day MA', color='green', linestyle='--')
plt.plot(msft_data['MA60'], label='60-Day MA', color='orange', linestyle='--')
plt.plot(msft_data['MA90'], label='90-Day MA', color='purple', linestyle='--')
plt.title('Microsoft (MSFT) Stock Price with Moving Averages (2014-2024)')
plt.xlabel('Date')
plt.ylabel('Price (USD)')
plt.grid(True)
plt.legend()
plt.show()

이 코드를 실행하자 우리가 원했던 요구사항과 동일하게 아래와 같이 20, 30, 60, 90일 이동평균선도 그려지는 것을 확인할 수 있습니다.

부가적으로 ChatGPT가 작성해 준 코드에 대해 원리를 알고 싶으면, 원리를 알고 싶다고 질문을 하면 됩니다. 저는 다음과 같이 질문을 하였습니다.

" 위 코드에 대한 원리를 코딩을 처음 하는 사람이 알아들을 정도로 자세히 설명해 줘! "

위와 같이 ChatGPT에게 요구할 때는 요구사항을 명확하게 전달하여야 합니다. 저의 경우에는 코딩을 처음 하는 사람도 알아들을 수 있는 수준으로 자세하게 코드 리뷰를 진행해 달라고 했는데요, 이렇게 명확하고 구체화된 프롬프트를 입력할수록, ChatGPT가 여러분이 원하는 답변을 해줍니다. 어쨌듯 다음과 같이 ChatGPT가 자세히 코드에 대해 설명해 주었습니다.

ChatGPT 답변

물론이죠! 코드를 처음 접하는 사람도 이해할 수 있도록 자세히 설명해 드릴게요. 이 코드에서는 마이크로소프트 주식의 일일 종가 데이터를 가져와서, 그 데이터를 시각화하고, 이동평균선을 추가하여 그래프에 함께 표시합니다.

1. 필요한 라이브러리 가져오기
python
코드 복사
import yfinance as yf
import pandas as pd
from datetime import datetime, timedelta
import matplotlib.pyplot as plt
이 부분에서는 우리가 사용할 여러 도구(라이브러리)를 가져옵니다.

yfinance: 주식 데이터를 다운로드하는 데 사용합니다.
pandas: 데이터를 쉽게 다룰 수 있게 해줍니다.
datetime과 timedelta: 날짜를 다루는 데 필요합니다.
matplotlib.pyplot: 데이터를 시각화(그래프로 그리기)하는 데 사용합니다.
2. 날짜 설정
python
코드 복사
end_date = datetime(2024, 7, 31)
start_date = end_date - timedelta(days=365*10)
여기서는 데이터를 가져올 날짜 범위를 설정합니다.

end_date는 오늘 날짜인 2024년 7월 31일로 설정합니다.
start_date는 10년 전으로 설정합니다. timedelta(days=365*10)는 10년을 의미합니다.
3. 마이크로소프트 주식 데이터 다운로드
python
코드 복사
ticker = "MSFT"
msft_data = yf.download(ticker, start=start_date, end=end_date)
ticker는 주식 종목의 고유한 코드입니다. 여기서는 마이크로소프트의 코드인 "MSFT"를 사용합니다.
yf.download() 함수는 지정한 기간 동안의 주식 데이터를 가져옵니다. start와 end로 범위를 설정하고, 그 데이터를 msft_data라는 변수에 저장합니다.
4. 이동평균 계산
python
코드 복사
msft_data['MA20'] = msft_data['Close'].rolling(window=20).mean()
msft_data['MA30'] = msft_data['Close'].rolling(window=30).mean()
msft_data['MA60'] = msft_data['Close'].rolling(window=60).mean()
msft_data['MA90'] = msft_data['Close'].rolling(window=90).mean()
이 부분에서는 이동평균을 계산합니다.

이동평균(Moving Average): 특정 기간 동안의 평균 주가를 계산한 값입니다. 예를 들어, 20일 이동평균은 최근 20일 동안의 평균 주가를 의미합니다.
msft_data['Close']: 주식의 일일 종가(마감 가격) 데이터를 가져옵니다.
rolling(window=...): 지정한 기간 동안의 데이터를 롤링(슬라이딩)하면서 그 평균값을 계산합니다. window=20은 20일 동안의 평균을 의미합니다.
각 이동평균은 새로운 열로 추가되며, msft_data에 저장됩니다.
5. 그래프 그리기
python
코드 복사
plt.figure(figsize=(10, 5))
plt.plot(msft_data['Close'], label='MSFT Close Price', color='blue')
plt.plot(msft_data['MA20'], label='20-Day MA', color='red', linestyle='--')
plt.plot(msft_data['MA30'], label='30-Day MA', color='green', linestyle='--')
plt.plot(msft_data['MA60'], label='60-Day MA', color='orange', linestyle='--')
plt.plot(msft_data['MA90'], label='90-Day MA', color='purple', linestyle='--')
plt.title('Microsoft (MSFT) Stock Price with Moving Averages (2014-2024)')
plt.xlabel('Date')
plt.ylabel('Price (USD)')
plt.grid(True)
plt.legend()
plt.show()
여기서는 주가와 이동평균선을 그래프로 그립니다.

plt.figure(figsize=(10, 5)): 그래프의 크기를 설정합니다. 이 경우, 가로 10인치, 세로 5인치로 설정했습니다.
plt.plot(): 그래프에 데이터를 그립니다.
msft_data['Close']는 일일 종가 데이터를 파란색 실선으로 그립니다.
msft_data['MA20'], msft_data['MA30'], msft_data['MA60'], msft_data['MA90']는 각각의 이동평균선을 표시합니다. 이들은 각각 빨간색, 녹색, 주황색, 보라색 점선으로 표시됩니다.
plt.title(): 그래프의 제목을 설정합니다.
plt.xlabel()과 plt.ylabel(): X축과 Y축의 레이블을 설정합니다.
plt.grid(True): 그래프에 그리드(격자)를 추가하여 보기 쉽게 만듭니다.
plt.legend(): 그래프에 각 선이 무엇을 의미하는지 알려주는 범례를 추가합니다.
plt.show(): 최종적으로 그래프를 화면에 표시합니다.
요약:
이 코드는 마이크로소프트 주식의 일일 종가와 20일, 30일, 60일, 90일 이동평균선을 그래프로 그려줍니다. 이렇게 하면 시간에 따른 주식 가격의 변동과 평균적인 추세를 쉽게 파악할 수 있습니다.

이해가 잘 되셨길 바랍니다! 코딩을 배우는 과정에서 궁금한 점이 있으면 언제든지 물어보세요.

마지막에 전체 내용을 요약까지 해줍니다. 정말 대박이지 않나요? 제가 생각하기엔, ChatGPT는 최고의 어시스턴트입니다.

자 오늘은 ChatGPT를 활용하여 코딩을 1도 몰라도 주식을 분석하는 코드를 작성해 보았는데요, 어떠셨나요? 저는 개인적으로 정말 대박이라고 생각합니다! ChatGPT로 코딩하는 내용을 정리를 하자면 다음과 같습니다.

정리

1. ChatGPT에게 ChatGPT의 역할과 나의 역할을 지정해 준다.

2. ChatGPT에게 명확한 요구사항을 구체적으로 지시해 준다.

3. ChatGPT와 계속 대화를 하면서, 원하는 정답에 가깝게 버전을 업데이트해준다.

추가적으로 제가 AI 학습 관련 오픈 카카오톡방을 만들었습니다. AI와 사용법에 목말라 있으신 분들이 라면 누구나 들어와서 즐겁게 맘껏 정보공유와 AI 공부하시면 될 것 같습니다. 링크는 다음과 같이니 꼭 한번 참석 및 홍보 부탁드리겠습니다.
https://open.kakao.com/o/ggxse9

인공지능/AI/코딩 공부방(코딩오페라)

인공지능/AI/코딩 공부방

open.kakao.com

지금 까지 'ChatGPT를 이용해 주가를 분석하는 코드'에 대해 알아보았는데, 도움이 되셨나요? 만약 되셨다면 구독 및 좋아요로 표현해 주시면 정말 감사하겠습니다. 구독과 좋아요는 제가 블로그를 운영하는 데 정말 많은 힘이 됩니다. 궁금한 사항 혹은 앞으로 다루어 주었으면 좋을 주제가 있으시면 댓글 남겨주시면 감사하겠습니다. 여러분 저는 Coding your life, '코딩 오페라'였습니다.

[초등학생도 이해하는] 챗지피티(ChatGPT) 가입부터 사용법까지

Master.M — Sun, 11 Aug 2024 18:21:50 +0900

안녕하세요, Coding your life, '코딩 오페라'입니다. 오늘은 최근 이슈가 되고 있는 '챗지피티(ChatGPT)'의 가입부터 사용방법까지 소개해드리고자 합니다. 현재 저는 '초등학생도 이해하는 챗지피티'라는 주제로 챗지피티 사용법에 대해 포스팅을 하고 있습니다. 제목처럼 진짜 핵심 내용을 쉽게 설명하는 것을 목표로 하고 있으니 챗지피티에 입문하고 싶은 분들은 많은 관심 부탁드립니다.

챗지피티(ChatGPT)란?

챗지피티(ChatGPT)는 OpenAI에서 개발한 인공지능 챗봇으로, 사람처럼 자연스럽게 대화할 수 있는 스마트한 어스시턴트에요. 챗지피티가 출시되기 이전부터 많은 챗봇들이 있었지만 기능이 한정적이고 룰베이스 형식의 답변을 하다 보니, 로봇처럼 딱딱했습니다. 그러나 챗지피티는 1750억 개가 넘는 파라미터로 이루어진 초거대 AI 모델을 바탕으로 사람처럼 자연스러운 대화를 이끌어낸다는 점에서 전 세계의 주목을 받았습니다.

각 어플리케이션이 1억 유저를 달성하는데 걸린 시간

다음 그래프는 각 어플리케이션별 1억 유저를 보유하기까지 걸린 시간을 나타내는데요, 요즘 SNS로 가장 널리 알려진 인스타그램조차 30개월이 걸렸는데, 챗지피티는 무려 15배나 빠른, 고작 2개월 만에 달성할 만큼 현재 인기가 대단합니다.

지금부터 이렇게 강력하고 인기 있는 챗지피티에 대한 튜토리얼을 진행하도록 하겠습니다.

챗지피티 가입

위에서 챗지피티에 대해 간단히 알아봤으니, 이제 챗지피티를 실제로 사용하기 위해 회원가입 절차를 알아보겠습니다.

우선 구글 검색창에 챗지피티라고 검색해 줍니다. 검색 결과가 나오면, 가장 위에 있는 챗지피티 OpenAI를 클릭해 줍니다. 그러면 챗지피티 홈페이지(https://openai.com/chatgpt/)가 나오는데요 여기서 Start now 버튼을 클릭해 주면 다음과 같이 챗지피티가 나옵니다. 여기서 바로 챗지피티를 사용할 수도 있지만, 다양한 기능을 사용하기 위해서 회원가입을 추천드립니다.

회원 가입은 오른쪽 맨 위 버튼을 통해 진행하실 수 있어요. 구글, 마이크로소프트, 애플 계정이 있으시면 간편하게 클릭 몇 번으로 할 수 있는데요. 저는 구글 계정이 있기 때문에 구글 계정으로 회원가입을 해보도록 하겠습니다.

구글로 계속하기를 눌러주고, 챗지피티에 사용할 계정을 클릭해 주고 계속 버튼을 눌러줍니다. 그러면 다음과 같이 “사용자님에 대해 알려주세요.”라고 나오는데요. 여기서 여러분이 원하시는 닉네임과 생년월일을 적으시면 됩니다. (미국은 일/월/년 순으로 작성하는 점 유의해주세요.) 다 작성하시면 동의함 버튼을 눌러 다음 단계로 넘어가면, 드디어 챗지피티계정이 로그인된 화면이 나타납니다.

보시면 화면의 좌측 상단에, 새 채팅 아이콘이 있는데요. 챗지피티와 채팅창을 여러 개 만들어주는 역할을 해요. 챗지피티의 경우 이전 문맥을 기억해 사람처럼 자연스러운 답변을 구사하지만, 만약 대화주제가 섞여버리면 답변의 성능이 저하돼요. 때문에 글쓰기 아이콘을 통해 각 주제별로 채팅창을 분리해 놓으면, 챗지피티성능이 향상되게 됩니다.

그리고 아래쪽에는 검색창이 있습니다. 검색창에는 구글, 네이버와 같은 기존 검색엔진과 동일하게 질문하시면 돼요. 검색창의 왼쪽에는 클립 표시가 있는데, 이미지와 같은 파일을 업로드할 수 있습니다.

챗지피티 사용법

챗지피티에 대해 간단히 설명을 했으니, 실제로 사용을 해보면서 챗지피티의 기능에 대해 알아볼까요? 챗지피티는 크게 검색, 대화, 작문에 대한 기능이 있습니다.

검색

첫 번째 기능은 ‘검색’이에요. 전통적인 의미의 검색은 구글이나 네이버와 같은 검색 엔진에 단어 또는 간략한 문장을 입력하여 정보를 찾는 것을 의미합니다. 예를 들어 다음과 같이 챗지피티에 대해 알고 싶으면, 구글에 ‘챗지피티란?’이라고 검색을 한 뒤, 블로그, 기사 등의 글들을 직접 찾아가며 정보를 수집해야 하죠. 이는 유의미한 정보를 얻기까지 여러 개의 글을 읽어 종합해야 하며, 이로 인해 시간과 노력이 많이 들어간다는 단점이 있습니다.

반면 챗지피티는 사용자 커스터마이징 답변을 이용해 훨씬 간편합니다. 채팅창에 “챗지피티에 대해 설명해 줘!”라고 입력하면, 사용자가 굳이 여러 가지 글들을 찾아가며 읽지 않아도, 알아서 잘 설명을 해주죠. 또한 글의 구성도 읽기 편한 개조식으로 작성되어, 사용자의 가독성을 높여줍니다. 정말 놀랍지 않나요?

대화

두 번째 기능은 ‘대화’입니다. 이는 기존 검색과 챗지피티의 가장 큰 차이점입니다. 기존의 검색기능은 일방향적 소통 성격이 강해, 사용자가 원하는 답변을 찾기가 쉽지 않습니다. 그러나 챗지피티는 대화형식을 통해 사용자 원하는 커스터마이징 답변을 제공해요. 뿐만 아니라 실제 친구와 대화하듯이 일상적인 이야기도 가능한데요, 다음과 같이 “나 오늘 힘든 일이 있었어 ㅠㅠ”라고 말하면, 사용자의 감정을 파악하고 답변을 해줍니다. 보시면 처음에는 공감성 답변을 잘하다가 갑자기 로봇처럼 정보전달을 하는 것을 보실 수 있는데, 정말 웃기네요 ㅎㅎ.

작문

마지막 세 번째 기능은 ‘작문’입니다. 앞서 말씀드렸듯이 챗지피티는 인터넷의 글들을 통해 학습되었어요. 즉 독해와 작문에 특화되어있다는 뜻이죠. 때문에 제 경험상 챗지피티는 다른 어떤 무엇 보다도 글을 잘 쓰더라고요. 챗지피티에게 나에 대한 간략한 정보를 제공해 주고 취업 자소서를 작성해 달라고 하면 따란~ 하고 금세 1000자 분량의 글을 작성해 줍니다. 와 정말 놀랍습니다. 이제 자소서나 보고서 등 글을 쓰는데 시간을 들일 필요가 없어요! 혹시 챗지피티가 진짜 1000자로 작성했는지 확인해 보니 공백 제외 913자로 이 요구사항도 반영이 되었네요.

자 지금까지 챗지피티에 대한 회원가입부터 사용방법까지 튜토리얼을 진행했는데요, 이제 챗지피티에 대한 감이 좀 오시나요? 정리를 하자면, 챗지피티는 거대 언어모델을 이용한 인공지능 비서라고 생각하시면 됩니다. 주요 기능으로는 검색, 대화, 작문이 있어, 여러분들의 상황에 맞게 사용하시면 됩니다.

챗지피티를 조금더 유용하게 사용하고 싶으신 분들은 아래글을 참고해주세요!

https://codingopera.tistory.com/56

크롬 ChatGPT 확장프로그램 (설치, 한국어, 요약, 음성인식)

안녕하세요 '코딩 오페라'블로그를 운영하고 있는 저는 'Master.M'입니다. 요즘 ChatGPT의 인기가 대단해졌습니다. 그 이유는 바로 놀라운 성능 덕분인데요. 이번 시간에는 이러한 성능좋은 모델을

codingopera.tistory.com

정리

1. 챗지피티 회원가입

챗지피티 홈페이지에 접속해 'start now' 클릭
챗지피티창 우측 상단의 '회원가입' 클릭 후 구글, 애플, 마이크로소프트 계정을 통한 간편 회원가입
사용자 이름 및 생년월일을 입력하여 회원가입 완료

2. 챗지피티 기능

검색: 사용자 커스터마이징 답변을 도출하여, 기존 검색보다 훨씬 간편
대화: 챗지피티는 대화형식을 통해 정보전달뿐만 아니라 실제 친구와 대화하듯이 일상적인 이야기도 가능
작문: 자소서나 보고서등 사용자가 원하는 방향으로 글을 작성해 줌

추가적으로 제가 AI 학습 관련 오픈 카카오톡방을 만들었습니다. AI와 사용법에 목말라 있으신 분들이 라면 누구나 들어와서 즐겁게 맘껏 정보공유와 AI 공부하시면 될 것 같습니다. 링크는 다음과 같이니 꼭 한번 참석 및 홍보 부탁드리겠습니다.
https://open.kakao.com/o/ggxse9sg

인공지능/AI/코딩 공부방(코딩오페라)

인공지능/AI/코딩 공부방

open.kakao.com

지금 까지 '챗지피티(ChatGPT) 가입부터 사용법까지' 알아보았는데, 도움이 되셨나요? 만약 되셨다면 구독 및 좋아요로 표현해 주시면 정말 감사하겠습니다. 구독과 좋아요는 제가 블로그를 운영하는 데 정말 많은 힘이 됩니다. 궁금한 사항 혹은 앞으로 다루어 주었으면 좋을 주제가 있으시면 댓글 남겨주시면 감사하겠습니다. 여러분 저는 Coding your life, '코딩 오페라'였습니다.

[초등학생도 이해하는] 라마 3.1 설치 방법 초간단 정리(올라마, Ollama)

Master.M — Wed, 7 Aug 2024 23:07:00 +0900

안녕하세요, Coding your life, '코딩 오페라'입니다. 오늘은 최근 Meta에서 발표하여 이슈가 되고 있는 '라마 3.1' LLM(Large Language Models)을 직접 설치하는 방법에 대해 소개해드리고자 합니다. 현재 저는 '초등학생도 이해하는 자연어 처리'라는 주제로 자연어 처리(NLP)에 대해 포스팅을 하고 있습니다. 제목처럼 진짜 핵심 내용을 쉽게 설명하는 것을 목표로 하고 있으니 자연어 처리(NLP)에 입문하고 싶은 분들은 많은 관심 부탁드립니다.

라마 3.1

우선 라마 3.1에 대해 간략히 설명을 드리자면 지난 24년 7월 23일 페이스북의 모회사 Meta에서 공개한 오픈소스 대규모 언어모델(LLM, Large Language Model)입니다. 여기서 주목할 점은 Openai나 Google과 다르게 ChatGPT급 고성능 LLM을 무료로 코드를 공개하였다는 것입니다. 자세한 내용은 제가 저번에 포스팅해드렸으니 아래글을 참고하시기 바랍니다.
https://codingopera.tistory.com/76

초등학생도 이해하는 Llama 3.1

안녕하세요, Coding your life, '코딩 오페라'입니다. 오늘은 최근 Meta에서 발표하여 이슈가 되고 있는 'Llama 3.1' LLM(Large Language Models)에 대해 소개해드리고자 합니다. 현재 저는 '초등학생도 이해하는

codingopera.tistory.com

라마 3.1(Llama 3.1) 설치

이렇게 강력한 LLM이 오픈소스로 릴리즈 되었다면, 우리 모두 사용할 수 있다는 이야기인데, 그럼 어떻게 사용할 수 있을까요? 다양한 방법이 있겠지만 오늘은 가장 사용하기 쉬운 'Ollama'라는 사이트를 이용한 방법을 소개해드리겠습니다.

올라마(Ollama)

Ollama

'올라마'란 로컬 컴퓨터에서 LLM을 쉽게 실행할 수 있게 해주는 오픈소스 소프트웨어입니다. 올라마 사이트에는 정말이지 이름처럼 '라마, gemma, mistral' 등 다양한 LLM 모델들을 무료로 다운 및 실행할 수 있습니다. 그럼 지금부터는 올라마를 사용해 라마 3.1 모델을 다운 및 실행하는 방법에 대해 본격적으로 알려드리겠습니다.

1. 아래 링크를 통해 올라마 사이트에 들어가줍니다.
https://ollama.com/

Ollama

Get up and running with large language models.

ollama.com

2. 사이트 우측상단의 'Download'버튼을 클릭해 줍니다.

3. 다운로드할 버전을 선택해 줍니다.

위 과정을 실행했을 시, 다음과 같은 화면이 나오게 되는데, 올라마는 macOS, Linux, Windows 이렇게 3가지 OS에 맞는 버전을 제공합니다. 각자 환경에 맞는 OS를 선택하시면 됩니다. (저의 경우 Windows를 선택하겠습니다.) 이후 아래 "Download for Windows"를 클릭해 주면 올라마 실행파일이 다운로드됩니다.

4. 올라마 실행파일(OllamaSetup)을 실행해 줍니다.

OllamaSetup

위에서 다운로드한 실행파일을 더블클릭 해주고, Install, Next 버튼을 클릭해 주어 올라마를 설치해 줍니다.

설치를 다 했으면, 터미널 창을 켜서 ollama가 잘 깔렸는지 확인해 줍니다. 여기서 윈도우의 경우 윈도우키를 누르고 'cmd'를 검색하여 실행하시면 되고, 리눅스의 경우 'Crtl + Alt + T'를 통해, macOS의 경우 'Command + Space'를 누르고 'Terminal'를 입력하여 터미널 창을 띄우시면 됩니다. 이후 터미널 창에 'ollama'를 입력하면 다음과 같은 결과가 나타나게 됩니다.

보시면 터미널창에 다양한 올라마 명령어들이 설명되어 있는데, 이들 모두 터미널 창에 "ollama 명령어" 이런 식으로 입력하여 실행하면 됩니다. 라마 3.1 모델을 사용하는데 필요한 몇 가지 명령어들을 설명드리면 다음과 같습니다.

show : 모델의 파라미터수, context length, 라이센스 등 기본 정보들을 보여줌. (e.g. "ollama show llama3.1")
run : 모델을 실행시킴. (e.g. "ollama run llama3.1")
list : 올라마에 존재하는 모델의 리스트를 출력. (e.g. "ollama list")
rm : 모델을 삭제하는 기능. (e.g. "ollama rm llama3.1")
help : 올라마의 명령어에 대한 정보 제공(위와 같음). (e.g. "ollama help")

5. 올라마 홈페이지에서 원하는 모델을 선택해 줍니다.

먼저 위에서 언급한 올라마 홈페이지에 들어가 우측 상단의 'Models'를 클릭해 줍니다. 그러면 위와 같은 창이 나오는데, 여기서 다운로드 받고 싶은 LLM을 선택하면 됩니다. 저는 이번에 라마 3.1 모델을 다운받고 싶기 때문에, 다음과 같이 'llama3.1'을 클릭해 주었습니다.

그러면 위와 같은 창이 나오는데, 여기서 원하는 모델 사이즈를 클릭해 주면, 우측과 같이 해당 모델을 다운받을 수 있는 명령어가 나오게 됩니다.

6. 터미널창에서 명령어를 통해 해당 모델을 다운로드해줍니다.

그러면 위와 같이 터미널창에 'success'라는 문구와 함께 라마 3.1 모델이 최종적으로 다운로드됩니다.

7. 라마 3.1을 사용해 봅니다.

위 6번에 이어, 터미널창에 '/?'를 입력하면 위와 같은 라마 3.1 모델 내부 명령어가 나옵니다. 여기서도 마찬가지로, 필요한 몇 가지 명령어들을 소개하자면 다음과 같습니다.

show : 모델의 기본 정보, 라이센스, 파라미터 등의 정보를 제공
clear : 모델과 대회 맥락을 지움
bye : 모델 종료
/? : 위 와 같은 도움말 창 띄우기

이제 실제로 라마 3.1 LLM에게 질문을 해보겠습니다. 우선 저는 "Hello I am Korea. Can you explain about Korea.( 나는 한국인이야. 한국에 대해 설명해 줄 수 있어? )"라고 물어보았습니다. 솔직히 8B 모델이라 기대를 안 했었는데, 위와 같이 한국에 대해 한국어 인사, 지리적 위치, 기후, 문화 등 다양한 설명을 해주더라고요. 역시 논란이 되는 이유가 있었던 것 같습니다.

그래서 라마 3.1 모델이 한국어도 잘하나 궁금했습니다. 결과는 다음과 같이 조금 어색한 부분("다소 한글을 쓸 수는")도 있었지만, 대체적으로 준수했습니다. 분명 영어 데이터의 비중이 높고, 한국어 데이터는 정말 작은 부분으로 학습되었을 텐데, 이 정도 성능이 나오는 게 감탄스럽습니다. 만약 라마 3.1이 한국어 전용모델로 나왔으면 어땠을까 아쉬움도 남습니다.

8. 기타 기능

위에서 보았던 올라마 명령어를 통해 모델을 확인해볼까요? 먼저 올라마 모델의 리스트를 확인해 보면, 다음과 같이 라마 3.1 모델이 깔려있는 것을 확인할 수 있습니다. 모델의 용량도 4.7GB인것을 확인 할 수 있었습니다.

그러면 이번에는 올라마에서 모델을 삭제하는 방법에 대해 알아보겠습니다. 먼저 설명드렸듯이 올라마에서는 'rm' 명령어를 통해 모델을 삭제할 수 있습니다. "ollama rm llama3.1" 명령어를 입력하면 다음과 같이 모델이 삭제되어 리스트에도 보이지 않습니다.

추가적으로 제가 올라마 라마 3.1을 사용하면 느꼈던 점들을 말씀드리면, 오픈소스 모델인 만큼 로컬 컴퓨터에서 돌리기 때문에 모델의 지연 시간(latency)이 ChatGPT와 비교했을 때 많이 있었습니다(체감상 10배 이상). 물론 제가 노트북으로 사용했기 때문에 그런 문제가 더욱 부각되었겠지만, 라마 3.1과 같은 오픈소스 LLM을 사용하실 분들은 GPU가 달리 좋은 컴퓨터나 클라우드 서버를 사용하시는 것을 추천드립니다.

정리

올라마를 통한 라마 3.1 사용법을 정리하자면 다음과 같습니다.

올라마 셋업 : 올라마 홈페이지에서 올라마 exe 파일을 다운받아 세팅
모델 다운로드 : 터미널 창에서 "ollama run llama3.1"명령어를 통해 라마 3.1 모델 다운로드
모델 실행 : 터미널 창에서 "ollama run llama3.1"명령어를 통해 라마 3.1 모델 실행

참고로 여러분들을 위해 제가 유튜브 영상도 제작했으니 많은 관심 부탁드리겠습니다. 앞으로 인공지능 관련 영사을 꾸준히 업로드할 예정이니 구독 좋아요도 부탁드려요
https://youtu.be/v0liTMKlxNE?si=hyJLQZBeRrU5X5kT

인공지능/AI/코딩 공부방(코딩오페라)

인공지능/AI/코딩 공부방

open.kakao.com

지금 까지 '라마 3.1'모델 사용법에 대해 알아보았는데, 도움이 되셨나요? 만약 되셨다면 구독 및 좋아요로 표현해 주시면 정말 감사하겠습니다. 구독과 좋아요는 제가 블로그를 운영하는 데 정말 많은 힘이 됩니다. 궁금한 사항 혹은 앞으로 다루어 주었으면 좋을 주제가 있으시면 댓글 남겨주시면 감사하겠습니다. 여러분 저는 Coding your life, '코딩 오페라'였습니다.

[초등학생도 이해하는] Llama 3.1 초간단 정리

Master.M — Wed, 31 Jul 2024 14:58:30 +0900

안녕하세요, Coding your life, '코딩 오페라'입니다. 오늘은 최근 Meta에서 발표하여 이슈가 되고 있는 'Llama 3.1' LLM(Large Language Models)에 대해 소개해드리고자 합니다. 현재 저는 '초등학생도 이해하는 자연어 처리'라는 주제로 자연어 처리(NLP)에 대해 포스팅을 하고 있습니다. 제목처럼 진짜 핵심 내용을 쉽게 설명하는 것을 목표로 하고 있으니 자연어 처리(NLP)에 입문하고 싶은 분들은 많은 관심 부탁드립니다.

Llama 3.1

지난 24년 7월 23일 페이스북의 모회사 Meta는 거대 자연어처리 인공지능 모델(LLM)인 Llama 3.1을 공개하여 세간의 주목을 받고 있습니다. 이렇게 주목을 받게 된 이유는 성능도 성능이지만, Openai나 Google과 다르게 ChatGPT급 고성능 LLM을 무료로 코드를 공개하였기 때문입니다. 현재 Openai의 ChatGPT, Google의 Gemini는 사용자가 무료로 사용할 수 있지만, 모델의 코드는 공개하지 않은 closed source 모델로, 다른 개발자들이 해당 모델을 통해 서비스를 개발할 수 없습니다. 그러나 Meta의 Llama 3.1는 이와 달리 모델의 코드를 open source로 공개하면서 개발자나 일반인들이 다양하게 개발할 수 있는 환경을 만들어줬습니다. 또한 성능 역시 open source LLM임에도 불구하고, ChatGPT-4와 비슷하여 세상을 놀라게 만들었습니다. 이제부터 Llama 3.1에 대해 좀 더 자세히 알아보도록 하겠습니다.

Model

모델 구성

Llama 3.1은 모델의 파라미터 수에 따라 8B, 70B, 405B 모델로 나뉩니다. 여기서 B는 'Billon'의 약자로 10억을 의미합니다. 즉 모델의 파라미터가 각각 80억, 700억, 4050억개인 모델들입니다. 이는 이전작 Llama 3에서 가장 큰 70B 모델에 비해 최대 5배 이상 커진 모델입니다.

또한 한번에 프롬프트를 입력할 수 있는 길이(Context length) 또한 증가하였습니다. 전작 8k에서 16배 증가한 128k 길이의 문장을 입력할 수 있어, ChatGPT-4와 동일하게 설정되었습니다. 이는 85페이지 분량의 문서를 한 번에 프롬프트로 입력할 수 있는 양으로서, 이전작의 한계점을 극복하였습니다. 보통 모델의 사이즈가 충분하지 않은 상태에서 Context length를 늘리게 되면 모델의 성능이 떨어지는데, 이번 flagship 모델은 405B로 거대하여, 길이를 늘릴수 있었던 것으로 분석됩니다.

기업별 H100 GPU 구매량

Llama 3.1를 학습시키는데 무려 15조개 token(15 trillion)들이 사용되었습니다. 이를 위해서 Meta는 엔비디아 H100 GPU를 무려 1만 6천 개를 사용했다고 합니다. 이제 Meta가 왜 H100 GPU를 미친 듯이 샀는지 이해가 가네요. 정말 많은 비용과 시간이 들었을 텐데 open source로 푸는 것 자체가 대단합니다.

Llama 3.1 모델 아키텍처

그리고 모델은 개량된 transformer가 아닌, 전통적인 decoder-only transformer model을 사용했다고 합니다. 아마 open source로써 호환성을 염두해두고 일반 transformer를 사용한 게 아닐까 하는 생각이 드네요. 또한 405B flagship 모델과 같이 큰 LLM의 추론 시간을 빠르게 하기 위해 양자화(quantized)를 기존 16bit에서 8bit로 줄였다고 합니다.

뿐만 아니라 Llama 3.1 모델은 multilingual safety model and Prompt Guard기능을 포함하고 있는 Llama Guard 3를 필터로 적용하여, 생성형 모델의 윤리적, 도덕적 문제를 해결하였습니다. 물론 ChatGPT나 Gemini 같은 open source LLM도 이러한 문제가 중요하지만, close source LLM인 Llama 3.1은 문제가 발생 시 서비스를 중단할 수 없으므로 더욱 이 문제에 대해 신경을 쓴 것으로 보입니다. 자세한 사항은 아래 링크를 참고해 주시기 바랍니다.
https://llama.meta.com/trust-and-safety/#safeguard-model%20?

Trust & Safety - Llama

Llama trust and safety models and tools embrace both offensive and defensive strategies.

llama.meta.com

기능

Llama 3.1의 기능은 ChatGPT와 비슷하게 Tool use, Multi-lingual agents, Complex reasoning, Coding assistants로 구성되어 있습니다.

Tool use(도구 사용): 사용자가 원하는 여러가지 도구들을 제공합니다. 아래와 같이 어떤 데이터를 분석하고 이를 그래프로 나타내어줍니다.

Multi-lingual agents(다국어 에이전트): 영어뿐만 아니라 다른 언어들도 이해할 수 있는 Multi-lingual agents 기능이 있습니다. 아래와 같이 스페인어로 번역도 잘하는 것을 확인할 수 있습니다.

Complex reasoning(복잡한 추론): 사람이 잘 하는 복잡한 추론 문제도 풀 수 있습니다. 다음과 같이 휴가 때 입을 옷에 대해 문의를 하면, 이를 분석해서 최적의 답을 찾아줍니다.

Coding assistants(코딩 조수): 많은 시간이 들어가는 코딩을 요구사항만 명확히 프롬프트로 전달해주면, 코드를 작성해 줍니다.

성능

Llama 3.1에 대한 성능은 다음과 같습니다. 먼저 Llama 3.1 405B 모델의 경우 아래 그래프와 같이 여러가지 성능지표에서, 경쟁 모델 Nemotron 4, GPT-4, GPT-4o(Omni), Claude 3.5 Sonnet들 보다 우수한 성능을 보였습니다. Llama 3.1는 특히 8B와 70B와 같은 작은 모델에서 두각을 드러냈는데, 아래와 같이 비슷한 크기의 Gemma 2, Mistral, Mixtral, GPT 3.5 모델에 비해 성능이 월등히 높은 것을 확인할 수 있습니다.

Llama 3.1 405B와 다른 경쟁 모델들 성능비교

Llama 3.1 8B와 다른 경쟁 모델들 성능비교

부가적으로 Meta는 사람이 평가하는 'Human Evaluation'도 진행하였습니다. 이 지표에서 Llama 3.1 405B 모델은 GPT-4와 Claude 3.5 Sonnect과 비슷한 성능을 보였지만, GPT-4o에는 미치지 못했습니다.

Llama 3.1 405B와 다른 경쟁 모델들 사람 평가 성능비교

Open Source System

Llama 3.1은 다른 closed source LLM과는 다르게 모델의 weights를 다운받을 수 있습니다. 이로 인해 개발자들은 Llama 3.1을 그들의 필요와 도메인에 맞게 완전히 커스터마이징(fine-tuning 등) 할 수 있습니다. 그러면 Meta는 도대체 왜? 수억 달러를 들여 개발한 Llama 3.1 모델을 공짜로 open sourse release를 했을까요? 여기에는 Meta의 철학이 담겨있습니다. 바로 "LLM의 민주화"를 이루어 Llama가 "LLM계의 리눅스"가 되려고 하는 것입니다. Llama 3.1 다운로드 링크는 다음과 같습니다.
https://llama.meta.com/

Llama 3.1

The open source AI model you can fine-tune, distill and deploy anywhere. Our latest models are available in 8B, 70B, and 405B variants.

llama.meta.com

https://huggingface.co/collections/meta-llama/llama-31-669fc079a0c406a149a5738f

Llama 3.1 - a meta-llama Collection

This collection hosts the transformers and original repos of the Meta Llama 3.1, Llama Guard 3 and Prompt Guard models

huggingface.co

리눅스는 MS, MacOS 와 같은 closed source OS(Operating System) 달리 누구나 커스터마이징 할 수 있는 open source OS입니다. 이로인해 리눅스는 자유도가 높은 OS로 개발자 사이에서 입소문이 났고, 결국 리눅스 생태계가 구축되며 현재 개발자들 사이에서 없어서는 안 될 OS가 되었습니다. 이와 같이 현재 Meta의 스탠스를 보면, LLM계의 리눅스가 되려고 하는 것 같습니다. Open, closed source LLM에 대해 정리를 하면 다음과 같습니다.

Closed source LLM(ChatGPT, Gemini): 유저 중심 AI
Open source LLM(Llama): 개발자 중심 AI

그런데 Llama 3.1 405B 모델과 같이 거대 AI 모델을 돌리려면 서버와 전기 등 엄청난 자원이 필요합니다. 때문에 개발자 입장에서는 비용이 만만치 않게 들어가는데요, 이를 해결하고자 이미 Meta는 아래와 같이, AWS, NVIDIA, MS, Databricks, Groq 등 다양한 클라우드 및 서버 업체들과 파트너쉽을 맺고 있습니다.

Meta와 파트너쉽을 가지고 있는 회사들

Meta 홈페이지에는 Llama 3.1에 관련하여 다음과 같은 문구가 있습니다.

"Open source will ensure that more people around the world have access to the benefits and opportunities of AI, that power isn’t concentrated in the hands of a small few, and that the technology can be deployed more evenly and safely across society."

직역을 하자면 "open source LLM은 AI가 특정 대기업의 독과점되지 않고 더 많은 사람들이 접근할 수 있게 하며, 이는 사회를 더욱 안전하게 한다."라고 해석할 수 있습니다. 이를 통해 Meta의 AI대한 철학을 엿볼 수 있었습니다.

과연 이러한 Meta의 철학은 AI 민주화를 위한 진심일까요? 아니면 LLM의 선두 주자인 OpenAI와 Google을 힘들게 하려는 후발주자로써의 전략일까요? 여러분들의 의견을 알려주세요 ㅎㅎ

참고로 여러분들을 위해 제가 유튜브 영상도 제작했으니 많은 관심 부탁드리겠습니다. 앞으로 인공지능 관련 영사을 꾸준히 업로드할 예정이니 구독 좋아요도 부탁드려요
https://www.youtube.com/watch?v=gFZZGdMmObI&t=503s

https://youtu.be/v0liTMKlxNE?si=lrgUtVb15E8D4oLr

다음시간에는 오늘 설명드린 세계에서 가장 강력한 open source LLM인 Llama를 직접 사용하는 방법에 대한 포스팅을 올리도록 하겠습니다.

인공지능/AI/코딩 공부방(코딩오페라)

인공지능/AI/코딩 공부방

open.kakao.com

지금 까지 'Llama 3.1'모델에 대해 알아보았는데, 도움이 되셨나요? 만약 되셨다면 구독 및 좋아요로 표현해 주시면 정말 감사하겠습니다. 구독과 좋아요는 제가 블로그를 운영하는 데 정말 많은 힘이 됩니다. 궁금한 사항 혹은 앞으로 다루어 주었으면 좋을 주제가 있으시면 댓글 남겨주시면 감사하겠습니다. 여러분 저는 Coding your life, '코딩 오페라'였습니다.