Euisaac Toast

꽃-벌 최단 경로 계산 알고리즘

Euisaac — Wed, 8 Apr 2026 15:13:06 +0900

# 최단경로
# 그래프 초기화
graph = 그래프 생성()
graph.add_edges([(벌, 꽃A), (꽃A, 꽃B), ..., (꽃n, 벌통)])  # 간선 생성
graph.es["거리"] = [d1, d2, ...]  # 거리 가중치 순서대로 설정

# 상태 초기화
dist = {벌: 0, 꽃A: ∞, 꽃B: ∞, ..., 벌통: ∞}     #  시작 노드(벌)에서 해당 노드까지의 최단 거리
                                                       # 시작 노드는 0, 나머지는 무한대
prev = {벌: None, 꽃A: None, ..., 벌통: None}  # 최단 경로 역추적용
                                                      # 더 짧은 경로 발견 시 갱신
우선순위 큐 = [(0, 벌)]        # (거리, 노드) 형태로 저장, 거리=시작노드부터의 누적거리
                              # 다음 탐색 노드의 거리와 노드 저장, 꺼낼 때 거리 짧은 순으로 나옴

# 다익스트라 이동
while 우선순위 큐가 비어있지 않다:      # 탐색할 후보가 남아있는 동안 반복
    현재 거리, 현재 노드 = 우선순위 큐에서 거리가 가장 짧은 노드 꺼내기  # 큐에서 (거리, 노드) 꺼내서 저장
    if 현재 노드 == 벌통:    # 벌통 도착 시 종료
        break
    elif 현재 거리 > dist[현재 노드]:  # 이미 더 짧은 경로로 방문했으면 스킵
        continue
    else: # 현재 노드의 거리가 저장된 거리보다 짧거나 같은 경우만 탐색을 진행
        이동 가능한 노드 = [현재 노드와 연결된 노드 목록]  # 현재 노드의 주변 노드 탐색
        for 다음 노드 in 이동 가능한 노드:
            새 거리 = 현재 거리 + (현재 노드와 다음 노드 사이의 거리)
            if 새 거리 < dist[다음 노드]:  # 현재 노드에 인접한 노드들이 저장된 거리보다 짧을 경우만 갱신
                dist[다음 노드] = 새 거리  # 거리 갱신
                prev[다음 노드] = 현재 노드  # 경로 갱신
                우선순위 큐에 (새 거리, 다음 노드) 추가  # 발견한 주변 노드를 우선순위 큐에 넣음

# 최단 경로 역추적
방문 경로 = []
현재 노드 = 벌통
while 현재 노드 != None:
    방문 경로 앞에 현재 노드 추가
    현재 노드 = prev[현재 노드]
# 결과: 방문 경로 = [벌, 꽃A, 꽃C, 벌통] 처럼 최단 경로가 완성됨

# 결과 출력
print(총 이동 거리: dist[벌통], 방문 경로)

꽃-벌 이동 알고리즘

Euisaac — Wed, 8 Apr 2026 15:12:33 +0900

# 그래프 초기화

graph = 그래프 생성()

graph.add_edges([(벌, 꽃A), (꽃A, 꽃B), ..., (꽃n, 벌통)]) # 간선 생성

graph.es["거리"] = [d1, d2, ...] # 거리 가중치 순서대로 설정

# 상태 초기화

current = 시작 노드(벌)

총 이동거리 = 0

방문 경로 = [current] # 지나온 경로 저장

# 이동

while current에 이동 가능한 노드가 존재하는가:

    이동 가능한 노드 = [current와 연결된 노드 목록]

    if 이동 가능한 노드에 벌통이 있는가:

        벌통으로 이동한다.

        총 이동 거리 = 총 이동 거리 + (current와 벌통 사이의 거리)

        방문 경로에 벌통을 추가한다.

        break

    else:

        후보 목록 = (이동 가능한 노드) - (방문 경로)

        if 후보 목록이 비어있는가?:

            print("벌통 도달 실패")

            break

        else:

            # 후보 목록 출력 및 사용자 선택

            for 후보 in 후보 목록:

                print(노드 이름, 거리, 화밀)

            다음 꽃 = input("노드 이름 입력: ")

            다음 꽃으로 이동

            총 이동 거리 = 총 이동 거리 + (current와 다음 꽃 사이의 거리)

            방문 경로에 다음 꽃을 추가한다.

# 결과 출력

print(총 이동거리, 방문 경로)

Git 설치하기 & 기본 명령어

Euisaac — Wed, 1 Apr 2026 13:43:00 +0900

1. Git 설치

mac(Homebrew 이용)

/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"

Homebrew가 없다면 아래 명령어로 먼저 설치한다.

echo 'eval "$(/opt/homebrew/bin/brew shellenv)"' >> ~/.zprofile
eval "$(/opt/homebrew/bin/brew shellenv)"

apple silicon mac이라면 PATH도 설정해야한다.

brew install git

Homebrew 설치가 끝났으면 Git을 설치한다.

git --version

설치 확인한다. 버전이 뜨면 설치 성공

Windows

Windows는 git-scm.com에서 설치 파일을 다운로드하면 된다.

2. Git 설정

정보등록

git config --global user.name "깃허브닉네임"

git config --global user.email "이메일주소"

Git은 커밋할 때마다 누가 했는지 기록해야하기 때문에 내 정보를 등록해야한다.

위 명령어를 통해 설정한다.

3. 키 발급

HTTPS는 토큰이라는 일종의 비밀번호를 발급받아서 인증하는 방식이다. 설정이 간단하지만 push할 때마다 토큰을 입력해야 한다. (저장 설정을 하면 생략 가능)

SSH는 자물쇠(공개 키)와 열쇠(개인 키) 한 쌍을 만들어서 인증하는 방식이다.. 처음 설정이 조금 번거롭지만, 한 번 해두면 비밀번호 없이 자동으로 인증돼서 훨씬 편하다.

HTTPS 방식

Windows는 credential.helper manager 설정만으로 브라우저 로그인을 통해 자동 인증이 된다. 별도의 토큰 발급이 필요 없다.

Mac은 브라우저 로그인 방식을 지원하지 않아 PAT 토큰을 직접 발급해야 한다. 따라서 Mac 사용자라면 SSH 방식을 추천한다.

windows

git config --global credential.helper manager

git push 할 때 브라우저로 GitHub 로그인 창이 뜬다. 토큰을 따로 발급할 필요 없이 브라우저에서 그냥 로그인하면 자동으로 인증이 된다.

Mac(HTTPS — PAT 토큰 발급 방법)

1. Settings → 왼쪽 메뉴 맨 아래 Developer settings

2. Personal access tokens → Tokens (classic) → Generate new token (classic)

3. Note(이름) 입력 (예: MacBook)

4. 만료 기간 설정 (No expiration 선택하면 무기한)

5. repo 권한 체크

6. Generate token 클릭 → 토큰 복사 (페이지 나가면 다시 못 봄)

git config --global credential.helper osxkeychain

7. 위 명령어 실행

8. 처음 push할 때
Username: 깃허브 닉네임
Password: 발급한 토큰 붙여넣기

SSH 방식

ssh-keygen -t ed25519 -C "이메일주소"

SSH 키 생성: 엔터 3번 눌러서 기본값으로 진행 (비밀번호는 선택사항)

cat ~/.ssh/id_ed25519.pub

SSH 공개 키 복사: 출력된 내용 전체(ssh-ed25519 AAAA... 부터 끝까지)를 복사

Github에 등록:

1. GitHub → Settings → SSH and GPG keys → New SSH key

2. Title에 이름 입력 (예: MacBook)

3. Key 칸에 복사한 내용 붙여넣기 → Add SSH key

ssh -T git@github.com

연결 확인: Hi 닉네임! You've successfully authenticated... 메시지가 뜨면 성공

처음 연결할 때 "Are you sure you want to continue connecting?" 라고 묻는데 yes 입력

4. github 리포지토리 생성

오른쪽 상단의 +아이콘 클릭 -> New repository 클릭

repository name에 리포지토리 이름을 적고 add README를 on으로 한다

그 후 create repository 클릭하면 리포지토리가 생성된다.

5. git clone(저장소 복제)

원격 저장소(GitHub)에 있는 프로젝트를 내 컴퓨터로 가져오는 명령어

GitHub 저장소 페이지에서 Code 버튼을 누르면 주소를 복사할 수 있다.

SSH, HTTPS 중 본인이 설정한 방식에 맞는 주소를 복사해서 아래 명령어를 실행한다.

git clone https://github.com/유저명/저장소명.git

https 방식

git clone git@github.com:유저명/저장소명.git

SSH 방식

6. git add / git commit / git push / git status

git add

git add 파일명       # 특정 파일만
git add .           # 변경된 파일 전부

커밋 전 올릴 파일을 선택하는 명령어다.

선택된 파일은 스테이징 영역(커밋 대기 공간)으로 올라간다.

git commit

git commit -m "커밋 메시지"

스테이징 영역에 올라간 변경사항을 저장하는 명령어다.

커밋 메시지는 어떤 작업을 했는지 간단하게 적어주면 된다.

add+commit

git commit -am "커밋 메시지"

이미 한 번이라도 add한 파일이라면 -am 옵션으로 add와 commit을 한 번에 할 수 있다.

단, 새로 만든 파일은 반드시 git add를 먼저 해야 한다.

git push

git push

커밋한 내용을 GitHub에 업로드하는 명령어

git status

git status

현재 상태를 확인하는 명령어

Untracked files → Git이 아직 추적하지 않는 새 파일

Changes not staged for commit → 수정됐지만 아직 add 안 된 파일

Changes to be committed → add 됐고 커밋 대기 중인 파일

윈도우 명령 프롬프트 기본 명령어 알아보기

Euisaac — Sun, 22 Mar 2026 01:28:00 +0900

디렉토리

dir

dir: 현재 폴더 안에 있는 파일과 폴더 목록을 보여줍니다.

cd 폴더명: 해당 폴더로 이동합니다.

cd ..

cd .. : 상위 폴더로 한 단계 올라갑니다.

cd \

cd \ : 최상위 경로(C:)로 바로 이동합니다.

mkdir

mkdir 폴더명: 새 폴더를 만듭니다.

rmdir

rmdir 폴더명: 빈 폴더를 삭제합니다.

파일 관련

copy

copy 파일명 복사할경로: 파일을 복사합니다.

move

move 파일명 이동할경로: 파일을 이동합니다.

del

del 파일명: 파일을 삭제합니다.

ren

ren 기존파일명 새파일명: 파일 이름을 변경합니다.

type

type 파일명: 텍스트 파일의 내용을 터미널에서 바로 확인합니다.

UV 설치 방법

Euisaac — Sun, 22 Mar 2026 00:23:55 +0900

UV란?

Rust로 만들어진 Python 패키지 관리 도구로, pip·가상환경·Python 버전 관리를 하나로 통합했습니다. 기존에 pip, virtualenv, pyenv, poetry를 따로 설치해야 했던 것을 uv 하나로 해결할 수 있습니다.

pip와의 차이점

pip는 패키지 설치만 담당하지만, uv는 가상환경 생성·Python 버전 관리·의존성 고정까지 한 번에 처리합니다.

UV 설치

설치 방법으로는 스크립트를 이용한 설치와 환경변수를 이용한 설치가 있다.

본인 환경에 맞는 방법으로 다운하면 된다.

설치 스크립트

macOS 및 Linux

curl -LsSf https://astral.sh/uv/install.sh | sh
# 또는
wget -qO- https://astral.sh/uv/install.sh | sh

윈도우

powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

환경변수 설정

https://github.com/astral-sh/uv/releases

위 링크에서 OS 맞는 파일을 다운로드 해줍니다

그 후 해당 파일을 압축해제 해줍니다.

검색창에 '고급'을 검색하면 고급 시스템 설정 보기가 나타납니다.

고급 시스템 설정 보기 클릭 → 환경 변수 클릭 → 시스템 변수에 있는 path 클릭 후 편집 클릭

새로 만들기 클릭 → uv.exe가 들어있는 폴더 경로 붙여넣기

환경변수 등록 후에는 터미널을 껐다가 다시 켜야 적용됩니다.

opencode 설치 방법

Euisaac — Sat, 21 Mar 2026 21:44:41 +0900

OpenCode

OpenCode는 오픈 소스 AI coding agent입니다. 코드를 직접 읽고, 수정하고, 버그를 찾아주는 등 실제 개발 작업을 함께 처리해줍니다. 오픈소스로 무료 제공되며, Claude·GPT 등 다양한 AI 모델과 연결해서 쓸 수 있습니다.

터미널 기반 인터페이스, 데스크톱 앱, IDE 확장으로 사용할 수 있습니다.

OpenCode 터미널

OpenCode 터미널은 터미널(명령줄 창)에서 실행되는 AI 코딩 도우미입니다. 별도의 앱 설치 없이 텍스트 기반의 UI(TUI)로 동작하며, 코드 편집기나 브라우저 없이도 터미널 안에서 AI와 대화하며 코드를 작성·수정·분석할 수 있습니다.

1. 설치 스크립트

curl -fsSL https://opencode.ai/install | bash

macOS·Linux 터미널에서 바로 실행할 수 있습니다. ( Windows 사용자는 아래 npm 방법을 권장 )

2. 패키지 매니저 이용

npm / bun

npm i -g opencode-ai
# 또는
bun add -g opencode-ai

Node.js(npm) 또는 Bun이 설치되어 있다면 아래 명령어로 설치할 수 있습니다.

Homebrew - macOS

brew install anomalyco/tap/opencode

Scoop/Chocolatey - Windows

scoop install opencode
# 또는
choco install opencode

OpenCode 데스크탑 (Beta)

OpenCode 데스크탑은 터미널 없이도 OpenCode를 사용할 수 있는 GUI 앱입니다. 터미널에 익숙하지 않은 사용자도 일반 프로그램처럼 설치하고 실행할 수 있으며, 동일한 AI 코딩 기능을 데스크탑 환경에서 편리하게 사용할 수 있습니다.

Homebrew-macOS

brew install --cask opencode-desktop

직접 다운로드

https://opencode.ai/ko/download

macOS에서만 Homebrew를 지원하며, Windows·Linux는 위 링크에서 직접 다운로드할 수 있습니다.

설치 확인

opencode --version

프로젝트 초기화

cd /path/to/project

설치를 완료했으면 작업하려는 프로젝트로 이동한다.

opencode

opencode를 실행한다.

/init

명령을 실행해 프로젝트에서 opencode를 초기화한다.

오토인코더와 생성적 적대 신경망

Euisaac — Sun, 10 Aug 2025 00:32:49 +0900

오토인코더는 대칭 형태를 가짐

입력층과 출력층의 크기가 같음

왼쪽은 어떤 변수를 통해 특징이 추려지면서 중요한 값들로 압축 -> 인코더

오른쪽은 압축된 정보를 펼쳐서 원래 입력층과 유사한 값을 만듦 -> 디코더

특징

- 비지도 학습

차원 축소 가능

추가적인 이미지 생성 가능

일반적으로 대칭 구조를 지님

-블러현상이 일어날 수 있음

학습방법

mse를 사용해서 x와 x'의 값의 차이를 손실함수

사진을 보면 가중치 매트릭스가 5x7, 3x5, 5x3, 7x5로 총 100개 인데

각 ABCD라고 하면 C와D, B와C transpose 이기 때문에 A, B, Bt, At로 세팅할 수 있음

stacked Autoencoder: 기본 구조로 여러 개 은닉층 존재

단점: 오토인코더를 통해 정보를 새로 생성하는 건데 손실함수의 값을 작게하도록 가중치들을 업데이트한다면 같은 정보가 나오는 것이기 때문에 무의미 (매우 유사한 x'를 얻고 싶은 것)

Denosing Autoencoder: 입력층 바로 다음에 노이즈를 주입 x+ε에 대한 값이 들어감, 또는 드랍아웃을 통해 일부 노드를 랜덤하게 죽임 -> x와 x'가 같지 않게 나오도록 해줌

Sparse Autoencoder: 손실함수 뒤에 제약조건을 넣어 x와 x'를 유사하게 만드는 작업

제약항은 입력 변화에 대한 잠재 변수의 민감도를 줄임

= 입력 변화에 대한 잠재변수의 민감도 크기, 이 값을 손실함수에 더하면 민감도가 클수록 손실 커짐 -> 학습 과정에서 민감도 줄이려고 함 -> 민감도가 낮은 안정적인 모델이 됨

max(θd) → Discriminator가 L을 가장 크게 만드는 파라미터 를 찾음
min(θg) → 그 결과를 보고 Generator가 L을 가장 작게 만드는 파라미터 를 찾음

G(z,θg): z를 받아 만든 가짜 데이터

D((z,θg),θd): 가짜 데이터를 보고 진짜라고 판단할 확률

1-D((z,θg),θd): D가 가짜 데이터를 가짜라고 판단할 확률 -> D는 이 값이 클수록 가짜를 가짜로 잘 맞힌 것

(x,θd): D가진짜 데이터를 진짜라고 판별할 확률 -> D는 이 값이 클수록 가짜를 가짜로 잘 맞힌 것

순환 신경망

Euisaac — Sat, 9 Aug 2025 03:49:50 +0900

순환 신경망(Recurrent Neural Network)

순환 신경망은 시계열 데이터에서 많이 사용

시계열 데이터: 순차적인 시간의 흐름에 따라 기록된 데이터 (ex: 신호, 주가)

RNN은 이전 정보를 가지고 있다가 다음 입력값이 들어오면 반영함

줄지어져 있는 것을 시퀀스라고 함 시퀀스의 길이는 자유롭게 조절 가능

one to many: 데이터 하나가 들어오면 여러 개의 출력값을 뽑아냄

x → h₁ → ŷ₁

h₁이 다음 시점의 계산에 전달되어 h₂ 계산에 사용

many to one: 여러 입력을 통해 하나의 출력 생성

many to many: 여러 입력 시퀀스를 받아서 여러 출력 시퀀스를 생성

입력과 출력이 동시에 진형되는 형태, 모든 입력 처리 후 출력 시퀀스가 나오는 형태

히든스테이트를 여러개 쌓을 수 있음

h: 현재 시점의 히든스테이트는 이전에 있던 히든스테이트의 정보와 지금 현재의 정보를 받아서 계산

이전 시점의 기억과 현재 입력 정보를 압축해서 담은 벡터

o: h(t)를 선형 인공신경망을 거쳐 나온 결과, 각 클래스에 대한 점수,값이 클수록 해당 클래스가 정답일 가능성 높음

h(t)는 rnn 내부에서만 사용하기 좋은 형태로 되어있음 이걸 클래스 차원으로 변환하기 위해 선형 변환을 함

c는 출력층 편향, v는 가중치

y: 인공신경망을 거친 값에 소프트맥스 함수를 씌워서 최종 결과값, 각 클래스에 대한 확률 분포가 나옴

h(t-1)과 x(t)가 만나 합쳐 a(t)를 만듦

a(t)를 활성화 함수 tanh라는 활성화 함수에 넣어 h(t) 만듦

h(t)는 선형 변환과 softmax 함수를 거쳐 ŷ(t)(현재 시점의 예측값) 생성

다음 시점으로 넘어가 h(t+1)에 계산에 사용

w, u,b는 가중치 매트릭스

w는 NxN h(t-1)은 Nx1로 곱하면 Nx1

(RNN은 모든 시점의 h(t) 차원이 동일, 고정된 하나의 은닉층을 사용하기 때문 따라서 h(t)가 Nx1이면 H(t-1)도 Nx1이다.)

u는 NxM x(t)는 Mx1로 곱하면 Nx1

계산된 a(t)를 tanh를 통해 h(t) 계산

인공신경망 하나를 거쳐서 Output, o(t)를 만들어주고

이 아웃풋을 소프트맥스를 거쳐서 실제 출력값 나오게 함

순환 신경망 형태

tanh나 sigmoid 함수는 양끝이 거의 0으로 가는 형태의 미분이 나옴

값이 조금만 커지거나 작아지더라도 미분 값이 거의 0이 나옴

역전파에서 미분값들이 연속적으로 곱해지면 기울기 사라짐 발생

장기 의존성 문제 발생

rnn은 앞쪽에 있는 정보들이 뒤쪽까지 충분히 전달되지 않음

LSTM은 h값만 받는게 아니라 추가적인 게이트 만들어 문제 해결 (이전 정보 현재 정보 얼마나 기억할지 잊을지)

-> s라는 값을 만듦, 이전에 받은 값과 현재값의 가중치를 계산,

f(t)는 forget gate얼마나 잊을 지

i(t)는 input gate 새 정보를 얼마나 넣을지 결정

s~(t)는 이번 시점에 추가하고 싶은 새로운 정보 후보

s(t)=장기 기억+ 현재 시점의 새로운 정보

o(t)는 정보를 얼마나 보여줄지 결정

h(t): s(t)의 값이 커질 수 있어 tanh를 사용하여 범위를 -1~1로 압축

gru

LSTM보다 구조가 단순

u(t): 과거 정보와 현재 정보 얼마나 사용할 것인지 결정 0에 가까우면 현재 후보 완전 유지, 1에 가까우면 과거 완전 유지

r(t): 과거 정보를 얼마나 무시할 건지 결정, 0에 가까우면 이전 내용 반영 거의 안함 1에 가까우면 많이 반영

h~(t): 이번 시점 정보

h(t):

단점

기본적인 rnn형태에서는 출력 길이를 조절할 수 없음

순서를 고려하기 어려움

->seq2seq (출력 길이 조절 가능)

LSTM 모델 2개를 붙여서 사용

인코더가 분석 후 대표되는 context vector를 하나 만들어줌

context vector 안에 입력 문장의 의미가 들어가 있음

벡터 정보를 디코더로 보냄

벡터 길이 제한으로 인해 but 어순 판단 어려움

-> attention mechanism (순서 고려 가능)

매 시점마다 디코더가 h₁, h₂, ..., hᵢ 각각에 대해 중요도 점수(score)를 계산
이 점수를 Softmax로 변환해서 Attention Weight α1,α2,...,αi를 얻음
ai와 hi 곱한 후 다 더해줌
이렇게 만든 Context Vector가 이번 시점의 디코더 입력으로 들어감
제일 높은 확률 단어를 선택해서 예측

인공 신경망의 최적화

Euisaac — Sun, 27 Jul 2025 15:54:04 +0900

1. 미분

기울기 구하기 위해서는 두 점이 필요

곡선에서 한 점의 기울기를 구하고 싶다면

원하는 점에 가까운 한점 연결해서 직선 만듦, 가까울 수록 원하는 기울기와 가까워짐

₂가 ₁으로 가까이 간다= Δ 가 0으로 가까워진다

f'(x)는 순간 기울기

하강법

손실함수의 값을 작게하는 w값을 구하는 것이 목표

처음에는 임의로 초기값 주어지고, 손실값 작게 하는 w값 계속 업데이트

최적화: 모델의 파라미터를 최적화 하는 것, 즉 손실함수의 값을 작게 나오게 하는 w 값을 구해 변수를 계속 update

만약 맥시멈을 구하는 손실함수일 경우, 마이너스를 곱해주면 최소값을 구할 수 있음

max(loss) = -min(loss)

목적함수

우리는 손실함수를 작게하는 모델의 변수(w)를 찾는 것이 목적

목적함수를 기준으로 w 값을 갱신해나감

하강법

기존 지점에서 낮은 방향으로 조금씩 이동하는 방법

얼만큼 가야하는지, 지금 있는 위치에서 어느쪽이이 감소하는 방향인지 모름

-> 계산해줘야함

한 지점의 접선의 기울기 부호와 방향은 항상 반대 (음수 기울기는 양수 방향으로 이동해야함, 양수 기울기는 음수 방향으로 이동해야)

하강법의 단점: 초기 위치에 따라 도착 지점이 달라질 수 있음 ( 지역 최솟값에 빠져 전역 최솟값을 찾지 못하는 문제가 발생할 수 있음)

Δ W를 어떻게 구하냐에 따라 하강법이 정해진다.
경사 하강법(디폴트로 사용), 뉴턴 방법(속도 느리지만 정확한 계산 원할 시)

경사하강법(Gradient Descent)

step size에 이전 변수의 그래디언트 값을 빼서 그 다음 스텝으로 가게함

보폭을 적절하게 정해줘야함

보폭이 너무 크면 수렴을 안 할 수 있고, 보폭이 너무 작으면 수렴 속도가 너무 느릴 수 있음

w를 바꿨을 때 손실이 어떻게 변하는지 gradient를 구하기 위해 w를 미분

w를 미분=손실 함수의 기울기, w를 바꿨을 때 손실이 변하는 정도

L을 w에 대해 미분하려고 하는데 w가 수식에 직접 안 나와 있어 체인 룰이 필요하다

손실함수 L을 y^(y햇)에 대해 미분하면 그냥 y는 상수로 취급하여 사라진다.

y^(y햇)은 x*w로 w에 대해 미분하면 x

이제 dL/dy^과 dy^/dw를 곱하면 그냥 (y^-y)x가 아닌 이유가 아니라 2행짜리 벡터가 나오는 이유는

예측함수 y^이 두개의 가중치 w1과 w2를 가지고 있기 때문에 손실함수 L을 미분할 때도 각각 가중치에 대한 기울기(변화율)이 필요

3. 확률적 경사 하강법

경사하강법은 데이터 전체를 사용 데이터가 많을 경우에는 큰 배열들이 생겨 연산이 느려지고 메모리가 부족한 문제가 발생

확률적 경사 하강법은 데이터 전체를 무작위로 섞고, 나눈 미니 배치를 하나씩 사용

여러 가지 최적화 방법

w←w−μ∇L(w)

: 가중치 (Weight)
: 학습률 (Learning Rate)
: 손실 함수의 기울기

학습률 µ는 고정된 상수인데 상황에 따라 조절하고자함

- 모멘텀 기반: 이전 속도를 계속 반영하여 다음 속도를 계산

: 속도 (이전 방향 누적)

γ(감마): 모멘텀 계수 (0.9 등, 사용자가 설정)

구할게 하나 더 늘어나 메모리 차지

-가변 학습률 기반: µ를 어떤 특정 규칙에 따라 바꿔줌

RMSProp

RMSProp: 학습률 자동으로 계산

최근 기울기의 제곱값 평균인 Gt를 구해 이를 분모에 사용

-> 기울기가 큰 방향에서는 학습률 작아지고, 기울기가 작은 방향에서는 학습률 커져서 학습 안정적으로 진행되게 해줌

Adam: 모멘텀 기반과 가변학습률을 동시에 적용한 방법론

m은 모멘텀 역할 , v는 RMSProp역할평향 보정위해 m^, v^사용

베타1,2는 상수 임의로 정해줄 수 있음

스케줄링 - 강제로 learning rate 조절

StepLR: 학습 횟수에 따라 뮤를 스케줄링

ExponentialLR: 감마, 학습 횟수의 지수에 뮤를 곱해줌

Cosine Annealing: ExponentialLR은 계속 작아져 조금씩 움직이는데 가끔 크게 움직여야하는 경우도 있음

파도 물결처럼 생긴 그래프로 학습률 조절

스케줄링 사용 시 가변 학습률 사용하지 않고 모멘텀 기법 또는 SGD와 같이 사용

sgd+momentum+scheduling

scheduling+ adam

기울기 사라짐

미분값이 0과 가까워 가중치가 업데이트 되지 않는 현상

여러 층을 거쳐 연쇄법칙이 이루어지면 값이 0으로 가는 현상이 생길 수 있음

활성화 함수를 어떻게 설정 하냐에 따라 기울기 사라짐을 개선할 수 있음

손실함수와 최적화

손실함수는 되도록이면 convex하게 만드는게 좋음

두 점을 잡고 직선을 그었을 때 직선이 원래 함수 값보다 위 또는 같은 위치에 있으면 convex

non-convex는 시작위치에 따라 global minimum으로 갈 수도 있고 local minimum으로 갈 수도 있음

최적화 입장에서 좋은 함수가 아님

손실함수가 maximize 형태일때는 gradient ascent (기울기 방향으로 이동)

최적화는 미니마이즈 하는게 기본적인 문제인데 maximize도 -를 곱하면 미니마이즈로 바꿀 수 있어 좋은 형태이다

concave=-convex

convex+convex= convex

손실 함수를 튜닝하거나 특별하게 만들 때 위를 통해 convex 유지 가능

인공 신경망

Euisaac — Thu, 10 Jul 2025 21:01:57 +0900

1. 딥러닝 입문

딥러닝: 인간의 신경망을 묘사하여 만든 인공신경망을 깊게 만들어 모델을 학습시키는 방법

Feature Engineering: 데이터를 가공하여 좋은 변수를 만드는 것

전통적인 머신 러닝에서 모델의 정확도를 높이기 위해 feature engineering은 매우 중요

but 딥러닝은 별도의 가공 없이도 모델이 잘 학습하는 피처 러닝(특징 스스로 학습) 개념을 가지고 있음

전통적인 머신러닝 방법들 보다 feature engineering의 필요성을 감소시킴

2. 인공 신경망

인공신경망의 양 끝은 입력층과 출력층으로 이루어짐

입력층: 어떤 값이 처음 들어오는 층

출력층: 최종 값을 산출하는 층

은닉층: 입력층과 출력층 사이에 있는 층으로 여러 개가 될 수 있음

가중치: 층 사이에 있는 값, 층 사이에 값이 전달 될 때 선을 연결해주는 가중치 값을 곱해줌

행렬의 덧셈

항상 크기가 같아야함

행렬의 곱셈

앞 행렬은 행, 뒷 행렬은 열을 담당

행렬은 교환 법칙이 성립하지 않음

2X2, 2x5행렬을 곱셈하면 2x5 행렬이 나옴

곱셈을 하려면 가운데 숫자가 같아야함

nxl 행렬과 lxm 행렬을 곱하면 -> nxm 행렬이 나옴

연립 일차방정식과 행렬식

연립 일차방정식: 1차식들이 두 개 이상 구성되어 있는 것

연립 일차방정식을 행렬 형태로 바꿔줄 수 있음

각 계수를 행렬 형태로, 변수를 일렬로, 오른쪽 항에 있는 값을 일렬로 나타냄

3. 활성화 함수

인공신경망은 1차 결합 형태의 함수가 합성된 합성함수(함수에 함수를 넣는 행위)의 연산

활성화 함수: 비선형적인 관계를 표현할 수 있도록 해주는 장치, 각 층의 관계를 비선형 관계로 만들어줌, 비선형 함수

시그모이드 함수: 각 층의 관계를 비선형 관계로 만들어줌, 미분 가능, 모든 값을 0과 1 사이로 만듦,

0.5를 기준으로 0.5 초과면 1. 0.5이하면 0으로 이진분류 문제에 활용할 수 있음

하이퍼볼릭 탄젠트 함수: 시그모이드 함수와 유사, 미분 가능, -1과 1사이의 값을 취할 수 있어 음수값을 가질 수 있다.

0부근에서 가파른 기울기를 가짐

ReLU함수: 음수 값은 0, 양수 값은 그대로 출력, 직선 두개가 연결된 형태로 빈성형 함수지만 선형과 유사한 성질을 가짐

0지점은 미분이 불가능하여 학습이 안됨

Leaky ReLU함수: 마이너스 값도 취할 수 있는 ReLU

음수 쪽의 식=α (α는 0보다 조금 큰 숫자로 설정)

ELU: Leaky ReLU보다 부드러운 함수, 왼쪽 직선을 지수로 바꿔 곡선으로 만든 함수, 각각의 점의 미분값에 차이가 생김

소프트맥스 함수: 분류 문제에 최적화. 모든 인풋값에 대해 항상 0과 1사이의 값이 나옴, 모든 성분의 합이 1

4. XOR 문제

같은 숫자가 들어오면 0을 산출, 다른 숫자가 들어오면 1을 산출

어떠한 직선을 그리더라도 같은 색깔끼리 나눈 수 없음

->MLP가 인공신경망으로 해결, 은닉층을 거쳐 출력값을 나오게 함

전치행렬

행과 열의 위치를 바꾼 행렬

(입력 데이터를 한번에 처리하기 위해)

5. 손실 함수

지도학습: 입력값과 출력값이 주어진 형태에서 학습하는 방법

손실함수: 예측이 얼마나 정확한지를 나타내는 척도, 실제값과 예측값의 차이를 계산

최적화: 손실값이 작아지는 가중치를 찾는 것

손실함수 종류

회귀 문제(Regression): 결과값이 연속적인 변수인 것을 예측하는 문제(실수 형태의 값)

분류 문제(Classification): 결과 값이 정해져 있는 것, 원하는 결과값이 클래스(class)라고 하는 유한한 모임으로 분류되는 문제

클래스를 표현하는 방법: 라벨링, 원-핫 벡터

라벨링: 각각의 클래스에 숫자를 달아줌

종류를 구분짓기 위한 것인데 대소 비교가 생길 수 있어 원-핫 벡터로 표현 가능

원-핫 벡터: 모든 원소가 0과 1로 구성된 벡터, ((0,1,0)로 표현하는 방법을 원-핫 인코딩)

회귀(Regression)문제에 사용되는 손실함수

평균 절대 오차(MAE): 실제값과 예측값의 차이 절대값을 기반, 예측값과 실제값의 수직 거리의 평균으로 표현

절대값으로 미분 불가능한 지점이 있음

(잔차: 실제값과 예측값의 차, 수직거리는 잔차의 크기)

평균 제곱 오차(MSE): 예측값과 실제값의 수직 거리 제곱의 평균으로 표현

2차식으로 모든 점에서 미분 가능, 제곱이기 때문제 손실값이 좀 크게 나올 수 있음

평균 제곱근 오차(RMSE): MSE는 단위를 제곱하여 결과를 내 같은 단위 크기로 만들기 위해 MSE에 제곱근 씌움

분류(Classification)문제에 사용되는 손실함수

내적

교차 엔트로피 함수

로짓값에 소프트맥스 함수를 적용, 0과 1사이 숫자로 바뀌고, 모든 성분의 합은 1이됨

그 다음 로그를 씌어주고 실제값의 원-핫 벡터과의 내적을 구함, 내적 더한 후 개수 나눠줌

이진 교차 엔트로피 함수

일반적으로 시그모이드 함수 사용, 0과 1로만 표현하여 벡터로 나타낼 필요 없음

정답이 1일 때 y× log(ŷ), 정답이 0일 때 (1-y) × log(1-ŷ)의 값만 남음

log(1-ŷ)인 이유는 정답이 0일 때 0일 확률을 구해야하는데

ŷ는 정답이 1일 때 1일 확률만을 가지고 있어 그 반대인 1-ŷ를 이용하여 0일 때 0일 확률을 구해준 것

Euisaac Toast

꽃-벌 최단 경로 계산 알고리즘

꽃-벌 이동 알고리즘

Git 설치하기 & 기본 명령어

1. Git 설치

mac(Homebrew 이용)

Windows

2. Git 설정

정보등록

3. 키 발급

HTTPS 방식

windows

Mac(HTTPS — PAT 토큰 발급 방법)

SSH 방식

4. github 리포지토리 생성

5. git clone(저장소 복제)

6. git add / git commit / git push / git status

git add

git commit

add+commit

git push

git status

윈도우 명령 프롬프트 기본 명령어 알아보기

디렉토리

파일 관련

UV 설치 방법

UV란?

pip와의 차이점

UV 설치

설치 스크립트

환경변수 설정

opencode 설치 방법

OpenCode

OpenCode 터미널

1. 설치 스크립트

2. 패키지 매니저 이용

OpenCode 데스크탑 (Beta)

설치 확인

프로젝트 초기화

오토인코더와 생성적 적대 신경망

생성적 적대 신경망(Generative Adversarial Network)

순환 신경망

순환 신경망(Recurrent Neural Network)

순환 신경망 형태

인공 신경망의 최적화

1. 미분

하강법

경사하강법(Gradient Descent)

3. 확률적 경사 하강법

여러 가지 최적화 방법

기울기 사라짐

손실함수와 최적화

인공 신경망

1. 딥러닝 입문

2. 인공 신경망

3. 활성화 함수

4. XOR 문제

5. 손실 함수

회귀(Regression)문제에 사용되는 손실함수

분류(Classification)문제에 사용되는 손실함수