AI
AI 시대 Game making and playing
사람은 왜 게임에 몰입할까? Flow, SDT, MDA로 재미의 원리를 정리하고, 바운스볼·Minecraft·LoL·Overcooked 사례에 적용해 본다. 그리고 혼자 Claude랑 게임을 만든다면 뭘 어떻게 만들지, AI 시대에 게임을 만드는 방식·플레이어·기업이 어떻게 바뀌고...
VLM modeling & Training
pretrained SigLIP 인코더와 SmolLM2 디코더를 Linear connector 하나로 이어서 VLM을 직접 만들고 학습시켜본다. cocoqa 데이터의 Dataset과 collate(padding, -100 label), step 기반 학습 루프, A40에서의 Sta...
[Back to basic] Training
Transformer 공부하다가 기본기가 부족하다는 걸 느껴서, MNIST MLP로 학습의 기초를 다시 짚는다. Dataset / DataLoader, iter와 next, cross entropy, validation 함수, 그리고 epoch loop와 step loop(next...
Liquid AI - LFM2 Paper Review
Liquid AI의 LFM2는 Attention을 그대로 줄이는 대신, edge hardware에서 직접 측정하며 GQA와 Short Convolution을 섞은 backbone을 찾았다. Architecture, Training, Inference, Evaluation과 on-d...
Transformer Step3 Vision language Model (VLM)
nanoVLM을 바탕으로 Vision Encoder, Projector(pixel shuffle), Text Decoder를 직접 연결해 이미지와 텍스트를 같은 차원의 토큰으로 맞추고, projector만 학습시켜 본 VLM 실습 기록.
Transformer Step4 Multimodal Transformer
이미지와 텍스트가 Transformer 안에서 어떤 토큰으로 바뀌고 어떤 Attention으로 만나는지, ViT·Flamingo·LLaVA를 텐서 디멘션 단위로 따라가며 비교한다.
Transformer Step2 Modern LLM
nanoGPT의 vanilla Decoder-only Transformer에서 출발해 LLaMA의 block 현대화, SWA·FlashAttention, KV Cache, MHA→MQA→GQA→MLA, Mixtral MoE, 그리고 serving 기술까지 하나의 흐름으로 정리한다.
Transformer - Step1 Basic concepts
Encoder와 Decoder, Self-Attention과 Cross-Attention, 원래 Transformer와 GPT의 구조 차이를 정리하고, Attention Is All You Need와 BERT 두 논문을 리뷰한다.
Transformer Step0 - nanoGPT
안드레이 카파시의 nanoGPT 실습을 따라 Bigram부터 Causal Self-Attention, Multi-Head Attention, Transformer Block까지 decoder-only GPT를 직접 구현한다.
🎐 Agentic AI - skills
Agent의 기본구조에서 한단계 더 나아가 advanced topic에 대해서 다루어 보자.
🎐 Agentic AI - runtime, model
Agentic AI를 한 문장으로 정리하면, 사용자 의도를 이해하고 → 여러 단계 계획을 세우고 → 도구를 호출해 실행까지 끝내는 자율 시스템이다. 단순히 “답변을 생성하는 모델”이 아니라, 계획(Planning) 과 도구(Tools
🎐 Agentic AI - Plug-in, subagents
Agent의 기본구조에서 한단계 더 나아가 advanced topic에 대해서 다루어 보자.
🎐 Agentic AI - Definition & Framework
AI 라는 단어를 하루에 몇번을 듣는 건지, 새로운 기술들은 끊임 없이 나오고, 업데이트된 소식을 알지 못하면 뒤처지는 기분이 든다. (실제로 뒤쳐지는게 맞다). 일단 가장 중요한 LLM의 개념을 살펴보고 agentic ai를 이어서
🎐 Agentic AI - advanced reasoning
Agent의 기본구조에서 한단계 더 나아가 advanced topic에 대해서 다루어 보자.
🎐 Agentic AI - tools
목차 - Frontend framework: 사용자가 대화/작업을 요청하는 UI (part1) - Agent development framework: 에이전트 로직(루프, 상태, 도구 연결)을 만드는 프레임워크 (part1) - Ag
🎐 Agentic AI - Memory
목차 - Frontend framework: 사용자가 대화/작업을 요청하는 UI (part1) - Agent development framework: 에이전트 로직(루프, 상태, 도구 연결)을 만드는 프레임워크 (part1) - Ag
🎐 Agentic AI - design patterns
Agentic AI를 한 문장으로 정리하면, 사용자 의도를 이해하고 → 여러 단계 계획을 세우고 → 도구를 호출해 실행까지 끝내는 자율 시스템이다. 단순히 “답변을 생성하는 모델”이 아니라, 계획(Planning) 과 도구(Tools
Ch4 Statistics - Other Estimation Methods - MAP, Regularization
Ch4 Statistics - Other Estimation Methods - MAP, Regularization 지난시간 Maximum Likelihood Estimatino (MLE)에 대해서 다루었고, 이번시간에는 그 변형 혹은
Ch4 Statistics - Bayesian Statistics
Ch2에서 다루었지만, 확률의 개념은 Two Concepts. 1. Frequentist 확률 = 무한 반복 실험에서 사건이 일어나는 장기 상대도수(long-run frequency) 예: 동전을 무한히 던졌을 때 앞면이 나올 비율이
Ch4 Statistics - Maximum Likelihood Estimation(MLE)
지금까지 우리는 regression classification 하기 위해서, 확률모델을 어떻게 설계해야하는 지 모델에 집중했다면, 이제 최적의 모델 파라메터 θ 를 어떻게 찾아야 하는지를 살펴보자. 정의는 다음과 같다. Maximum
Ch3 probability - part3, the exponential Family, multi model
이번 시간에는 굉장히 중요한 Exponential Family 에서 다루어 보자. 원리는 간단하다. 다양한 posterial pdf form 이 존재하고, 이를 일반화한 하나의 식으로 표현한 것. (각 Term의 의미는 추후에 보자)
ch3 probability - part2, Linear Gaussian systems
ch3 probability - part2, Linear Gaussian systems (시작하자마자 상황극을 해보자) 우리가 공장에서 센서로 측정한 결과값(y) 으로, 제품의 완성도(z) 를 예측하는 모델을 계발한다고 가정하자. 여
ch3 Probability - part1 - Multivariant Gaussian Distribution
바로 본론으로 들어가자. 어떤 서로다른 변수들의 분포를 나타내는 기본적인 도구가 바로 Covariance(공분산) 이다. Definition of Covariance. 이제 변수가 벡터의 형태라면, 다음과 같이 Covariance M
Ch3 Probability - Multi model - GMM
Ch3 Probability - Multi model - GMM 우리의 목표는 주어진 데이터를 가지고, 데이터의 분포를 설명하는 하나의 모델을 만드는 것. (그래야 주어지지 않은 데이터의 값을 예측할 수 있다.) 그 모델을 우리는 지
Sobol Indices
우리가 하고자 하는 것은? (where we at) 여러 변수들과 y를 도출할 수 있는 모델이 다음과 같이 있다고 가정하자. 여기서 답하고 싶은 질문: Q. d개의 입력변수중에서 Y에 가장 큰 영향을 끼치는 친구는???? 이 질문의
Random Forest
랜덤 포레스트 는 분류, 회귀 작업을 하기 위한 가장 classic 하고 강력한 방법이다. 바로 설명을 시작해보도록 하겠습니다. just a tree Decision Tree [Wikipedia] Decision Trees split
Gaussian Process Regression(GRP)
우리가 지금 하고자 하는 것은?? "어떤 입력 X 가 주어졌을 때, 대응하는 출력 y 는 무엇일까?" 일반적인 회귀(regression) y=f(x)+ϵ 형태에서 “함수 f(x) 자체”를 특정 모델(선형식, 신경망 등)로 가정. (목
Self-Supervised Learning
지금까지, generator 개념을 제외하고는 전부, supervised Learning 에 대해서 다루었다 즉, 어떤 모델을 가지고 있는 input output pair data 를 가지고 학습시키는 방식이다. 하지만, 실제 dee
Recurrent Neural Network(RNN) & LSTM
Recurrent Neural Network(RNN) & LSTM 지금까지 많은 Neueral Network 구조 들에 대해서 배워왔다. 모든 network들은 살펴보면, 각각의 특정 목적에 맞게 설계되었다. 이번에는 time - s
Pre-trained Model & Transfer Learning
[Pre-trained Model] 굉장히 거대한, model을 새롭게 학습시키고, 구조화 시키는데 수많은 시간이 들어간다. 따라서, 사용 목적이 다르더라도 기존의 학습된 거대한 모델(pre trained model)을 가져와서 사용
Physical Informed Neural Network (PINN) & Operator Learning
Physical Informed Neural Network (PINN) & Operator Learning 지금 까지 배웠던 모델들의 학습방식과 완전 다른 새로운 Neural Network에 대해서 배워보자. So far, Data-
Image Segmentation, Object detection.
Image Segmentation, Object detection. 지금까지는 분류 작업, 확률, 예측, 이미지 Reconstruct 등을 output으로 계산해 왔다. [Image Segmentation] 이번에는 영역 구분을 하는
Generative Adversarial Network(GAN)
지금까지 우리는 Supervised Learning에 대해서 알아보았다. 즉, 어떠한 데이터를 우리가 정답이랑 같이 model에 줌으로써, 모델을 이 새로운 데이터를 만났을 때, 학습을 바탕으로 판단하도록 학습시키는 방식이다. 그러면
Diffusion Model
Diffusion Model 이번시간에는 image generation에서 가장 기술이 좋은 현재 많은 Image generation AI 회사들이 사용하는 Diffusion model에 대해서 알아보자. 기존의 이미지 생성모델은 V
Convolutional AutoEncoder(CAE)
Convolutional AutoEncoder(CAE) AutoEncoder에 대해서는 이미 다들 익숙 하실 것이다. 기본적으로 Input data의 특징을 추출하기 위해서 Encoder에서 latent space로 dimension
Anomaly Detection
Anomaly Detection Anomaly detection이란, 수많은 데이터들 중에서 비정상적인 녀석들 을 구분해내는 것이다. 비정상적인 빨간 달걀 구분하는 방법은 분류작업을 통해서, 아래 왼쪽처럼, 다른 Group으로 표시할
Ch5 Low Reynolds number flow - Stokes Flow part1
ch4에서는 Laminar flow, 흐름이 uniform한 유체의 흐름에 대해서 다루어 보았다. 이번에는 Reynolds number <<1 인 상황에서 유체의 흐름이 어떤 특징을 가지는 지를 살펴보자. 'Reynolds 수가 작다
Ch4 Laminar flow - Hele Shaw flow
이번시간에는, 아주 얇은 판사이의 유체는 Viscous 가 있음에도 불구하고, Potential flow의 성질을 띔을 증명할 것이다. Potential flow는 inviscid, irrotational incompressible
Ch4 Laminar flow - Stoke's First Theorem
Ch4 Laminar flow - Stoke's First Theorem 어떠한 horizontal 판이 있다고 가정해보자. 그 위를 유체가 속도 = U, +x방향으로 흐른다. 하지만, 유체가 고체와 만나는 면에서는 no-slip b
Ch4 Laminar Flow
Ch4 Laminar Flow Reynolds number 가 critical Number(상황별로 다름) 보다 작게되면, 유체가, smooth한 path로 일정하게 흐르는, 다시말해 섞이지 않고 uniform하게 흐르는 Lamina
Ch4. Gradient decent algorithm
오늘은, 그레디언트 디센트 알고리즘, 즉 연산 Itereation마다 w값을 수정할 텐데 어떤 방식으로 수정하는지를 살펴보자. 먼저, Batch Gradient Descent 이전 포스터에서 구한, loss funcition (log
Ch3_2. Classification_Logistic Regression
지난 포스터에서는, class가 다른 점들을 분류하는 구분선을 어떻게 정의하는지 에 대해서 알아보았다. 그렇다면, 이런 질문이 들 수 있다. 위 두 직선 모두, 서로 다른 클라쓰의 두점을 구분하였다고 가정하자. 그랬을때, 두 구분선중
Ch3_1. Classification_Perceptron
Ch3_1. Classification_Perceptron Optimization Regression 에 이어 Deeplearning 이 잘하는 것, Classification 단순하다, 데이터들을 공간에 나열후, 같은 특성을 가진
Ch2_1. Regression
지난 시간에는, 딥러닝의 장점 Optimizaiton 에 대해서 알아 보았다. 두번째로, Deep learning의 장점 Regression 에 대해서 알아보자. regression이란, 입력 변수와 출력 변수 사이의 관계 를 모델링
Ch1. Optimization for Deep Learning
Ch1. Optimization for Deep Learning 아마 거의 모든 엔지니어링 뿐만아니라, 다양한 문제들 모두 최적화 Optimization 문제이다. 예를들어, 내가 아침 몇시에 운동을 해야 가장 기분이 좋고, 에너제틱
No posts match your search.